हैदराबाद: OpenAI आने वाले हफ़्तों में यूरोपियन यूनियन (EU) में ChatGPT और Codex से बने टेक्स्ट में वॉटरमार्क जोड़ना शुरू करेगा. यह कदम EU AI एक्ट के तहत उठाया जा रहा है, जिसके अनुसार AI से बने कंटेंट की पहचान आसानी से हो जानी चाहिए.
शुरुआत में, वॉटरमार्क सिर्फ़ EU में सभी प्लान वाले ChatGPT और Codex यूज़र्स के लिए लागू होंगे. दुनिया भर में OpenAI के API का इस्तेमाल करने वाले डेवलपर्स कुछ मॉडल्स के लिए वॉटरमार्किंग चालू करने का विकल्प चुन सकते हैं, लेकिन जब तक वे इसके लिए नहीं कहेंगे, तब तक यह बंद रहेगा.
इस टूल का नाम textGrain है. यह AI द्वारा चुने गए शब्दों में एक हल्का सा स्टैटिस्टिकल पैटर्न छिपा देता है. इसके बाद, एक खास डिटेक्टर किसी लेख की जांच करके यह बता सकता है कि उसमें OpenAI का वॉटरमार्क है या नहीं.
Anthropic ने भी इस साल की शुरुआत में ऐसा ही कदम उठाया था और अपने AI मॉडल से तैयार टेक्स्ट में एक अदृश्य वॉटरमार्क जोड़ा था. इन कदमों से पता चलता है कि बड़ी AI कंपनियां AI कंटेंट के रूप-रंग को बदले बिना ही उस पर लेबल लगाना चाहती हैं.
textGrain कैसे काम करता है?
OpenAI का कहना है कि textGrain ने उन दूसरे तरीकों के बराबर या उनसे बेहतर काम किया, जिनका उसने टेस्ट किया था, जिसमें टेक्स्ट के लिए Google का SynthID भी शामिल है. लेकिन वह यह भी मानता है कि छोटे पैराग्राफ, बहुत कम कंटेंट और एडिट किए गए टेक्स्ट के मामले में इसका पता लगाने का तरीका उतना भरोसेमंद नहीं है.
फॉल्स-पॉज़िटिव टारगेट को 1 प्रतिशत पर सेट करने पर, डिटेक्टर ने कुछ टेस्ट में 200-टोकन वाले पैराग्राफ में से लगभग 80 प्रतिशत और 400-टोकन वाले पैराग्राफ में से लगभग 95 प्रतिशत में वॉटरमार्क का पता लगाया. गणित जैसे विषयों पर इसका प्रदर्शन काफी खराब रहा.
बदलाव करने से सिग्नल कमज़ोर भी पड़ सकता है. 400-टोकन वाले पैसेज पर किए गए टेस्ट में, 10 प्रतिशत शब्दों को उनके पर्यायवाची शब्दों से बदलने पर पता लगाने की दर लगभग 92 प्रतिशत से घटकर 62 प्रतिशत रह गई. 25 प्रतिशत शब्दों को बदलने पर यह दर घटकर सिर्फ़ 17 प्रतिशत रह गई.
सीमित एक्सेस
शुरुआत में, सिर्फ़ अप्रूव्ड रिसर्चर और एक्सपर्ट ग्रुप ही textGrain का इस्तेमाल कर पाएंगे. OpenAI का कहना है कि इससे उन्हें आम लोगों के लिए इसे जारी करने से पहले टूल और उसके सुरक्षित इस्तेमाल को टेस्ट करने में मदद मिलेगी.
डिटेक्टर सिर्फ़ यह बताएगा कि OpenAI का वॉटरमार्क मिला है या नहीं. यह न तो यूज़र का नाम बताएगा और न ही कोई प्रॉम्प्ट या चैट दिखाएगा.
textGrain की सीमाएं
OpenAI ने इस बात पर भी ज़ोर दिया कि वॉटरमार्क ये काम नहीं करता है:
- इंसानी योगदान को मापना:- इसका मतलब है कि textGrain यह नहीं बता सकता कि AI से बने टेक्स्ट में किसी इंसान ने फ़ैसला लेने, एडिटिंग या क्रिएटिविटी के मामले में कितना योगदान दिया है.
- ओनरशिप या ज़िम्मेदारी तय करना:- textGrain यह तय नहीं करता कि टेक्स्ट का मालिक कौन है, उसका इस्तेमाल कानूनी है या नहीं, क्या जानकारी ज़ाहिर करना ज़रूरी है, या उसके लिए कौन ज़िम्मेदार है.
- यूज़र की पहचान करना:- डिटेक्शन टूल टेक्स्ट को किसी व्यक्ति, संगठन, अकाउंट, प्रॉम्प्ट या बातचीत से नहीं जोड़ता है.
- सटीकता की जांच करना:- यह नहीं बता सकता कि कोई पैसेज सच है, गुमराह करने वाला है, नुकसानदायक है या सही संदर्भ में पेश किया गया है.
OpenAI ने कहा कि वॉटरमार्क न होने का मतलब यह नहीं है कि टेक्स्ट किसी इंसान ने लिखा है.
AI कंपनी textGrain को ओपन सोर्स के तौर पर उपलब्ध कराने की योजना बना रही है. जैसे-जैसे स्टैंडर्ड, टेक्नोलॉजी और नियम बदलेंगे, कंपनी यह जांचती रहेगी कि यह कितना अच्छा काम करता है.
बता दें कि इससे पहले इसी साल अगस्त में अमेरिकी AI कंपनी Anthropic ने भी अपने AI चैटबॉट Claude के लिए एक खास तरह का वाटरमार्क पेश किया था. इसके अलावा Google ने साल 2024 में ही अपने Gemini मॉडल से बने टेक्स्ट पर SynthID सिस्टम के जरिए वॉटरमार्क लगाना शुरू कर दिया था, जो ठीक वैसे ही काम करता है, जैसे Gemini मॉडल से बनाए गए विजुअल कंटेंट पर SynthID रहती है.
