OpenAI वॉटरमार्किंग विश्लेषण: EU में ChatGPT, API ऑप्ट-इन

अनुपालन की समय-सीमा शायद ही कभी किसी भव्य घोषणा की तरह आती है। ज़्यादातर बार, यह एक ऐसे प्रोडक्ट सेटिंग के रूप में दिखती है जो एक समूह के लिए चालू होती है, दूसरे के लिए बंद, और ऐसे दस्तावेज़ों से घिरी होती है जिन्हें वकील स्पष्ट बताने का नाटक करेंगे। TechCrunch के अनुसार, OpenAI यूरोपीय संघ में ChatGPT और Codex द्वारा बनाए गए टेक्स्ट में एक अदृश्य वॉटरमार्क जोड़ेगा, ताकि EU AI Act का पालन किया जा सके। बिल्डरों के लिए महत्वपूर्ण बात यह विभाजन है: EU में पात्र ChatGPT और Codex उपयोगकर्ताओं को यह डिफ़ॉल्ट रूप से मिलेगा, जबकि दुनिया भर के API डेवलपर्स को चुनिंदा मॉडलों के लिए opt in सेटिंग मिलेगी।

TechCrunch के अनुसार, नियम प्रोडक्ट डिफ़ॉल्ट के रूप में लागू होता है

TechCrunch की रिपोर्ट है कि EU AI Act के पारदर्शिता नियम 2 अगस्त से प्रभावी हुए और AI कंपनियों से यह अपेक्षा करते हैं कि वे AI-जनित सामग्री को इस तरह चिह्नित करें कि दूसरे सिस्टम उसे पहचान सकें। OpenAI ने कहा कि वॉटरमार्क आने वाले हफ़्तों में सभी प्लानों पर पात्र ChatGPT और Codex उपयोगकर्ताओं के लिए रोल आउट होगा, लेकिन केवल EU में। दुनिया में कहीं भी OpenAI के API का उपयोग करने वाले डेवलपर्स आज से चुनिंदा मॉडलों के लिए इसे चालू कर सकते हैं, और यह डिफ़ॉल्ट रूप से बंद है। OpenAI ने यह भी कहा कि वह लॉन्च के समय टेक्स्ट वॉटरमार्किंग को वैश्विक डिफ़ॉल्ट नहीं बना रहा है, और यही वह वाक्य है जिसे आपकी implementation team को रेखांकित करना चाहिए, न कि विनम्रता से सिर हिलाकर आगे बढ़ जाना चाहिए।

@title OpenAI वॉटरमार्क रोलआउट
@source OpenAI will start watermarking ChatGPT's text in the EU
@source Our approach to EU text provenance rules

  August 2 ··· EU rules apply
  October 5 ·· OpenAI post
  October 5 ·· API option starts
  Coming weeks · EU rollout

@caption अनुपालन में बदलाव पहले भूगोल और डिफ़ॉल्ट सेटिंग्स के रूप में आता है।

यही इस दायित्व का व्यावहारिक रूप है। EU में सामान्य ChatGPT और Codex उपयोगकर्ताओं के लिए, रोलआउट उन तक पहुँचने के बाद चिह्नन प्रोडक्ट के भीतर ही होता है। API ग्राहकों के लिए, कोई जादुई अनुपालन परी दुनिया भर में यह फीचर अपने-आप चालू नहीं कर रही है। अगर कोई ऐप EU उपयोगकर्ताओं को सेवा देता है और OpenAI के API पर निर्भर है, तो पहला implementation सवाल यह नहीं है कि वॉटरमार्किंग मौजूद है या नहीं, बल्कि यह है कि डेवलपर ने संबंधित मॉडल और उपयोग मामले के लिए इसे सक्षम किया है या नहीं।

OpenAI के अनुसार, निशान पेज पर नहीं, शब्दों में होता है

OpenAI अपनी साइट पर इस प्रयास को EU text provenance rules के लिए एक approach के रूप में वर्णित करता है, जिसका उद्देश्य मौजूदा तकनीकी सीमाओं के भीतर पारदर्शिता को बढ़ावा देना है। TechCrunch की रिपोर्ट है कि वॉटरमार्क कोई दिखाई देने वाला प्रतीक नहीं है। इसके बजाय, यह मॉडल के शब्द चयन को हल्के ढंग से आकार देकर काम करता है, जिससे एक ऐसा पैटर्न रह जाता है जिसे पाठक नहीं देख सकते, लेकिन detector पहचान सकता है। क्योंकि पैटर्न शब्दों में ही रहता है, TechCrunch कहता है कि कॉपी और पेस्ट करने पर यह टेक्स्ट के साथ ही चला जाता है।

TechCrunch के अनुसार, OpenAI ने इस तरीके के लिए textGrain नाम से एक technical report भी प्रकाशित की। यह report University of Pennsylvania और Yale के शोधकर्ताओं के साथ सह-लिखित थी, और इसमें किसी वाक्य को पूरा करते समय अगले शब्द की भविष्यवाणियों को क्रमबद्ध करने के लिए एक secret key का उपयोग बताया गया है। ऐसे कई nudges के बाद, detector केवल टेक्स्ट और key का उपयोग करके AI-जनित सामग्री की पहचान कर सकता है। यह कोई user tracking label नहीं है: TechCrunch की रिपोर्ट है कि OpenAI ने कहा कि वॉटरमार्क उपयोगकर्ता की पहचान नहीं करता, और फीचर चालू होने पर मॉडल प्रदर्शन में कोई सार्थक बदलाव नहीं दिखा।

9to5Mac के अनुसार, कानून की मांग चर्चा से अधिक सीमित है

9to5Mac इस कदम को इस रूप में प्रस्तुत करता है कि OpenAI यह समझा रहा है कि वह generative AI systems के providers के लिए EU AI Act की उन आवश्यकताओं का पालन कैसे करेगा जिनमें AI-जनित टेक्स्ट को पहचानने योग्य तरीके से चिह्नित करना शामिल है। इसका मतलब यह नहीं है कि हर जगह हर OpenAI प्रोडक्ट द्वारा बनाया गया हर वाक्य अब दिखाई देने वाले ब्रांड के साथ आएगा। इसका मतलब है कि एक provider उस regulated surface के लिए machine identifiable marking mechanism लागू कर रहा है जिसे उसने पहले संबोधित करने के लिए चुना है। LinkedIn दोपहर के भोजन तक इसे बारह compliance morals में बदल देगा; असली तथ्य छोटे और ज़्यादा उपयोगी हैं।

यह अंतर महत्वपूर्ण है क्योंकि वही model provider अब product surface और geography के अनुसार अलग व्यवहार दे रहा है। EU में ChatGPT और Codex को API use elsewhere से अलग तरह से देखा जा रहा है। API use के भीतर भी, TechCrunch के अनुसार, setting चुनिंदा मॉडलों के लिए उपलब्ध है और डिफ़ॉल्ट रूप से बंद है। अगर आप customer terms, procurement questionnaires, या school policies तैयार कर रहे हैं, तो यह आलसी वाक्य न लिखें कि OpenAI text watermarked है। लिखें कि कौन सा product, कौन सी geography, कौन सा model, और क्या setting enabled है।

TechCrunch और OpenAI के अनुसार, builder checklist मुख्य रूप से defaults के बारे में है

Product teams के लिए, तत्काल compliance exercise inventory है, philosophy नहीं। मैप करें कि आपका application कहाँ ChatGPT, Codex, या OpenAI API को call करता है, फिर EU end user surfaces को non EU ones से अलग करें। अगर आप API का उपयोग करते हैं, तो TechCrunch की reporting का मतलब है कि आपको यह नहीं मानना चाहिए कि watermarking active है, जब तक कि आपकी configuration ऐसा न कहे। अगर आप generated text को resell या embed करते हैं, तो आपके contracts में लिखा होना चाहिए कि उपलब्ध provenance features चालू करने की ज़िम्मेदारी किसकी है और उस setting को verify कैसे किया जाता है।

Educators और workplace policy teams के लिए, caveat उतना ही साफ़ है। एक watermark detector provenance checks में मदद कर सकता है, लेकिन TechCrunch का description इसे universal authorship oracle नहीं बनाता। OpenAI कहता है कि watermark उपयोगकर्ता की पहचान नहीं करता, और mechanism टेक्स्ट में एक pattern detect करने पर निर्भर करता है। इसे इस बात का एक signal मानें कि text संभवतः किसी marked generation system से आया है, assessment design, disclosure rules, या basic evidence का विकल्प नहीं।

अगली देखने वाली बात यह है कि क्या दूसरे providers भी वही segmented pattern अपनाते हैं या wider defaults चुनते हैं। EU AI Act अब एक global switch के रूप में नहीं, बल्कि product surface segmentation के रूप में दिखना शुरू हो रहा है: EU consumer tools एक तरह से, API customers दूसरी तरह से, और बाकी दुनिया business decision का इंतज़ार करती हुई। Builders को इन seams को अभी document करना चाहिए। Regulators को seams लगभग उतने ही पसंद आते हैं जितना मुझे enforcement notices पसंद हैं।