AI स्लॉप पर प्रतिक्रिया: प्लेटफ़ॉर्म लेबल और प्रतिबंधों पर WIRED

मैंने अपनी फ़ीड में किसी भी चीज़ पर भरोसा करने से पहले एक छोटा-सा फॉरेंसिक रिवाज़ शुरू कर दिया है। मैं पहले हाथों को देखता हूँ, फिर परछाइयों को, फिर कैप्शन को, फिर अकाउंट को, और फिर अपनी उस इच्छा को कि कहीं मैं धोखा खाने के लिए तैयार तो नहीं हूँ। यह इशारा एक सेकंड से भी कम समय लेता है, लेकिन यह स्क्रॉल करने के मूड को आराम से जाँच-पड़ताल में बदल देता है। इंटरनेट इसलिए अनुपयोगी नहीं हुआ कि मशीनों ने तस्वीरें, वीडियो और पैराग्राफ बनाना सीख लिया। वह इसलिए अजीब हो गया क्योंकि फ़ीड का पुराना सामाजिक अनुबंध—कि कोई पोस्ट किसी ऐसे व्यक्ति से आई है जिसके पास उसे पोस्ट करने की कोई वजह है—अचानक बातचीत योग्य लगने लगा।

प्रतिक्रिया एक इंटरफ़ेस बन जाती है

WIRED के Reece Rogers इस बदलाव को एक उपयोगी मानवीय पैमाने पर दिखाते हैं: Instagram की सेटिंग्स में खोजबीन करते हुए, Rogers ने Meta की अब बंद हो चुकी उस सुविधा को बंद करने की कोशिश की, जो किसी को भी लेखक की सहमति के बिना उसके AI डीपफेक बनाने की अनुमति देती थी। यह प्रसंग महत्वपूर्ण है क्योंकि यह सिर्फ़ एक ऐप में छिपी हुई एक सेटिंग के बारे में नहीं है। यह वह क्षण है जब एक उपयोगकर्ता समझता है कि उसे किसी और के सिंथेटिक आउटपुट के लिए संभावित इनपुट में बदल दिया गया है।

WIRED के लेख का बड़ा मुद्दा यह है कि प्लेटफ़ॉर्म यह पहचान रहे हैं कि लोग AI स्लॉप का उपभोग नहीं करना चाहते, और अब अधिक साइटों और ऐप्स के पास AI-जनरेटेड सामग्री को फ़्लैग करने, लेबल करने और प्रतिबंधित करने के टूल और नीतियाँ हैं। यह प्रक्रियात्मक, लगभग उबाऊ लगता है, और यही वजह है कि यह मायने रखता है। प्रतिक्रिया अब एक उत्पाद आवश्यकता बन रही है।

अगर उपयोगकर्ता यह नहीं बता सकते कि कोई चीज़ किसी व्यक्ति ने बनाई है, किसी मॉडल ने, या दोनों के किसी धुंधले मिश्रण ने, तो वे उत्पाद की सतह पर ही भरोसा करना बंद कर देते हैं। बिल्डर्स को इसी बदलाव पर ध्यान देना चाहिए। लेबल सजावटी अनुपालन स्टिकर नहीं हैं। वे इंटरफ़ेस का हिस्सा हैं, जैसे ब्राउज़र में लॉक आइकन या किसी सार्वजनिक व्यक्ति के नाम के पास verified badge। सवाल अब यह नहीं है कि क्या प्लेटफ़ॉर्म AI-जनरेटेड मीडिया को होस्ट कर सकते हैं। सवाल यह है कि क्या वे उस क्षण लेखकीयता, सहमति और भरोसे को दिखाई दे सकने योग्य बना सकते हैं, जब उपयोगकर्ता को उनकी ज़रूरत हो।

नकली शादी की समस्या

UChicago CS News भरोसे की समस्या को Instagram की एक पोस्ट के उदाहरण से बेहद ठोस बना देता है, जिसमें Zendaya की शादी की नकली, AI-जनरेटेड तस्वीरें दिखाई गई थीं। University of Chicago की रिपोर्ट के अनुसार, Zendaya और Tom Holland की नकली शादी की तस्वीर को दस मिलियन से अधिक लाइक मिले, और कई लोगों ने उसे सच मान लिया। यह वायरलिटी की विफलता नहीं है। यह वायरलिटी का ठीक उसी तरह काम करना है, जैसा उसे डिज़ाइन किया गया है।

UChicago का लेख Lan Gao पर केंद्रित है, जो University of Chicago Department of Computer Science में तीसरे वर्ष की PhD छात्रा हैं और यह अध्ययन करती हैं कि सोशल प्लेटफ़ॉर्म बदलते हुए ऑनलाइन इकोसिस्टम को कैसे नियंत्रित करते हैं। उस शोध ढाँचे में सवाल सरल और असहज है: जब AI-जनरेटेड सामग्री आम हो जाए, तो ऑनलाइन प्लेटफ़ॉर्म उसे कैसे नियंत्रित करें ताकि लोग अब भी जो देखते और साझा करते हैं उस पर भरोसा कर सकें?

स्वास्थ्य सलाह, आपदा फुटेज या राजनीतिक दावों की तुलना में किसी सेलिब्रिटी की नकली शादी की छवि कम जोखिम वाली है। लेकिन यह दिखाती है कि सिंथेटिक मीडिया कितनी जल्दी सत्य की भावनात्मक भाषा उधार ले सकता है। यहीं पर “slop” शब्द हमें भ्रमित कर सकता है। यह समस्या को खराब सामग्री जैसा दिखाता है, जबकि गहरी समस्या संदर्भ के टूटने की है। एक नकली छवि सुंदर, हानिरहित, यहाँ तक कि मनोरंजक भी हो सकती है, जब तक वह उस लेबल के बिना आगे नहीं बढ़ती जो दर्शकों को बताता है कि उसे अपने मन में कैसे रखना है।

हर स्लॉप एक जैसी गड़बड़ी नहीं है

NBC News की रिपोर्ट है कि LinkedIn, Snap और अन्य प्लेटफ़ॉर्म निम्न-गुणवत्ता वाली, बड़े पैमाने पर बनाई गई AI सामग्री पर लगाम लगाने के प्रयास बढ़ा रहे हैं, बिना तकनीक पर पूरी तरह प्रतिबंध लगाए। यह अंतर महत्वपूर्ण है। सबसे स्वस्थ प्लेटफ़ॉर्म प्रतिक्रिया सिंथेटिक टूल्स को पूरी तरह नकारना नहीं है, क्योंकि लोग उन्हें पहले से ही मज़ाक, ड्राफ़्ट, कला, accessibility, अनुवाद और प्रयोग के लिए इस्तेमाल कर रहे हैं। अधिक उपयोगी रेखा अभिव्यक्ति और प्रदूषण के बीच है।

MIT Technology Review की Caiwei Chen सांस्कृतिक संतुलन देती हैं, AI स्लॉप को सिर्फ़ वास्तविक समय में सड़ते हुए इंटरनेट के रूप में नहीं, बल्कि एक नई तरह की पॉप संस्कृति के शुरुआती मसौदे के रूप में वर्णित करती हैं। यही हिस्सा moderation को कठिन बनाता है। कुछ AI-जनरेटेड काम spammy filler होते हैं। कुछ render button वाली लोक कला होते हैं। कुछ धोखादायक होते हैं, कुछ labeled play होते हैं, और बहुत-सा हिस्सा श्रेणियों के बीच असहज रूप से बैठता है।

Reuters Institute पत्रकारिता और सार्वजनिक क्षेत्र के लिए दाँव को इस तरह समझाता है कि AI स्लॉप buzzwords से भरा अस्पष्ट पाठ, जल्दबाज़ी में बने meme illustrations, या ऐसे लेख हो सकते हैं जिनका tone या facts गलत लगते हैं। इस वर्णन में अस्पष्टता पर ध्यान दें। खतरा हमेशा कोई एक झूठा दावा नहीं होता। कभी-कभी यह उद्देश्यपूर्ण संचार की जगह plausible texture का धीमा प्रतिस्थापन होता है।

बिल्डर्स अब provenance के मालिक हैं

Medium पर WIRED की रिपोर्टिंग दिखाती है कि प्लेटफ़ॉर्म इसे किसी छोटे moderation मुद्दे की तरह नहीं देख सकते। WIRED ने Pangram Labs से छह सप्ताह की अवधि में हाल की 274,466 Medium पोस्टों के एक नमूने का विश्लेषण करने को कहा, और Pangram ने अनुमान लगाया कि 47 प्रतिशत से अधिक संभवतः AI-जनरेटेड थीं। WIRED के अनुसार, Medium CEO Tony Stubblebine और अन्य executives ने प्लेटफ़ॉर्म को human writing का घर बताया है, जिससे यह अनुमान content problem से कम और identity problem से अधिक लगता है।

WIRED की अपनी generative AI policy एक और उपयोगी संकेत देती है। प्रकाशन कहता है कि वह AI द्वारा जनरेट किए गए टेक्स्ट वाली कहानियाँ प्रकाशित नहीं करता, जबकि यह मानता है कि AI टूल transcripts और summaries जैसे कार्यों में मदद कर सकते हैं। हर संगठन वही रेखा खींचे, यह उतना महत्वपूर्ण नहीं है जितना कि ऐसी रेखा का होना जिसे उपयोगकर्ता समझ सकें।

AI स्लॉप के खिलाफ प्रतिक्रिया के भीतर यही डिज़ाइन सबक छिपा है। भरोसा अब ऐसी चीज़ नहीं है जिसे कोई प्लेटफ़ॉर्म about page में दावा करके स्थापित कर सके। उसे defaults, labels, reporting flows, ranking systems और policies में व्यक्त होना होगा, जिनसे उपयोगकर्ता उस क्षण पहले मिलते हैं जब उनसे विश्वास करने, साझा करने या कार्रवाई करने को कहा जाता है।

पाठकों, creators और product teams के लिए अगली उपयोगी आदत शायद यह पूछना हो कि कोई टूल क्या generate कर सकता है, सिर्फ़ यह नहीं, बल्कि यह भी कि वह कौन-सा संदर्भ सुरक्षित रखता है। अगर फ़ीड default रूप से synthetic बन रही है, तो यह तय करने का अधिकार किसे मिलता है कि क्या यात्रा करने लायक पर्याप्त रूप से वास्तविक माना जाएगा?