मुझे डर लगता है। बहुत डरा हुआ।
कृत्रिम बुद्धिमत्ता (एआई) की अकल्पनीय रूप से विशाल कम्प्यूटेशनल शक्ति द्वारा सक्षम इंटरनेट-व्यापी निगरानी और सेंसरशिप यहाँ है।
यह कोई भविष्यवादी डिस्टोपिया नहीं है. यह अब हो रहा है.
सरकारी एजेंसियां इंटरनेट पर सामग्री की निगरानी और सेंसर करने के लिए एआई टूल का उपयोग करने के लिए विश्वविद्यालयों और गैर-लाभकारी संस्थाओं के साथ काम कर रही हैं।
यह राजनीतिक या पक्षपातपूर्ण नहीं है. यह किसी विशेष राय या विचार के बारे में नहीं है.
हो यह रहा है कि इंटरनेट (या इसके बड़े हिस्से) पर कही और की गई हर बात पर नजर रखने के लिए एक शक्तिशाली उपकरण सरकार के पास हर समय हम सभी पर नजर रखने के लिए उपलब्ध हो रहा है। और, उस निगरानी के आधार पर, सरकार - और कोई भी संगठन या कंपनी जिसके साथ सरकार साझेदारी करती है - उसी उपकरण का उपयोग उस भाषण को दबाने, चुप कराने और बंद करने के लिए कर सकती है जो उसे पसंद नहीं है।
लेकिन वह सब नहीं है। उसी उपकरण का उपयोग करके, सरकार और उसके सार्वजनिक-निजी, "गैर-सरकारी" भागीदार (उदाहरण के लिए: विश्व स्वास्थ्य संगठन, या मोनसेंटो) भी इंटरनेट से जुड़ी किसी भी गतिविधि को बंद कर सकते हैं। बैंकिंग, खरीदना, बेचना, पढ़ाना, सीखना, मनोरंजन करना, एक-दूसरे से जुड़ना - अगर सरकार-नियंत्रित एआई को आपकी (या आपके बच्चों की!) किसी ट्वीट या ईमेल में कही गई बात पसंद नहीं है, तो वह यह सब बंद कर सकती है। आप।
हाँ, हमने इसे बहुत ही स्थानीय और राजनीतिक पैमाने पर देखा है, उदाहरण के लिए, कनाडाई ट्रक चालक.
लेकिन अगर हमने सोचा कि इस प्रकार की गतिविधि राष्ट्रीय (या इससे भी अधिक भयावह - वैश्विक) पैमाने पर नहीं हो सकती है, या नहीं होगी, तो हमें अभी जागने और यह महसूस करने की आवश्यकता है कि यह हो रहा है, और इसे रोका नहीं जा सकता है।
नए दस्तावेज़ दिखाते हैं कि सरकार द्वारा वित्त पोषित एआई ऑनलाइन सेंसरशिप के लिए है
संघीय सरकार के हथियारीकरण पर अमेरिकी सदन चयन उपसमिति जनवरी 2023 में गठित किया गया था "कार्यकारी शाखा एजेंसियों द्वारा अमेरिकी नागरिकों पर जानकारी के संग्रह, विश्लेषण, प्रसार और उपयोग से संबंधित मामलों की जांच करने के लिए, जिसमें यह भी शामिल है कि क्या ऐसे प्रयास अवैध, असंवैधानिक या अन्यथा अनैतिक हैं।"
दुर्भाग्य से, समिति के काम को, यहां तक कि इसके अपने सदस्यों द्वारा भी, बड़े पैमाने पर राजनीतिक के रूप में देखा जाता है: रूढ़िवादी कानून निर्माता इस बात की जांच कर रहे हैं कि उदारवादी झुकाव वाली सरकारी एजेंसियों द्वारा रूढ़िवादी आवाज़ों को चुप कराने के पीछे क्या कारण है।
फिर भी, इस समिति ने अपनी जांच में अमेरिकी नागरिकों के भाषण को सेंसर करने के सरकारी प्रयासों से संबंधित कुछ आश्चर्यजनक दस्तावेज़ उजागर किए हैं।
इन दस्तावेज़ों में संपूर्ण समाज के लिए महत्वपूर्ण और भयावह निहितार्थ हैं।
उपसमिति की अंतरिम रिपोर्ट में, दिनांक 5 फरवरी, 2024दस्तावेज़ों से पता चलता है कि अकादमिक और गैर-लाभकारी समूह एक सरकारी एजेंसी को इंटरनेट प्लेटफ़ॉर्म पर सामग्री को सेंसर करने के लिए एआई "गलत सूचना सेवाओं" का उपयोग करने की योजना पर जोर दे रहे हैं।
विशेष रूप से, मिशिगन विश्वविद्यालय नेशनल साइंस फाउंडेशन (एनएसएफ) को समझा रहा है कि एनएसएफ द्वारा वित्त पोषित एआई-संचालित टूल का उपयोग सोशल मीडिया प्लेटफार्मों को सेंसरशिप गतिविधियों को करने में मदद करने के लिए किया जा सकता है, वास्तव में यह निर्णय लेने के बिना कि क्या सेंसर किया जाना चाहिए।
उपसमिति की रिपोर्ट में रिश्ते की कल्पना इस प्रकार की गई है:
यहां उपसमिति की रिपोर्ट में प्रस्तुत एक विशिष्ट उद्धरण दिया गया है। यह "नेशनल साइंस फाउंडेशन (एनएसएफ) को उसके एनएसएफ-वित्त पोषित, एआई-संचालित वाइजडेक्स टूल के बारे में मिशिगन विश्वविद्यालय की पहली पिच से स्पीकर के नोट्स से आता है।" नोट समिति के पास फ़ाइल में हैं।
हमारी गलत सूचना सेवा उन मंचों पर नीति निर्माताओं की मदद करती है जो सेंसरशिप की कठिन जिम्मेदारी को बाहरी बनाकर...कठिन निर्णयों की जिम्मेदारी कंपनी के बाहर के किसी व्यक्ति पर डालना चाहते हैं।
यह कई स्तरों पर एक असाधारण बयान है:
- यह स्पष्ट रूप से "गलत सूचना सेवा" को सेंसरशिप के बराबर मानता है।
यह एक महत्वपूर्ण समीकरण है, क्योंकि दुनिया भर में सरकारें हानिकारक गलत सूचनाओं से निपटने का दिखावा कर रही हैं जबकि वास्तव में ऐसा है बड़े पैमाने पर सेंसरशिप बिल पारित करना। WEF ने घोषणा की अगले दो वर्षों में "गलत सूचना और दुष्प्रचार" "सबसे गंभीर वैश्विक जोखिम" है, जिसका संभवतः अर्थ यह है कि उनका सबसे बड़ा प्रयास सेंसरशिप की ओर जाएगा।
जब कोई सरकारी ठेकेदार स्पष्ट रूप से कहता है कि वह एक "गलत सूचना सेवा" बेच रहा है जो ऑनलाइन प्लेटफ़ॉर्म को "सेंसरशिप को बाहरी बनाने" में मदद करती है - तो दो शब्दों को विनिमेय माना जाता है।
- यह सेंसरशिप को "जिम्मेदारी" के रूप में संदर्भित करता है।
दूसरे शब्दों में, यह मानता है कि प्लेटफ़ॉर्म को जो करना चाहिए उसका एक हिस्सा सेंसरशिप है। बच्चों को यौन शिकारियों से या निर्दोष नागरिकों को गलत सूचना से नहीं बचाना - बिल्कुल स्पष्ट और सरल, मिलावट रहित सेंसरशिप।
- इसमें कहा गया है कि एआई की भूमिका सेंसरशिप की जिम्मेदारी को "बाहरी" बनाना है।
टेक प्लेटफॉर्म सेंसरशिप संबंधी निर्णय नहीं लेना चाहते। सरकार वे निर्णय लेना चाहती है लेकिन सेंसरिंग के रूप में नहीं दिखना चाहती। एआई उपकरण प्लेटफार्मों को सेंसरशिप निर्णयों को "बाहरीकरण" करने और सरकार को अपनी सेंसरशिप गतिविधियों को छिपाने की अनुमति देते हैं।
इस सब से यह भ्रम खत्म हो जाना चाहिए कि दुनिया भर की सरकारें जिसे "गलत सूचना और घृणास्पद भाषण का मुकाबला" कह रही हैं, वह सीधे-सीधे सेंसरशिप नहीं है।
क्या होता है जब AI सेंसरशिप पूरी तरह से लागू हो जाती है?
यह जानते हुए कि सरकार पहले से ही एआई सेंसरशिप टूल के लिए भुगतान कर रही है, हमें अपने दिमाग में यह विचार करना होगा कि इसमें क्या शामिल है।
कोई जनशक्ति सीमा नहीं: जैसा कि उपसमिति की रिपोर्ट बताती है, अब तक सरकारी ऑनलाइन सेंसरशिप की सीमाओं में बड़ी संख्या में मनुष्यों को शामिल किया गया है, जिन्हें अंतहीन फाइलों से गुजरना पड़ता है और सेंसरशिप निर्णय लेने पड़ते हैं। एआई के साथ, बमुश्किल किसी भी इंसान को शामिल करने की आवश्यकता होती है, और जिस डेटा का सर्वेक्षण किया जा सकता है वह किसी विशेष प्लेटफ़ॉर्म पर किसी द्वारा कही गई हर बात जितनी विशाल हो सकती है। डेटा की वह मात्रा एक व्यक्तिगत मानव मस्तिष्क के लिए समझ से बाहर है।
कोई जिम्मेदार नहीं: एआई सेंसरशिप के सबसे भयावह पहलुओं में से एक यह है कि जब एआई ऐसा करता है, तो कोई भी इंसान या संगठन नहीं होता है - चाहे वह सरकार हो, मंच हो, या विश्वविद्यालय/गैर-लाभकारी संस्थाएं - जो वास्तव में सेंसरशिप के लिए जिम्मेदार है। प्रारंभ में, मनुष्य एआई टूल को निर्देश देते हैं कि किस श्रेणी या प्रकार की भाषा को सेंसर करना है, लेकिन फिर मशीन आगे बढ़ती है और मामले-दर-मामले निर्णय स्वयं लेती है।
शिकायतों का कोई सहारा नहीं: एक बार जब एआई सेंसरशिप निर्देशों के एक सेट के साथ सामने आ जाता है, तो यह करोड़ों ऑनलाइन डेटा बिंदुओं को नष्ट कर देगा और सेंसरशिप कार्रवाइयां लागू कर देगा। यदि आप एआई सेंसरशिप कार्रवाई का विरोध करना चाहते हैं, तो आपको मशीन से बात करनी होगी। हो सकता है कि प्लेटफ़ॉर्म अपीलों का जवाब देने के लिए मनुष्यों को नियुक्त करेंगे। लेकिन वे ऐसा क्यों करेंगे, जब उनके पास एआई है जो उन प्रतिक्रियाओं को स्वचालित कर सकता है?
युवाओं के लिए कोई सुरक्षा नहीं: सरकारी सेंसर द्वारा किए गए दावों में से एक यह है कि हमें अपने बच्चों को हानिकारक ऑनलाइन जानकारी से बचाने की ज़रूरत है, जैसे ऐसी सामग्री जो उन्हें एनोरेक्सिक बनाती है, उन्हें आत्महत्या के लिए प्रोत्साहित करती है, उन्हें आईएसआईएस आतंकवादियों में बदल देती है, इत्यादि। यौन शोषण से भी. ये सभी गंभीर मुद्दे हैं जिन पर ध्यान देने की जरूरत है। लेकिन वे बड़ी संख्या में युवाओं के लिए उतने खतरनाक नहीं हैं जितना एआई सेंसरशिप है।
एआई सेंसरशिप द्वारा उत्पन्न खतरा उन सभी युवाओं पर लागू होता है जो बहुत अधिक समय ऑनलाइन बिताते हैं, क्योंकि इसका मतलब है कि उनकी ऑनलाइन गतिविधियों और भाषा की निगरानी की जा सकती है और उनके खिलाफ इस्तेमाल किया जा सकता है - शायद अभी नहीं, लेकिन जब भी सरकार किसी विशेष प्रकार के खिलाफ जाने का फैसला करती है भाषा या व्यवहार का. यह किसी भी विशिष्ट सामग्री से उत्पन्न खतरे की तुलना में बहुत अधिक संख्या में बच्चों के लिए एक बड़ा खतरा है, क्योंकि इसमें उनके जीवन के लगभग हर पहलू को छूते हुए, ऑनलाइन आयोजित की जाने वाली सभी गतिविधियाँ शामिल हैं।
इस खतरे को दर्शाने के लिए यहां एक उदाहरण दिया गया है: मान लीजिए कि आपका किशोर ऑनलाइन बहुत सारे इंटरैक्टिव वीडियो गेम खेलता है। मान लीजिए कि वह चीनी कंपनियों द्वारा डिज़ाइन किए गए गेम्स का पक्षधर है। हो सकता है कि वह दूसरों को वे खेल खेलते हुए भी देखता हो, और उन खेलों के बारे में चैट और चर्चा समूहों में भाग लेता हो, जिनमें बहुत सारे चीनी नागरिक भी भाग लेते हैं।
सरकार अगले महीने या अगले साल यह निर्णय ले सकती है कि जो कोई भी चीनी-डिज़ाइन किए गए वीडियो गेम में अत्यधिक शामिल है, वह लोकतंत्र के लिए ख़तरा है। इसके परिणामस्वरूप आपके बेटे के सोशल मीडिया खाते बंद हो सकते हैं या उसे कॉलेज ऋण जैसे वित्तीय साधनों तक पहुंच से वंचित किया जा सकता है। इसमें उसे रोजगार या डेटिंग वेबसाइटों पर खतरनाक या अवांछनीय के रूप में चिह्नित करना भी शामिल हो सकता है। इसका मतलब यह हो सकता है कि उसे पासपोर्ट देने से इंकार कर दिया जाए या निगरानी सूची में डाल दिया जाए।
आपके किशोर का जीवन और भी कठिन हो गया है। इससे भी अधिक मुश्किल तब होती जब वह आईएसआईएस भर्ती वीडियो या आत्महत्या-महिमामंडन करने वाले टिकटॉक पोस्ट के संपर्क में आ जाता। और यह उससे भी कहीं बड़े पैमाने पर होगा सेंसर द्वारा यौन शोषण का उपयोग किया जा रहा है ऑनलाइन सरकारी सेंसरशिप के विचार को सामान्य बनाने के लिए ट्रोजन हॉर्स के रूप में।
मुद्रीकरण-सक्षम सेंसरशिप सेवाएँ: सरकार के स्वामित्व वाला एक एआई उपकरण सैद्धांतिक रूप से सरकार की अनुमति के साथ एक गैर-सरकारी इकाई द्वारा उपयोग किया जा सकता है, और उन प्लेटफार्मों के आशीर्वाद से जो सेंसरशिप के लिए "जिम्मेदारी" को "बाहरी" करना चाहते हैं। इसलिए जबकि सरकार एआई का उपयोग निगरानी करने और दबाने के लिए कर सकती है, उदाहरण के तौर पर मान लीजिए, युद्ध-विरोधी भावना - एक कंपनी इसका उपयोग निगरानी करने और दबाने के लिए कर सकती है, उदाहरण के तौर पर मान लीजिए, फास्ट फूड विरोधी भावना। सरकार एआई टूल्स की सेवाएं तीसरे पक्षों को बेचकर काफी पैसा कमा सकती है। प्लेटफ़ॉर्म संभवतः कटौती की मांग भी कर सकते हैं। इस प्रकार, एआई सेंसरशिप उपकरण संभावित रूप से सरकार, तकनीकी प्लेटफार्मों और निजी निगमों को लाभ पहुंचा सकते हैं। प्रोत्साहन इतने शक्तिशाली हैं कि यह कल्पना करना लगभग असंभव है कि उनका शोषण नहीं किया जाएगा।
क्या हम पाठ्यक्रम को उलट सकते हैं?
मुझे नहीं पता कि कितनी सरकारी एजेंसियां और कितने प्लेटफ़ॉर्म एआई सेंसरशिप टूल का उपयोग कर रहे हैं। मैं नहीं जानता कि वे कितनी तेजी से आगे बढ़ सकते हैं।
मुझे नहीं पता कि हमारे पास कौन से उपकरण हैं - जागरूकता बढ़ाने और राजनेताओं की पैरवी करने और सरकारी सेंसरशिप को रोकने और इंटरनेट पर एआई उपकरणों के उपयोग को विनियमित करने के लिए मुकदमा दायर करने के अलावा।
यदि किसी के पास कोई अन्य विचार है, तो अब उन्हें लागू करने का समय आ गया है।
ए के तहत प्रकाशित क्रिएटिव कॉमन्स एट्रिब्यूशन 4.0 इंटरनेशनल लाइसेंस
पुनर्मुद्रण के लिए, कृपया कैनोनिकल लिंक को मूल पर वापस सेट करें ब्राउनस्टोन संस्थान आलेख एवं लेखक.
