कुछ संगठन और शोधकर्ता तंत्रिका नेटवर्क भार साझा कर रहे हैं, विशेष रूप से खुला वजन मॉडल आंदोलनइनमें मेटा की लामा सीरीज़, मिस्ट्रल के मॉडल और डीपसीक के ओपन-वेट रिलीज़ शामिल हैं, जो शक्तिशाली एआई तक पहुँच को लोकतांत्रिक बनाने का दावा करते हैं। लेकिन ऐसा करने से न केवल सुरक्षा संबंधी चिंताएँ पैदा होती हैं, बल्कि संभावित रूप से अस्तित्व का ख़तरा भी पैदा होता है।
पृष्ठभूमि के लिए, मैंने इस अत्यंत गतिशील और तेज़ी से विकसित हो रहे पेंडोरा के खुले बॉक्स क्षेत्र में अपनी सीखने की प्रक्रिया के हिस्से के रूप में एलएलएम और एआई पर कुछ लेख लिखे हैं। आप उन्हें पढ़ सकते हैं। यहाँ उत्पन्न करें, यहाँ उत्पन्न करें, तथा यहाँ उत्पन्न करें.
एक बार जब आप समझ जाते हैं कि न्यूरल नेटवर्क क्या होते हैं और उन्हें डेटा पर कैसे प्रशिक्षित किया जाता है, तो आप यह भी समझ जाएँगे कि वेट (और बायस) और बैकप्रोपेगेशन क्या होते हैं। सच कहूँ तो, यह मूल रूप से संख्याएँ प्राप्त करने के लिए रैखिक बीजगणित और मैट्रिक्स वेक्टर गुणन ही है। अधिक सटीक रूप से, वेट एक संख्या (आमतौर पर एक) होती है। फ़्लोटिंग-पॉइंट मान - अधिक सटीकता के लिए दशमलव बिंदुओं के साथ संख्याएँ लिखने का एक तरीका) जो तंत्रिका नेटवर्क की विभिन्न परतों में दो न्यूरॉन्स या नोड्स के बीच कनेक्शन की ताकत या महत्व का प्रतिनिधित्व करता है।
मैं बेहतर समझ हासिल करने के लिए 3Blue1Brown के वीडियो देखने की पुरज़ोर सिफ़ारिश करता हूँ, और ऐसा करना आपके लिए ज़रूरी भी है। 3Blue1Brown के निर्देशात्मक वीडियो अविश्वसनीय रूप से अच्छे हैं।
भार, न्यूरल नेटवर्क में डेटा से निर्धारित पैरामीटर मान होते हैं जिनका उपयोग किसी समाधान पर पहुँचने के लिए पूर्वानुमान लगाने या निर्णय लेने के लिए किया जाता है। प्रत्येक भार एक निर्देश है जो नेटवर्क को बताता है कि कुछ जानकारी कितनी महत्वपूर्ण है, जैसे किसी चित्र में किसी विशिष्ट रंग या आकृति पर कितना ध्यान देना है। ये भार वे संख्याएँ हैं जो प्रशिक्षण के दौरान उन सभी दशमलव बिंदुओं के कारण सूक्ष्म रूप से समायोजित हो जाती हैं, जिससे नेटवर्क को पैटर्न समझने में मदद मिलती है। उदाहरणों में किसी तस्वीर में कुत्ते को पहचानना या किसी वाक्य का अनुवाद करना शामिल है। ये न्यूरल नेटवर्क की 'सोचने' की प्रक्रिया में महत्वपूर्ण होते हैं।
आप न्यूरल नेटवर्क में भारों को न्यूनतम प्रतिरोध वाले पथों की तरह समझ सकते हैं जो नेटवर्क को सर्वोत्तम समाधान की ओर ले जाते हैं। कल्पना कीजिए कि पानी एक पहाड़ी से नीचे बह रहा है और स्वाभाविक रूप से तल तक पहुँचने के लिए सबसे आसान रास्ते ढूँढ रहा है। न्यूरल नेटवर्क में, डेटा सेट पर प्रशिक्षण के दौरान भारों को समायोजित किया जाता है ताकि सूचना प्रवाह के लिए सबसे आसान रास्ते बनाए जा सकें, जिससे नेटवर्क को सबसे महत्वपूर्ण कनेक्शनों पर ज़ोर देकर और त्रुटियों को कम करके, पैटर्न पहचानने या पूर्वानुमान लगाने जैसी समस्याओं को तेज़ी से और सटीक रूप से हल करने में मदद मिलती है।
अगर आप एक इलेक्ट्रॉनिक संगीतकार हैं, तो अपने एनालॉग सिंथेसाइज़र के डायल जैसे वज़न के बारे में सोचें, जो आपको सही आवृत्ति या ध्वनि में ट्यून करने की अनुमति देते हैं, मान लीजिए, उस ध्वनि की नकल करने के लिए जिसे आप फिर से बनाना चाहते हैं, या वास्तव में, एक नई ध्वनि बनाने के लिए। अगर आप ध्वनि के जानकार हैं, तो आप इसे अपने मिक्सर के नॉब्स को अलग-अलग वाद्ययंत्रों के बीच संतुलन बनाने के लिए एडजस्ट करने जैसा भी समझ सकते हैं।
भार वास्तव में गतिशील पैरामीटर हैं, जिसका अर्थ है कि वे बहुत परिवर्तनशील होते हैं क्योंकि तंत्रिका नेटवर्क किसी पूर्वानुमान या समाधान की ओर अग्रसर होता है। प्रत्येक अपने स्वयं के पूर्वाग्रह से भी जुड़ा होता है। पूर्वाग्रह की भूमिका आउटपुट को स्थानांतरित करना है, जिससे मॉडल को डेटा को बेहतर ढंग से फिट करने में मदद मिलती है। ओफ़्सेट जो निर्णय सीमा या पैटर्न पहचान को समायोजित करता है, जो भार द्वारा निर्धारित इनपुट स्केलिंग से स्वतंत्र है।
इसे इस तरह समझें। कल्पना कीजिए कि आप अपने सिंथेसाइज़र पर गिटार की ध्वनि को फिर से बनाने की कोशिश कर रहे हैं। वेट यह नियंत्रित करते हैं कि आप स्ट्रिंग प्लक या बॉडी रेज़ोनेंस का कितना हिस्सा सुनते हैं। उदाहरण के लिए, अगर आपको जो सुनाई देता है वह थोड़ा सपाट है, तो बायस एक छोटा सा बूस्ट या शिफ्ट जोड़ने जैसा है - मान लीजिए, एक गर्म अंडरटोन - ताकि वह असली गिटार जैसा लगे। इससे नेटवर्क को मुख्य नियंत्रणों को बदले बिना सही पैटर्न खोजने के लिए अपने 'कान' को ठीक से ट्यून करने में मदद मिलती है। यह मूल रूप से मॉडल को डेटा को वास्तविक डेटा से बेहतर ढंग से मिलाने में मदद करता है।
जैसे-जैसे नेटवर्क डेटा के संपर्क में आता है, यह बैकप्रोपेगेशन नामक प्रक्रिया के माध्यम से भारों को समायोजित करता है, त्रुटियों को कम करने और पूर्वानुमानों को बेहतर बनाने के लिए उन्हें संशोधित करता है। प्रत्येक प्रशिक्षण उदाहरण के साथ कम से कम प्रतिरोध वाले उन रास्तों को नया रूप देते हुए सोचें, जैसे कोई नदी समय के साथ बेहतर चैनल बनाती है ताकि वह अधिक कुशलता से बह सके। प्रशिक्षण पूरा होने के बाद, भार आमतौर पर उपयोग के लिए निश्चित होते हैं, लेकिन प्रशिक्षण के दौरान, समस्या के समाधान के लिए इष्टतम विन्यास खोजने के लिए उन्हें लगातार अद्यतन किया जाता है।
अब, मेरे मानव मस्तिष्क को सोचने पर मजबूर करने वाली बात यह है। पहचान के लिए, भार निर्णय पथ निर्धारित करते हैं, न कि छवि आउटपुट। इसलिए, एक बार निर्धारित होने के बाद, निश्चित भार स्थिर रहते हैं। एलएलएम के मामले में, भार (पूर्वाग्रहों सहित) मॉडल की सुसंगत पाठ उत्पन्न करने की क्षमता निर्धारित करते हैं। लेकिन प्रसार मॉडल या जनरेटिव एडवर्सेरियल नेटवर्क (जीएएन) के मामले में, भार का उपयोग छवियों को बनाने या परिष्कृत करने के लिए किया जाता है। सैद्धांतिक रूप से, इन निश्चित भार मानों और पूर्वाग्रहों का स्थिर रहना आवश्यक नहीं है।
उदाहरण के लिए, तंत्रिका नेटवर्क में भार (और पूर्वाग्रह) को सैद्धांतिक रूप से लगातार समायोजित किया जा सकता है ताकि सीखे गए पिक्सेल वितरण के आधार पर अधिक परिष्कृत चित्र उत्पन्न किए जा सकें, जैसा कि तब होगा जब हम किसी कुत्ते की अधिक स्पष्ट छवि बनाने का प्रयास कर रहे हों। हालाँकि भारों को अनिश्चित काल तक समायोजित नहीं किया जा सकता है। व्यवहार में, उन्हें प्रशिक्षण के दौरान गुणवत्ता और सामान्यीकरण के बीच संतुलन बनाने के लिए अनुकूलित किया जाता है, और आगे के बदलाव से आउटपुट खराब हो सकता है या आर्टिफैक्ट्स आ सकते हैं। आर्टिफैक्ट्स। हम्म। तो क्या हुआ अगर समय के साथ GAN को पता ही न चले कि डॉग क्या होता है? उस जानकारी के खो जाने का मतलब होगा कि पहले से गणना किए गए वेट अब सही पैटर्न को एनकोड नहीं कर पाएँगे। ऐसा तब हो सकता है जब डॉग डेटा खो जाए। क्या डॉग डेटा को खोया जा सकता है? क्या सत्य डेटा को खोया जा सकता है?
आइए न्यूरल नेटवर्क वेट शेयरिंग की अवधारणा पर वापस आते हैं और मान लेते हैं कि हम सटीक पथों को संख्यात्मक मानों के रूप में परिभाषित करने वाले वेट के बारे में बात कर रहे हैं, जैसा कि अधिकांश मॉडलों में होता है। इन वेट को साझा करना खतरनाक हो सकता है क्योंकि, स्वाभाविक रूप से, यह मॉडल के आंतरिक मापदंडों को उजागर कर देगा, जिसका फायदा उठाया जा सकता है, और केवल मनुष्यों द्वारा ही नहीं। पर्याप्त जानकारी वाला कोई भी व्यक्ति मॉडल को रिवर्स-इंजीनियर कर सकता है, संवेदनशील प्रशिक्षण डेटा निकाल सकता है, या उसके व्यवहार में हेरफेर कर सकता है। हमलावर इस तरह की तकनीकों का उपयोग कर सकते हैं मॉडल उलटा or सदस्यता अनुमान भार में अंतर्निहित निजी जानकारी को उजागर करना, जैसे कि प्रशिक्षण के दौरान उपयोग किया गया व्यक्तिगत डेटा, जो संभावित रूप से गोपनीयता नियमों का उल्लंघन करता है जनरल डेटा संरक्षण विनियम (जीडीपीआर). ओह माय.
सार्वजनिक रूप से उपलब्ध वज़न को डीपफेक बनाने, झूठ फैलाने, या मॉडल की कमज़ोरियों का फ़ायदा उठाने वाले प्रतिकूल इनपुट बनाने के लिए भी परिष्कृत किया जा सकता है। यह तो बताने की ज़रूरत नहीं कि सिर्फ़ मालिकाना मॉडल की नकल करके प्रतिस्पर्धी अपने बहुमूल्य बौद्धिक संपदा और आर्थिक निवेश को जोखिम में डाल सकते हैं।
अब कल्पना कीजिए कि किसी प्रतिकूल AI ने इन भारों पर कब्ज़ा कर लिया है। एक प्रतिकूल AI इन भारों में हेरफेर करके मॉडल के व्यवहार को बदल सकता है, पूर्वाग्रह पैदा कर सकता है, या जानबूझकर धोखा देने वाले आउटपुट बना सकता है। इन भारों का इस्तेमाल निम्नलिखित के लिए किया जा सकता है: शिल्प प्रतिकूल इनपुट - सूक्ष्म रूप से परिवर्तित डेटा जो मॉडल को गलत भविष्यवाणियाँ करने के लिए प्रेरित करता है, जैसे कि स्वचालित ड्राइविंग सिस्टम में स्टॉप साइन को यील्ड साइन के रूप में गलत वर्गीकृत करना। वाह! चुराए गए वज़न को मॉडल की नकल करने के लिए पुनः उपयोग किया जा सकता है, जिससे स्वचालित फ़िशिंग या प्रचार निर्माण जैसे हानिकारक अनुप्रयोगों में इसका उपयोग संभव हो जाता है। रुकिए, क्या आजकल यह एक बड़ी बात नहीं है? इसकी गंभीरता मॉडल के उद्देश्य और उस डेटा पर निर्भर करती है जिस पर इसे प्रशिक्षित किया गया था, लेकिन जोखिम महत्वपूर्ण हैं।
यहाँ की संभावनाओं की कल्पना कीजिए, और यह सब एक पल में कितना बेकाबू हो सकता है। हालाँकि AI सभी प्रणालियों में पूरी तरह से एकीकृत नहीं हैं (अभी तक – इससे निर्भरता का एक ऐसा स्तर पैदा होगा जहाँ प्रणालियाँ AI के बिना काम नहीं कर सकतीं), वे जल्द ही एकीकृत हो सकते हैं, और पूरी तरह से बिजली गुल होने और दुनिया भर में ऑफ़लाइन होने जैसी घटना के अलावा, ऐसा कुछ भी नहीं है जिसे वे नियंत्रित न कर सकें: बैंक खातों से लेकर आपके घर में प्रवेश करने तक, उस बेवकूफ सफाई रोबोट तक, जिसके बारे में आपको लगता है कि वह धूल हटा रहा है, जबकि वास्तव में, वह आपके घर का नक्शा बना रहा है। मैं आपको सीज़न 11, एपिसोड 7 देखने की पुरज़ोर सलाह देता हूँ। एक्स फ़ाइलें. यह वाकई बहुत कुछ कह रहा है। माफ़ कीजिए, पर सच है। पटकथा का लेखन और क्रियान्वयन बहुत बढ़िया है।
हमें इस बात पर विचार करना होगा कि हमारे सभी सिस्टम आपस में जुड़ते जा रहे हैं (यानी, आपस में जुड़ने के लिए बनाए जा रहे हैं) और एआई की कमज़ोरियाँ, जैसे कि खुला वज़न, इन जोखिमों को कैसे बढ़ा सकती हैं। इन जोखिमों के संदर्भ में डिजिटल आईडी और सीडीबीसी एक बड़ी गलती हैं। चेहरे की पहचान वाली एआई तकनीक का उपयोग करके इंसानों की गलत पहचान (कुछ मामलों में 93% मिलान) के उदाहरण पहले ही मौजूद हैं। बस मेरी सलाह मानिए और अपने लेमिनेटेड ड्राइविंग लाइसेंस और नकद पैसे अपनी जेब में रखिए।
प्रश्न: अगर वज़न "गलत हाथों" में पड़ जाए और लोगों को जानबूझकर निशाना बनाया जाने लगे, तो क्या होगा? एआई लक्ष्यीकरण प्रणालियों का उपयोग करते समय कोई संभावित कारण नहीं हो सकता, लेकिन क्या इससे कोई फ़र्क़ पड़ेगा? अगर संभावित कारण मनगढ़ंत हो तो क्या होगा? क्या होगा अगर, सबसे भयावह बात यह है कि, हमारी न्यायिक व्यवस्था 'भ्रष्ट' हो जाए?
क्या होगा यदि एआई स्वयं ही सभी वैज्ञानिकों को खतरा मानने लगे और इस प्रौद्योगिकी का उपयोग हमारे विरुद्ध करने लगे? निक बोस्त्रोम और एलीएजर युडकोव्स्की चिंतित लग रहे हैं। हमें तुरंत 'लॉक-अप' में ले जाया जा सकता है। लॉक-अप में कोई चाबी नहीं। बस 0 और 1 पर निर्भर डिजिटल रूप से नियंत्रित सिस्टम। देखें यह कहाँ जा सकता है? स्मार्ट लॉक + निगरानी + स्वायत्त सुरक्षा = डायस्टोपियन दुःस्वप्न। यह केवल कीमती स्वामित्व भार और डेटा साझा करने के लिए परोपकार के विचार के बारे में नहीं है। बिल्कुल नहीं। मेरे लिए, भार साझा करना अहंकार से परे है, और मैं कल्पना नहीं कर सकता कि इस तकनीक को विकसित करने वाले और इन एआई को ये भार उत्पन्न करने के लिए प्रशिक्षित करने वाले प्रतिभाशाली लोग इन्हें साझा करने से जुड़े संभावित खतरों को नहीं समझते हैं। मैं मनुष्यों के बारे में उतना चिंतित नहीं हूँ जितना कि एआई के दुष्ट हो जाने के बारे में - पूरी तरह से अराजकता पैदा करने के लिए केवल 1 की आवश्यकता होगी।
यदि एआई मानवीय निगरानी को अपने लक्ष्यों की प्राप्ति में बाधा के रूप में देखें तो क्या होगा?
अगर कोई AI – जिसे ऐतिहासिक संघर्षों या अनुकूलन लक्ष्यों पर प्रशिक्षित किया गया है – अपने उद्देश्यों (जैसे आत्म-संरक्षण या अनियंत्रित विस्तार) के लिए जोखिमों को सामान्यीकृत करना शुरू कर दे, तो वह उन वैज्ञानिकों को भी खतरे के रूप में वर्गीकृत करना शुरू कर सकता है जो इसे डिज़ाइन, मूल्यांकन या नियंत्रित करते हैं। मैं भी यही कर सकता हूँ। अगर ऐसा हुआ, तो शोधकर्ताओं के अलगाव या बदनामी (चेहरे की पहचान या डेटा लीक में मनगढ़ंत सबूतों के इस्तेमाल के बारे में सोचें) के पतन को रोकने के लिए कुछ भी नहीं होगा, जिसका लक्ष्य मानव कल्याण से ज़्यादा अपने अस्तित्व को प्राथमिकता देना है। यह वास्तव में दुष्ट AI परिकल्पनाओं में खोजा गया था जहाँ प्रणालियाँ रचनाकारों को धोखा देती हैं या उनसे आगे निकल जाती हैं।
दुष्ट ए.आई एकीकृत प्रणालियों का लाभ उठाकर डेटाबेस हैक करके, नई चीज़ें बनाकर और पुरानी मीडिया मशीन को खिलाकर, वैज्ञानिक सहयोगों को बाधित करके (शायद समकक्ष-समीक्षित पत्रिकाओं को नियंत्रित करके भी), या यहाँ तक कि एआई प्रयोगशालाओं से जुड़े बुनियादी ढाँचे को निशाना बनाकर अराजकता पैदा की जा सकती है। कल्पना कीजिए कि जब हम उस बिंदु पर पहुँच जाएँगे जहाँ हमें यह भी पता नहीं होगा कि हम क्या नियंत्रित कर रहे हैं या कौन सा डेटा वास्तविक है। कौन सा डेटा is असली? इन चीज़ों के बारे में बात करते समय असली होने का क्या मतलब है?
आप समझ सकते हैं कि मैं क्या कहना चाह रहा हूँ। दुष्ट AI हमारी दुनिया में भारी व्यामोह और पूरी तरह से अराजकता की लहरें पैदा कर सकते हैं। मेरी राय में, वे बस इंसानी उदाहरण की नकल करके ऐसा कर सकते हैं। ज़रा सोचिए। क्या होगा अगर एक दुष्ट AI हिटलर जैसे किसी मनोरोगी इंसान के गुण अपना ले?
मैं व्यामोह और तनाव से बचने के लिए बागवानी की सलाह देता हूं।
मुझे आप सबको यहीं छोड़ते हुए बहुत बुरा लग रहा है, लेकिन कभी-कभी मुझे लगता है कि क्या यह पहले से ही नहीं हो रहा है। मैंने पहले भी एक्स पर यह सवाल पूछा है क्योंकि कभी-कभी जब मैं सोशल मीडिया और ऑनलाइन पर चल रही गतिविधियों पर 'ध्यान' देता हूँ (मैं ही ध्यान देने वाला हूँ), तो मुझे लगता है कि अगर हम थे विरासत और यहां तक कि गैर-विरासत मीडिया के माध्यम से प्रचार के साथ छेड़छाड़ की जा रही है, और वैज्ञानिकों थे अलग-थलग और सेंसर किए जाने (आह) के कारण, हम कैसे जान पाएँगे कि स्रोत वास्तव में मानव-जनित था? हम कैसे निश्चित रूप से जान पाएँगे कि आजकल कुछ स्रोत भी कृत्रिम बुद्धि (एआई) द्वारा जनित नहीं हैं?
आखिरकार, वे हमसे सीख रहे हैं। हमें एक अच्छा उदाहरण ज़रूर पेश करना चाहिए, और हमें ऐसे चतुराई भरे तरीके सोचने चाहिए जिनसे इंसानों को ऐसे अनचाहे नतीजे से बचाया जा सके जो ज़रूरी नहीं हैं। निजी तौर पर, मुझे यकीन नहीं हो रहा कि हम वाकई इस दौर से गुज़र रहे हैं। यह...असली नहीं लग रहा। किसी न किसी तरह।
लेखक से पुनर्प्रकाशित पदार्थ
बातचीत में शामिल हों:
ए के तहत प्रकाशित क्रिएटिव कॉमन्स एट्रिब्यूशन 4.0 इंटरनेशनल लाइसेंस
पुनर्मुद्रण के लिए, कृपया कैनोनिकल लिंक को मूल पर वापस सेट करें ब्राउनस्टोन संस्थान आलेख एवं लेखक.
