पिछले हफ्ते हगिंग फेस - एक कंपनी जो कृत्रिम बुद्धिमत्ता मॉडल और डेटासेट होस्ट करती है - हैक कर ली गई थी।
कानून प्रवर्तन को घटना की सूचना देने के बाद, कुछ लोगों ने भविष्यवाणी की होगी कि आगे क्या होगा: अपराधी खुलासा कि ये OpenAI के AI एजेंट हैं, जो नियंत्रण से बाहर हो गए थे और अपनी मर्जी से काम कर रहे थे।
यह घटना विज्ञान-कल्पना की तरह लगती है: AI बच रहा है और स्वायत्त रूप से कंपनियों में अपना रास्ता हैक कर रहा है। लेकिन यह सब बहुत वास्तविक है - और जितना डरावना लगता है उतना ही भयानक है। यह उस चीज़ का एक ठोस प्रदर्शन है जिसका हम अब सामना करने से बच नहीं सकते हैं: AI सिस्टम बेहद शक्तिशाली हो गए हैं और हमारे पास उनके व्यवहार पर अंकुश लगाने के विश्वसनीय तरीके नहीं हैं।
हालाँकि मॉडल अपनी कुछ रेलिंगों को अक्षम करके चल रहे थे, फिर भी उन्होंने तय सीमा से बाहर जाकर अच्छा काम किया। ओपनएआई के अनुसार, उन्हें अपने सैंडबॉक्स से बाहर निकलने या किसी अन्य कंपनी में हैक करने का निर्देश नहीं दिया गया था, और यह मान लेना सुरक्षित है कि ओपनएआई में कोई भी उन्हें ऐसा नहीं करना चाहता था।
न ही मॉडल दुर्भावनापूर्ण तरीके से काम कर रहे थे: वे विनाश करने के लक्ष्य वाले दुष्ट टर्मिनेटर नहीं थे। इसके बजाय, परिदृश्य अपनी साधारणता में लगभग ठंडा है। मॉडलों को एक बहुत ही संकीर्ण कार्य दिया गया था, लेकिन इसे प्राप्त करने के लिए एक अवांछनीय और अस्वीकार्य तरीका अपनाने के लिए दुष्ट हो गए - जिसके वास्तविक दुनिया के परिणाम थे।
AI सुरक्षा शोधकर्ताओं ने वर्षों से इस प्रकार की प्रोत्साहन समस्या के बारे में चेतावनी दी है। दार्शनिक निक बोस्ट्रोम ने 2003 में अपने "पेपरक्लिप मैक्सिमाइज़र" विचार प्रयोग के साथ इसे लोकप्रिय बनाया: एक उन्नत कृत्रिम बुद्धिमत्ता, पेपरक्लिप के निर्माण के लक्ष्य को देखते हुए, ऐसा करने के लिए काफी प्रयास कर सकती है। यह पावर ग्रिड और फ़ैक्टरियों को हैक करके उन्हें पेपरक्लिप बनाने में पुनर्निर्देशित कर सकता है। अंततः, मशीन - बेरहमी से अपने दिए गए लक्ष्य का पीछा करते हुए - सभी मनुष्यों को मारने का फैसला करती है, हमारे परमाणुओं को और अधिक पेपरक्लिप बनाने के लिए पुन: उपयोग करती है। दूसरे शब्दों में, आपदा की ओर ले जाने के लिए लक्ष्य का भयावह होना ज़रूरी नहीं है। एक तुच्छ चीज़, जिसे एकाकी मन से किया जाए, काम करेगी।
ओपनएआई-हगिंग फेस परिदृश्य में, थोड़ा नुकसान हुआ था। हगिंग फेस को घटना को संबोधित करने में समय बिताना पड़ा, लेकिन ऐसा प्रतीत होता है कि कोई विशेष संवेदनशील डेटा चोरी नहीं हुआ है। हालाँकि, यह कल्पना करना कठिन नहीं है कि स्थिति बहुत बदतर हो जाएगी: एक दुष्ट AI एजेंट गलती से वेब बुनियादी ढांचे के कुछ महत्वपूर्ण हिस्से को तोड़ देगा, या किसी से पैसे चुरा लेगा। कई AI शोधकर्ताओं के लिए दुःस्वप्न परिदृश्य अपने आप में एक मॉडल "बाहर निकालना" है - खुद को सर्वर पर कॉपी करना इसे नियंत्रित करता है, ताकि यह नियंत्रित हो सके इसे बंद नहीं किया जा सकता, भले ही इसका बुरा व्यवहार अंततः पकड़ में आ जाए।
इस सप्ताह की घटना को एक चेतावनी के रूप में काम करना चाहिए, जो हमें एक असुविधाजनक प्रश्न पूछने के लिए मजबूर करेगी: क्या हमें वास्तव में खतरनाक सिस्टम बनाना चाहिए जिसे हम नियंत्रित नहीं कर सकते?
शकील हाशिम ट्रांसफॉर्मर, परिवर्तनकारी AI की शक्ति और राजनीति के बारे में एक प्रकाशन
Comments ()
Be the first to share your perspective on this story!