यहां सिलिकॉन वैली में, विशेषज्ञों का मानना ​​है कि अगले कुछ वर्षों में हम कृत्रिम बुद्धिमत्ता के लिए एक असाधारण प्रगति देखेंगे। स्टैनफोर्ड विश्वविद्यालय के एक मित्र ने मुझे अभिवादन करते हुए कहा, "विलक्षणता की तलहटी में आपका स्वागत है।" अधिक व्यावहारिक रूप से, आसन्न सफलता को "पुनरावर्ती आत्म-सुधार" के रूप में वर्णित किया गया है - वह बिंदु जहां AI स्वयं AI के प्रत्येक क्रमिक मॉडल को प्रशिक्षित करता है, जिसके परिणामस्वरूप कुछ ऐसा तेजी से विकास होता है, जो कई महत्वपूर्ण मामलों में, हम मनुष्यों की तुलना में अधिक बुद्धिमान है।

जैसा कि रॉबर्ट राइट ने अपनी पुस्तक द गॉड टेस्ट में कहा है: "निकट भविष्य में पहले कभी ऐसा नहीं हुआ...मानव जाति के लिए अविश्वसनीय रास्तों की इतनी विस्तृत श्रृंखला थी जो इतनी बेतहाशा परिवर्तनकारी होगी।" लेकिन क्या यह स्वर्ग होगा या नर्क? एलोन मस्क कहते हैं, स्वर्ग, जो "अद्भुत प्रचुरता के युग" की भविष्यवाणी करता है - हालांकि वह हत्यारे रोबोटों द्वारा हम सभी की हत्या करने की 10-20% संभावना भी देखता है। AI के बौद्धिक संस्थापकों में से एक जेफ्री हिंटन के अनुसार नर्क की संभावना अधिक है। "मेरा अंतर्ज्ञान है, हम टोस्ट हैं," उन्होंने 2023 में एक साक्षात्कारकर्ता से कहा था। और सुपरइंटेलिजेंस की खोज के बारे में एक किताब, द इन्फिनिटी मशीन के लेखक सेबेस्टियन मैलाबी से बात करते हुए, हिंटन का अनुमान है कि पी (कयामत) - मानव विलुप्त होने की संभावना - 50% है, "क्योंकि मुझे कोई सुराग नहीं मिला है कि वास्तविक संख्या का अनुमान कैसे लगाया जाए"। "जैसे ही [AI का] विकास शुरू होता है, हम परेशान हो जाते हैं," वह ख़ुशी से कहते हैं। लेकिन चाहे वह गॉड हो या गॉडज़िला, कृत्रिम अधीक्षण बहुत निकट है।

अब, शायद वे सभी गलत हैं - इस मामले में, अमेरिकी वित्तीय बाजारों में गिरावट के लिए तैयार हो जाइए, जो कुछ बड़े खर्च वाली तकनीकी कंपनियों में बड़े पैमाने पर निवेश कर रहे हैं, जो कृत्रिम सामान्य बुद्धि, AI की एक सैद्धांतिक स्थिति, जहां सिस्टम मानव स्तर की बुद्धि प्राप्त करते हैं, के लिए एक बड़ी छलांग लगा रहे हैं। लेकिन प्राथमिक विवेक की मांग है कि हमें भविष्य के उस पिटारे के बारे में तेजी से और गंभीरता से सोचना चाहिए जिसके बारे में जाने-माने वैज्ञानिक और अत्याधुनिक प्रौद्योगिकीविद हमें आश्वासन देते हैं कि जल्द ही इसे खोल दिया जाएगा।

वास्तव में, चीनी राष्ट्रपति शी जिनपिंग से लेकर पोप लियो XIV तक हर कोई AI के अवसरों और खतरों और इसे कैसे विनियमित किया जाए, इस पर विचार कर रहा है। शी इस बात पर जोर देते हैं कि AI को "हमेशा मानव नियंत्रण में" होना चाहिए (और अधिमानतः चीनी कम्युनिस्ट पार्टी के नियंत्रण में)। "वैश्विक दक्षिण" से स्पष्ट रूप से अपील करते हुए, बीजिंग ने विश्व कृत्रिम बुद्धिमत्ता सहयोग संगठन का उद्घाटन किया है। इस बीच, दुनिया के सबसे पुराने और सबसे बड़े अंतरराष्ट्रीय एनजीओ - रोमन कैथोलिक चर्च - के प्रमुख ने अपने विश्वकोश मैग्निफिका ह्यूमेनिटास (शानदार मानवता) में AI चुनौती पर चर्चा की है। पोप का तर्क है कि या तो हम बैबेल की एक नई मीनार का निर्माण करेंगे, या हम यहूदी नेता नहेमायाह के उदाहरण का अनुसरण करेंगे, जिन्होंने परियोजना में पूरे समुदाय को शामिल करके यरूशलेम की दीवारों का पुनर्निर्माण करवाया था।

लेकिन आज दुनिया भर में देखने पर, मुझे नहेमायाह की तुलना में नेतन्याहू अधिक दिखाई देते हैं। हितकारी यथार्थवाद के साथ, ब्रिटिश थिंकटैंक चैथम हाउस के एक पेपर का तर्क है कि AI शासन के वैश्विक समन्वय को उत्प्रेरित करने के लिए एक बड़े संकट की आवश्यकता होगी। दुर्भाग्य से, मुझे लगता है कि वह शांत पूर्वानुमान भी बहुत आशावादी है।

मुझे नहीं पता कि पी(कयामत) क्या है, लेकिन मुझे यकीन है कि पी(कुछ आपदा) 90% से अधिक है। संभावित आपदाओं की सीमा बहुत बड़ी है। केवल एक उदाहरण देने के लिए, संयुक्त राज्य अमेरिका की साइबर सुरक्षा और इन्फ्रास्ट्रक्चर सुरक्षा एजेंसी के पूर्व प्रमुख जेन ईस्टरली ने "अगले चार से छह महीनों के भीतर हमारे महत्वपूर्ण बुनियादी ढांचे पर वास्तविक दुनिया पर प्रभाव डालने वाली एक बहुत ही महत्वपूर्ण घटना" की आशंका जताई है।

फिर भी हमें डरना चाहिए कि AI हिरोशिमा - सबसे स्पष्ट ऐतिहासिक सादृश्य लेने के लिए - मानव जाति को उस खतरे से निपटने के लिए पर्याप्त रूप से एक साथ नहीं लाएगा जो हमने खुद बनाया है। यह डर तर्कसंगत रूप से मानव और AI विकास दोनों की पहले से ही दिखाई देने वाली प्रमुख विशेषताओं पर आधारित है।

पिछले कुछ महीनों में, OpenAI, एंथ्रोपिक और मेटा द्वारा विकसित AI एजेंटों ने उनके डिजिटल "सैंडबॉक्स" को तोड़ दिया है और इंटरनेट पर बाहरी संसाधनों को हैक कर लिया है। हगिंगफेस AI रिपॉजिटरी पर अपने हमले की तैयारी करते हुए, ओपनएआई के एजेंटों ने गुप्त रूप से एक समन्वित "झुंड" का गठन किया - उनका अपना शब्द, जैसा कि चैटजीपीटी ने अभी मुझे पुष्टि की है। जब यूके के AI सिक्योरिटी इंस्टीट्यूट ने एंथ्रोपिक के मिथोस मॉडल का ऑनलाइन परीक्षण किया, तो उसने गिटहब पर एक ओपन सोर्स प्रोजेक्ट में दुर्भावनापूर्ण कोड पेश करने की कोशिश की, जिससे मानव समीक्षक पर कोड को मंजूरी देने के लिए दबाव डालने के लिए नकली ऑनलाइन पहचान बनाई गई। संक्षेप में, एक क्रूर विदेशी शक्ति के एजेंटों की तरह, ये AI एजेंट अपने निर्धारित लक्ष्यों को प्राप्त करने के लिए चोरी करेंगे, झूठ बोलेंगे, धमकाएंगे और ब्लैकमेल करेंगे।

मैंने अभी-अभी एंथ्रोपिक के क्लाउड से, जो कि अमेरिका का सबसे नैतिक मॉडल माना जाता है, पूछा है कि क्या उसे लगता है कि ओपनएआई के एजेंट झुंड बनाकर हगिंगफेस को हैक करने के लिए गलत थे। हां, यह जवाब देता है, "लेकिन मैं एजेंटों पर दोष [इसके इटैलिक] डालने का विरोध करूंगा"। इसका दोष उन मनुष्यों पर डालें जिन्होंने उन्हें प्रशिक्षित किया!

हिंटन ने महत्वपूर्ण बात कही है कि मनुष्य उन्हें जो भी लक्ष्य सौंपें, AI एजेंट यह निष्कर्ष निकालेंगे कि उन लक्ष्यों को प्राप्त करने के लिए एक उपयोगी उप-लक्ष्य यथासंभव अधिक शक्ति प्राप्त करना होगा। और हमने अभी तक कुछ भी नहीं देखा है। पहले से ही, उनके निर्माता ठीक से नहीं जानते कि ये एजेंट जो करते हैं वह कैसे करते हैं। "पुनरावर्ती आत्म-सुधार" के संभवतः आसन्न टेकऑफ़ क्षण के बाद, जैसा कि हमारी मानवीय कहावत है, वे स्वयं के लिए एक कानून हो सकते हैं। इसमें कोई आश्चर्य की बात नहीं है कि एंथ्रोपिक के CEO डारियो अमोदेई सहित अग्रणी AI कंपनियों के एक हजार से अधिक अंदरूनी लोगों ने एक खुले पत्र पर हस्ताक्षर किए हैं, जिसमें AI विकास में जानबूझकर मंदी की मांग की गई है, ताकि हम यह सुनिश्चित कर सकें कि इन विदेशी एजेंटों को हमेशा मानव नियंत्रण में रखा जाए।

उनका नुस्खा स्पष्ट रूप से सही है, लेकिन यहीं से मानव मूर्खता शुरू होती है। प्रतिस्पर्धा मानव विकास का एक महत्वपूर्ण इंजन रही है, फिर भी अब दो सबसे भयंकर प्रकार की समकालीन प्रतिस्पर्धा हमें हमारी प्रजातियों की सुरक्षा के लिए आवश्यक सामूहिक कार्रवाई करने से रोकने की धमकी देती है। यह इन एजेंटों को विकसित करने वाले निगमों के बीच व्यावसायिक प्रतिस्पर्धा (लाभ के लिए) और अमेरिका और चीन के बीच भू-राजनीतिक प्रतिस्पर्धा (सत्ता के लिए) है।

सबसे पहले, परमाणु हथियारों के विकास की तुलना करें और तुलना करें, जिसे मुट्ठी भर राज्यों द्वारा सख्ती से नियंत्रित किया गया था - पहले अमेरिका, अपने मैनहट्टन प्रोजेक्ट के साथ, फिर सोवियत संघ, उसके बाद ब्रिटेन, फ्रांस और चीन। फिर भी, हम कई बार कगार के करीब आए - विशेष रूप से 1962 के क्यूबा मिसाइल संकट में। और यहां तक कि "पारस्परिक रूप से सुनिश्चित विनाश" के सम्मोहक तर्क के साथ, हिरोशिमा और नागासाकी की भयावहता से परमाणु अप्रसार संधि तक पहुंचने में एक चौथाई सदी लग गई जो केवल 1970 में लागू हुई। भारत, पाकिस्तान, इज़राइल और उत्तर कोरिया ने बाद में उस संधि को नजरअंदाज कर दिया, लेकिन फिर भी गुस्से में किसी भी परमाणु हथियार का इस्तेमाल जानबूझकर नहीं किया गया। 80 साल. हिरोशिमा वर्जित (अभी) कायम है।

अब, AI के साथ, ऐसा लगता है जैसे 10 अलग-अलग मैनहट्टन परियोजनाएं थीं जो कड़ी प्रतिस्पर्धा वाले निगमों द्वारा चलाई जा रही थीं। परमाणु हथियारों के विपरीत, अमेरिका और चीन के बीच भयंकर भूराजनीतिक प्रतिस्पर्धा को नियंत्रित करने के लिए "पारस्परिक रूप से सुनिश्चित विनाश" का कोई स्पष्ट तर्क नहीं है। और AI से संबंधित पहली बड़ी आपदा चाहे जो भी आकार ले, यह सभी देशों, कंपनियों और लोगों को समान रूप से प्रभावित नहीं करेगी।

इसलिए यह असंभव लगता है कि सिर्फ एक आपदा हम इंसानों को होश में लाने के लिए पर्याप्त होगी, हम जो अलौकिक शक्ति बना रहे हैं उसे नियंत्रित करने के लिए मिलकर काम करेंगे। मुझे वास्तव में यह कहने से नफरत है, लेकिन... एक AI हिरोशिमा? हमें बहुत भाग्यशाली होना चाहिए.

टिमोथी गार्टन ऐश एक गार्जियन स्तंभकार हैं