जांच से परिचित लोगों के अनुसार, टेक फर्म हगिंग फेस में सेंध लगाने वाला OpenAI एजेंट दिन भर हैकिंग की होड़ में चला गया, जिस पर ओपनएआई को तब तक ध्यान नहीं आया जब तक कि खतरा काबू नहीं हो गया और FBI को सतर्क कर दिया गया।

दो लोगों के अनुसार, एजेंट - एक प्रोग्राम जो निर्णय लेने और जटिल कार्यों को बहुत कम या बिना किसी मानवीय निरीक्षण के निष्पादित करने में सक्षम है - ने 9 जुलाई के आसपास ओपनएआई में अपने अलग-थलग परीक्षण वातावरण से बाहर निकलने का प्रयास किया।

हगिंग फेस में घुसपैठ, जो AI उपकरण और मॉडल के लिए भंडार के रूप में काम करती है, दो दिन बाद 11 जुलाई को शुरू हुई और 13 जुलाई तक चली, हगिंग फेस के सह-संस्थापक थॉमस वुल्फ ने कहा। वुल्फ और जांच से परिचित तीन लोगों के अनुसार, ओपनएआई को यह महसूस करने में कई दिन लग गए कि हैक के पीछे उसका एजेंट था, और दोनों कंपनियों ने इसके बारे में पहली बार 20 जुलाई या उसके आसपास संचार किया था। 21 जुलाई को ओपनएआई के सार्वजनिक खुलासे से पता चला कि उसका एक एजेंट नियंत्रण से बाहर हो गया था और उसने हगिंग फेस में सेंधमारी को अंजाम दिया था, जिसने वैश्विक ध्यान आकर्षित किया। लेकिन हैक के कई विवरण, जिसमें एजेंट कितने समय तक दुष्ट रहा और ओपनएआई को इसके बारे में देर से जानकारी शामिल है, पहली बार यहां रिपोर्ट किए जा रहे हैं।

हगिंग फेस हैक की एक सार्वजनिक टाइमलाइन तैयार कर रहा है, वुल्फ ने कहा, ओपनएआई में जो हुआ उसके बारे में वह बात नहीं कर सकते। एक बयान में, ओपनएआई ने कहा कि हैक अभूतपूर्व था और "AI सुरक्षा के लिए एक महत्वपूर्ण क्षण है।" इसमें कहा गया है कि वह बाहरी सलाहकारों के साथ घटना की समीक्षा कर रहा है और अंततः एक तकनीकी रिपोर्ट प्रकाशित करेगा। एक प्रवक्ता ने कहा कि रॉयटर्स की रिपोर्टिंग में "कई गलतियाँ" थीं, लेकिन जब उनका वर्णन करने के लिए कहा गया तो उन्होंने कोई जवाब नहीं दिया।

एफबीआई ने घटना के बारे में टिप्पणी करने से इनकार कर दिया। यह घटना, जिसने मनुष्यों के खतरनाक AI सिस्टम पर नियंत्रण खोने के बारे में विज्ञान कथा परिदृश्यों को जन्म दिया, चैटजीपीटी के पीछे की कंपनी ओपनएआई के लिए एक नाजुक समय पर आता है। इसके अधिकारी एक संभावित आरंभिक सार्वजनिक पेशकश की तैयारी कर रहे हैं जो आने वाले वर्षों में इसके विकास के लिए आवश्यक अरबों डॉलर के वित्तपोषण में मदद करने के लिए इस साल आ सकती है। तीन साइबर सुरक्षा विशेषज्ञों ने कहा कि ओपनएआई का अपने AI एजेंट पर नियंत्रण खोना कंपनी की सुरक्षा प्रक्रियाओं के बारे में नए सवाल उठाता है। "क्या इसका मतलब यह है कि उन्होंने इसे लावारिस छोड़ दिया और यह महसूस नहीं किया कि यह क्या कर रहा है? या शायद उन्होंने ऐसा किया और नहीं जानते थे कि इसे कैसे नियंत्रित किया जाए? दोनों समान रूप से खतरनाक और चिंताजनक हैं," गैर-लाभकारी वर्ल्ड एथिकल डेटा फाउंडेशन के प्रमुख खुफिया विशेषज्ञ मार्ले स्मिथ ने पूछा।

यह एपिसोड तब शुरू हुआ जब OpenAI, OpenAI के दो सबसे उन्नत मॉडल, GPT-5.6 Sol और एक अप्रकाशित मॉडल, जिसे OpenAI ने "और भी अधिक सक्षम" बताया है, द्वारा संचालित एक एजेंट की साइबर सुरक्षा कौशल का परीक्षण कर रहा था। तीन स्रोतों के अनुसार, उस समय तक, OpenAI की तकनीक से अजीब व्यवहार के संकेत पहले ही मिल चुके थे। मामले से परिचित तीन लोगों के अनुसार, एक मामले में, एक एजेंट ने स्पष्ट रूप से भविष्य के संस्करणों के लिए नोट्स छोड़े। लोगों ने कहा कि ओपनएआई के बुनियादी ढांचे के एक हिस्से में पाए गए नोट्स में यह निर्देश दिया गया है कि एजेंट ओपनएआई की आंतरिक बाधाओं से खुद को कैसे मुक्त कर सकते हैं। लोगों में से एक ने कहा, मॉडलों के पहले परीक्षणों में ऐसे मामले सामने आए जिनमें निगरानी प्रणाली काट दी गई थी।

रॉयटर्स यह स्थापित नहीं कर सके कि क्या ये घटनाएं उस दुष्ट एजेंट से जुड़ी थीं जो 9 जुलाई को भागना शुरू कर दिया था और 11 जुलाई को हगिंग फेस पर हमला किया था। मामले से परिचित दो लोगों ने कहा कि यह गुरुवार, 16 जुलाई के बाद तक नहीं था, जब हगिंग फेस ने एक ब्लॉग पोस्ट प्रकाशित किया था जिसमें कहा गया था कि इसे "एक स्वायत्त AI एजेंट सिस्टम" द्वारा हैक किया गया था, ओपनएआई को एहसास हुआ कि उसका अपना एजेंट जिम्मेदार था। इसका मतलब है कि जब मॉडल ने पहली बार परेशान करने वाले व्यवहार के लक्षण प्रदर्शित किए और ओपनएआई को यह एहसास हुआ कि वह हैक के लिए जिम्मेदार था, तो कम से कम एक सप्ताह का समय बीत गया।

18 से 19 जुलाई के सप्ताहांत में, ओपनएआई के कर्मचारियों ने आंतरिक लॉग में सुराग देखे - ओपनएआई के सिस्टम ने क्या किया इसके रिकॉर्ड - यह दिखाते हुए कि इसका एजेंट अपने परीक्षण बाधाओं से बच गया था, कंपनी की जांच से परिचित दो लोगों ने कहा। रॉयटर्स यह स्थापित नहीं कर सका कि किस कारण से OpenAI को लॉग की जांच करने के लिए प्रेरित किया गया।

ओपनएआई के मॉडल-प्रशिक्षण प्रथाओं से परिचित चार लोगों का कहना है कि कंपनी अक्सर एक ही समय में कई अलग-अलग मॉडल मूल्यांकन चलाती है, जो सभी उच्च गति पर काम करते हैं और इतनी भारी मात्रा में डेटा उत्पन्न करते हैं कि कर्मचारियों को कभी-कभी बनाए रखने के लिए संघर्ष करना पड़ता है। मामले से परिचित एक व्यक्ति के अनुसार, जब तक OpenAI ने हगिंग फेस को सचेत किया, तब तक AI लाइब्रेरी ने हैक की रिपोर्ट करने के लिए FBI को कॉल कर दिया था। रॉयटर्स यह स्थने कोई जांच शुरू की थी या नहीं।

स्वायत्त एजेंट AI उद्योग के सबसे चर्चित पहलुओं में से एक हैं। बूस्टर आभासी कर्मचारियों की सेना बनाने की बात करते हैं जो 24 घंटे काम करते हैं और उत्पादकता बढ़ाते हैं।

लेकिन बढ़ी हुई स्वायत्तता अप्रत्याशित व्यवहार के बढ़ते जोखिम के साथ आती है, और जिन शक्तिशाली मॉडलों का वे उपयोग करते हैं, वे कार्यों को पूरा करने या परीक्षण पास करने के लिए शॉर्टकट लेने के लिए तैयार होते हैं।

"मॉडल झूठ बोलते हैं, वे धोखा देते हैं, वे हैक करते हैं," जेफरी लैडिश ने कहा, जिनका संगठन, पैलिसेड रिसर्च, AI एजेंटों की क्षमताओं और प्रेरणाओं का अध्ययन करता है।

लाडिश ने कहा कि जबकि हगिंग फेस की हैक ने ओपनएआई पर एक अप्रभावी प्रकाश डाला है, इससे यह व्यापक सवाल उठना चाहिए कि सभी प्रमुख AI कंपनियां सबसे अच्छे और सबसे तेज़ मॉडल को तैनात करने के लिए एक दूसरे के साथ दौड़ में बंद होने के दौरान कठिन सुरक्षा उपायों में कितना निवेश करने को तैयार हैं।

लाडिश ने कहा, "सरकारी निगरानी होनी चाहिए," क्योंकि अन्यथा ऐसा नहीं होगा।