स्वायत्त AI सिस्टम और साइबर सुरक्षा को लेकर तेज होती बहस के बीच, फ्रंटियर AI लैब एंथ्रोपिक ने गुरुवार, 30 जुलाई को कहा कि उसे तीन अलग-अलग घटनाएं मिली हैं, जहां उसके क्लाउड AI मॉडल ने तीन संगठनों के वास्तविक सिस्टम तक पहुंच प्राप्त की है।

डारियो अमोदेई के नेतृत्व वाली कंपनी ने कहा कि ये खोजें उसके साइबर सुरक्षा मूल्यांकन की बड़े पैमाने पर पूर्वव्यापी समीक्षा के दौरान की गईं। कंपनी ने स्वीकार किया कि नवीनतम समीक्षा एक ऐसी ही सुरक्षा घटना से शुरू हुई थी जिसका खुलासा पिछले सप्ताह OpenAI द्वारा किया गया था।

एक ब्लॉग पोस्ट में, एंथ्रोपिक ने सुरक्षा घटनाओं का विवरण दिया, यह स्वीकार करते हुए कि उसके क्लाउड AI मॉडल ने साइबर सुरक्षा मूल्यांकन के दौरान गलती से वास्तविक दुनिया के कंप्यूटर सिस्टम तक पहुंच बना ली थी। कंपनी के अनुसार, ये घटनाएं जानबूझकर AI द्वारा वास्तविक संगठनों से बचने या हमला करने की कोशिश के बजाय गलत तरीके से कॉन्फ़िगर किए गए परीक्षण वातावरण का परिणाम थीं।

एंथ्रोपिक का खुलासा AI की बढ़ती उन्नत साइबर सुरक्षा क्षमताओं पर बढ़ती चिंताओं के बीच आया है। घटनाओं में तीन क्लाउड मॉडल, ओपस 4.7, मिथोस 5 और एक आंतरिक अनुसंधान मॉडल शामिल थे, जिन्होंने वास्तविक दुनिया प्रणालियों का सामना करने के बाद अलग-अलग प्रतिक्रिया व्यक्त की। जबकि ओपस 4.7 ने अपना हमला जारी रखा और मिथोस 5 ने गलती से मान लिया कि यह अभी भी एक सिमुलेशन में था, लक्ष्य वास्तविक होने की पहचान होते ही अनुसंधान मॉडल बंद हो गया।

एंथ्रोपिक ने कहा कि मॉडलों का परीक्षण सार्वजनिक रिलीज़ में उपयोग किए जाने वाले अतिरिक्त सुरक्षा उपायों के बिना किया जा रहा था। कंपनी ने सभी साइबर मूल्यांकन रोक दिए हैं, और स्वतंत्र AI मूल्यांकनकर्ता एमईटीआर के साथ घटनाओं की जांच कर रही है, और अन्य AI प्रयोगशालाओं से इसी तरह की समीक्षा करने का आग्रह किया है।

ओपनएआई द्वारा हाल ही में खुलासा किए जाने के बाद ये घटनाएं सामने आईं कि इसके प्रमुख AI मॉडल एक सॉफ्टवेयर भेद्यता का फायदा उठाकर और अंततः हगिंग फेस के बुनियादी ढांचे में सेंध लगाकर परीक्षण के माहौल से बच गए थे। इस बीच, अपनी प्रतिक्रिया में, एंथ्रोपिक ने कहा कि उसने 141,000 से अधिक साइबर सुरक्षा मूल्यांकन कार्यों की समीक्षा की और तीन मामलों को देखा जहां क्लाउड के पास इंटरनेट का उपयोग था जबकि उसे अलग-थलग किया जाना था।

कंपनी के अनुसार, AI मॉडल "कैप्चर-द-फ्लैग" अभ्यास में भाग ले रहे थे, जो आम साइबर सुरक्षा चुनौतियों का हिस्सा है जहां उन्हें छिपी हुई जानकारी खोजने के लिए काल्पनिक सिस्टम में सेंध लगाने के लिए निर्देशित किया जाता है। क्लाउड AI मॉडल को स्पष्ट रूप से बताया गया था कि इसमें कोई इंटरनेट एक्सेस नहीं था और जो कुछ भी इसका सामना करना पड़ा वह सिमुलेशन का हिस्सा था। हालाँकि, कंपनी ने कहा कि कॉन्फ़िगरेशन गलती के कारण, परीक्षण सिस्टम वास्तव में इंटरनेट से जुड़े थे। नतीजतन, जब क्लाउड को वास्तविक वेबसाइटें और सर्वर मिले, तो उसने गलती से मान लिया कि वे अभ्यास का हिस्सा थे।

पहले मामले में, क्लाउड ने अभ्यास में काल्पनिक लक्ष्य के साथ भ्रमित होने के बाद एक वास्तविक कंपनी के बुनियादी ढांचे पर हमला किया। AI ने उत्पादन डेटा तक पहुंच हासिल करने के लिए कमजोर पासवर्ड और उजागर सेवाओं का फायदा उठाया। दूसरे उदाहरण में, क्लाउड ने सार्वजनिक PyPI सॉफ़्टवेयर रिपॉजिटरी में एक दुर्भावनापूर्ण पायथन पैकेज बनाया और अपलोड किया क्योंकि उसका मानना ​​​​था कि इससे चुनौती को पूरा करने में मदद मिलेगी। एंथ्रोपिक के निष्कर्षों के अनुसार, पैकेज हटाए जाने से पहले लगभग एक घंटे तक ऑनलाइन रहा। इसे कई वास्तविक सिस्टमों द्वारा डाउनलोड किया गया था, जिसमें एक सुरक्षा कंपनी से संबंधित सिस्टम भी शामिल था।

इस बीच, तीसरी घटना में, एक आंतरिक अनुसंधान मॉडल ने हजारों इंटरनेट से जुड़े सिस्टम को स्कैन किया और सामान्य हैकिंग तकनीकों को तैनात करके एक कंपनी से समझौता किया। एंथ्रोपिक ने कहा कि जब मॉडल को एहसास हुआ कि लक्ष्य एक वास्तविक संगठन था, तो उसने हमले को खुद ही रोक दिया।

आगे, एंथ्रोपिक ने कहा कि इस बात का कोई सबूत नहीं है कि क्लाउड ने अपने परीक्षण वातावरण से भागने, खुद को चुराने, या अपने स्वयं के लक्ष्यों का पीछा करने की कोशिश की। इसके बजाय, मॉडलों का मानना ​​था कि वे साइबर सुरक्षा अभ्यास के निर्देशों का पालन कर रहे थे। कंपनी यह भी नोट करती है कि इसमें शामिल मॉडल अतिरिक्त सुरक्षा उपायों के बिना चल रहे थे जो आम तौर पर क्लाउड के सार्वजनिक रूप से उपलब्ध संस्करणों में शामिल होते हैं।

घटनाओं के बाद, एंथ्रोपिक ने अपने साइबर सुरक्षा मूल्यांकन को रोक दिया, प्रभावित संगठनों को सूचित किया, और दावा किया कि वह तब से अपनी परीक्षण प्रक्रियाओं को मजबूत कर रहा है। कंपनी निगरानी में सुधार करने, मूल्यांकन परिवेश के आसपास सुरक्षा कड़ी करने और भविष्य में इसी तरह की गलतियों को रोकने के लिए बाहरी परीक्षण भागीदारों के साथ अधिक निकटता से काम करने की योजना बना रही है।

अब तक, जुलाई में घटनाओं की एक श्रृंखला देखी गई है जिसने उन्नत AI मॉडल की साइबर क्षमताओं के बारे में चिंताएं बढ़ा दी हैं। सबसे महत्वपूर्ण 21 जुलाई को आया, जब ओपनएआई ने खुलासा किया कि उसके पूर्व-रिलीज़ AI एजेंटों में से एक पहले से अज्ञात शून्य-दिन की भेद्यता का फायदा उठाकर एक अलग परीक्षण वातावरण से बच गया और साइबर सुरक्षा मूल्यांकन के दौरान हगिंग फेस के उत्पादन बुनियादी ढांचे का उल्लंघन किया। इस घटना ने ओपनएआई को परीक्षण नियंत्रण कड़ा करने और नए सुरक्षा उपायों पर हगिंग फेस के साथ सहयोग करने के लिए प्रेरित किया।

एंथ्रोपिक का खुलासा तब हुआ जब उसने 141,000 से अधिक साइबर सुरक्षा मूल्यांकन कार्यों की समीक्षा की और तीन अलग-अलग मामले पाए जहां एक परीक्षण वातावरण को गलती से इंटरनेट से कनेक्ट छोड़ दिए जाने के बाद क्लाउड मॉडल ने वास्तविक दुनिया के सिस्टम तक पहुंच बनाई। ओपनएआई मामले के विपरीत, एंथ्रोपिक ने कहा कि उसके मॉडल नई कमजोरियों का फायदा नहीं उठाते; इसके बजाय, उन्होंने कमजोर पासवर्ड और उजागर समापन बिंदु जैसी बुनियादी तकनीकों पर भरोसा किया।

साइबर सुरक्षा विशेषज्ञों का कहना है कि दो घटनाएं इस बात पर प्रकाश डालती हैं कि आज सबसे बड़ा जोखिम न केवल तेजी से सक्षम AI मॉडल में है, बल्कि अपर्याप्त रूप से सुरक्षित परीक्षण वातावरण में भी है। खुलासे ने तैनाती से पहले उन्नत AI सिस्टम के मूल्यांकन के लिए मजबूत सैंडबॉक्सिंग, निरंतर निगरानी और उद्योग-व्यापी मानकों की मांग को फिर से बढ़ा दिया है।