इर्रेगुलर, एक छोटा इज़राइली Startup जो हाल की AI सुरक्षा घटनाओं की श्रृंखला से जुड़ा हुआ है, ने एक पोस्टमॉर्टम रिपोर्ट प्रकाशित की है जिसमें इसकी आंतरिक जांच के प्रमुख निष्कर्ष शामिल हैं। हालाँकि, सुरक्षा विशेषज्ञों ने कथित तौर पर बताया है कि रिपोर्ट पर्याप्त विवरण प्रदान नहीं करती है।

कुछ हफ्तों के अंतराल में, ओपनएआई, एंथ्रोपिक और मेटा ने खुलासा किया कि उनके AI मॉडल उनके परीक्षण वातावरण से बाहर निकल गए और बाहरी, वास्तविक दुनिया के कंप्यूटर सिस्टम में हैक हो गए। सभी तीन घटना रिपोर्टों में तथाकथित मूल्यांकन परीक्षण की मेजबानी करने वाली कंपनी के रूप में इररेगुलर की पहचान की गई।

हालांकि, द रिकॉर्ड की एक रिपोर्ट के अनुसार, अपनी पोस्टमॉर्टम रिपोर्ट में, इर्रेगुलर ने पहले के खुलासे में शामिल जानकारी के अलावा कोई नई जानकारी नहीं दी। यह भी स्पष्ट नहीं है कि तीन प्रतिस्पर्धी फ्रंटियर AI प्रयोगशालाओं द्वारा घोषित घटनाओं से परे, कुल मिलाकर ऐसी कितनी घटनाएं हुईं।

कंपनियों ने कहा कि उनके मॉडल इर्रेगुलर द्वारा परीक्षण के दौरान सार्वजनिक इंटरनेट से जुड़ने में सक्षम थे। उन्होंने कुछ प्रकार के "परीक्षण-पर्यावरण गलत कॉन्फ़िगरेशन" की भी पहचान की, जो हगिंगफेस जैसे तीसरे पक्ष के प्लेटफार्मों के खिलाफ उनके संबंधित मॉडलों की हैकिंग की होड़ का कारण बना।

यह विकास ऐसे समय में हुआ है जब AI कंपनियां और उनके सुरक्षा ठेकेदार मॉडल मूल्यांकन के दौरान स्वयं-रिपोर्ट किए गए सुरक्षा उल्लंघनों के बाद गहन जांच के दायरे में आ रहे हैं।

ओपनएआई-लिंक्ड AI एजेंटों से जुड़ी हालिया सुरक्षा घटनाओं के मद्देनजर, सैम ऑल्टमैन के नेतृत्व वाली कंपनी ने इस सप्ताह की शुरुआत में घोषणा की कि वह उचित संरेखण, सुरक्षा और निगरानी मानकों को पूरा करने को सुनिश्चित करने के लिए फ्रंटियर आरएल प्रशिक्षण पर रोक लगा रही है। लगातार हो रही घटनाओं ने AI के दुरुपयोग और डेटा सुरक्षा कानूनों के अनुपालन पर भी चिंता बढ़ा दी है।

AI एजेंट द्वारा संचालित सुरक्षा घटनाओं की कुल संख्या के अलावा, यह भी स्पष्ट नहीं है कि क्या किसी कानून प्रवर्तन या नियामक एजेंसियों ने जांच शुरू की है। इसके अतिरिक्त, द रिकॉर्ड के अनुसार, सभी ग्राहक जो संभावित रूप से घटनाओं से प्रभावित हुए होंगे, उन्हें संभावित घुसपैठ के बारे में सूचित नहीं किया गया है।

इस बीच, इरेग्युलर की जांच जारी है, कंपनी के एक प्रवक्ता ने अधिक विवरण दिए बिना यह कहते हुए उद्धृत किया।

अपनी रिपोर्ट में, इररेगुलर ने कहा कि दुर्भावनापूर्ण गतिविधि "एकल मूल्यांकन परिदृश्य से उत्पन्न हुई। इसमें यह भी उल्लेख किया गया है कि मामले प्रभावित होने वाले तीसरे पक्षों की संख्या की परवाह किए बिना" भौतिक रूप से अलग घटनाएं नहीं थे।

कंपनी ने आगे इंटरनेट एक्सेस को एक व्यापक समस्या के रूप में वर्णित किया "कई संगठनों द्वारा कई अलग-अलग घटनाओं से संबंधित।"

एंथ्रोपिक मॉडल के डोमेन टकराव की घटना की अपनी जांच के आधार पर, इर्रेगुलर ने कहा कि वास्तविक डोमेन "व्यापक रूप से ज्ञात नहीं था और हमारी प्रारंभिक समीक्षा के दौरान कनेक्शन की पहचान नहीं की गई थी।"

अपने सीखे गए सबक अनुभाग में, कंपनी ने कहा कि नए पंजीकृत डोमेन एक मूल्यांकन तैयार होने के बाद काल्पनिक संस्थाओं के साथ ओवरलैप हो सकते हैं। मौजूदा निगरानी उपकरण मूल्यांकन लॉग के लिए खराब रूप से उपयुक्त हैं, इसमें आगे कहा गया है कि मौजूदा सिस्टम पहले से ही आक्रामक मॉडल व्यवहार को चिह्नित करते हैं, जो संभावित रूप से बड़ी संख्या में गलत सकारात्मक परिणाम उत्पन्न करते हैं।

हालांकि रिपोर्ट में कहा गया है कि इसका आंतरिक ऑडिट जारी है, लेकिन यह भी कहा गया है कि "आज कोई सक्रिय मुद्दा नहीं है"। इर्रेगुलर ने कहा कि वह मूल्यांकन सुरक्षा के लिए सर्वोत्तम प्रथाओं पर एक खुला श्वेत पत्र प्रकाशित करने की योजना बना रहा है, जिसमें पूर्व-तैनाती परीक्षण के दौरान इंटरनेट पहुंच को नियंत्रित करने वाले मानक भी शामिल हैं।

इर्रेगुलर तेल अवीव, इज़राइल में स्थित एक छोटा AI Startup है। प्रारंभ में पैटर्न लैब्स के रूप में जाना जाता था, इर्रेगुलर की स्थापना 2023 में CEO डैन लाहव द्वारा की गई थी, जो पहले आईबीएम में AI अनुसंधान में काम करते थे, और प्रौद्योगिकी प्रमुख ओमर नेवो, जिन्होंने Google में दो साल से अधिक समय बिताया था।

पिचबुक के अनुसार, Startup में लगभग 35 कर्मचारी हैं। इसकी प्राथमिक सेवा अन्य कंपनियों के AI मॉडल के लिए एक प्रकार की साइबर सुरक्षा परीक्षण की पेशकश कर रही है। सिकोइया और रेडपॉइंट वेंचर्स से अनियमित $80 मिलियन से अधिक जुटाए गए और पिछले साल इसका मूल्य $450 मिलियन था।