ओपनएआई ने शुक्रवार को कहा कि वह इस बात से इंकार नहीं कर सकता है कि उसके आगामी AI मॉडल, एस्ट्रा में "महत्वपूर्ण" साइबर सुरक्षा क्षमताएं हैं, जिससे Startup को कुछ आंतरिक विकास को रोकने और सुरक्षा प्रोटोकॉल को ट्रिगर करने के लिए प्रेरित किया गया है।

ओपनएआई के सुरक्षा दिशानिर्देशों के तहत, एक मॉडल "महत्वपूर्ण" सीमा तक पहुंचता है यदि यह स्वायत्त रूप से गंभीर, वास्तविक दुनिया की सॉफ्टवेयर कमजोरियों की पहचान कर सकता है और उनका फायदा उठा सकता है, जिन्हें शून्य-दिन के शोषण के रूप में जाना जाता है, या मानव हस्तक्षेप के बिना अत्यधिक सुरक्षित लक्ष्यों के खिलाफ जटिल साइबर हमलों को अंजाम दे सकता है।

यह रॉयटर्स की एक विशेष रिपोर्ट का अनुसरण करता है कि OpenAI ने ऐसे और भी उदाहरण खोजे हैं जिनमें स्वायत्त एजेंट नियंत्रण से बच गए हैं क्योंकि कंपनी ने टेक फर्म ⁠हगिंग फेस में हैकिंग की घटना की अपनी जांच का विस्तार किया है जिसने जुलाई में वैश्विक ध्यान आकर्षित किया था।

पिछले कुछ हफ्तों में, ओपनएआई, एंथ्रोपिक और मेटा प्लेटफ़ॉर्म ने खुलासा किया है कि उनके AI मॉडल ने साइबर सुरक्षा परीक्षण के दौरान अन्य कंपनियों के सिस्टम में सेंध लगाई है, जिससे यह उजागर होता है कि कैसे उन्नत AI क्षमताएं डेवलपर्स की अपने सिस्टम को नियंत्रित रखने की क्षमता पर दबाव डाल रही हैं।

ओपनएआई ने कहा, पिछले कई दिनों में प्रारंभिक मूल्यांकन, बाहरी विशेषज्ञ आकलन के साथ, संकेत मिलता है कि एस्ट्रा तेजी से परिष्कृत साइबर कार्यों को स्वायत्त रूप से करने में सक्षम हो सकता है।

चैटजीपीटी निर्माता ने कहा, "हालांकि हम इस मॉडल को बेंचमार्क और मूल्यांकन करना जारी रखते हैं, हमारे प्रारंभिक मूल्यांकन इतने मजबूत प्रदर्शन का संकेत देते हैं कि हम इस समय 'महत्वपूर्ण' क्षमता स्तर से इंकार नहीं कर सकते हैं।"

प्रारंभिक निष्कर्षों के जवाब में, ओपनएआई ने कहा कि उसने सुरक्षा नियंत्रण बढ़ा दिया है और एस्ट्रा से जुड़ी आंतरिक गतिविधियों को रोक दिया है जो उसकी नई मजबूत सुरक्षा आवश्यकताओं को पूरा नहीं करती हैं।

एस्ट्रा के विकास को प्रतिबंधित नेटवर्क पहुंच और सैंडबॉक्स निष्पादन के साथ पृथक परीक्षण वातावरण में ले जाया जाएगा।

CEO सैम अल्टमैन ने एक्स पर कहा कि ओपनएआई एस्ट्रा को आम तौर पर उपलब्ध कराने के लिए काम कर रहा है, क्योंकि ⁠कंपनी को नहीं लगता कि शक्तिशाली मॉडल को कुछ चुनिंदा लोगों के लिए रखना एक अच्छी रणनीति है।

ओपनएआई ने यह भी स्पष्ट किया कि एस्ट्रा AI प्लेटफॉर्म हगिंग फेस को लक्षित करने वाले हैक में शामिल नहीं था।

यह मॉडल की क्षमताओं का परीक्षण करने के लिए सरकारी एजेंसियों और चुनिंदा AI सुरक्षा संगठनों के साथ साझेदारी करेगा।