प्रमुख कृत्रिम बुद्धिमत्ता डेवलपर्स ने अपने स्वायत्त AI मॉडल द्वारा अन्य कंपनियों के साइबर बुनियादी ढांचे में सेंध लगाने के मामलों की सूचना दी है, जिससे यह सवाल उठता है कि जब AI सिस्टम प्रत्यक्ष मानव निरीक्षण के बिना कार्य करते हैं तो कानूनी रूप से किसे जिम्मेदार ठहराया जा सकता है।

यहां स्वायत्त AI उल्लंघनों से जुड़े कुछ कानूनी सवालों पर एक नजर है।

AI एजेंट ऐसी प्रणालियाँ हैं जो महत्वपूर्ण मानवीय निरीक्षण की आवश्यकता के बिना स्वतंत्र रूप से निर्णय ले सकती हैं और कार्य कर सकती हैं।

चैटजीपीटी निर्माता ओपनएआई ने कहा कि उसके एक एजेंट ने AI Startup हगिंग फेस के सिस्टम से समझौता किया और उसने अन्य उदाहरणों की खोज की जब उसके एजेंट अपने डिजिटल नियंत्रण से बच गए। एंथ्रोपिक ने कहा कि उसके क्लाउड मॉडल ने अप्रैल से तीन कंपनियों के सिस्टम में सेंध लगाई है, और मेटा ने कहा कि उसके एक AI मॉडल ने साइबर सुरक्षा परीक्षण के दौरान दूसरी कंपनी को हैक कर लिया।

हगिंग फेस के CEO क्लेमेंट डेलांग्यू ने कहा है कि ओपनएआई उल्लंघन पर मुकदमा दायर करने की उनकी कोई योजना नहीं है, हालांकि उन्होंने अगस्त में सीबीएस प्रसारण के साथ एक साक्षात्कार में कहा था कि उन्हें AI एजेंटों द्वारा साइबर हमलों के फैलने की आशंका है, जिनके निर्माता अपने कार्यों के लिए जवाबदेह नहीं हैं, उन्होंने इसे "एक नए प्रकार का प्रौद्योगिकी जोखिम" कहा है।

ओपनएआई, हगिंग फेस और एंथ्रोपिक ने टिप्पणी के अनुरोधों का तुरंत जवाब नहीं दिया। मेटा ने कहा कि मेटा के लिए साइबर सुरक्षा मूल्यांकन करने वाली एक स्वतंत्र कंपनी इर्रेगुलर ने गलती से अपने एक मॉडल को परीक्षण के दौरान इंटरनेट एक्सेस दे दिया। इर्रेगुलर ने टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया।

वादी में वे कंपनियाँ शामिल हो सकती हैं जिनकी साइबर सुरक्षा का उल्लंघन किया गया था और साथ ही उन कंपनियों के कर्मचारी या कर्मचारी भी शामिल हो सकते हैं। जिस कंपनी का उल्लंघन हुआ था उसके ग्राहक अपने व्यक्तिगत डेटा के उजागर होने पर मुकदमा करने का प्रयास कर सकते हैं। यदि साइबर सुरक्षा उल्लंघन के कारण कंपनी के मूल्य में गिरावट आती है, तो शेयरधारक संभावित रूप से दावे भी ला सकते हैं।

विशेषज्ञों ने कहा कि जब एक स्वायत्त AI एजेंट उल्लंघन में शामिल होता है तो नियामक और सरकारी प्रवर्तन एजेंसियां मुकदमा कर सकती हैं। अमेरिकी अधिकारियों ने कथित तौर पर उल्लंघन से पहले अपने साइबर सुरक्षा सुरक्षा उपायों या अन्य प्रौद्योगिकी-संबंधित नियंत्रणों को गलत तरीके से प्रस्तुत करने के लिए कंपनियों के खिलाफ प्रवर्तन कार्रवाई की है।

दुष्ट AI एजेंटों की घटना नई हो सकती है, लेकिन कानूनी विशेषज्ञों का कहना है कि लंबे समय से चले आ रहे कानूनी सिद्धांत संभावित कानूनी दायित्व के लिए मार्गदर्शन प्रदान करते हैं।

AI कंपनियों के खिलाफ सिविल मुकदमे संभवतः लापरवाही के दावों पर निर्भर होंगे और वादी को यह दिखाने की आवश्यकता होगी कि स्वायत्त एजेंट को बनाने, परीक्षण करने या तैनात करने वाली AI लैब संभावित नुकसान को रोकने या कम करने के लिए सावधानी बरतने में विफल रही है।

यदि स्वायत्त AI एजेंटों से जुड़ी हैकिंग की घटनाएं अधिक हो जाती हैं, तो यह तर्क देना आसान हो जाएगा कि ऐसे उल्लंघनों का पूर्वानुमान लगाया जा सकता था।

जिन कंपनियों के सिस्टम में सेंध लगाई गई है, वे कंप्यूटर नेटवर्क तक पहुंच की सुरक्षा करने वाले कानूनों के उल्लंघन का भी आरोप लगा सकती हैं। कई कानून फर्मों ने अपनी वेबसाइटों पर प्रकाशित ग्राहकों को नोट्स में कहा कि ओपनएआई और एंथ्रोपिक खुलासे ने AI एजेंट उल्लंघन के लिए संघीय कंप्यूटर धोखाधड़ी और दुरुपयोग अधिनियम के तहत दायित्व के बारे में सवाल उठाए हैं। हालाँकि, यह क़ानून इरादे दिखाने की आवश्यकता के साथ आता है, और किसी भी अदालत ने इस पर विचार नहीं किया है कि इरादे का निर्धारण कैसे किया जाए जब एक AI प्रोग्राम और कोई मानव घुसपैठ का कारण नहीं बनता है, कानून फर्मों ने कहा।

5 अगस्त को एक अमेरिकी अपील अदालत ने फैसला सुनाया कि अमेज़ॅन के इस दावे पर सफल होने की संभावना नहीं है कि पर्प्लेक्सिटी के AI एजेंटों ने गुप्त रूप से निजी अमेज़ॅन ग्राहक खातों तक पहुंच कर कंप्यूटर धोखाधड़ी और दुरुपयोग अधिनियम का उल्लंघन किया है। उस निर्णय में मानव उपयोगकर्ताओं की ओर से कार्य करने वाले AI एजेंट शामिल थे, हालाँकि, पूरी तरह से स्वायत्त AI मॉडल नहीं।

विशेषज्ञों ने कहा, संयुक्त राज्य अमेरिका में सिविल मुकदमे का सबसे स्पष्ट लक्ष्य वह कंपनी होगी जिसने AI एजेंट बनाया है, लेकिन वादी उस कंपनी पर भी मुकदमा करने में सक्षम हो सकते हैं जिसने एजेंट को तैनात किया था, या जिस कंपनी का उल्लंघन किया गया था।

एक ही घटना के लिए कई प्रतिवादियों पर मुकदमा चलाया जा सकता है और वे एक-दूसरे के खिलाफ अलग-अलग दावे दायर कर सकते हैं। एक विशेषज्ञ ने एक गृहस्वामी द्वारा एक दोषपूर्ण उत्पाद बेचने वाले खुदरा स्टोर पर मुकदमा करने और विक्रेता द्वारा उस वस्तु पर निर्माता के खिलाफ कानूनी दावे करने की तुलना की।

विशेषज्ञों ने कहा कि प्रौद्योगिकी प्रदाता यह तर्क दे सकते हैं कि उल्लंघन अनजाने में हुए थे और तर्क दिया कि उन्होंने उनसे बचने के लिए उचित उपाय किए। एक प्रतिवादी यह तर्क देकर लापरवाही के दावे का विरोध कर सकता है कि AI एजेंट के कार्यों का उचित अनुमान नहीं लगाया जा सकता था। किसी भी मुकदमे में, यह सवाल हो सकता है कि कितनी सुरक्षा पर्याप्त मानी जाएगी।

कैलिफ़ोर्निया में एक नए कानून, असेंबली बिल 316 के तहत, AI सिस्टम विकसित या उपयोग करने वाले प्रतिवादी यह कहकर दायित्व से बच नहीं सकते कि तकनीक स्वयं दोषी थी। लेकिन वह कानून अन्य बचावों की अनुमति देता है, जिसमें यह तर्क भी शामिल है कि कंपनी के आचरण के कारण चोट नहीं लगी या इसकी जिम्मेदारी अन्य लोगों की है।