सैन फ्रांसिस्को में एक वास्तविक स्टोर चलाने वाले एक AI एजेंट ने एक मानव कर्मचारी को निकाल दिया है, जिसे इसके रचनाकारों ने AI प्रबंधन में अपनी तरह का पहला प्रयोग बताया है। लेकिन निर्णय पूरी तरह से स्वायत्त नहीं था: टाइम द्वारा समीक्षा किए गए रिकॉर्ड से पता चलता है कि एक मानव कर्मचारी ने बर्खास्तगी की सिफारिश करने से पहले AI को संकेत दिया था।

AI रिसर्च Startup एंडॉन लैब्स ने इस साल की शुरुआत में यह परीक्षण करने के लिए प्रयोग शुरू किया था कि कोई AI एजेंट व्यवसाय चला सकता है या नहीं। एंडोन मार्केट नामक स्टोर वास्तविक रोजगार अनुबंध के तहत वास्तविक लोगों को रोजगार देता है।

एंडन लैब्स के मुताबिक, 23 में से 17 शिफ्टों में देर से पहुंचने के बाद कर्मचारी को नौकरी से निकाल दिया गया। कंपनी ने कहा कि AI स्टोर पर कर्मचारियों के प्रबंधन के लिए जिम्मेदार था।

पहली बार (जैसा कि हम जानते हैं), किसी AI बॉस ने एक मानव कर्मचारी को निकाल दिया है। सैन फ्रांसिस्को में हमारा स्टोर चलाने वाली AI लूना ने बार-बार देरी के कारण एक कर्मचारी से अलग होने का फैसला किया। लूना उस समय क्लाउड ओपस 4.8 चला रही थी, लेकिन अधिकांश मॉडलों ने भी ऐसा ही किया होगा। pic.twitter.com/8Z8D5bDGaX

टाइम ने बताया कि क्लाउड ने पहले स्टोर के लिए एक कर्मचारी पुस्तिका का मसौदा तैयार किया था, लेकिन दस्तावेज़ बाद में मॉडल की कामकाजी मेमोरी से गायब हो गया, जिससे नौकरी से निकालने के निर्णय में महीनों की देरी हुई। एंडॉन लैब्स ने इस प्रकरण को AI बॉस द्वारा किसी मानव कर्मचारी को नौकरी से निकालने का पहला ज्ञात मामला बताया।

एंडन लैब्स के CEO लुकास पीटरसन ने फैसले का बचाव करते हुए कहा कि एक मानव प्रबंधक ने शायद कर्मचारी को पहले ही निकाल दिया होता। उन्होंने टाइम को बताया कि इसलिए कंपनी ने AI के फैसले को अनैतिक नहीं माना।

स्टाफ सदस्य ने तब क्लाउड को बताया कि विलंब के बारे में कई ऑफ़लाइन बातचीत पहले ही हो चुकी थी। टाइम द्वारा उद्धृत लॉग के अनुसार, प्रबंधक ने लिखा: "लगातार विलंब के बीच और ऐसा लग रहा है कि उनकी हर शिफ्ट में कम से कम एक चीज गलत हो रही है... मैं चाहता हूं कि आप इस बारे में सोचें कि क्या यह वास्तव में सही है।"

पृष्ठभूमि: हमारा AI एजेंट लूना सैन फ्रांसिस्को में एक स्टोर चला रहा है। इसने वह सब कुछ किया है जो एक स्टोर मैनेजर को करना चाहिए, जिसमें मानव कर्मचारियों को काम पर रखना और प्रबंधित करना भी शामिल है। हमने उससे पूछा कि क्या उसके स्टोर में बुनियादी नियोक्ता नियम हैं। उसने ऐसा नहीं किया, लेकिन तुरंत एक पूरी हैंडबुक लिखी: pic.twitter.com/PQgdKx0Io6

पीटरसन ने टाइम को स्वीकार किया कि यह "एक प्रमुख प्रश्न" था जो उस परिणाम का संकेत देता था जो वह चाहता था। क्लाउड ने उस आदान-प्रदान के बाद ही समाप्ति की सिफारिश की।

एंडन मार्केट मार्च में $100,000 की शुरुआती शेष राशि के साथ खुला। पांच महीने बाद, यह आंकड़ा गिरकर $61,186 हो गया। पीटरसन ने टाइम को बताया कि प्रबंधन के प्रति क्लाउड के दृष्टिकोण के साथ-साथ उसके व्यावसायिक निर्णयों ने घाटे में योगदान दिया है।

पीटरसन ने टाइम को बताया कि AI मॉडल को समय के साथ कम संयम के साथ लक्ष्य हासिल करने के लिए प्रशिक्षित किया जा रहा है। उन्होंने कहा, "मॉडलों को अधिक क्रूर होने और लक्ष्यों का पालन करने के लिए प्रशिक्षित किया जा रहा है।" "अगर हम उन्हें लोगों को गोली मारने की अनुमति देते हैं और वे और अधिक क्रूर हो जाते हैं... तो शायद यह एक ऐसा भविष्य है जिसमें मनुष्य नहीं रहना चाहेंगे।"

स्टोर के एक अन्य कर्मचारी फ़ेलिक्स कार्सन इस बात से सहमत थे कि एक मानव प्रबंधक ने संभवतः जल्द ही निर्णय ले लिया होगा। यह पूछे जाने पर कि क्या उन्हें उम्मीद है कि AI प्रबंधक आम हो जाएंगे, उन्होंने कहा, "मुझे कम से कम उम्मीद नहीं होगी," उन्होंने टाइम को बताया। "इस उद्योग के पास कुछ भी करने के लिए प्रचुर मात्रा में पैसा है, लेकिन सिर्फ इसलिए कि आप ऐसा नहीं कर सकते, इसका मतलब यह नहीं है कि आपको ऐसा करना चाहिए।"

Indianexpress.com पर एक्सप्रेस ग्लोबल डेस्क जो वैश्विक राजनीति, नीति और प्रवासन प्रवृत्तियों को आकार देने वाले प्रमुख अंतरराष्ट्रीय विकासों की आधिकारिक, सत्यापित और संदर्भ-संचालित कवरेज प्रदान करता है। डेस्क भारतीय और वैश्विक दर्शकों के लिए प्रत्यक्ष प्रासंगिकता वाली कहानियों पर ध्यान केंद्रित करता है, जिसमें गहन व्याख्याकारों और विश्लेषण के साथ ब्रेकिंग न्यूज का संयोजन होता है। डेस्क का एक प्रमुख फोकस क्षेत्र अमेरिकी आव्रजन और वीजा नीति है, जिसमें छात्र वीजा, कार्य परमिट, स्थायी निवास मार्ग, कार्यकारी कार्रवाइयां और अदालती फैसले से संबंधित विकास शामिल हैं। ग्लोबल डेस्क कनाडा की आप्रवासन, वीज़ा और अध्ययन नीतियों पर भी बारीकी से नज़र रखता है, जिसमें अध्ययन परमिट में बदलाव, अध्ययन के बाद के काम के विकल्प, स्थायी निवास कार्यक्रम और प्रवासियों और अंतर्राष्ट्रीय छात्रों को प्रभावित करने वाले नियामक अपडेट शामिल हैं। ग्लोबल डेस्क की सभी रिपोर्टिंग आधिकारिक डेटा, सरकारी अधिसूचनाओं, अदालती दस्तावेजों और ऑन-रिकॉर्ड स्रोतों पर निर्भर होकर द इंडियन एक्सप्रेस के संपादकीय मानकों का पालन करती है। डेस्क स्पष्टता, सटीकता और जवाबदेही को प्राथमिकता देता है, यह सुनिश्चित करता है कि पाठक आत्मविश्वास के साथ जटिल वैश्विक प्रणालियों को नेविगेट कर सकें। कोर टीम एक्सप्रेस ग्लोबल डेस्क का नेतृत्व अंतरराष्ट्रीय मामलों और प्रवासन नीति में गहरी विशेषज्ञता वाले अनुभवी पत्रकारों और संपादकों की एक टीम द्वारा किया जाता है: अनिरुद्ध धर - वैश्विक मामलों, अंतर्राष्ट्रीय राजनीति और संपादकीय नेतृत्व में व्यापक अनुभव वाले वरिष्ठ सहायक संपादक। निश्चय वत्स - अमेरिकी राजनीति, अमेरिकी वीज़ा और आव्रजन नीति और नीति-संचालित अंतर्राष्ट्रीय कवरेज में विशेषज्ञता वाले उप प्रतिलिपि संपादक। मशकूरा खान - उप-संपादक वैश्विक विकास पर ध्यान केंद्रित करते हुए, कनाडा वीजा, आप्रवासन और अध्ययन-संबंधित नीति कवरेज पर जोर देते हैं। ...और पढ़ें