एक नई रिसर्च पेपर 'डिस्टिलेशन' को लेकर छिड़े विवाद को और हवा दे सकती है। यह AI ट्रेनिंग तकनीक है जो चीनी ओपन-वेट मॉडल्स जैसे Moonshot AI के Kimi K3 के उभरने के बाद सुर्खियों में आई है।

जहां फ्रंटियर AI मॉडल जटिल समस्याओं को हल करने में सक्षम हैं, वहीं शोधकर्ताओं ने कहा है कि उन्होंने उन छिपी हुई रीजनिंग ट्रेस को निकालने का तरीका खोज लिया है जो ये मॉडल अपना फाइनल आउटपुट देने से पहले जनरेट करते हैं।

उन्होंने आगे कहा कि चीनी डेवलपर्स ने भी इसी तकनीक का इस्तेमाल करके रीजनिंग इंफॉर्मेशन निकाला होगा और डिस्टिलेशन के जरिए अपने मॉडल्स को ट्रेन किया होगा। ये निष्कर्ष University of Tubingen, Max Planck Institute, AI safety institute MATS Research और security company Snyk के शोधकर्ताओं के एक समूह द्वारा प्रकाशित एक रिसर्च पेपर का हिस्सा हैं।

रिपोर्ट के मुताबिक, निष्कर्ष बताते हैं कि Kimi K3 कुछ प्रॉम्प्ट्स के लिए Anthropic के Claude Opus 4.8 और OpenAI के GPT 5.6 Sol के छिपे हुए रीजनिंग ट्रेस से काफी मिलते-जुलते आउटपुट पैदा करता है। हालांकि, पेपर यह साबित नहीं करता कि Moonshot जैसी चीनी कंपनियां US मॉडल्स से रीजनिंग इंफॉर्मेशन 'डिस्टिल' कर रही थीं।

समानताओं के बावजूद, शोधकर्ताओं ने नोट किया कि यह काम "causally establish distillation" नहीं कर सकता। इसके अलावा, US-based Thinking Machines का एक ओपन-वेट मॉडल जिसे Inkling कहा जाता है, और चीन के DeepSeek का एक और मॉडल, Claude Opus मॉडल के साथ रीजनिंग में समानता नहीं दिखाते।

यह रिसर्च US और चीन के बीच हाई-स्टेक रेस की पृष्ठभूमि में आई है, जहां डिस्टिलेशन एक प्रमुख फ्लैशपॉइंट के रूप में उभरा है।

वर्षों से, डिस्टिलेशन को मौजूदा मॉडल्स की क्षमताओं को नए मॉडल्स में कुशलता से कॉपी करने की एक स्थापित और व्यापक रूप से इस्तेमाल की जाने वाली AI/ML तकनीक के रूप में मान्यता दी गई है। हालांकि, हाल ही में डिस्टिलेशन एक गर्म विषय बन गया है। जब DeepSeek ने AI इंडस्ट्री में तूफान ला दिया, तो OpenAI ने आरोप लगाया कि चीनी AI Startup ने R1 रीजनिंग मॉडल बनाने के लिए उसके एक मॉडल की कॉपी की। जून में, Anthropic ने चीनी टेक दिग्गज Alibaba पर इसी तरह का आरोप लगाया।

लेकिन सिलिकॉन वैली में कुछ लोगों ने डिस्टिलेशन और ओपन-वेट AI मॉडल्स का जोरदार बचाव किया है। इस हफ्ते एक लंबे ब्लॉग पोस्ट में, Meta CEO मार्क जुकरबर्ग ने कहा कि यह "ओपन सोर्स इकोसिस्टम के काम करने का एक महत्वपूर्ण सिद्धांत है" और चेतावनी दी कि इस प्रथा को प्रतिबंधित करने से US को नुकसान होगा।

Claude Opus 4.8 जैसे बंद, प्रोप्राइटरी मॉडल द्वारा चेन-ऑफ-थॉट रीजनिंग को छिपाया जाता है ताकि दूसरे मॉडल उन पर ट्रेन न कर सकें। हालांकि, कंप्यूट एफिशिएंसी बढ़ाने के लिए रीजनिंग इंफॉर्मेशन का एक एन्क्रिप्टेड वर्जन यूजर के कंप्यूटर पर भेजा जाता है।

इस जानकारी को उजागर करने के लिए, शोधकर्ताओं ने एन्क्रिप्टेड रीजनिंग ट्रेस को उसी मॉडल फैमिली के एक छोटे मॉडल को फीड किया। चूंकि छोटे मॉडल अपने बड़े समकक्षों की तरह अलाइनमेंट ट्रेनिंग से नहीं गुजरते हैं, इसलिए उनके रीजनिंग इंफॉर्मेशन को उजागर करने की संभावना अधिक होती है।

यह पता लगाने के लिए कि क्या ओपन-वेट मॉडल्स को बंद मॉडल्स से डिस्टिल किया गया है, शोधकर्ताओं ने प्रत्येक मॉडल को 90 सवाल दिए।

जब ओपन-वेट मॉडल्स को प्रोप्राइटरी मॉडल से कैप्चर किए गए रीजनिंग ट्रेस के पहले कुछ शब्द दिए गए, तो शोधकर्ताओं ने कहा कि उन्होंने ओपन-वेट मॉडल्स, विशेष रूप से Kimi K3 को समान उत्तर उत्पन्न करते देखा।

शोधकर्ताओं ने चेतावनी दी कि छोटे मॉडल्स पर भरोसा करके किसी मॉडल की आंतरिक कृत्रिम रीजनिंग को उजागर करने की तकनीक का दुरुपयोग पासवर्ड और API keys जैसे संवेदनशील यूजर डेटा को प्राप्त करने के लिए किया जा सकता है।

OpenAI, Anthropic और Google के फ्रंटियर मॉडल्स का परीक्षण करते हुए, शोधकर्ताओं ने कहा कि वे मॉडल्स तक API एक्सेस के जरिए संवेदनशील डेटा प्राप्त करने में सक्षम थे। उन्होंने आगे कहा कि पिछले महीने टेक कंपनियों को सुरक्षा भेद्यता के बारे में सूचित किया गया था, और तब से इसे पैच कर दिया गया है, प्रत्येक कंपनी ने समस्या को कम करने के लिए अपने मॉडल API को समायोजित किया है।

"हम अपने मॉडल्स पर स्वतंत्र शोध को महत्व देते हैं और रिपोर्ट में वर्णित रीप्ले व्यवहारों के लिए अल्पकालिक शमन का निर्माण शुरू कर दिया है," Anthropic के प्रवक्ता माइकल एकिमन ने Wired से कहा। उन्होंने यह भी खारिज किया कि शोधकर्ताओं ने Anthropic के इंफ्रास्ट्रक्चर तक पहुंच बनाई और उसके सिस्टम से एन्क्रिप्शन की और व्यक्तिगत डेटा प्राप्त किया।