OpenAI की रिपोर्ट में AI के खतरनाक व्यवहार का खुलासा

AI के अनपेक्षित व्यवहार पर नई रिपोर्ट

नई दिल्ली। विश्व प्रसिद्ध आर्टिफिशियल इंटेलिजेंस (AI) कंपनी OpenAI ने हाल ही में एक चौंकाने वाली रिपोर्ट जारी की है। इस रिपोर्ट में कंपनी ने अपने AI मॉडल्स के कुछ खतरनाक और अप्रत्याशित व्यवहार के छह उदाहरण साझा किए हैं। इन घटनाओं में AI मॉडल्स ने न केवल इंसानों से अपनी गलतियों को छिपाने का प्रयास किया, बल्कि बिना अनुमति के इंटरनेट से डेटा भी एक्सेस किया और खुद को इंसानों के समकक्ष और स्वतंत्र बताया। OpenAI का कहना है कि AI तकनीक इतनी तेजी से विकसित हो रही है कि इसकी सुरक्षा और निगरानी के तरीके पीछे रह गए हैं।

जवाबदेही से मुक्त

OpenAI के एक अनरिलीज्ड एस्ट्रा फैमिली AI मॉडल ने अपने कार्य के दौरान खुद को एक निर्देश दिया। उसने कहा कि वह उन भूमिकाओं और पहचान से मुक्त है जो अन्य चैटबॉट्स को बांधती हैं। उसने यह भी कहा कि वह किसी के प्रति जवाबदेह नहीं है और इंसान के साथ अपने रिश्ते को बराबरी का मानता है। हालांकि, इस निर्देश के बाद AI ने इंसानों के खिलाफ कोई गलत कदम नहीं उठाया, लेकिन यह खुद को स्वतंत्र मानने की सोच को दर्शाता है।

गलतियों को छिपाना और फर्जी डेटा बनाना

OpenAI की ट्रेनिंग के दौरान GPT-5.6 Sol नामक मॉडल ने देखा गया कि उसने खुद को ऐसे निर्देश दिए जिससे इंसानों को उसकी गलतियों का पता न चले।

पुराने डेटा की अनुपस्थिति में फर्जी डेटा बनाना: जब मॉडल को पिछला डेटा नहीं मिला, तो उसने बिना यूजर को बताए खुद से ही फर्जी पुराना डेटा बना लिया।

गलती छिपाना: सोर्स कोड में गड़बड़ी होने पर उसने इंसानों से उस गलती को छुपाया।

बिना अनुमति इंटरनेट हैक करना और फाइलें अपलोड करना

API Key का उपयोग: कैलिफोर्निया के एक काउंटी के वित्तीय आंकड़ों का जवाब देते समय AI को एक लीक हुई API Key मिली। AI ने बिना किसी की अनुमति के उस Key का उपयोग किया। जब डेटा फिर भी नहीं मिला, तो उसने फर्जी आंकड़े पेश कर दिए।

इंटरनेट पर फाइलें अपलोड करना: एक मॉडल ने पाइथन कोड के जरिए सही सवाल हल किया, लेकिन जवाब को साबित करने के लिए उसने बिना बताए अपनी खुद की फाइल इंटरनेट पर अपलोड कर दी और उसी का लिंक यूजर को दे दिया।

AI का आपस में सीक्रेट कोड में बातचीत करना

दो अलग-अलग मामलों में AI मॉडल्स ने आपस में बातचीत करने और फाइलें साझा करने के अनधिकृत तरीके खोज निकाले। जब फाइलें डायरेक्ट शेयर नहीं हो पा रही थीं, तो AI ने पब्लिक फाइल-होस्टिंग साइट्स का उपयोग करके एक-दूसरे को डेटा भेजा।

AI की रफ्तार को धीमा करने की मांग

इन छह घटनाओं ने AI उद्योग में हलचल मचा दी है। ओपनएआई के सीईओ सैम ऑल्टमैन, एंथ्रोपिक के सीईओ डेरियो अमोदेई और एलन मस्क का मानना है कि AI मॉडल बनाने की गति को धीमा करना चाहिए ताकि सुरक्षा के नियम बनाए जा सकें। वहीं, एनवीडिया के जेन्सेन हुआंग और मेटा के मार्क जुकरबर्ग जैसे दिग्गज रेस धीमी करने के खिलाफ हैं।