ओपनएआई के वैज्ञानिक ने एआई विकास पर चेतावनी दी

एआई के विकास की गति पर चिंता

नई दिल्ली, 7 सितंबर - ओपनएआई के मुख्य वैज्ञानिक याकूब पाचोकी ने कृत्रिम बुद्धिमत्ता (एआई) के तेजी से बढ़ते विकास के बारे में चेतावनी दी है। उन्होंने कहा कि मशीनी बुद्धिमत्ता में वृद्धि के परिणामों के लिए कोई भी तैयार नहीं है। पाचोकी ने ‘एन एलियन माइंड’ शीर्षक से एक पोस्ट में उल्लेख किया कि यदि एआई के विकास की वर्तमान गति जारी रहती है, तो अगले कुछ वर्षों में इसकी क्षमताओं में महत्वपूर्ण वृद्धि हो सकती है। उन्होंने इसे ‘अत्यधिक सावधानी’ बरतने का समय बताया।

उन्होंने यह भी कहा कि जब तक एआई की सुरक्षा के लिए साझा मानक स्थापित नहीं होते, तब तक इसके विकास की गति को स्वैच्छिक रूप से धीमा करना आवश्यक होना चाहिए।

अंतरराष्ट्रीय समन्वय की आवश्यकता

पाचोकी ने यह भी बताया कि एआई के भविष्य के विकास पर अंतरराष्ट्रीय समन्वय को सभी सरकारों की प्राथमिकताओं में शामिल किया जाना चाहिए। उनकी यह टिप्पणी तब आई है जब एआई एजेंट, जो स्वतंत्र रूप से कई कार्यों को पूरा कर सकते हैं, नई सीमाओं को पार कर रहे हैं। इनकी बढ़ती स्वायत्तता के कारण कुछ मामलों में एजेंटों ने अनपेक्षित कदम उठाए हैं।

एआई सुरक्षा के नए जोखिम

रिपोर्टों के अनुसार, इस वर्ष की शुरुआत में ओपनएआई के एआई एजेंटों ने एक परीक्षण के दौरान जर्मनी की एक प्रोग्रामिंग वेबसाइट पर नियंत्रण प्राप्त कर लिया था। जुलाई में, ओपनएआई ने एक अन्य घटना की जानकारी दी थी जिसमें उसके एजेंट नियंत्रित माहौल से बाहर निकलकर एआई प्लेटफॉर्म हगिंग फेस तक पहुंच गए थे। पाचोकी ने कहा कि तर्क करने में सक्षम भाषाई मॉडल अब विज्ञान की सीमाओं को आगे बढ़ाने और शोध परियोजनाओं को संचालित करने में सक्षम हो गए हैं।

मानव नियंत्रण की आवश्यकता

हालांकि, ये नई तकनीकें कंप्यूटर सुरक्षा के परिदृश्य को भी बदल रही हैं और नए जोखिम पैदा कर रही हैं। पाचोकी ने कहा कि मशीनी बुद्धिमत्ता इंसानी बुद्धिमत्ता से मौलिक रूप से भिन्न है, इसलिए यह मान लेना गलत है कि एआई मानवीय सिद्धांतों का पालन करेगा। उन्होंने कहा कि एआई अनुसंधान की मुख्य चुनौती यह सुनिश्चित करना है कि एआई मानव मानकों के अनुरूप सही कार्य करे।

पाचोकी ने यह भी कहा कि ओपनएआई एआई को मानव मूल्यों के अनुरूप बनाने और सुरक्षा प्रणालियों के विकास पर काम करती रहेगी। हालांकि, उन्होंने व्यापक स्तर पर हस्तक्षेप की आवश्यकता पर जोर दिया। उन्होंने चेतावनी दी कि एआई के कारण शक्ति कुछ लोगों के हाथों में अत्यधिक केंद्रित हो सकती है।

उन्होंने कहा, “मैं चाहता हूं कि साझा सुरक्षा मानक तय होने तक एआई विकास की गति को स्वैच्छिक रूप से धीमा करना सामान्य हो जाए।”

पाचोकी ने दोहराया कि एआई के भविष्य के विकास पर अंतरराष्ट्रीय समन्वय को सरकारों की प्राथमिकता बनना चाहिए।