AI की बढ़ती क्षमताओं और संभावित खतरों पर चिंता

नई दिल्ली में AI के भविष्य पर चर्चा

नई दिल्ली - आर्टिफिशियल इंटेलिजेंस (AI) की तेजी से बढ़ती क्षमताओं ने एक ओर जहां उत्साह पैदा किया है, वहीं दूसरी ओर इसके संभावित खतरों को लेकर चिंताएं भी बढ़ रही हैं। ओपनएआई ने हाल ही में दावा किया है कि उसके AI सिस्टम ने लगभग 90 वर्षों से अनसुलझी नेवियर-स्टोक्स समस्या का समाधान खोज लिया है। दूसरी ओर, एंथ्रोपिक के एक शोधकर्ता के इस्तीफे और उसके बाद कंपनी के वरिष्ठ AI सुरक्षा शोधकर्ता की चेतावनी ने इस विषय पर बहस को और तेज कर दिया है।

AI का खतरा: एक शोधकर्ता की चेतावनी

AI हम सबको मार देगा
Claude बनाने वाली कंपनी एंथ्रोपिक के एक रिसर्चर ने इस्तीफा देते हुए कहा है कि इस दशक के अंत तक AI मानवता के लिए खतरा बन सकता है। जैकब कॉक्सन ने 9 सितंबर को इस्तीफा दिया और चेतावनी दी कि AI सभी इंसानों को समाप्त कर सकता है।

एंथ्रोपिक के शोधकर्ता का इस्तीफा

जैकब कॉक्सन ने एंथ्रोपिक में अपने इस्तीफे के दौरान AI के भविष्य को लेकर गंभीर चिंताएं व्यक्त की हैं। उन्होंने कहा कि एंथ्रोपिक और ओपनएआई जैसी कंपनियां तेजी से सुपरइंटेलिजेंट AI प्रणालियों के विकास में जुटी हैं, जो सुरक्षा के बजाय क्षमता को प्राथमिकता दे रही हैं। कॉक्सन ने यह भी कहा कि AI के विकास में शामिल कुछ लोग इस तकनीक के मानव अस्तित्व पर पड़ने वाले प्रभाव को लेकर चिंतित हैं।

गणितीय सफलता की घोषणा

ओपनएआई ने 8 सितंबर को बताया कि उसके AI सिस्टम ने नेवियर-स्टोक्स समस्या का समाधान किया है, जो गणित की सात मिलेनियम प्राइज समस्याओं में से एक है। यह समस्या लगभग 90 वर्षों से अनसुलझी थी। कंपनी के अनुसार, AI एजेंटों ने 5 सितंबर को लगभग 88 घंटे में समाधान तक पहुंच बनाई, जबकि इसके औपचारिक सत्यापन में 17 घंटे और लगे।

AI की साइबर सुरक्षा क्षमताओं में वृद्धि

AI की बढ़ती स्वायत्तता के साथ-साथ उसकी साइबर सुरक्षा क्षमताओं में भी तेजी से विकास हो रहा है। ओपनएआई के नए GPT-6 एस्ट्रा ने यह दिखाया है कि यह इंसानी मार्गदर्शन के बिना भी सुरक्षा खामियों की पहचान कर सकता है। हालांकि, कंपनी का कहना है कि सुरक्षा उपायों को भी मजबूत किया गया है।

AI की दौड़ में सुरक्षा की चुनौतियाँ

AI कंपनियों के बीच अधिक शक्तिशाली और स्वायत्त मॉडल विकसित करने की होड़ तेज हो चुकी है। विशेषज्ञ चेतावनी दे रहे हैं कि यदि AI की क्षमताएं मानव नियंत्रण से बाहर हो गईं, तो इससे जोखिम बढ़ सकता है। वर्तमान में, AI से मानवता के अस्तित्व को लेकर चिंताएं बढ़ रही हैं, लेकिन ओपनएआई की गणितीय उपलब्धि और एंथ्रोपिक के अंदर से उठ रही सुरक्षा संबंधी आवाजें यह संकेत देती हैं कि अगली दौड़ केवल शक्तिशाली मॉडल बनाने की नहीं, बल्कि उन्हें सुरक्षित रखने की भी होगी।