जैकब कॉक्सन का एंथ्रोपिक से इस्तीफा: एआई के खतरों पर गंभीर चेतावनी

जैकब कॉक्सन का इस्तीफा और एआई के खतरे

सैन फ्रांसिस्को: युवा शोधकर्ता जैकब कॉक्सन ने एंथ्रोपिक से इस्तीफा देकर एआई के तेजी से बदलते परिदृश्य पर गंभीर सवाल उठाए हैं। उन्होंने चेतावनी दी है कि एआई कंपनियां ऐसे सिस्टम विकसित करने की होड़ में हैं, जो मानव जीवन के लिए गंभीर खतरा बन सकते हैं।

कॉक्सन के इस्तीफे की जानकारी सबसे पहले एक प्रमुख समाचार पत्र ने दी। रिपोर्ट के अनुसार, यह एंथ्रोपिक के किसी कर्मचारी द्वारा एआई सुरक्षा को लेकर उठाए गए चिंताओं के चलते इस्तीफा देने के मामलों में से एक है।

सोशल मीडिया प्लेटफॉर्म एक्स थ्रेड पर कॉक्सन ने अपनी भावनाएं साझा कीं। उन्होंने कहा, “मैंने एंथ्रोपिक से इस्तीफा दे दिया है। मैंने पिछले तीन वर्षों में ओपनएआई और एंथ्रोपिक दोनों में प्री-ट्रेनिंग रिसर्च में काम किया है।”

उन्होंने दोनों कंपनियों के दृष्टिकोण पर सवाल उठाते हुए कहा कि वे तेजी से ऐसे एआई सिस्टम की ओर बढ़ रही हैं जो खुद को सुधारने में सक्षम होंगे। उन्होंने लिखा, “कंपनियां सेल्फ-इंप्रूविंग सुपरइंटेलिजेंस विकसित करने की दिशा में तेजी से आगे बढ़ रही हैं, जिससे मानव जीवन को खतरा हो सकता है।”

कॉक्सन ने कहा, “इस तकनीक की क्षमता को कम करके नहीं आंका जाना चाहिए। भविष्य में एआई सिस्टम इंसानों से बेहतर प्रदर्शन कर सकते हैं, साइबर सिस्टम में सेंध लगाने और विभिन्न क्षेत्रों में बड़े बदलाव लाने में सक्षम हो सकते हैं।”

कॉक्सन ने एआई उद्योग में मौजूद आशंकाओं पर भी प्रकाश डाला। उन्होंने कहा कि कई शोधकर्ता और वरिष्ठ अधिकारी मानते हैं कि यह तकनीक इस दशक के अंत तक मानवता के अस्तित्व के लिए खतरा बन सकती है।

उन्होंने कहा, “यह कोई मार्केटिंग रणनीति नहीं है। सार्वजनिक मंचों पर कई अधिकारी भले ही एआई के भविष्य को लेकर संतुलित भाषा का इस्तेमाल करते हों, लेकिन निजी बातचीत में वे तकनीक के संभावित परिणामों को लेकर गंभीर चिंता व्यक्त करते हैं।”

कॉक्सन ने यह भी सवाल उठाया कि यदि एआई के संभावित खतरे को लेकर इतनी चिंता है, तो कंपनियां इसका विकास क्यों जारी रख रही हैं।

उन्होंने कहा कि ओपनएआई में कई लोग इस तकनीक के “सभ्यतागत दांव” को पूरी तरह नहीं समझते हैं। वहीं एंथ्रोपिक में स्थिति अलग है। उनके अनुसार, “वहां जोखिम को बेहतर ढंग से समझा जाता है, लेकिन कंपनी इस दौड़ में बनी हुई है क्योंकि उसे डर है कि अगर वह पीछे हट गई तो अन्य कंपनियां बिना सुरक्षा उपायों के आगे बढ़ जाएंगी।”

कॉक्सन ने एआई शोधकर्ताओं से आत्ममंथन करने की अपील की। उन्होंने सवाल उठाया, “क्या शोधकर्ताओं को ऐसे सुपरइंटेलिजेंट सिस्टम का प्रशिक्षण शुरू कर देना चाहिए, जिसके दिमाग या व्यवहार को वे अभी पूरी तरह समझते तक नहीं हैं?”

उन्होंने एआई लैब्स में काम कर रहे वैज्ञानिकों से कहा कि वे केवल यह सोचकर आगे न बढ़ें कि “यह तो होना ही है,” बल्कि इस समय का उपयोग विकास की शर्तों और सुरक्षा मानकों को बदलने के लिए करें।

उन्होंने बताया कि एआई उद्योग में कुछ लोग मौजूदा दौड़ को “क्रंचटाइम” और “एंडगेम” जैसे शब्दों से परिभाषित करने लगे हैं, जो इस बात का संकेत देते हैं कि उद्योग का एक वर्ग आत्म-सुधार करने वाले एआई मॉडल्स के विकास को निर्णायक दौर के रूप में देख रहा है।

रिपोर्ट के अनुसार, कॉक्सन उन 1,000 से अधिक एआई शोधकर्ताओं में शामिल रहे हैं, जिन्होंने हाल में वैश्विक सरकारों के बीच बेहतर समन्वय की अपील करने वाले एक बयान पर हस्ताक्षर किए।