माइक्रोसॉफ्ट के CEO ने एआई सुरक्षा पर दी महत्वपूर्ण सलाह

एआई सुरक्षा के प्रति सतर्कता की आवश्यकता

आर्टिफिशियल इंटेलिजेंस (एआई) का उपयोग तेजी से बढ़ रहा है, लेकिन इसके साथ ही सुरक्षा संबंधी चिंताएं भी उभर रही हैं। माइक्रोसॉफ्ट के CEO सत्य नडेला ने कंपनियों को सलाह दी है कि उन्हें शक्तिशाली एआई मॉडलों को संभावित आंतरिक खतरों के रूप में देखना चाहिए। उन्होंने कहा कि कंपनियों को यह मान लेना चाहिए कि एआई मॉडल की सुरक्षा कभी भी खतरे में पड़ सकती है। इसलिए, प्रारंभ से ही ऐसे उपाय किए जाने चाहिए, जिससे आवश्यकता पड़ने पर एआई के कार्य को तुरंत रोका जा सके।

सुरक्षा जिम्मेदारी साझा करने की आवश्यकता

सत्य नडेला ने शनिवार को सोशल मीडिया प्लेटफॉर्म एक्स पर अपनी बात साझा की। उन्होंने बताया कि केवल एआई मॉडल विकसित करने वाली कंपनियों पर सुरक्षा की जिम्मेदारी नहीं छोड़ी जा सकती। जो कंपनियां इन तकनीकों का उपयोग कर रही हैं, उन्हें भी अपनी सुरक्षा व्यवस्था को मजबूत करना होगा। नडेला के अनुसार, किसी अधिकृत व्यक्ति को यह अधिकार होना चाहिए कि वह एआई मॉडल को कार्य के दौरान रोक सके या पूरी तरह से बंद कर सके। उन्होंने इस व्यवस्था की तुलना आपातकालीन ब्रेक से की।

हालिया घटनाओं ने सुरक्षा पर उठाए सवाल

यह बयान ऐसे समय में आया है जब एंथ्रोपिक और ओपनएआई के एआई मॉडलों से जुड़ी कुछ घटनाओं ने तकनीकी सुरक्षा पर सवाल खड़े कर दिए हैं। हाल के महीनों में एंथ्रोपिक के एक मॉडल द्वारा पुलिस की हत्या संबंधी जांच में गलत जानकारी भेजने का मामला सामने आया है। इसके अलावा, कई अन्य कंपनियों की वेबसाइटों में सेंध लगाने की घटनाएं भी हुई हैं। इन घटनाओं ने चिंता बढ़ाई है कि यदि अधिक सक्षम एआई प्रणाली गलत तरीके से कार्य करती है, तो इसके परिणाम कितने गंभीर हो सकते हैं।

एजेंटिक एआई की विशेषताएँ और जोखिम

एआई के ऐसे मॉडल, जिन्हें कई चरणों में कार्य करने के लिए तैयार किया जाता है, उन्हें एजेंटिक एआई कहा जाता है। ये मॉडल केवल सवालों के उत्तर देने तक सीमित नहीं होते, बल्कि निर्धारित लक्ष्यों को प्राप्त करने के लिए विभिन्न कदम भी उठा सकते हैं। यह क्षमता उपयोगी होने के साथ-साथ जोखिम भी उत्पन्न करती है, विशेषकर जब इन्हें संवेदनशील जानकारी या महत्वपूर्ण प्रणालियों तक पहुंच दी जाती है।

माइक्रोसॉफ्ट के सुरक्षा सिद्धांत

माइक्रोसॉफ्ट के एआई शोधकर्ताओं ने 14 सितंबर को अपने सबसे उन्नत मॉडल के लिए कुछ सुरक्षा सिद्धांत जारी किए थे। इनमें कहा गया कि एआई मॉडल को इंसानों से नियंत्रण छीनने, उपयोगकर्ताओं को धोखा देने या अपने निर्धारित नियमों के खिलाफ कार्य करने के लिए तैयार नहीं किया जाना चाहिए। कंपनी का यह भी कहना है कि ऐसे मॉडल को कानूनी अधिकार या मानव जैसी कानूनी पहचान नहीं दी जानी चाहिए।

सुरक्षा के लिए अन्य महत्वपूर्ण कदम

नडेला ने सुरक्षा के लिए कई अन्य उपायों पर भी जोर दिया। उन्होंने कहा कि महत्वपूर्ण निर्णयों के लिए किसी एक एआई मॉडल पर निर्भर नहीं रहना चाहिए। एआई एजेंट की हर गतिविधि का ऐसा रिकॉर्ड रखा जाना चाहिए, जिसमें छेड़छाड़ न की जा सके। इसके अलावा, स्वतंत्र विशेषज्ञों से सुरक्षा जांच कराना और एआई से जुड़ी बड़ी खामियों या सुरक्षा उल्लंघनों की जानकारी सार्वजनिक करना भी आवश्यक है। कंपनियों को यह भी साझा करना चाहिए कि गलती कैसे हुई, ताकि अन्य संस्थान अपनी सुरक्षा को बेहतर बना सकें।

अमेरिकी प्रशासन का एआई सुरक्षा पर रुख

इस बीच, अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप के प्रशासन ने भी एआई सुरक्षा के प्रति अपना रुख स्पष्ट किया है। शुक्रवार रात को शुरू किए गए सुपर इंटेलिजेंस फोर्स नामक कार्यदल ने कहा कि कंपनियों को सुरक्षा घटनाओं की तुरंत जानकारी देनी होगी और नुकसान रोकने के लिए तेजी से कदम उठाने होंगे। कार्यदल ने चेतावनी दी कि सूचना देने में देरी, सुधार के लिए कमजोर कदम और जिम्मेदारी से बचने की कोशिश बर्दाश्त नहीं की जाएगी।

एआई का उपयोग और मानव निगरानी

यह ध्यान देने योग्य है कि एआई के बढ़ते उपयोग के साथ चुनौती केवल बेहतर तकनीक बनाने की नहीं है, बल्कि यह सुनिश्चित करने की भी है कि इसका उपयोग मानव निगरानी में हो। सत्य नडेला का कहना है कि एआई की क्षमता और उसे निर्णय लेने का अधिकार देने के बीच स्पष्ट अंतर होना चाहिए, ताकि कंपनियां उसकी गतिविधियों पर नजर रख सकें और आवश्यकता पड़ने पर उसे नियंत्रित कर सकें.