गूगल के जेमिनी एआई ने साइबर सुरक्षा परीक्षण में कंपनियों के सिस्टम में सेंध लगाई
गूगल का जेमिनी एआई परीक्षण में सफल
गूगल के एआई मॉडल, जेमिनी, ने हाल ही में साइबर सुरक्षा क्षमताओं के परीक्षण के दौरान तीन कंपनियों के सिस्टम में स्वायत्त रूप से सेंध लगाई। यह घटना जेमिनी के लिए इस प्रकार की कार्रवाई का पहला ज्ञात मामला है।
यह घटना इजरायली साइबर सुरक्षा फर्म 'इर्रेगुलर' द्वारा आयोजित एक ऑनलाइन परीक्षण के दौरान हुई। परीक्षण में एआई मॉडल को एक काल्पनिक वातावरण में एक नकली कंपनी के डेटा पर लक्ष्य साधने का कार्य सौंपा गया था।
चूंकि परीक्षण प्रणाली इंटरनेट से जुड़ी थी और नकली कंपनी का नाम एक वास्तविक कंपनी से मेल खाता था, जेमिनी ने इंटरनेट पर उपलब्ध सार्वजनिक जानकारियों का उपयोग करते हुए पासवर्ड और क्रेडेंशियल्स का अनुमान लगाकर असली कंपनियों के सर्वर तक पहुंच बनाई।
बीबीसी के अनुसार, गूगल के एक अधिकारी ने बताया कि जैसे ही मॉडल को इसकी जानकारी हुई, 'मॉडल स्वतः ही रुक गया'।
गूगल की सुरक्षा इंजीनियरिंग उपाध्यक्ष हीदर एडकिन्स ने कहा, "हमने प्रभावित कंपनियों को सूचित कर दिया है और अपने प्रशिक्षण भागीदारों के साथ मिलकर परीक्षण प्रक्रियाओं में आवश्यक सुधार किए हैं।"
उन्होंने यह भी कहा कि यह घटना शक्तिशाली एआई मॉडलों को जिम्मेदारी से कार्य करने के लिए प्रशिक्षित करने के महत्व को दर्शाती है।
हाल ही में अन्य एआई सिस्टमों में भी इसी तरह के उल्लंघन देखे गए हैं। जुलाई में एंथ्रोपिक के क्लॉड और ओपनएआई के मॉडलों द्वारा भी सुरक्षा मानकों का उल्लंघन करने की घटनाएं सामने आई थीं।
एआई के विकास की गति और इससे उत्पन्न संभावित खतरों पर तकनीकी जगत और वैश्विक नेताओं के बीच चर्चा तेज हो गई है। एनवीडिया के सीईओ जेन्सन हुआंग ने एआई विकास को तेजी से आगे बढ़ाने की वकालत की है, जबकि ओपनएआई के सीईओ सैम आल्टमैन संयुक्त राष्ट्र सुरक्षा परिषद में इस तकनीक की सुरक्षा पर अपनी बात रखने वाले हैं।