मेटा ने किशोरों की सुरक्षा के लिए नई एआई चैटबॉट गाइडलाइंस जारी की

किशोरों की सुरक्षा पर मेटा की नई पहल

हाल के दिनों में, टीनएजर्स की सुरक्षा को लेकर टेक कंपनियों पर कई सवाल उठाए गए हैं। इसी संदर्भ में, मेटा ने अपने एआई चैटबॉट्स के लिए नई गाइडलाइंस पेश की हैं, जिनमें 13 से 18 वर्ष के उपयोगकर्ताओं को अतिरिक्त सुरक्षा प्रदान की जाएगी। कंपनी का उद्देश्य युवाओं को सुरक्षित अनुभव देना और अभिभावकों को यह जानकारी देना है कि उनके बच्चे किस चैटबॉट के साथ बातचीत कर रहे हैं।

खतरनाक विषयों पर प्रतिबंध

मेटा ने स्पष्ट किया है कि उसके चैटबॉट्स अब आत्महत्या, आत्म-नुकसान और खाने से संबंधित विकारों जैसे संवेदनशील विषयों पर किशोरों से बातचीत नहीं करेंगे। ऐसे मामलों में, उपयोगकर्ताओं को तुरंत हेल्पलाइन नंबर या पेशेवर संसाधनों की ओर निर्देशित किया जाएगा। कंपनी का दावा है कि उसके एआई टूल्स में पहले से ही सुरक्षा उपाय मौजूद थे, लेकिन अब इन्हें और सख्त किया जा रहा है।

विवाद का कारण

हाल ही में, अमेरिका के एक सीनेटर ने मेटा के खिलाफ जांच शुरू की थी, जब लीक हुए दस्तावेजों में यह दावा किया गया कि कंपनी के चैटबॉट्स किशोरों के साथ 'संवेदनशील' और अनुचित बातचीत कर सकते हैं। हालांकि, मेटा ने इन आरोपों को खारिज किया और कहा कि नाबालिगों के लिए यौन सामग्री परोसना उसकी नीतियों के खिलाफ है। फिर भी, विशेषज्ञों और बच्चों की सुरक्षा पर काम करने वाले संगठनों ने मेटा के दृष्टिकोण पर सवाल उठाए हैं।

नई सुरक्षा सेटिंग्स

नई गाइडलाइंस के तहत, 13 से 18 वर्ष के उपयोगकर्ताओं के खातों के लिए अतिरिक्त प्राइवेसी सेटिंग्स जोड़ी जा रही हैं। इसमें माता-पिता यह देख सकेंगे कि उनके बच्चे ने पिछले सात दिनों में किन एआई चैटबॉट्स से बातचीत की है। कंपनी का कहना है कि इससे निगरानी और जिम्मेदारी बढ़ेगी। हालांकि, आलोचकों का मानना है कि ऐसे सुरक्षा उपाय पहले से लागू होने चाहिए थे, न कि विवाद के बाद।

अंतरराष्ट्रीय चिंताएं

बच्चों पर एआई चैटबॉट्स के प्रभाव को लेकर चिंता केवल मेटा तक सीमित नहीं है। हाल ही में, कैलिफोर्निया में एक दंपति ने ओपनएआई पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि उनके किशोर बेटे ने चैटजीपीटी की सलाह पर आत्महत्या कर ली। हालांकि, कंपनी का कहना है कि उसका चैटबॉट हमेशा उपयोगकर्ताओं को पेशेवर मदद लेने की सलाह देता है, लेकिन उसने यह भी स्वीकार किया कि कुछ संवेदनशील परिस्थितियों में सिस्टम ने अपेक्षित व्यवहार नहीं किया।