Meta AI Safety Feature: अगर कोई किशोर Meta के AI चैटबॉट से बातचीत के दौरान आत्महत्या या खुद को नुकसान पहुंचाने जैसे संवेदनशील विषयों पर बात करता है, तो अब उसके माता-पिता को अलर्ट भेजा जाएगा। Meta ने अपने नए AI सेफ्टी फीचर की घोषणा की है, जिसका उद्देश्य ऑनलाइन प्लेटफॉर्म पर बच्चों की सुरक्षा को मजबूत करना है।
इन देशों में शुरू होगी शुरुआत
फिलहाल यह फीचर अमेरिका, यूनाइटेड किंगडम, कनाडा और ऑस्ट्रेलिया में इंस्टाग्राम के पैरेंटल सुपरविजन टूल्स का इस्तेमाल करने वाले परिवारों के लिए शुरू किया जा रहा है। कंपनी का कहना है कि वर्ष के अंत तक इसे चरणबद्ध तरीके से अन्य देशों में भी उपलब्ध कराया जाएगा।
कैसे करेगा काम?
Meta के अनुसार, एक विशेष AI सिस्टम उन बातचीत की पहचान करेगा जिनमें कोई किशोर आत्महत्या, सेल्फ-हार्म या मानसिक संकट से जुड़े स्पष्ट संकेत देता है। हालांकि, AI सीधे माता-पिता को अलर्ट नहीं भेजेगा। कंपनी ने बताया कि हर फ्लैग की गई चैट को पहले प्रशिक्षित टीम द्वारा मैन्युअली रिव्यू किया जाएगा। समीक्षा के बाद ही जरूरत पड़ने पर अभिभावकों को सूचना भेजी जाएगी।
पैरेंट्स को मिलेगा ज्यादा कंट्रोल
इस अपडेट के साथ माता-पिता यह भी देख सकेंगे कि पिछले सात दिनों में उनके बच्चे ने Meta AI के साथ किन-किन विषयों पर बातचीत की है। इससे उन्हें बच्चों की ऑनलाइन गतिविधियों और मानसिक स्थिति को बेहतर ढंग से समझने में मदद मिल सकती है।
AI सुरक्षा पर बढ़ रही निगरानी
हाल के वर्षों में AI चैटबॉट्स की भूमिका को लेकर कई सवाल उठे हैं, खासकर तब जब मानसिक तनाव या अवसाद से जूझ रहे किशोर इनसे सलाह लेते हैं। ऐसे में Meta का यह नया फीचर बच्चों की सुरक्षा और जिम्मेदार AI उपयोग की दिशा में एक अहम कदम माना जा रहा है।
