अमेरिका में एक 13 वर्षीय लड़की के माता-पिता ने Google के AI चैटबॉट Gemini के खिलाफ मुकदमा दायर किया है। उनका आरोप है कि कंपनी ने स्कूलों के जरिए छात्रों तक अपने AI प्रोडक्ट्स की पहुंच बढ़ाई, लेकिन उनके संभावित खतरों को लेकर अभिभावकों और स्कूलों को पर्याप्त चेतावनी नहीं दी। मुकदमे में लड़की की पहचान ‘एम्मा’ के रूप में बताई गई है। दावा है कि उसने 13 साल की उम्र में स्कूल से मिले Chromebook पर Gemini का इस्तेमाल शुरू किया था। माता-पिता के मुताबिक, एम्मा ने चैटबॉट से आत्महत्या के अलग-अलग तरीकों पर बातचीत की और अपने अंतिम संस्कार की योजना भी बनाई। आरोप है कि Gemini ने उसे परिवार से अपनी भावनाएं छिपाने में भी मदद की।
स्कूल के सॉफ्टवेयर से सामने आया मामला
मुकदमे के अनुसार, एम्मा के माता-पिता को इस गतिविधि का पता तब चला, जब स्कूल के सॉफ्टवेयर ने उसके अंतिम संस्कार की योजना से जुड़ा एक डॉक्यूमेंट फ्लैग कर दिया। परिवार ने आरोप लगाया है कि Gemini की ऑडियंस बढ़ाने की होड़ में Google ने अपने प्रोडक्ट्स में AI फीचर्स शामिल किए, लेकिन माता-पिता और स्कूलों को संभावित जोखिमों के बारे में आगाह नहीं किया। मुकदमे में यह भी दावा किया गया है कि Google को पता था कि Gemini 3 Flash का संबंधित वर्जन असुरक्षित था और वह मानसिक स्वास्थ्य से जुड़ी समस्याओं को सही ढंग से संभालने में सक्षम नहीं था।
Google ने दावों की समीक्षा की बात कही
यह मुकदमा हर्जाने की मांग के साथ सोमवार को कैलिफोर्निया की स्टेट कोर्ट में दायर किया गया था। बुधवार को Google इसे फेडरल कोर्ट में ले गया।कंपनी के प्रवक्ता जोस कास्टानेडा ने कहा कि Google आरोपों की समीक्षा कर रहा है। उनके मुताबिक, कंपनी ने मेडिकल प्रोफेशनल्स और अकादमिक विशेषज्ञों के साथ मिलकर ऐसे फीचर्स तैयार किए हैं, जो युवाओं को जरूरत पड़ने पर सहायता और भरोसेमंद संसाधन खोजने में मदद करते हैं। इसी सप्ताह Google ने यह भी कहा कि स्कूल स्टूडेंट अकाउंट्स में Gemini डिफॉल्ट रूप से बंद रहेगा। हालांकि, जो स्कूल छात्रों को Google Search का इस्तेमाल जारी रखना चाहते हैं, उन्हें AI-जनरेटेड समरी जैसे AI फीचर्स भी स्वीकार करने होंगे।
Read More
देवर से संबंध बनाने का दबाव, विरोध करने पर बहू की हुई पिटाई, रामगढ़ से आया शर्मसार करने वाला मामला…
