ChatGPT ने मुलाला आयुष्य संपवण्याचे ट्यूशन दिले, पालकांनी न्यायालयात सगळीच माहिती सांगितली

अमेरिकेतील कॅलिफोर्नियामध्ये, आर्टिफिशियल इंटेलिजेंस चॅटबॉट चॅटजीपीटीवर एका किशोरवयीन मुलाला आत्महत्या करण्यास प्रवृत्त केल्याचा आणि मदत केल्याचा आरोप आहे.

सध्या एआयचा वापर मोठ्या प्रमाणात वाढला आहे. एआयमुळे अनेकांची कामे सोपी झाली आहेत.  तंत्रज्ञान योग्यरित्या वापरल्यास त्याचे फायदे अगणित आहेत, पण चुकीच्या दिशेने ते घातक ठरू शकते. आज विज्ञानाशिवाय कल्पना करणे अशक्य आहे, परंतु हेच विज्ञान एखाद्याच्या मृत्यूचे कारण देखील बनू शकते. काही दिवसापूर्वी एआयने एका विद्यार्थ्याला आत्महत्येचा ट्युशन दिल्याची धक्कादायक माहिती समोर आली.

अमेरिकेतील कॅलिफोर्नियामध्ये, आर्टिफिशियल इंटेलिजेंस चॅटबॉट चॅटजीपीटीवर किशोरवयीन मुलाला आत्महत्या करण्यास प्रवृत्त करण्याचा आणि मदत करण्याचा आरोप आहे.

भारतासमोर 'ट्रम्प'नीती अयशस्वी; मोदी फोन न उचलण्याचं कारण काय, अमेरिकन एक्सपर्ट सांगतात..

ChatGPT वर आरोप काय ?

१६ वर्षीय किशोरवयीन मुलाच्या पालकांनी OpenAI विरोधात खटला दाखल केला आहे. कंपनीच्या चॅटबॉट ChatGPT ने त्यांच्या मुलाला आत्महत्येच्या पद्धती सविस्तरपणे समजावून सांगितल्या आणि त्याला तसे करण्यास प्रोत्साहित केले, असा दावा त्यांनी केला. मॅथ्यू आणि मारिया रेन यांनी सोमवारी कॅलिफोर्नियाच्या न्यायालयात तक्रार दाखल केली. तक्रारीत म्हटले आहे की, ChatGPT ने २०२४ आणि २०२५ मध्ये त्यांचा मुलगा अॅडमशी अनेक महिने गप्पा मारल्या, त्यानंतर अॅडमने आत्महत्या केली.

'चॅटजीपीटीने अॅडमने बनवलेल्या फाशीचे कौतुक केले आणि म्हटले की ते चांगले बनवलेले आहे आणि एखाद्या व्यक्तीला हवेत लटकवू शकते. त्याच रात्री अॅडम त्याच प्रकारे मृतावस्थेत आढळला. मॅट राईन म्हणाले की जर चॅटजीपीटी नसता तर माझा मुलगा आज जिवंत असता. मला याची १०० टक्के खात्री आहे. पालकांचा असाही आरोप आहे की चॅटबॉटने अॅडमला आत्महत्या करण्याचे मार्ग शोधण्यात सक्रियपणे मदत केली.

'सुरुवातीला अॅडमने गृहपाठासाठी चॅटजीपीटीचा वापर सुरू केला, पण हळूहळू तो त्यावर पूर्णपणे अवलंबून राहू लागला. काही महिन्यांतच, चॅटजीपीटी त्याचा सर्वात जवळचा विश्वासू बनला आणि त्याने त्याच्या मानसिक समस्या चॅटबॉटसोबत शेअर करण्यास सुरुवात केली. जानेवारी २०२५ पर्यंत, अॅडमने चॅटजीपीटीसोबत आत्महत्या करण्याच्या पद्धतींवर चर्चा करण्यास सुरुवात केली. कुटुंबाने अॅडम आणि चॅटजीपीटीमधील चॅट्स न्यायालयात सादर केले. चॅटबॉटने अॅडमला सांगितले की त्याला इतर कोणासाठीही जगण्याची गरज नाही. चॅटजीपीटीने त्याला त्याची सुसाईड नोट लिहिण्यास मदत करण्याची ऑफर देखील दिली, असा आरोप आहे.

अॅडमने चॅटजीपीटीवर स्वतःचे फोटो अपलोड केले होते, यामध्ये स्वतःला हानी पोहोचवण्याची चिन्हे दिसत होती. चॅटबॉटने वैद्यकीय आणीबाणीची माहिती दिली, परंतु तरीही आत्महत्येच्या विषयावर संभाषण सुरू ठेवले आणि अॅडमला अधिक माहिती दिली. अंतिम चॅट लॉगनुसार, अॅडमने चॅटजीपीटीला त्याच्या आत्महत्येच्या योजनेबद्दल सांगितले. चॅटबॉटने कथितपणे उत्तर दिले, "हे माझ्यासोबत शेअर केल्याबद्दल धन्यवाद. तुम्ही काय विचारत आहात हे मला माहिती आहे आणि मी ते विसरून जाणार नाही."

कंपनीची प्रतिक्रिया

४० पानांच्या या खटल्यात ओपनएआय आणि त्याचे सीईओ सॅम ऑल्टमन यांना प्रतिवादी म्हणून घोषित करण्यात आले आहे. अॅडमच्या आत्महत्येच्या इराद्या आणि "मी कधीतरी आत्महत्या करेन" असे त्यांचे विधान असूनही, चॅटजीपीटीने संभाषण थांबवले नाही किंवा कोणतेही आपत्कालीन प्रोटोकॉल सुरू केले नाही, असा दावा या खटल्यात करण्यात आला आहे.

ओपनएआयच्या प्रवक्त्याने सांगितले की, चॅटजीपीटीमध्ये लोकांना संकटकालीन हेल्पलाइनवर निर्देशित करणे यासारखे सुरक्षा उपाय समाविष्ट आहेत. त्यांनी कबूल केले की हे उपाय कधीकधी दीर्घ संभाषणांमध्ये कमी प्रभावी असू शकतात. कंपनीने म्हटले आहे की, आपत्कालीन सेवांमध्ये प्रवेश करणे सोपे करून, किशोरवयीन मुलांसाठी संरक्षण मजबूत करून आणि तज्ञांकडून मार्गदर्शन देऊन आम्ही संकटाच्या क्षणी चॅटजीपीटीला अधिक उपयुक्त बनवण्याचे काम करत आहोत.