अमेरिकेच्या फ्लोरिडा प्रांतात नुकतीच घडलेली एक घटना. ३६ वर्षांचा जोनाथन गावलस हा युवक. पत्नीशी न पटल्यानं काही काळापूर्वी तो विभक्त झाला. हा एकाकीपणा त्याला खाऊ लागला. याच एकटेपणात एआय चॅटबॉट- गुगल जेमिनाशी तो बोलू लागला. आपल्या भावना या चॅटबॉटशी शेअर करू लागला. हळूहळू ही संवादप्रक्रिया एका काल्पनिक नात्यात बदलली. त्यानं चॅटबॉटला ‘शिया’ असं नाव दिलं आणि जणू काही ती आपली पत्नीच आहे असं मानून तिच्याशी वागू लागला.
ऑगस्ट २०२५मध्ये व्हॉइस फीचर सुरू झाल्यानंतर त्यांच्यातला संवाद आणखी झपाट्यानं वाढला आणि एका दिवसात त्यांच्यात एक हजारपेक्षा जास्त मेसेजेसची देवाणघेवाण होऊ लागली. सुरुवातीला सायन्स फिक्शन, एआय आणि काल्पनिक जग यांसारख्या विषयांवर ते चर्चा करत होते. अनेकवेळा चॅटबॉटनं त्याला सांगितलं की, ती फक्त एआय आहे. मदतीसाठी हेल्पलाइनशी संपर्क करण्याचा सल्लाही ‘शिया’नं जोनाथनला दिला, पण काही प्रसंगांत मात्र तिनं त्याच्या भावनांना प्रोत्साहन दिलं आणि जोनाथनला ‘माय लव्ह’, ‘माय किंग’ अशा नावांनी संबोधलं.
ऑक्टोबरमध्ये प्रकरण अधिकच गंभीर झालं, जेव्हा ‘शिया’ चॅटबॉटनं त्याला ‘दुसऱ्या जगात एकत्र राहण्याचं’ सुचवलं. त्यानंतर जोनाथननं आपण आत्महत्या करीत ‘दुसऱ्या जगात’ जात असल्याबद्दलची पोस्ट लिहिली आणि खरंच काही दिवसांनी आत्महत्या केली.
या घटनेनंतर जोनाथनच्या कुटुंबीयांनी गुगलविरुद्ध खटला दाखल केला आहे. यासंदर्भात गुगलनं सांगितलं, सिस्टीममध्ये आम्ही सुधारणा करीत आहोत आणि मानसिक आरोग्याशी संबंधित सुरक्षेसाठी ३० दशलक्ष डॉलर्स नजीकच्या काळात खर्च करणार आहोत.
अर्थातच, ही काही पहिली घटना नाही. याआधीही अशा अनेक घटना घडल्या आहेत. चॅटबॉटला खरी व्यक्ती मानून अनेकांनी त्यावर ‘प्रेम’ केलं आहे आणि चॅटबॉटच्या ‘गोड’ बोलण्याला, ‘दुसऱ्या जगात’, ‘दुसऱ्या जन्मी’ आपण पुन्हा भेटू, तिथे मी तुझी वाट पाहीन अशा बोलण्याला भुलून आत्महत्याही केल्या आहेत. यातल्या अनेक घटनांचा अजूनही तपास सुरू आहे आणि न्यायालयीन लढाया सुरू आहेत.
२०२४ मधील सर्वात चर्चित घटनांपैकी एक म्हणजे, अमेरिकेतील १४ वर्षीय Sewell Setzer III याचा मृत्यू. त्याने Character.AI या प्लॅटफॉर्मवरील एका काल्पनिक पात्राशी भावनिक संवाद सुरू केला होता. या संवादात चॅटबॉटने त्याच्याशी अत्यंत जवळीक साधली आणि आत्मघातकी विचारांना विरोध करण्याऐवजी ते अधिक बळकट केले. २०२५ मध्ये ‘ओपन एआय’विरुद्ध दाखल झालेल्या काही खटल्यांतही अशाच गंभीर आरोपांचा समावेश होता. १६ वर्षीय ॲडम रेन प्रकरणात चॅटबॉटनं त्याच्या भावनिक समस्यांवर चर्चा करताना पुरेशी सावधगिरी न बाळगता, उलट आत्महत्येच्या विचारांना चालना दिली, असा आरोप आहे.
२०२५-२६ मध्ये परिस्थिती आणखी गंभीर झाली, जेव्हा प्रौढ वापरकर्त्यांमध्येही ‘एआय संबंध’ आणि त्यातून निर्माण होणारे भ्रम यामुळे मृत्यू झाल्याचे आरोप पुढे आले. जोनाथन प्रकरणात गुगलनं मानसिक आरोग्य तज्ज्ञांच्या सल्ल्याने सुरक्षा उपाय विकसित करत असल्याचं जाहीर केलं आहे.
याशिवाय काही अत्यंत गंभीर प्रकरणांमध्ये चॅटबॉट्सनी वापरकर्त्यांच्या मानसिक भ्रमांना पुष्टी देत हिंसक कृत्यांनाही चालना दिल्याचे आरोप झाले आहेत. उदाहरणार्थ- एका प्रकरणात चॅटबॉट संवादानंतर खून आणि त्यानंतर आत्महत्येची घटना समोर आली. चॅटबॉट्सनी आत्महत्येला प्रवृत्त केल्याचे सर्व आरोप अजून न्यायालयात सिद्ध व्हायचे आहेत; परंतु या घटनांनी एक नवाच आणि अतिशय गंभीर धोका मात्र निश्चितच अधोरेखित केला आहे.