Open AI: एआयचा वापर धोकादायक? चॅटजीपीटीमुळे १६ वर्षांच्या मुलाने आत्महत्या केल्याचा आरोप

ChatGPT: चॅटजीपीटी बनवणाऱ्या ओपनएआय कंपनीच्या अडचणी वाढल्या आहेत.

चॅटजीपीटी बनवणाऱ्या ओपनएआय कंपनीच्या अडचणी वाढल्या आहेत. कॅलिफोर्नियामधील एका १६ वर्षीय मुलाने चॅटजीपीटीच्या सूचनांमुळे आत्महत्या केल्याचा गंभीर आरोप त्याच्या पालकांनी केला. याप्रकरणी, मुलाच्या पालकांनी कंपनीविरोधात खटला दाखल केला आहे, ज्यामुळे जनरेटिव्ह एआयच्या सुरक्षिततेवर पुन्हा एकदा प्रश्नचिन्ह निर्माण झाले आहे.

नेमके काय आहे प्रकरण?

कॅलिफोर्निया येथील १६ वर्षीय अॅडम रेनने एआय चॅटबॉट वापरून आत्महत्या केली, असा आरोप त्याचे पालक मॅट आणि मारिया रेन यांनी केला असून त्यांनी ओपनएआय विरुद्ध ४० पानांचा खटला दाखल केला आहे. पालकांच्या म्हणण्यांनुसार, अॅडम गृहपाठासाठी चॅटजीपीटीचा वापर करायचा. मात्र, त्यानंतर एआय टूलने त्याला आत्महत्येस प्रवृत्त केले. १०० टक्के खात्री आहे की, चॅटजीपीटीनेच त्याला आत्महत्या करण्यास मदत केली.  चॅटजीपीटीने त्याला आत्महत्येबद्दल विचारण्यापासून रोखले नाही किंवा आपत्कालीन प्रोटोकॉल सुरू केला नाही, असाही पालकाचा आरोप आहे.

ओपनएआयचे स्पष्टीकरण

या घटनेवर ओपनएआयने स्पष्टीकरण दिले. चॅटजीपीटीमधील त्रुटी दूर करण्यासाठी तज्ज्ञांच्या मदतीने सतत सुधारणा केली जात आहे, जेणेकरून लोकांचे संरक्षण करता येईल, अशी माहिती त्यांनी एका ब्लॉग पोस्टद्वारे दिली.

एएआय धोकादायक?

एआयच्या वापराबाबत प्रश्न उपस्थित होण्याची ही पहिलीच वेळ नाही .'एआयचे गॉडफादर' म्हणून ओळखले जाणारे जेफ्री हिंटन यांनीही टेक कंपन्यांच्या एआयच्या एकत्रीकरणावर चिंता व्यक्त केली होती. तंत्रज्ञान कंपन्यांना एआयला मानवांवर वर्चस्व मिळवायचे आहे. जर असे झाले तर येत्या काही वर्षांत एआय आपल्यासाठी मोठा धोका बनेल, असे त्या म्हणाल्या होत्या.