इलॉन मस्क यांच्या Grok AI मध्ये सुधारणा नाही, ११ दिवसांत ३० लाख अश्लील फोटो केले तयार

Grok AI ने अंदाजे ३० लाख अश्लील फोटो तयार केल्याचे समोर आले आहे. आता पुन्हा एकदा ग्रोक वादात सापडले आहे. यामुळे आता या एआय टूलवर बंदी आणण्याची मागणी होत आहे.

इलॉन मस्क यांच्या Grok AI  या प्लॅटफॉर्मवर अश्लील फोटो बनवल्याचा आरोप करण्यात आला होता. या प्रकरणी त्या कंपनीविरोधात नोटीस पाठवण्यात आली होती. पण, अजूनही या टूलद्वारे अश्लील फोटो बनवल्याचे उघड झाले आहे. ग्रोक एआयने दोन आठवड्यांपेक्षा कमी कालावधीत जवळजवळ ३० लाख अश्लील फोटो तयार केल्या आहेत, त्यापैकी २३,००० मुलांचे आहेत.

हा अदाज सेंटर फॉर काउंटरिंग डिजिटल हेटने हा लावला आहे. इलॉन मस्क यांच्या एआय इमेज जनरेशन टूलमुळे देखील संताप व्यक्त झाला आहे, कारण काही लोक अनोळखी आणि सेलिब्रिटींचे फोटो टूलवर अपलोड करत करुन अश्लील फोटोंमध्ये रूपांतरित करत आहेत. 

मस्क यांच्या ग्रोकवर सरकार आणि जनतेकडून टीका झाली आहे. डिजिटल इंटेलिजेंस कंपनी पेरिटन इंटेलिजेंसच्या विश्लेषणानुसार, नवीन वर्षात हा ट्रेंड व्हायरल झाला आणि २ जानेवारी रोजी १९९,६१२ वेगवेगळ्या विनंत्यांसह शिखरावर पोहोचला. सेंटर फॉर काउंटरिंग डिजिटल हेटने २९ डिसेंबर २०२५ ते ८ जानेवारी २०२६ पर्यंत त्याच्या आउटपुटचे संपूर्ण मूल्यांकन केले.

ग्रोकने अश्लील फोटो तयार केल्यानंतर ९ जानेवारी रोजी कंपनीने पेड वापरकर्त्यांसाठी फोटो निर्मिती मर्यादित केली. यूकेचे पंतप्रधान केयर स्टारमर यांनी परिस्थिती 'घृणास्पद' आणि 'लज्जास्पद' असल्याचे वर्णन केल्यानंतर आणखी निर्बंध लादण्यात आले.

इंडोनेशिया आणि मलेशियासह इतर देशांनीही एआय टूलवर बंदी जाहीर केली आहे. ११ दिवसांच्या कालावधीत, ग्रोक दर ४१ सेकंदांनी बाल पोर्नोग्राफी तयार करत होता.