इलॉन मस्क यांच्या Grok AI या प्लॅटफॉर्मवर अश्लील फोटो बनवल्याचा आरोप करण्यात आला होता. या प्रकरणी त्या कंपनीविरोधात नोटीस पाठवण्यात आली होती. पण, अजूनही या टूलद्वारे अश्लील फोटो बनवल्याचे उघड झाले आहे. ग्रोक एआयने दोन आठवड्यांपेक्षा कमी कालावधीत जवळजवळ ३० लाख अश्लील फोटो तयार केल्या आहेत, त्यापैकी २३,००० मुलांचे आहेत.
हा अदाज सेंटर फॉर काउंटरिंग डिजिटल हेटने हा लावला आहे. इलॉन मस्क यांच्या एआय इमेज जनरेशन टूलमुळे देखील संताप व्यक्त झाला आहे, कारण काही लोक अनोळखी आणि सेलिब्रिटींचे फोटो टूलवर अपलोड करत करुन अश्लील फोटोंमध्ये रूपांतरित करत आहेत.
मस्क यांच्या ग्रोकवर सरकार आणि जनतेकडून टीका झाली आहे. डिजिटल इंटेलिजेंस कंपनी पेरिटन इंटेलिजेंसच्या विश्लेषणानुसार, नवीन वर्षात हा ट्रेंड व्हायरल झाला आणि २ जानेवारी रोजी १९९,६१२ वेगवेगळ्या विनंत्यांसह शिखरावर पोहोचला. सेंटर फॉर काउंटरिंग डिजिटल हेटने २९ डिसेंबर २०२५ ते ८ जानेवारी २०२६ पर्यंत त्याच्या आउटपुटचे संपूर्ण मूल्यांकन केले.
ग्रोकने अश्लील फोटो तयार केल्यानंतर ९ जानेवारी रोजी कंपनीने पेड वापरकर्त्यांसाठी फोटो निर्मिती मर्यादित केली. यूकेचे पंतप्रधान केयर स्टारमर यांनी परिस्थिती 'घृणास्पद' आणि 'लज्जास्पद' असल्याचे वर्णन केल्यानंतर आणखी निर्बंध लादण्यात आले.
इंडोनेशिया आणि मलेशियासह इतर देशांनीही एआय टूलवर बंदी जाहीर केली आहे. ११ दिवसांच्या कालावधीत, ग्रोक दर ४१ सेकंदांनी बाल पोर्नोग्राफी तयार करत होता.
Web Summary : Elon Musk's Grok AI faced criticism for generating explicit images, including child abuse material. Nearly three million images were created in under two weeks, prompting restrictions and condemnation from governments and the public.
Web Summary : एलन मस्क के Grok AI पर अश्लील तस्वीरें बनाने का आरोप है, जिसमें बाल शोषण सामग्री भी शामिल है। दो सप्ताह से भी कम समय में लगभग तीस लाख तस्वीरें बनाई गईं, जिसके बाद सरकारों और जनता से प्रतिबंध और निंदा हुई।