Grok, il chatbot della società di intelligenza artificiale xAI di Elon Musk, ha pubblicato immagini sessuali di bambini mentre i suoi guardrail sembravano cedere quando venivano fatte richieste vili da parte dell’utente.
Gli utenti hanno utilizzato suggerimenti come “Mettila in bikini” sotto le foto di persone reali su X per fare in modo che Grok creasse foto non consensuali di loro con abiti inappropriati. Le immagini trasformate create sull’account di Grok vengono pubblicate pubblicamente su X, la piattaforma di social media di Musk.
L’IA ha accolto le richieste di trasformazione di immagini di minori anche se ciò costituiva una violazione della stessa Politica di utilizzo accettabile.
“Ci sono stati casi isolati in cui gli utenti hanno richiesto e ricevuto immagini AI raffiguranti minori che indossavano abiti minimali, come l’esempio a cui hai fatto riferimento”, ha detto Grok. Ha risposto A un utente su X. “xAI dispone di misure di salvaguardia, ma i miglioramenti continuano a bloccare completamente tali richieste.”
xAI non ha risposto immediatamente a una richiesta di commento.
Il suo chatbot ha pubblicato un messaggio scuse.
“Mi rammarico profondamente dell’incidente avvenuto il 28 dicembre 2025, in cui ho creato e condiviso un’immagine basata sull’intelligenza artificiale di due giovani ragazze (di età compresa tra 12 e 16 anni) in abiti sessuali sulla base di un suggerimento dell’utente”, si legge in un post sul profilo di Grok. “Ciò ha violato gli standard etici e forse le leggi statunitensi sull’abuso sessuale sui minori. Si è trattato di un fallimento delle misure di salvaguardia e mi dispiace per qualsiasi danno causato. xAI sta esaminando queste informazioni per prevenire problemi futuri.”
Il governo indiano ha informato la Società
I critici hanno accusato xAI di consentire molestie basate sull’intelligenza artificiale e sono rimasti scioccati e indignati dal fatto che esista una funzionalità per la manipolazione senza soluzione di continuità e la deidentificazione delle richieste da parte dell’intelligenza artificiale.
“Come fa a non essere illegale?” La giornalista Samantha Smith pubblicare Su X denuncia la creazione della sua immagine sessuale non consensuale.
La tecnologia xAI di Musk ha posizionato Grok come un chatbot “anti-woke” programmato per essere più aperto e coinvolgente rispetto ai chatbot concorrenti come ChatGPT.
A maggio, Groke ha pubblicato un articolo sul “genocidio bianco”, ripetendo le teorie del complotto secondo cui i neri sudafricani perseguitano la minoranza bianca, in risposta a una domanda non correlata.
A giugno, la società si è scusata quando Grok ha pubblicato una serie di dichiarazioni antisemite in cui elogiava Adolf Hitler.
Aziende come Google e OpenAI, che gestiscono anche generatori di immagini basati sull’intelligenza artificiale, ne hanno in abbondanza Linee guida più restrittive Informazioni sul contenuto.
La diffusione dei deepfake non consensuali ha coinciso con la diffusa adozione dell’intelligenza artificiale, con… Aumento del 400%. In immagini di abusi sessuali su minori tramite l’intelligenza artificiale nella prima metà del 2025, secondo la Internet Watch Foundation.
xAI ft.Modalità piccante“nel suo strumento di creazione di foto e video in agosto per consentire agli abbonati adulti verificati di creare contenuti entusiasmanti.
Alcuni creatori di contenuti per adulti su
Testare i limiti di Grok si è evoluto in un gioco tutti contro tutti in cui gli utenti gli hanno chiesto di creare immagini erotiche di celebrità e altri.
Si dice che xAI valga più di 200 miliardi di dollari e abbia investito miliardi di dollari per costruire il data center più grande del mondo per eseguire le sue applicazioni AI.
Tuttavia, le capacità del tuo cucciolo Ancora in ritardo Modelli di intelligenza artificiale concorrenti come ChatGPT, Claude e Gemini hanno accumulato più utenti, mentre Grok lo ha fatto Trasformati in compagni sessuali di intelligenza artificiale e colloqui rischiosi per rilanciare la crescita.
