Di KELVIN CHAN, scrittore aziendale di AP
LONDRA (AP) – Grok, il chatbot AI di Elon Musk, sta impedendo agli utenti non paganti di generare o modificare immagini dopo che è scoppiata una reazione globale sui deepfake sessualizzati di persone, ma il cambiamento non ha soddisfatto le autorità europee.
Il chatbot, accessibile tramite la piattaforma di social media X di Musk, nelle ultime settimane ha messo in campo un’ondata di quelle che secondo i ricercatori sono richieste di utenti dannosi di alterare immagini, incluso mettere donne in bikini o in posizioni sessualmente esplicite.
I ricercatori hanno avvertito che in alcuni casi alcune immagini sembravano raffigurare bambini. I governi di tutto il mondo hanno condannato la piattaforma e avviato indagini.
Venerdì, Grok ha risposto alle richieste di modifica delle immagini con il messaggio: “La generazione e la modifica delle immagini sono attualmente limitate agli abbonati paganti. Puoi iscriverti per sbloccare queste funzionalità”.
Anche se i numeri degli abbonati a Grok non sono disponibili al pubblico, venerdì c’è stata una notevole diminuzione del numero di deep fake espliciti che Grok sta ora generando rispetto a pochi giorni prima.
Grok consentiva ancora richieste di foto, ma solo da utenti X con un segno di spunta blu assegnato agli abbonati premium che pagano 8 dollari al mese per funzionalità che includono limiti di utilizzo più elevati per il chatbot.
Un portavoce di X non ha risposto immediatamente a una richiesta di commento.
Le restrizioni sugli utenti diversi dagli abbonati paganti non sembrano cambiare la percezione dei dirigenti o dei regolatori in Europa.
“Ciò non cambia il nostro problema fondamentale. Abbonamento a pagamento o abbonamento non pagato, non vogliamo vedere immagini del genere. È così semplice”, ha detto Thomas Regnier, portavoce della commissione esecutiva dell’UE. La commissione aveva precedentemente criticato Grok per un comportamento “illegale” e “spaventoso”.
Anche il governo britannico era scontento.
I cambiamenti di Grok “non sono una soluzione”, ha detto Geraint Ellis, portavoce del primo ministro britannico Keir Starmer, che giovedì aveva minacciato azioni non specificate contro X.
“In effetti, è un insulto per le vittime della misoginia e della violenza sessuale”, ha detto, sottolineando che ciò dimostra che X “può muoversi rapidamente quando vuole”.
“Ci aspettiamo un’azione rapida”, ha detto, aggiungendo che “tutte le opzioni sono sul tavolo”.
Starmer, parlando alla radio Greatest Hits, aveva detto che gli X hanno bisogno di “mettersi insieme e buttare giù questo materiale. Prenderemo provvedimenti perché semplicemente non è tollerabile”.
Sia i media britannici che i regolatori della privacy hanno dichiarato questa settimana di aver contattato X e la società di intelligenza artificiale xAI di Musk per informazioni sulle misure adottate per conformarsi alle normative del Regno Unito.
Anche Francia, Malesia e India hanno esaminato attentamente la piattaforma e un deputato brasiliano ha chiesto un’indagine. La Commissione Europea ha ordinato a X di conservare tutti i documenti e i dati interni relativi a Grok fino alla fine del 2026, come parte di un’indagine più ampia ai sensi della legge sulla sicurezza digitale dell’UE.
Grok è gratuito per gli utenti X, che possono porre domande sulla piattaforma dei social media. Possono taggarlo nei post che hanno creato direttamente o nelle risposte ai post di altri utenti.
Grok è stato lanciato nel 2023. L’estate scorsa, la società ha aggiunto una funzionalità di generazione di immagini, Grok Imagine, che includeva una cosiddetta “modalità piccante” in grado di generare contenuti per adulti.
Il problema è aggravato sia perché Musk presenta il suo chatbot come un’alternativa più all’avanguardia ai rivali con maggiori misure di sicurezza, sia perché le foto di Grok sono visibili pubblicamente e possono quindi essere facilmente diffuse.
Gli scrittori di AP Jill Lawless a Londra e Lorne Cook a Bruxelles hanno contribuito a questo rapporto.
