Il chatbot Grok di Elon Musk ha iniziato a limitare la capacità degli utenti non paganti di creare immagini sessuali deepfake giovedì dopo il rifiuto globale da parte di utenti e governi.
Alla fine del mese scorso, alcuni utenti hanno iniziato a taggare Grok sulla piattaforma di social media di Musk X come “mettilo in bikini” per creare immagini di disapprovazione di persone reali su X.
Le immagini trasformate, comprese immagini di celebrità, politici e alcuni minori, sono state create da Grok e pubblicate pubblicamente su X.
Prima che iniziassero le attuali restrizioni, Musk ha partecipato alla tendenza dell’intelligenza artificiale a vestirsi ordinando a Grok di creare foto di se stesso in bikini.
Utenti e autorità si sono lamentati e hanno minacciato di denunciare o punire X. Grok inizialmente si è scusato per le foto inappropriate dei bambini.
Ora X ha messo le controverse abilità di morphing di Grok dietro un paywall.
I governi, tra cui il Regno Unito e la Commissione Europea, hanno affermato di non essere soddisfatti della protezione di X perché la possibilità di creare e modificare immagini è ancora presente. disponibile Agli utenti paganti.
“Sebbene limitare la generazione di immagini tramite intelligenza artificiale agli utenti pagati possa ridurre in qualche modo il volume e migliorare la tracciabilità, gli abusi non sono stati fermati. Sono stati semplicemente messi dietro un muro di pagamento, consentendo a X di trarre profitto dai danni”, ha affermato Emma Pickering, responsabile degli abusi abilitati dalla tecnologia e dell’empowerment economico presso Refuge, in una nota.
L’indignazione pubblica per ciò che molti definiscono molestie legate all’intelligenza artificiale sta crescendo, con i regolatori che se ne accorgono, con alcuni che propongono di vietare X nei loro paesi.
Il primo ministro britannico, Keir Starmer, ha affermato che X ha “preso piede” in questa tendenza “disgustosa”. “Agiremo su questo problema perché semplicemente non è tollerabile”, ha detto Starmer.
In un velato respingimento, Musk sembrava criticare i regolatori del Regno Unito indignazione Ripubblicato un reclamo secondo cui ChatGPT consentiva la creazione di immagini in bikini di una persona non reale attraverso suggerimenti creativi e non ovvi.
Dopo aver condannato Grok per aver prodotto immagini sessuali, la Commissione europea ha ordinato a X di conservare tutti i documenti relativi a Grok per garantire il rispetto delle sue regole.
“Dovremmo potervi accedere se lo richiediamo espressamente”, ha detto un portavoce della commissione. conferenza stampa.
Anche Francia, India, Malesia e Brasile stanno testando la piattaforma.
Sebbene i personaggi pubblici fossero gli obiettivi principali dell’AI Dressing, presto raggiunse anche i privati. Il 3 gennaio, un utente ha richiesto a Grok di produrre immagini non consensuali e sessualizzate di donne sul posto di lavoro 50 volte al giorno, secondo un’analisi della società di rilevamento AI Copylix.
Esiste il gruppo per la giustizia di genere ultravioletto Organizza una campagna per fare pressione su Apple e Google affinché rimuovano X dai rispettivi app store perché X ha violato le loro linee guida sull’abuso sessuale su minori.
Musk ha posizionato il suo chatbot come un’alternativa più all’avanguardia rispetto ad alternative come Gemini, ChatGPT e Claude, che includono più Linee guida limitate Intorno alle richieste di contenuti espliciti.
