Grock afferma di aver limitato la creazione di immagini ai follower a causa delle preoccupazioni sui deepfake. Ma è vero?

Lo strumento di intelligenza artificiale di Elon Musk, Grok, afferma che ora è disponibile solo per un numero X di abbonati a pagamento. La mossa arriva dopo le proteste per le immagini sessuali e violente che, secondo quanto riferito, sarebbero state generate dall’intelligenza artificiale della piattaforma.

All’inizio di questa settimana, c’erano novità che Grok, in risposta alle richieste degli utenti, ha rimosso digitalmente immagini di abbigliamento femminile senza il loro consenso. Anche gli utenti X lo erano secondo quanto riferito, chiedendo al chatbot manipolare fotografie di donne per farle apparire in costume da bagno o anche in situazioni sessuali.

Ora, quando gli utenti abbonati non paganti chiedono a Grock di modificare un’immagine, Grock risponde con il seguente messaggio, esaminato da Mashable: “La creazione e la modifica delle immagini sono attualmente disponibili solo per gli abbonati a pagamento. Puoi iscriverti per sbloccare queste funzionalità”, con un collegamento alla pagina di registrazione di X Premium.

Sebbene Grok abbia ripetutamente affermato che questa funzionalità è a pagamento, The Verge se ne accorse che “non genera più immagini come risposte gratuite di @grok, ma gli strumenti di modifica delle immagini di Grok rimangono prontamente disponibili per qualsiasi utente X per creare immagini, sia sessualizzate che fatte a mano.”

In assenza del servizio stampa di X, I chiesto Grok cosa sta succedendo. (Mashable ha anche contattato diversi account e-mail di X per commenti ma non ha ricevuto risposta.) Grok non aveva risposto alle mie richieste al momento della pubblicazione. Quindi non sappiamo ancora del tutto quale sia lo stato delle cose. C’è un addebito per la verifica dell’immagine o no? Se solo qualcuno potesse dircelo (*tosse* Elon?).

Gli analisti di questa settimana Lo ha riferito l’organizzazione benefica britannica Internet Watch Foundation. hanno trovato “immagini criminali”, comprese “immagini sessualizzate e in topless” di bambini di età compresa tra 11 e 13 anni, su un “forum sul dark web” senza nome, che gli utenti hanno affermato essere state create utilizzando Grok. Di lunedi Lo ha affermato l’autorità britannica di regolamentazione delle comunicazioni Ofcom. ha “preso contatti urgenti” con X e xAI riguardo alle “immagini sessualizzate di bambini” presumibilmente create da Grok.

Grok ha ammesso la scorsa settimana che la creazione di immagini di “minori in abiti minimali” fa parte di un problema più ampio con i deepfake. “xAI dispone di misure di sicurezza, ma sono in corso miglioramenti per bloccare completamente tali richieste”, ha affermato Grok nella sua risposta.

Questo tweet non è al momento disponibile. Potrebbe essere in fase di download o è stato eliminato.

Grock è attualmente indagato dai governi di Francia, India e Malesia per aver creato deepfake sessualizzati, in quello che sembra essere l’inizio di una repressione globale sugli assistenti di intelligenza artificiale.

Questo tweet non è al momento disponibile. Potrebbe essere in fase di download o è stato eliminato.

La notizia che Grok sarà ora disponibile solo per gli abbonati a pagamento non va lontano, su richiesta ha affermato il portavoce del primo ministro britannico Sir Keir Starmer, che ha definito la mossa “offensiva” nei confronti delle vittime di violenza sessuale e misoginia.

Downing Street ha detto ai giornalisti che la creazione di immagini dietro un paywall “trasforma semplicemente la funzione di intelligenza artificiale che consente la creazione di immagini illegali in un servizio premium”.

All’inizio di questa settimana Starmer detto in un’intervista che la creazione da parte di Grok di immagini sessualizzate di donne e bambini è stata “vergognosa” e “disgustosa”, dicendo: “Questo non può essere tollerato… Ofcom ha il nostro pieno sostegno nell’agire al riguardo”.

Ciò potrebbe significare che il governo del Regno Unito potrebbe bandire X se il proprietario di X, Elon Musk, non implementasse protezioni adeguate sulla sua piattaforma. L’autorità di regolamentazione Ofcom ha il potere di bloccare un sito Web o un’app nel Regno Unito a seguito di un’ordinanza del tribunale, nonché di multare l’azienda pari al 10% del suo fatturato globale.

Mashable ha contattato X per un commento. Al momento della pubblicazione, X non aveva commentato pubblicamente la questione.

Se hai subito violenza sessuale, chiama il numero verde riservato e riservato per le aggressioni sessuali al numero 1-800-656-HOPE (4673) o ottieni assistenza online 24 ore su 24, 7 giorni su 7 visitando online.rainn.org.