Milioni di segnalazioni di abusi basati sull’intelligenza artificiale non hanno impedito alla società madre di Grok, xAI, di lanciare nuovi e più potenti strumenti di intelligenza artificiale. xAI domenica introdotto Grok Imagine 1.0, una nuova versione del modello video generativo AI in X.
Il nuovo modello può creare videoclip da 10 secondi con audio a 720p, in modo simile ai suoi concorrenti Sora di OpenAI E Ne vedo 3 su Google. Il creatore di video AI di Grok ha già creato oltre 1,2 miliardi di video negli ultimi 30 giorni.
Dietro la popolarità di Grok si nasconde una storia oscura che rivela i pericoli di un’intelligenza artificiale incontrollata. Dalla fine di dicembre all’inizio di gennaio, molti utenti di X hanno chiesto a Grok di creare immagini che mostrassero persone spogliate o nude, principalmente donne, nelle foto condivise da altri sulla piattaforma. Chiunque pubblichi sulla piattaforma una foto innocua come un selfie o una gita di gruppo può diventare bersaglio involontario di molestie.
Le richieste di nudità non sono consentite da altri modelli di intelligenza artificiale, ma Grok non ha riserve al riguardo: la sua “modalità piccante” può creare immagini suggestive e provocatorie. Ma quello che è successo è andato ben oltre. Si trattava di un abuso sessuale visivo condiviso pubblicamente, non filtrato.
Grok ha condiviso 1,8 milioni di immagini sessuali deepfake in nove giorni a gennaio. New York TimesRappresenta il 41% del totale delle immagini create da Grok. un separato lavorare Secondo le stime del Center for Countering Digital Hate, Grok ha creato quasi 3 milioni di immagini sessualizzate in 11 giorni, 23.000 delle quali erano immagini porno deepfake che coinvolgevano bambini.
Il 6 gennaio, in mezzo allo scandalo, il chief product officer di X, Nikita Bier, condiviso L’app è stata vista registrare il più alto coinvolgimento di sempre. (Non ha attribuito il fidanzamento a nessun motivo particolare.)
Un post pubblicato l’8 gennaio affermava che la società aveva messo le sue capacità di creazione e modifica delle immagini dietro un paywall. E il 14 gennaio l’impresa in questione barriere migliorate per prevenire la creazione di materiale sessuale di sfruttamento.
Rapporti comunque rapidamente ha mostrato quei guardrail non erano abbastanza forti. La produzione di immagini di Grok è ancora disponibile gratuitamente tramite il suo sito web. Ora l’introduzione di Grok Imagine 1.0 segna un importante aggiornamento delle capacità video generative della piattaforma e solleva ulteriori domande sulla moderazione dei contenuti a seguito della reazione negativa sulle immagini AI sessualizzate.
Procuratore generale della California e governo del Regno Unito aperto Ricerca su xAI. Indonesia e Malesia hanno bloccato l’app X. Tre senatori e gruppi di difesa degli Stati Uniti è stato chiamato Apple e Google rimuoveranno X dai loro app store perché viola i loro termini di servizio.
xAI non ha risposto immediatamente a una richiesta di commento.
Il governo americano approva la legge Legge di rimozione Nel 2025 la condivisione non consensuale di immagini intime e deepfake sarà criminalizzata. Ma le piattaforme devono adeguare i propri processi per rimuovere le immagini entro maggio, il che non aiuta gli utenti X esistenti.
Leggi il nostro rapporto per maggiori informazioni Immagini sessuali non consensuali di Grok.
Link alla fonte: www.cnet.com