La madre del figlio di Elon Musk fa causa a xAI per immagini deepfake | Stati Uniti | Notizia

La madre di uno dei figli di Elon Musk ha intrapreso un’azione legale contro la sua società di intelligenza artificiale dopo essere stata accusata di aver creato un’immagine deepfake sessualmente esplicita di lei.

Ashley St. Clair, 27 anni, afferma che il chatbot Grok dell’azienda ha consentito agli utenti di creare immagini deepfake del suo sfruttamento sessuale. Ciò la lasciò estremamente imbarazzata ed emotivamente traumatizzata.

L’imputato si descrive come uno scrittore e uno stratega politico. Una causa intentata contro xAI giovedì a New York City ha affermato che l’immagine includeva una sua foto completamente vestita quando aveva 14 anni che era stata modificata per mostrarla in bikini. insieme ad altre immagini la mostra da adulta in una posa sessuale e con indosso un bikini decorato con una svastica. St. Clair era ebrea.

Grok lavora sulla piattaforma di social media di Musk X. I rappresentanti legali di xAI non hanno risposto immediatamente a una richiesta di commento venerdì, ha riferito l’Associated Press.

Mercoledì, dopo una protesta internazionale per le immagini sessuali di donne e bambini, X ha annunciato che a Grok non sarebbe stato permesso di modificare le foto per rappresentare persone reali. nel rivelare abiti nelle giurisdizioni in cui ciò è vietato

Alla domanda sulla causa e sulle affermazioni, xAI ha risposto solo con “Legacy Media Lies” in un’e-mail all’Associated Press.

St. Clair ha detto di aver segnalato i deepfake a X dopo che avevano iniziato ad apparire l’anno scorso e di aver chiesto che venissero rimossi. Ha detto che la piattaforma inizialmente ha risposto che l’immagine non violava le sue politiche.

Poi ha promesso che non avrebbe permesso che le sue immagini fossero usate o modificate senza il suo consenso, ha detto. St Clair sostiene che la piattaforma di social media ha successivamente reagito revocando il suo abbonamento X premium e il badge di verifica dell’identità. Ciò le ha impedito di monetizzare il suo account, che aveva 1 milione di follower, consentendo comunque che continuasse la diffusione di sue foto false e degradanti.

“Ho sofferto e continuo a soffrire un forte dolore e disagio mentale a causa del ruolo di xAI nella creazione e distribuzione di queste mie immagini alterate digitalmente”, ha affermato nella documentazione. “Mi vergogno e sento che questo incubo non finirà mai finché Grok continuerà a plasmare la mia immagine.”

Ha anche rivelato che vive nella paura che le persone guardino i suoi falsi.

St. Clair è la madre del figlio di 16 mesi di Musk, Romulus. Vive a New York City. che ha depositato presso la Corte Suprema dello stato.

Sta chiedendo danni non specificati per aver presumibilmente causato disagio emotivo e altre richieste, insieme a un’ordinanza del tribunale che vieta immediatamente a xAI di consentire un’ulteriore imitazione di lei.

Più tardi giovedì i rappresentanti legali di xAI hanno trasferito il caso al tribunale federale di Manhattan. per chiedere al giudice di esaminare il caso lì. Lo stesso giorno, xAI ha anche intentato una causa contro St Clair presso il tribunale federale del distretto settentrionale del Texas. L’ha accusata di aver violato i termini del suo contratto utente xAI, che le imponeva di citare in giudizio la società presso un tribunale federale in Texas.

Ora si chiede un giudizio finanziario non specificato contro di lei.

Carrie Goldberg, che rappresenta St. Clair; ha descritto l’accusa come una tattica “scioccante” che non aveva mai visto prima da un imputato. “La signorina St. Clair difenderà vigorosamente la sua piattaforma a New York”, ha detto Goldberg.

“Ma francamente qualsiasi giurisdizione accetterà le affermazioni della signora St. Clair secondo cui producendo immagini sessualmente esplicite di ragazze e donne senza il loro consenso, xAI costituisce un disturbo pubblico ed è un prodotto ragionevolmente pericoloso.”

Nell’annuncio di mercoledì, X ha confermato che sta introducendo ulteriori protezioni per Grok, inclusa la limitazione della creazione e della modifica di immagini agli abbonati a pagamento. che si sostiene aumenti la responsabilità. La piattaforma afferma di non tollerare lo sfruttamento sessuale dei bambini. Nudità senza consenso e contenuti sessuali indesiderati Si impegna a rimuovere tali contenuti e a denunciare immediatamente alle autorità gli account che distribuiscono contenuti di abusi sessuali su minori.