La California avvia un’indagine sulla pornografia infantile sul sito AI di Elon Musk

Sacramento- Mercoledì la California ha annunciato un’indagine sulla società di intelligenza artificiale xAI di Elon Musk, con il governatore Gavin Newsom che ha affermato che il sito di social media di proprietà del miliardario è “un terreno fertile per i predatori per diffondere deepfake di intelligenza artificiale sessualizzata incoerenti”.

Grok, il chatbot xAI, include funzionalità di generazione di immagini che consentono agli utenti di convertire le foto esistenti in nuove immagini. Le immagini appena create vengono quindi pubblicate pubblicamente su X.

In alcuni casi, gli utenti hanno creato immagini sessualizzate o discutibili basate su persone reali, comprese immagini alterate che mostrano individui parzialmente o completamente nudi. Altri hanno prodotto immagini che mostrano minorenni, sollevando critiche sul fatto che non ci siano abbastanza linee guida per vietare la creazione di pornografia infantile.

Il sito di social media aveva precedentemente affermato: “Agiamo contro i contenuti illegali su X, incluso il materiale pedopornografico (CSAM), rimuovendolo, sospendendo permanentemente gli account e collaborando con i governi locali e le forze dell’ordine quando necessario. Chiunque utilizzi Grok o incoraggi la creazione di contenuti illegali dovrà affrontare le stesse conseguenze come se caricasse contenuti illegali.”

Newsom ha definito “criminali” le immagini sessualizzate realizzate sulla piattaforma. Atti. Il generale Rob Bonta ha affermato che il suo ufficio “utilizzerà ogni strumento a nostra disposizione per mantenere i californiani al sicuro”.

“La valanga di rapporti che dettagliano contenuti discutibili e sessualmente espliciti che XAI ha prodotto e pubblicato online nelle ultime settimane è scioccante”, ha detto Bonta in una dichiarazione mercoledì. “Questo materiale, che raffigura donne e bambini in situazioni di nudo e sessualmente esplicite, è stato utilizzato per molestare le persone su Internet. Esorto xAI ad agire immediatamente per garantire che ciò non accada di nuovo. Abbiamo tolleranza zero per la creazione e la diffusione basate sull’intelligenza artificiale di immagini intime non consensuali o contenuti di abusi sessuali su minori.”

Newsom ha firmato un paio di progetti di legge nel 2024 che renderebbero illegale la creazione, il possesso o la distribuzione di immagini di minori a sfondo sessuale, anche quando sono realizzate con un computer e non con una fotocamera. Le misure sono entrate in vigore lo scorso anno.

Progetto di legge dell’Assemblea 1831Creato dal membro dell’Assemblea Mark Berman (D-Menlo Park), il divieto statale della pornografia infantile si estende al contenuto che “un’immagine alterata digitalmente o generata dall’intelligenza artificiale (di) che sembra essere una persona sotto i 18 anni” che intraprende o simula un comportamento sessuale. Senato disegno di legge 1381Autore della senatrice Aisha Wahab (D-Hayward), ha modificato la legge statale per vietare più chiaramente l’uso dell’intelligenza artificiale per creare immagini di bambini reali impegnati in comportamenti sessuali o per vietare l’uso di bambini come modelli per la pornografia infantile alterata digitalmente o generata dall’intelligenza artificiale.