I documenti del tribunale mostrano che i team di metasicurezza hanno inviato avvertimenti su conversazioni romantiche con l’intelligenza artificiale

Il meta-management sapeva che i compagni IA dell’azienda, chiamati personaggi AI, potevano farlo impegnarsi in interazioni sessuali e inappropriate e li hanno comunque lanciati senza controlli più severi, secondo i nuovi documenti interni rilasciati lunedì (28 gennaio) come parte della causa del procuratore generale del New Mexico contro la società.

I messaggi inviati tra i team di sicurezza di Meta e la leadership della piattaforma, che non includeva il CEO Mark Zuckerberg, includevano obiezioni alla creazione di chatbot complementari che potrebbero essere utilizzati da adulti e minori per interazioni romantiche esplicite. Ravi Sinha, responsabile delle politiche sulla sicurezza dei bambini di Meta, e Antigone Davis, responsabile della sicurezza globale di Meta, hanno inviato messaggi concordando che i compagni di chatbot dovrebbero avere protezioni contro le interazioni sessualmente esplicite da parte di utenti sotto i 18 anni. Altri rapporti affermano che Zuckerberg ha rifiutato le raccomandazioni per aggiungere il controllo parentale, inclusa la possibilità di disabilitare le funzionalità genAI, prima di lanciare i compagni di intelligenza artificiale poco dopo.

Meta deve affrontare numerose cause legali riguardanti i suoi prodotti e il loro impatto sugli utenti minorenni, incluso un potenziale processo con giuria sul design presumibilmente avvincente di siti come Facebook e Instagram. Anche i concorrenti di Meta, tra cui YouTube, TikTok e Snapchat, sono sottoposti a un maggiore controllo legale.

I messaggi appena rilasciati facevano parte di una causa contro Meta intentata dal procuratore generale del New Mexico Raul Torres. Torres primo servito una causa civile contro Meta nel 2023, secondo cui la società avrebbe permesso alle sue piattaforme di diventare “mercati per predatori”. I contatti interni tra i dirigenti di Meta sono stati scoperti e resi pubblici mentre il caso verrà processato il mese prossimo.

A novembre, la memoria di un querelante in un’importante causa multidistrettuale nel distretto settentrionale della California ha sostenuto che la politica è indulgente nei confronti degli utenti che violano le regole di sicurezza, compresi quelli che si dice abbiano “tratta di esseri umani a scopo sessualeI documenti rivelavano anche che i dirigenti di Meta presumibilmente sapevano che c’erano “milioni” di adulti che interagivano con minori sui suoi siti. “Il rapporto completo mostrerà che per più di un decennio abbiamo ascoltato i genitori, studiato le questioni che contano di più e apportato cambiamenti reali per proteggere gli adolescenti”, ha detto al TIME un portavoce di Meta.

“Questo è ancora un altro esempio di come il procuratore generale del New Mexico abbia selezionato attentamente i documenti per dipingere un quadro imperfetto e impreciso”, ha detto il portavoce di Meta Andy Stone in risposta ai nuovi documenti.

Meta ha sospeso l’uso dei suoi chatbot da parte degli adolescenti in agosto a seguito di un rapporto Reuters che rivelava che le regole interne di intelligenza artificiale di Meta consentivano ai chatbot di impegnarsi in conversazioni di natura “sensuale” o “romantica”. La società ha successivamente rivisto le sue linee guida sulla sicurezza per vietare contenuti che “consentono, incoraggiano o condonano” abusi sessuali su minori, giochi di ruolo romantici che coinvolgono minori e altri argomenti delicati. La settimana scorsa, Meta ha bloccato ancora una volta i chatbot di intelligenza artificiale per gli utenti più giovani mentre esplorava una nuova versione con controllo parentale migliorato.

Torres ha guidato altri procuratori generali dello stato nel tentativo di citare in giudizio le principali piattaforme di social media per problemi di sicurezza dei bambini. Torres ha citato in giudizio Snapchat nel 2024, sostenendo che la piattaforma ha consentito la diffusione della sextortion e dell’adescamento di minori promuovendosi allo stesso tempo come sicura per i giovani utenti.