Lo chiamano Scarica le notizie del venerdì – le aziende pubblicano notizie imbarazzanti in un giorno in cui è improbabile che i media se ne occupino. Ma con questo annuncio, Meta ha portato le notizie di venerdì a un livello completamente nuovo: la società ha disabilitato l’intelligenza artificiale dei personaggi per gli account degli adolescenti, almeno finché i personaggi non saranno in grado di comportarsi bene.
Questa notizia non è stata pubblicata solo venerdì, è stata pubblicata il aggiornamento del post sul blog dallo scorso ottobre.
“Abbiamo iniziato a costruire una nuova versione dei personaggi dell’intelligenza artificiale per offrire alle persone un’esperienza ancora migliore”, hanno dichiarato in una nota Adam Mosseri, capo di Instagram, e Alexander Wang, direttore dell’intelligenza artificiale, un aggiornamento che Meta promette da tempo. Poi è arrivata la parte che ha regalato a molti ragazzi un Black Friday molto diverso da Rebecca.
“Mentre ci concentriamo sullo sviluppo di questa nuova versione, stiamo temporaneamente sospendendo l’accesso degli adolescenti ai personaggi IA esistenti in tutto il mondo. A partire dalle prossime settimane, gli adolescenti non saranno più in grado di accedere ai personaggi IA nelle nostre app finché non sarà pronta una versione aggiornata. Ciò si applicherà a tutti coloro che ci hanno regalato il compleanno di un adolescente, così come alle persone che affermano di essere adulti ma che sospettiamo siano adolescenti in base ai nostri tecnologia di previsione dell’età”
Velocità della luce mashable
OpenAI lancia la previsione dell’età per la sicurezza degli adolescenti
Il creatore di Instagram e Facebook ci tiene a sottolineare “non rinuncia ai suoi sforzi” per quanto riguarda i personaggi IASecondo TechCrunch. Tuttavia, è un chiaro riconoscimento che qualcosa ha del potenziale. Molto ha torto con la versione attuale dei suoi personaggi IA quando si tratta della sicurezza e della salute mentale degli adolescenti.
Meta non è sola in questa scoperta. Questo mese, Character.AI e Google hanno risolto le cause legali intentate da diversi genitori di bambini che si sono suicidati. Uno di loro era un ragazzo di 14 anni che, secondo sua madre, è stato sostanzialmente adescato e abusato sessualmente da un chatbot basato su Game of Thrones personaggio Daenerys Targaryen.
Colpito da un rapporto di esperti di sicurezza online, Character.AI ha chiuso tutte le chat agli utenti minori di 18 anni in ottobre, due mesi dopo che Meta aveva semplicemente deciso di iniziare ad addestrare i suoi chatbot adolescenti a non “comunicare con utenti adolescenti su autolesionismo, suicidio, disturbi alimentari o conversazioni romantiche potenzialmente inappropriate.” Ovviamente questa preparazione non è stata sufficiente.
Questa non è la prima volta che Meta deve abbandonare le sue ambizioni per gli account dei personaggi IA. Nel 2024, la società ha rimosso i personaggi AI basati sulle celebrità. Lo scorso gennaio, la società ha rimosso tutti i profili dei suoi personaggi IA a seguito di una reazione negativa sul presunto razzismo.
Anche il problema dell’uso da parte degli adolescenti non è piccolo. Più della metà degli adolescenti ha tra i 13 ed i 17 anni intervistato da Common Sense Media lo scorso anno hanno affermato di utilizzare compagni di intelligenza artificiale più di una volta al mese. Per ora dovranno farlo in un posto diverso dal Meta.
Argomenti
Meta Intelligenza Artificiale