La verifica dell’età dell’intelligenza artificiale di Roblox è un disastro

solo pochi giorni dopo Il tanto pubblicizzato sistema di verifica dell’età basato sull’intelligenza artificiale di Roblox era un disastro al suo lancio.

Il sistema di scansione facciale di Roblox, che può stimare l’età delle persone prima che utilizzino le funzionalità di chat della piattaforma, è stato lanciato la scorsa settimana negli Stati Uniti e in altri paesi in tutto il mondo, dopo essere stato lanciato in alcune regioni a dicembre. Roblox spiegare Sta implementando il sistema per consentire agli utenti di chattare in sicurezza con utenti di età simile.

Ma i giocatori lo sono già ribelle Perché non possono più chattare con i loro amici Requisiti dello sviluppatore per Roblox Oltre all’aggiornamento di rollback, gli esperti dicono che non solo l’IA scambia i giovani giocatori per adulti e viceversa, ma il sistema non aiuta nemmeno a risolvere il problema per cui è stato progettato: il vasto numero di predatori che sfruttano la piattaforma per adescare i bambini piccoli.

Infatti, Wired ha trovato numerosi esempi di account con verifica dell’età pubblicizzati su eBay per minori di 9 anni per soli 4 dollari.

Dopo che Wired ha segnalato gli articoli, il portavoce di eBay Maddy Martinez ha detto che la società li avrebbe rimossi perché violavano le politiche del sito.

Matt Kaufman, responsabile della sicurezza di Roblox, ha dichiarato a Wired in una e-mail che apportare modifiche su così larga scala su una piattaforma con oltre 150 milioni di utenti giornalieri richiede tempo.

“Non puoi premere un interruttore quando costruisci qualcosa che prima non esisteva”, ha detto. “Aspettarsi che i sistemi siano perfetti da un giorno all’altro ignora la portata di questa impresa”.

Kaufman ha affermato che la società è soddisfatta della mossa, aggiungendo che “decine di milioni di utenti” hanno verificato la propria età, il che, secondo lui, è la prova che “la stragrande maggioranza della nostra comunità apprezza un ambiente più sicuro e più adatto all’età”.

L’azienda ha anche risposto ad alcune critiche rinnovare Venerdì ha scritto: “Siamo a conoscenza di una situazione in cui i genitori che eseguono un controllo dell’età per conto dei propri figli risultano che il bambino ha più di 21 anni. Stiamo lavorando a una soluzione per affrontare questo problema e presto condivideremo maggiori informazioni.”

Roblox ha annunciato i requisiti di verifica dell’età lo scorso luglio come parte di una serie di nuove funzionalità volte a rendere la piattaforma più sicura. La società è stata sottoposta a forti pressioni negli ultimi mesi a seguito di numerose cause legali in cui si sosteneva che non fosse riuscita a proteggere i suoi utenti più giovani e avesse facilitato l’adescamento dei bambini da parte dei predatori.

procuratore generale Louisiana, TexasE Kentucky Una causa simile è stata intentata contro la società lo scorso anno e contro il procuratore generale della Florida Emettere una citazione penale Valutare se Roblox “aiuta i predatori ad accedere e a danneggiare i bambini”.

Roblox sostiene che richiedere alle persone di verificare la propria età prima di poter chattare con altri impedirà agli adulti di interagire liberamente con bambini che non conoscono.

Sebbene il processo sia facoltativo, rifiutarsi di farlo significa che una persona non avrà più accesso alle funzionalità di chat della piattaforma, che è uno dei motivi principali per cui la maggior parte delle persone utilizza Roblox.

Per verificare la loro età, alle persone viene chiesto di utilizzare la fotocamera del proprio dispositivo per girare un breve video, che viene elaborato da una società chiamata Persona, che stima la loro età. In alternativa, se l’utente ha almeno 13 anni, può caricare un documento d’identità con foto rilasciato dal governo.

Roblox afferma che tutte le informazioni personali vengono “immediatamente cancellate dopo l’elaborazione”. Tuttavia, molti utenti online affermano di essere riluttanti a sottoporsi alla verifica dell’età per motivi di privacy.

Le persone che verificano la propria età possono chattare solo con un piccolo gruppo di altri giocatori della loro stessa età. Ad esempio, i giocatori verificati di età inferiore a 9 anni possono chattare solo con giocatori di età inferiore a 13 anni. I giocatori considerati maggiorenni possono chattare con giocatori di età compresa tra 13 e 20 anni.