Google e Apple ospitano dozzine di app per la nudità, afferma il rapporto

Una nuova indagine afferma che gli app store di Apple e Google ospitano dozzine di cosiddette app di intelligenza artificiale “nude”, anche se tali app violano le politiche delle aziende.

Progetto Trasparenza (TTP), un gruppo affiliato alla Kennedy School of Government dell’Università di Harvard, trovato decine di applicazioni in entrambi i negozi che rimuovono digitalmente gli indumenti, lasciando i soggetti nudi o quasi nudi. Nel Google Play Store sono state trovate 55 applicazioni di questo tipo e 47 nell’App Store di Apple.

TTP ha scritto:

“Secondo AppMagic, una società di analisi delle app, le app identificate da TTP sono state scaricate più di 705 milioni di volte in tutto il mondo e hanno generato entrate per 117 milioni di dollari. Poiché Google e Apple si prendono una parte di queste entrate, traggono profitto direttamente dall’attività di queste app.”

Entrambi i giganti della tecnologia hanno risposto al rapporto del TPP. Mela ha detto alla CNBC la società ha rimosso 28 app identificate nel rapporto TTP, mentre Google ha dichiarato di aver “sospeso diverse app” pur sottolineando che l’indagine era in corso.

Tuttavia, il TPP conclude che entrambi gli app store devono fare di più per fermare i deepfake non consensuali.

“I risultati del TTP mostrano che Google e Apple non stanno al passo con la proliferazione di app AI deepfake che possono esporre le persone senza il loro permesso”, afferma il rapporto. “Entrambi aziende Dicono che tengono alla sicurezza degli utenti, ma hanno una raccolta di app che possono trasformare una foto innocua di una donna in un’immagine offensiva e sessuale.”

Il rapporto del TTP arriva sulla scia della controversia che circonda Elon Musk e Grock di xAI, che è sotto indagine in diversi paesi per aver creato immagini sessualizzate senza consenso. Un’indagine di Mashable ha rilevato che Grok non dispone di misure di sicurezza di base per prevenire i deepfake. Inoltre, i ricercatori affermano che durante un periodo di 11 giorni, dal 29 dicembre all’8 gennaio, Grok ha creato più di 3 milioni di immagini sessualizzate, tra cui più di 20.000 raffiguranti bambini.

Con l’avvento dell’era dell’intelligenza artificiale, i deepfake sessuali continueranno a rappresentare una delle principali preoccupazioni per le aziende tecnologiche che vanno avanti.