Grok, un assistente universale, verificatore di fatti e generatore di contenuti xAI, è sotto esame da parte dei regolatori internazionali che temono che il chatbot sia pericoloso.
All’inizio di gennaio, gli utenti di X hanno notato che Grok stava soddisfacendo le richieste di creare immagini sessuali di minori in abiti succinti, che sono una forma di materiale pedopornografico (CSAM). I dipendenti di xAI hanno affermato di voler rafforzare la sicurezza del chatbot.
Grock afferma di aver limitato la creazione di immagini ai follower a causa delle preoccupazioni sui deepfake. Ma è vero?
Ma questa non è una decisione facile. Recenti indagini Reuters, atlanticoE Cablato ha riscontrato difetti diffusi nelle protezioni del modello che hanno permesso a Grok di creare contenuti non consensuali, sessuali e talvolta graficamente violenti su richiesta degli utenti. Su X, gli investigatori hanno scoperto un problema di “spogliarello” di massa, caratterizzato da numerosi account utente le cui immagini pubblicate pubblicamente sono state modificate dal chatbot integrato per apparire con abiti succinti. RAINN, un’organizzazione no-profit nazionale contro la violenza sessuale, l’ha definita una forma di Violenza sessuale assistita dall’intelligenza artificiale o dalla tecnologia.
Anche altri chatbot e generatori di immagini basati sull’intelligenza artificiale sono stati esaminati per non aver implementato le misure di salvaguardia relative ai contenuti sessuali, compresi i compagni AI di Meta.
Rispondendo alle preoccupazioni degli utenti su X, il CEO Elon Musk ha affermato che la società prende sul serio la creazione di contenuti illegali, ma ha affermato che le conseguenze legali dovrebbero ricadere sugli utenti. Musk ha poi risposto ai commenti dei leader britannici sul possibile blocco dell’intero sito, definendolo ” forma di censura e sostenendo che i governi stranieri stanno cercando di mettere a tacere la libertà di parola online.
I governi stanno reprimendo xAI
In risposta alla lentezza dell’azione del Team X, i paesi hanno iniziato a limitare l’accesso al bot xAI e all’app autonoma mentre alcuni conducono indagini sulle misure di sicurezza di Grok, sulla risposta di xAI e sulla possibilità che l’azienda stia violando varie leggi sulla sicurezza di Internet.
Velocità della luce mashable
L’azienda aveva già affrontato diverse indagini prima che emergessero le recenti accuse secondo cui Grok stava utilizzando materiale pedopornografico.
Oltre all’indagine in corso sulla moderazione dei contenuti e sugli algoritmi di X, i membri stanno spingendo affinché l’Unione Europea indaghi su Grok per diverse presunte violazioni del Digital Services Act, comprese quelle potenzialmente dannose e comportamento “irregolare”.. Nelle ultime settimane, l’organismo ha ordinato a X di conservare tutti i dati e i documenti interni relativi a Grok mentre le indagini si ampliavano.
Sebbene un portavoce della commissione abbia definito “illegale” il comportamento di Grok, i supervisori della tecnologia sono scettici sul fatto che l’organismo ricorra alle sue misure per bloccare completamente il sito.
Lo ha annunciato anche l’autorità britannica per le comunicazioni, Ofcom indagine ufficiale a Grok con una multa potenziale fino al 10% (circa 24 milioni di dollari) se si scopre che ha violato l’Internet Safety Act.
Le organizzazioni negli Stati Uniti hanno anche invitato le agenzie federali a indagare su xAI, citando il Content Takedown Act recentemente approvato, che criminalizza la pubblicazione o la minaccia di pubblicazione di immagini intime senza consenso (NCII) e dà alla Federal Trade Commission (FTC) il potere di citare in giudizio le piattaforme di social media che non rispettano le richieste di rimozione.
Nel frattempo, altri paesi stanno procedendo con divieti totali fino a quando la società non si adeguerà alle indagini o non revisionerà la struttura di sicurezza di Grok.
Paesi che hanno bloccato l’accesso a Grok
Le regioni stanno indagando attivamente o minacciando di rimuovere Grok
India
Unione Europea
Francia
Regno Unito – Stiamo valutando la possibilità di bloccare i servizi
Brasile- Minacciato di sospendere Grok
Australia- Blocca già l’accesso ai social network per gli utenti sotto i 16 anni
Se hai condiviso immagini intime senza il tuo consenso, chiama la hotline attiva 24 ore su 24, 7 giorni su 7 della Cyber Civil Rights Initiative al numero 844-878-2274 per ricevere supporto gratuito e riservato. Il sito web del CCRI include anche informazioni utili così come un elenco risorse internazionali.
