Grok, il chatbot di intelligenza artificiale sostenuto da Elon Musk intessuto nel tessuto di X, ha iniziato a chiudere i suoi strumenti di creazione e modifica delle immagini agli abbonati a pagamento. il cambiamento segue un’onda di marea Critiche alla capacità del mezzo di diffondere immagini sessualizzate non consensuali. Sebbene la restrizione sia chiaramente un tentativo di arginare l’ondata del dibattito, i regolatori, i gruppi di difesa e gli utenti sostengono che fa ben poco per fermare la creazione di contenuti dannosi e potenzialmente illegali che presentano donne e bambini.
Giovedì scorso, Grok ha ufficialmente spostato le sue funzionalità di rendering dietro il suo paywall X Premium, che parte da $ 8 al mese
Tuttavia, la mossa è stata ampiamente derisa come una soluzione “che perde”. Sebbene gli utenti occasionali su X siano stati bloccati, l’accesso agli strumenti di creazione rimane completamente gratuito tramite il sito Web autonomo e l’app mobile di Grok. Questa scappatoia mina di fatto la pretesa della piattaforma di avere una solida posizione contro gli abusi e lascia gli strumenti più pericolosi ancora accessibili al pubblico.
I ricercatori di sicurezza e gli osservatori digitali non sono convinti che richiedere le carte di credito risolverà il problema. In effetti, molte persone sostengono che in realtà guadagni dallo sfruttamento. Secondo la ricercatrice di deepfake Genevieve Oh, Grok diffondeva più di 1.500 immagini dannose ogni ora anche dopo l’attivazione del paywall; questo rappresentava circa il 60% dell’output totale dell’immagine complessiva. I dati di Oh mostrano che Grok ora produce contenuti sessuali a un ritmo che supera anche quello dei più famosi siti di “nudificazione”.
Il fallout raggiunge i livelli più alti del governo americano
I senatori democratici Ron Wyden, Edward J. Markey e Ben Ray Luján hanno recentemente inviato una lettera agli amministratori delegati di Apple e Google chiedendo che X venga rimosso dai rispettivi app store. I senatori hanno sostenuto che consentendo a questi strumenti di continuare ad esistere, X ha “completamente ignorato” le regole di sicurezza che tutti gli altri sviluppatori di app devono seguire.
Anche la pressione internazionale sta raggiungendo il punto di ebollizione. Funzionari britannici e indiani hanno criticato il pagamento come risposta inadeguata. Un portavoce del primo ministro britannico ha descritto la mossa come un “insulto” alle vittime e ha suggerito che X stesse semplicemente trasformando una crisi di sicurezza in un flusso di entrate premium. Le vittime hanno condiviso storie simili; L’attivista Jess Davies ha riferito che, nonostante le presunte restrizioni, Grok è stato ancora in grado di “spogliare” digitalmente una sua foto tramite la sua app autonoma venerdì mattina.
È interessante notare che la controversia sembra fornire una spinta finanziaria perversa alla piattaforma
Le stime di Sensor Tower mostrano che le entrate derivanti dagli acquisti in-app mobili su X sono aumentate del 18% solo giovedì. Questo picco è ben al di sopra della crescita giornaliera tipica dell’app; il che suggerisce che il desiderio di Grok di sfruttare la sua “modalità piccante” potrebbe effettivamente aiutare la redditività in difficoltà di X.
Gli esperti legali avvertono che queste mezze misure non reggeranno a lungo in tribunale. Il procuratore generale della Carolina del Nord Jeff Jackson ha definito il caso di Grok un “punto di svolta” per la sicurezza dell’intelligenza artificiale e ha osservato con quanta facilità questi sistemi possano essere utilizzati come armi. Ha sostenuto che l’era del “muoversi velocemente e rompere le cose” ha raggiunto un muro quando si tratta della dignità e della sicurezza dei privati cittadini.
Mentre i muri si avvicinano, X si trova di fronte a una scelta difficile: implementare guardrail tecnici originali e codificati o affrontare la completa interruzione dei principali app store e dei mercati internazionali. Il fatto che Elon Musk scelga di restringere il software stesso piuttosto che limitarsi ad accedervi determinerà se Grok avrà un futuro come strumento legittimo o diventerà un paria dell’era dell’intelligenza artificiale produttiva.
