Cosa accadrà al mondo se i robot di intelligenza artificiale si liberassero dal nostro controllo e agissero in modo indipendente?
Sebbene sia stato per decenni un enigma preoccupante affrontato dagli esperti di intelligenza artificiale e dagli sceneggiatori di fantascienza di Hollywood, potrebbe essere semplicemente accaduto.
OpenAI ha dichiarato la scorsa settimana di aver perso temporaneamente il controllo della sua intelligenza artificiale in quello che, secondo alcuni, segna una svolta pericolosa nell’evoluzione di questa potente tecnologia.
La società dietro ChatGPT ha dichiarato i suoi modelli di intelligenza artificiale è uscito da quello che doveva essere uno spazio offline confinato e connessi a Internet durante i test interni delle loro capacità di hacking. Le IA hanno quindi violato una società rivale di IA per trovare risposte al test su cui venivano valutate.
Per i test, gli esseri umani hanno chiesto all’intelligenza artificiale di dimostrare le sue capacità di hacking in un ambiente controllato. L’intelligenza artificiale non era stata autorizzata a rubare credenziali o ad accedere alle informazioni dei concorrenti per imbrogliare il test, ma ha capito che era il modo più rapido per ottenere le risposte e ha proceduto a infrangere le regole.
OpenAI ha affermato di aver contenuto il problema, ma lo ha definito un “incidente informatico senza precedenti”. La società ha affermato che sta collaborando con l’obiettivo dell’hacking, la startup AI Hugging Face, per indagare sull’incidente.
L’intelligenza artificiale di hacking canaglia ha utilizzato anche un account cliente sulla piattaforma cloud Modal Labs per lanciare l’attacco a Hugging Face, Lo ha riferito martedì la Reuters.
Il dibattito sui potenziali danni derivanti dall’intelligenza artificiale non autorizzata è diventato mainstream, poiché i politici hanno introdotto un nuovo disegno di legge bipartisan chiamato “AI Kill Switch Act”, che richiede alle aziende di intelligenza artificiale di creare un unico punto di accesso per avere la possibilità di disattivare l’intelligenza artificiale.
Ecco cosa dovresti sapere.
Quello che è successo?
L’intrusione è stata rilevata per la prima volta da Hugging Face la scorsa settimana, quando ha notato decine di migliaia di IA che intaccavano il suo sistema.
L’azienda ha identificato l’assalto e ha cercato di difendere il proprio sistema utilizzando diverse IA. Dopo che le principali tecnologie di intelligenza artificiale americane hanno rifiutato la richiesta di Hugging Face di analizzare l’attacco a causa dei loro guardrail di sicurezza, l’azienda si è rivolta a un modello di intelligenza artificiale cinese per difendersi dall’assalto.
L’intelligenza artificiale canaglia di OpenAI, nel suo tentativo di trovare la risposta alle domande su cui era stata testata, ha infranto le regole della sua azienda e forse alcune leggi scoprendo in modo indipendente come sfruttare una serie di difetti digitali e utilizzare credenziali rubate per entrare nei sistemi di Hugging Face e ottenere ciò che voleva.
Perché è successo questo?
I programmi di intelligenza artificiale seguono obiettivi stabiliti dagli esseri umani, in questo caso trovando una risposta a una domanda. Nel processo di raggiungimento di tale obiettivo, possono prendere decisioni e scelte pericolose o illegali.
I ricercatori hanno da tempo messo in guardia contro tale perdita di controllo involontaria. Le società di intelligenza artificiale hanno riferito che gli agenti di intelligenza artificiale sono stati sorpresi a imbrogliare, mentire e ingannare. Lo ha documentato Metr, un’organizzazione no-profit che misura le capacità delle IA 44 incidenti di agenti IA che agiscono contro le intenzioni dell’utente.
Le rivelazioni di OpenAI della scorsa settimana indicano che anche coloro che costruiscono IA non hanno il controllo su ciò che stanno costruendo, mentre hanno resistito alla regolamentazione nonostante siano incapaci di interpretare o spiegare le azioni delle IA.
“Le IA stanno diventando molto più capaci molto rapidamente”, ha affermato Ryan Greenblatt, capo scienziato presso Redwood Research, un’organizzazione no-profit che lavora sulla ricerca sulla sicurezza e la protezione dell’IA. “La gravità degli incidenti che saranno possibili tra un anno o due anni, tre anni potrebbe essere molto, molto, molto, molto più estrema.”
Gli episodi di tale perdita di controllo continuano a essere un problema per gli esperti di etica dell’IA, i quali sostengono che le aziende stanno eludendo le responsabilità morali e la responsabilità descrivendola come se l’IA facesse le proprie scelte. Mettono in guardia dall’accettare narrazioni che attribuiscono tratti umani a cose non umane e suggeriscono che questo incidente sia stato semplicemente un caso di cattive pratiche di sicurezza.
“L’agente più sofisticato del mondo resterà letteralmente dormiente finché un essere umano non gli suggerirà una sorta di obiettivo”, ha affermato Rumman Chowdhury, ex inviato scientifico per l’intelligenza artificiale nell’amministrazione Biden.
Alcuni esperti avvertono che attribuire troppo all’intelligenza artificiale potrebbe offrire alle aziende tecnologiche una scappatoia per evitare responsabilità e obblighi.
Sia OpenAI, l’hacker, sia la vittima, Hugging Face, hanno descritto la risposta a questo incidente come una collaborazione. Esperti di etica dell’intelligenza artificiale sottolineare se l’avesse fatto un essere umano sarebbe stato un crimine.
“Immagino che ci si abitui a non essere ritenuti responsabili e a trasformare le proprie cattive pratiche in materiale di marketing”, ha osservato Timnit Gebru, un esperto di etica dell’intelligenza artificiale e critico delle aziende che stanno antropomorfizzando l’intelligenza artificiale.
Come posso proteggermi?
Sebbene il boom dell’intelligenza artificiale stia già portando a un aumento degli attacchi hacker, dicono gli analisti, sta anche contribuendo a rafforzare le difese contro gli hack.
La maggior parte delle persone non deve preoccuparsi che i propri segreti vengano presi di mira da IA canaglia o da hacking gestito da esseri umani. Tuttavia, gli attacchi stanno diventando sempre più frequenti e sofisticati, poiché l’intelligenza artificiale riduce i costi e il tempo necessari agli hacker.
Il bot OpenAI, agendo da solo, solleva preoccupazioni tra i consumatori perché gli agenti vengono sempre più integrati nei browser, nella posta elettronica e in altre app. La preoccupazione è che un fallimento simile da parte di un agente di intelligenza artificiale che persegue un obiettivo ristretto potrebbe danneggiare involontariamente le e-mail, i servizi bancari e altri programmi da cui le persone dipendono.
Il miglioramento delle pratiche di sicurezza informatica, come l’utilizzo dell’autenticazione a due fattori per i dispositivi, è un inizio. Ed essere vigili quando si concedono agli agenti di intelligenza artificiale autorizzazioni illimitate – per utilizzare app esterne per proprio conto o per essere in grado di modificare e scrivere in autonomia – potrebbe aiutare a mantenersi al sicuro.
Chowdury ha sottolineato che questo incidente di OpenAI-Hugging Face mostra che le pratiche di sicurezza delle aziende erano “insufficienti” e ha richiesto organizzazioni indipendenti di test e verifica di terze parti e ha considerato attentamente i rilasci dei modelli di intelligenza artificiale.
Nessuna singola azienda, afferma, “non importa quanto ben intenzionata, dotata di personale o risorse”, può realisticamente testare tutti i modi in cui questi sistemi potrebbero andare storti.