I giganti della tecnologia come Meta, Google e X stanno investendo molto in strumenti di intelligenza artificiale progettati per rilevare notizie false. Sembra rassicurante, ma secondo un nuovo studio dell’Università di Montréal, questi strumenti nascondono alcuni seri inconvenienti dietro la loro impressionante precisione.
Dottorando Dorsaf Sallami L’intelligenza artificiale ha esaminato le notizie false sistemi di rilevamento e scoprirono che in realtà non controllavano l’accuratezza di nulla. Calcolano le probabilità in base ai dati di addestramento. Pensatelo non come un giornalista che verifica i fatti su una storia, ma come uno specchio che riflette tutto ciò che viene mostrato, compresi gli stessi pregiudizi e punti ciechi.
Secondo Dorsaf Sallami, un sistema che raggiunge una precisione del 95% in un ambiente di laboratorio potrebbe comunque fallire nel mondo reale, e questa lacuna rappresenta un problema serio.
Il problema dei pregiudizi di cui nessuno parla
Al di là della precisione, Sallami ha scoperto che molti di questi sistemi portano con sé pregiudizi incorporati che passano in gran parte inosservati. Alcuni modelli hanno maggiori probabilità di segnalare le donne come fonti di disinformazione. Altri sono prevenuti nei confronti delle fonti non occidentali o riproducono pregiudizi politici.
C’è anche un problema più profondo riguardo al modo in cui questi sistemi vengono addestrati. Molti mancano di trasparenza e si affidano alle etichette di organizzazioni di verifica, alcune delle quali sono aziende a scopo di lucro. L’intero sistema è costruito su fondamenta traballanti.
A questo si aggiunge l’ascesa di strumenti come ChatGPT che rendono più semplice che mai la produzione di contenuti falsi, e anche i sistemi di rilevamento addestrati pochi mesi fa possono diventare rapidamente obsoleti.
Un approccio migliore
La soluzione di Sallami è Aletheia, un’estensione del browser che spiega perché il contenuto potrebbe essere sospetto invece di dirti semplicemente se è vero o falso. Ha sovraperformato molti strumenti esistenti nei test, raggiungendo un’affidabilità dell’85%. Ciò che lo rende diverso è la sua filosofia. Piuttosto che darti una decisione e aspettarti che tu abbia fiducia in lei, Aletheia ti mostra il suo lavoro.
Prende prove da fonti online esistenti, le presenta in un linguaggio semplice e consente agli utenti di prendere la decisione finale. Include anche lo streaming live dei recenti fact check e un forum della community in cui gli utenti possono condividere e discutere i risultati. La conclusione è semplice: l’intelligenza artificiale dovrebbe aiutarti a prendere decisioni, non sostituirla.
Link alla fonte: www.digitaltrends.com