OpenAI ha collaborato con due società di tecnologia di difesa che il Pentagono ha selezionato per competere per sviluppare software di sciame di droni a comando vocale per i militari, secondo diverse persone che hanno familiarità con la questione.
Secondo i due, la tecnologia di OpenAI verrà utilizzata solo per tradurre i comandi vocali dei comandanti sul campo di battaglia in istruzioni digitali per i droni. Non sarà utilizzato per sciami di droni, integrazione di armi o operazioni di targeting delle autorità, hanno detto le due persone. Tutti sono tenuti a rimanere anonimi per discutere questioni sensibili non pubbliche.
Lo sforzo fa parte di una sfida a premi da 100 milioni di dollari del Pentagono annunciata a gennaio, intesa a fornire prototipi di tecnologia in grado di dirigere sciami di droni in grado di prendere decisioni ed eseguire missioni senza intervento umano. A seconda del successo e dell’interesse dei partecipanti, la competizione, della durata di sei mesi, si svolgerà in fasi, hanno detto i funzionari.
Secondo alcuni, il logo di OpenAI appare in almeno due proposte di concorsi di successo. Il coinvolgimento di OpenAI non è stato segnalato in precedenza e le società selezionate non sono state nominate pubblicamente.
Lo Special Operations Command, che gestisce il Defense Autonomous Warfare Group, o DAWG, ha rifiutato di commentare. L’Unità per l’innovazione della difesa non ha risposto a una richiesta di commento. DAWG e DIU hanno lanciato congiuntamente la sfida a premi per la tecnologia Drone Swarming.
Secondo alcuni, l’agenzia non ha deciso fino a che punto si spingerà o consoliderà gli accordi con le aziende di tecnologia della difesa coinvolte. Verrà fornita solo la versione open source del modello OpenAI, piuttosto che il modello più avanzato dell’azienda, secondo una persona, che ha aggiunto che l’azienda potrebbe anche offrire supporto per l’installazione.
OpenAI non ha presentato la propria offerta per il premio e il suo coinvolgimento nella sfida sarà superficiale, secondo un portavoce. Due dei partner esistenti di OpenAI hanno scelto di includere il modello open source dell’azienda nelle loro offerte, ha aggiunto il portavoce. Se uno dei partner verrà selezionato, OpenAI garantirà che qualsiasi utilizzo dei suoi strumenti sia conforme alla nostra politica di utilizzo, ha affermato il portavoce.
Secondo il portavoce, altre società di intelligenza artificiale hanno presentato direttamente le proprie offerte per partecipare al concorso sullo sciame di droni.
Uno dei casi di successo che hanno coinvolto OpenAI è stato condotto da Applied Intuition Inc., un appaltatore della difesa e partner strategico di OpenAI, e ha co-listato altre due società: Sierra Nevada Corp. e Noda AI, secondo un documento del 25 gennaio esaminato da Bloomberg.
Applied Insights fornirà l’interfaccia Swarm e alcuni comandi digitali, Sierra Nevada Corp. fornirà l’integrazione e Noda AI, sostenuta dal venture capital, fornirà il cosiddetto software di “orchestrazione” che controlla i droni, secondo il documento.
OpenAI fornirà comando e controllo per il “controllo della missione”, secondo un grafico nel documento, che mostra il software OpenAI in una sezione intitolata “Orchestrator” tra operatori umani e macchine.
Applied Insights, SNC e Noda AI non hanno risposto immediatamente alle richieste di commento.
Il coinvolgimento dell’azienda nella sfida dello sciame di droni rivela che il suo lavoro di difesa è destinato ad espandere l’uso militare delle attuali attrezzature.
Questa settimana, il Pentagono ha annunciato una partnership con OpenAI che renderà ChatGPT disponibile a 3 milioni di dipendenti del Dipartimento della Difesa. L’amministratore delegato Sam Altman l’anno scorso ha minimizzato la possibilità di aiutare il Pentagono a sviluppare una piattaforma di armi abilitata all’intelligenza artificiale.
“Non credo che la maggior parte del mondo voglia prendere decisioni sulle armi IA”, ha detto ad aprile in una conferenza dedicata ai conflitti moderni, aggiungendo che non si aspettava che l’azienda lo facesse “nel prossimo futuro”.
Tuttavia, Altman lasciava ancora aperta la possibilità. “Non direi mai mai, perché il mondo può essere davvero strano”, ha detto.
Sebbene sia possibile far volare più droni contemporaneamente, lo sviluppo del software per guidare più droni in mare e in aria come uno sciame, in grado di muoversi autonomamente all’inseguimento di un bersaglio, rimane una sfida.
Quelli selezionati per la competizione del Pentagono devono dimostrare che la loro tecnologia può tradurre in azione i comandi vocali di un comandante sul campo di battaglia, consentendo ai droni di svolgere compiti congiunti durante le operazioni di combattimento.
Un funzionario della difesa citato nell’annuncio ha chiarito che l’operazione avrà scopi offensivi, affermando che l’interazione uomo-macchina “influirà direttamente sulla letalità e sull’efficacia di questi sistemi”.
Secondo un esempio fornito dal Pentagono, i comandi relativi alle navi di superficie senza equipaggio potrebbero includere istruzioni come “spostare tutte le capsule USV 5 chilometri a est”.
La prospettiva di integrare chatbot e comandi voice-to-text nelle piattaforme di armi ha persino allarmato alcuni funzionari della difesa, secondo molte persone, nonostante l’interesse del Pentagono nell’accelerare l’intelligenza artificiale e l’autonomia. Dicono che sia importante limitare l’intelligenza artificiale generativa alla traduzione e non consentirle di controllare il comportamento dei droni.
Diverse persone che hanno familiarità con la questione hanno sollevato preoccupazioni sui rischi se l’intelligenza artificiale generativa viene utilizzata per trasformare la voce in decisioni attuabili senza l’intervento umano.
La mossa arriva mentre i lavoratori dei principali laboratori se ne vanno dopo aver sollevato altre preoccupazioni etiche sul settore dell’intelligenza artificiale, anche se le principali aziende di intelligenza artificiale generativa spingono per le entrate per sostenere la ricerca e lo sviluppo in corso. Questi includono un ricercatore di OpenAI che ha affermato di essere preoccupato per la pubblicità di ChatGPT e un ricercatore di Anthropic che si è dimesso pubblicamente, citando preoccupazioni diffuse sullo sviluppo dell’intelligenza artificiale.
I grandi modelli linguistici, che sono alla base dei chatbot come ChatGPT di OpenAI, sono parziali e inclini alle cosiddette allucinazioni, nel senso che possono produrre output che non sono ancorati alla realtà ma che l’IA può presentare come affidabile.
La nuova strategia di accelerazione dell’IA del Pentagono, pubblicata a gennaio, cerca di “liberare” gli agenti dell’IA per il campo di battaglia, dalla pianificazione di operazioni militari che comportano attacchi mirati e potenzialmente letali.
I contratti di difesa sono stati storicamente controversi tra le aziende di tecnologia di consumo, comprese le notevoli proteste contro Google nel 2018 riguardo a Project Maven, che pretendeva di utilizzare l’intelligenza artificiale per analizzare le riprese dei droni.
Più recentemente, l’industria dell’intelligenza artificiale ha mostrato maggiore apertura a tali accordi. OpenAI ha rivisto la sua politica sulla sicurezza nazionale nel 2024 e successivamente ha annunciato un accordo strategico con la società di tecnologia della difesa Anduril Industries Inc. per lavorare sulla tecnologia anti-drone. All’epoca, un portavoce di OpenAI affermò che la partnership dell’azienda con Anduril utilizza specificamente la sua tecnologia per capacità difensive contro i droni senza pilota.
La spiegazione del Pentagono sulla competizione dei droni a comando vocale si riferisce a diverse fasi della competizione a cui le aziende parteciperanno solo se superano i test preliminari.
La prima fase si concentrerà solo sullo sviluppo del software prima dell’utilizzo della piattaforma live. Lo scopo del software è coordinare i movimenti dei droni su più ambiti, come aria e mare, secondo la descrizione del compito del Pentagono. La fase successiva prevede lo sviluppo di “consapevolezza e condivisione degli obiettivi” e infine il “lancio fino al completamento”.
Manson scrive per Bloomberg.
Link alla fonte: www.latimes.com