Il Segretario Generale delle Nazioni Unite, António Guterres, ha lanciato un appello per la proibizione globale delle armi letali autonome, comunemente chiamate killer robot, durante il primo Dialogo Globale sulla Governance dell'Intelligenza Artificiale a Ginevra. Guterres ha sostenuto che delegare decisioni di vita o di morte a macchine è moralmente ripugnante e politicamente inaccettabile, chiedendo ai governi di agire subito senza attendere una catastrofe.
La definizione di arma autonoma letale e la posizione dell'ONU
Per armi autonome letali si intendono sistemi in grado di identificare, selezionare e attaccare obiettivi senza supervisione umana. Guterres ha sottolineato che alcune decisioni devono rimanere esclusivamente umane e che togliere una vita rientra in questa categoria. Trasferire il potere decisionale a macchine sarebbe non solo moralmente ripugnante ma anche politicamente inaccettabile. Ha esortato i governi a non aspettare un incidente grave per agire: Non aspettiamo l'atrocità per muoverci.
Sponsored Protocol
L'urgenza crescente con l'integrazione dell'AI nei sistemi militari
La questione diventa sempre più urgente poiché modelli di AI e chip avanzati sono già utilizzati in intelligence militare, targeting e sistemi di combattimento. Guterres ha avvertito che potremmo essere l'ultima generazione in grado di stabilire i termini della convivenza tra umanità e macchine. Le recenti dispute tra aziende tecnologiche e apparati militari, come quella tra Anthropic e il Pentagono, evidenziano la crescente interconnessione tra privati e guerra digitale.
Il dibattito etico e le voci critiche
Anche il Papa Leone XIV ha espresso preoccupazioni simili, avvertendo che le armi controllate dall'AI potrebbero promuovere una visione antiumana della guerra, allontanando i leader politici dalle conseguenze umane dei conflitti. Tuttavia, l'intelligenza artificiale offre vantaggi in termini di velocità di elaborazione e precisione, riducendo i rischi per i soldati e potenzialmente le vittime civili. I critici si interrogano se il controllo umano sia effettivamente significativo quando chi decide ha solo secondi per agire su informazioni generate dall'AI.
Sponsored Protocol
Resta irrisolta la questione della responsabilità in caso di incidenti: operatori umani, comandanti, produttori di hardware e sviluppatori software sono tutti potenzialmente chiamati in causa. Guterres ha sottolineato la necessità di una regolamentazione globale, tema che emerge anche in altri ambiti come la sicurezza informatica e le infrastrutture AI. Ad esempio, il SANS ISC ha individuato scansioni sistematiche di server MCP, mostrando come l'AI sia già bersaglio di attacchi. Allo stesso modo, la decisione di New York di bloccare i data center solleva interrogativi sulla governance dell'AI.
Sponsored Protocol
Secondo fonti autorevoli come TechRadar, la comunità internazionale è divisa. Yoshua Bengio, co-presidente del Panel Scientifico Internazionale Indipendente sull'AI, ha dichiarato: Sembra fantascienza, ma è una possibilità reale che potrebbe cambiare il mondo in modi che non comprendiamo ancora. Il futuro della guerra e dell'AI è nelle mani dei decisori politici di oggi.
