Fermare la produzione dei killer robot

Fermare la produzione dei killer robot



L’esperto di intelligenza artificiale, Mark Bishop, dice che bisogna impedire la costruzione dei robot killer, obiettivo per il quale è in atto una campagna di sensibilizzazione. Questa campagna è portata avanti da una confederazione di organizzazioni e gruppi di pressione non governativi. La loro richiesta è di sospendere la produzione, nel mondo, di sistemi d’arma completamente autonomi nelle decisioni, per cui manca l’elemento umano che decide in ultima se sparare o meno. Esistono già alcuni esempi, come il “sistema pistola Phalanx” utilizzato sulla maggior parte delle navi della Marina degli Stati Uniti per individuare e neutralizzare automaticamente le minacce in entrata. Un altro è l’Arpia, un drone israeliano senza equipaggio “fire-and-forget” che ha lo scopo di cercare e distruggere le postazioni radar nemiche. La strategia militare occidentale attuale sembra concentrarsi di più sui droni che sulle forze tradizionali, ma i droni telecomandati sono vulnerabili al dirottamento. Se questi sistemi, però, risultano completamente autonomi, sono praticamente immuni da questo inconveniente. Questo significa per i produttori “vendere di più”, per cui vi è un imperativo commerciale per costruire sistemi d’arma autonomi e distribuirli ai vari governi. Ci sono gravi ragioni per dubitare che questi sistemi siano in grado di distinguere tra un combattente e un civile, senza contare che i software possono andare in avaria per mille motivi, per quanto siano affidabili. In Corea del Sud gli scienziati stanno sviluppando un robot per pattugliare il confine con la Corea del Nord. Se questi vengono distribuiti in maniera sproporzionata sul confine, è facile che un piccolo incidente di frontiera si trasformi in un grosso problema. Non è la prima volta che sistemi automatici segnalano l’arrivo di missili nemici e, se non fosse intervenuto l’uomo, sarebbe partita in automatico la risposta nucleare. La tecnologia per i sistemi automatici deve avere alla base altre finalità, come sistemi di guida di autoveicoli, produzione e controllo di manufatti, cooperazione medica a distanza e tante altre attività dove la vita dell’uomo non sia messa in pericolo da un circuito elettronico che da solo decida insindacabilmente “sparo” o “non sparo”.

Via