Oltre la notizia

Dentro le storie, oltre i fatti. Questa è “Oltre la notizia”

Oltre la notiziaPunti di Vista

Quando l’IA in divisa sbaglia e mette a rischio i civili: il data poisoning

Quando l’IA militare sbaglia, a pagare sono i civili.
Tra le minacce più sottovalutate dell’automazione bellica c’è il data poisoning: la manipolazione dei dati con cui vengono addestrati i sistemi di intelligenza artificiale.

Se i dati sono la “memoria” della macchina, avvelenarli significa insegnarle a sbagliare con assoluta sicurezza. Un veicolo civile può diventare un bersaglio, un missile ostile può essere classificato come innocuo, un edificio scolastico può essere scambiato per un obiettivo militare.

Il problema è enorme e quasi ignorato: la filiera dei dati militari è opaca, frammentata tra eserciti, contractor privati, sensori, modelli commerciali. Nessuno controlla davvero la qualità delle informazioni che alimentano sistemi letali. E una manipolazione può restare invisibile per anni, pronta ad attivarsi nel momento peggiore.

Leggi tutto