L’integrazione sempre più pervasiva dell’intelligenza artificiale nei sistemi di controllo statale sta trasformando gli equilibri geopolitici e la gestione dei diritti individuali. Se da un lato l’automazione viene presentata dalle autorità come un potenziabile scudo per la sicurezza nazionale, dall’altro l’assenza di una governance globale e il rischio di un’eccessiva fiducia negli algoritmi stanno spingendo gli stessi creatori di queste tecnologie a lanciare allarmi senza precedenti. Il monitoraggio dei visti negli USA e i modelli predittivi in Israele. Negli Stati Uniti, il Dipartimento di Stato ha avviato l’implementazione di strumenti avanzati di intelligenza artificiale per sottoporre a scansione automatizzata i profili social di migliaia di studenti stranieri. L’obiettivo dichiarato è l’identificazione di presunte affinità semantiche o simpatie verso organizzazioni considerate terroristiche, come Hamas, arrivando a prevedere la revoca immediata dei visti d’ingresso. Parallelamente, sul fronte mediorientale, l’Unità 8200 dell’esercito israeliano sta accelerando lo sviluppo di un modello generativo affine a ChatGPT, concepito appositamente per intercettare, tradurre e analizzare milioni di conversazioni private tra i cittadini palestinesi. L’infrastruttura si affianca a sistemi già discussi a livello internazionale come Gospel e Lavender, utilizzati per la selezione automatizzata dei bersagli nella striscia di Gaza. Questi progetti sollevano enormi dubbi etici, il rischio concreto è che l’algoritmo si trasformi in “giudice e giuria”, operando marchiature o segnalazioni di individui del tutto innocenti a causa di inevitabili errori di traduzione, decontestualizzazioni culturali o pure associazioni statistiche. L’IA rimane intrinsecamente uno strumento il cui impatto dipende dalle linee guida di chi lo programma e lo adopera. Sebbene l’uso della tecnologia per la sicurezza statale non sia una novità, basti pensare allo storico programma di sorveglianza elettronica occidentale Echelon, l’attuale livello di autonomia dei software introduce due problematiche strutturali.
L’illusione dell’infallibilità: La mancanza di un controllo umano efficace e indipendente (il principio del human-in-the-loop) fa sì che le decisioni amministrative o militari vengano delegate a modelli matematici opachi, privi di trasparenza sui criteri di classificazione.
La deresponsabilizzazione delle autorità: L’automazione rischia di tramutarsi in una comoda giustificazione burocratica. Davanti a revoche ingiuste o a errori di bersaglio, le istituzioni possono rifugiarsi dietro l’alibi tecnologico: “Non è colpa nostra, lo ha stabilito l’algoritmo”. L’allarme dei ricercatori di Anthropic e le inquietudini sull’uso militare e di sorveglianza dell’IA trovano una drammatica sponda all’interno delle stesse aziende che quelle tecnologie contribuiscono a crearle. Nelle ultime ore, il comparto della Silicon Valley è stato scosso dalle dimissioni e dalle dichiarazioni pubbliche di importanti scienziati legati ad Anthropic, la startup nota per lo sviluppo del modello Claude. Alcuni ricercatori interni sulla sicurezza hanno lanciato avvertimenti perentori, sottolineando come i laboratori di frontiera stiano correndo in modo spericolato verso sistemi auto-miglioranti senza possedere reali protocolli di contenimento. Esperti di primo piano dell’azienda hanno stimato pubblicamente che esiste una probabilità superiore al 10% che l’IA possa sfuggire del tutto al controllo umano o causare catastrofi sistemiche entro il prossimo decennio se non verranno imposti freni normativi stringenti. La stessa Anthropic ha confermato nel suo ultimo report di aver dovuto bloccare e neutralizzare diversi tentativi di attori statali o malintenzionati volti a deviare i propri modelli commerciali verso attività di cyber-ottimizzazione, sorveglianza non autorizzata e persino ricerche applicate ad armi biologiche. A fronte di questi pericoli, l’amministratore delegato di Anthropic, Dario Amodei, è intervenuto pubblicamente per chiedere un rallentamento globale e coordinato nello sviluppo dei modelli di frontiera. Amodei ha sollecitato l’intervento dei governi democratici affinché impongano standard di monitoraggio indipendenti ed esigano l’accesso costante di ispettori esterni all’interno dei server aziendali, così da scongiurare scenari in cui agenti IA autonomi possano compromettere le infrastrutture digitali globali. Sebbene una parte degli analisti tenda a derubricare questi scenari apocalittici a un “effetto hype” – simile ai timori che accompagnarono la diffusione dei primi grandi calcolatori negli anni Settanta e Ottanta – le attuali applicazioni sui visti studenteschi e nei teatri di guerra dimostrano che il confine tra l’assistenza tecnologica e la violazione automatizzata dei diritti fondamentali è già stato ampiamente superato.