FYI.

This story is over 5 years old.

Tecnologia

L’Unione Europea vuole usare una 'macchina della verità' per i controlli alle frontiere

Ed è la cosa più stupida che possa essere fatta. Ripetiamo insieme: le macchine della verità sono una cazzata da film americano.
Riccardo Coluccini
Macerata, IT
Una telecamera di sorveglianza.
Una telecamera, e la sorveglianza

Sembra che l’Europa sia stata contagiata dalla passione tutta americana per la macchina della verità. Il progetto iBorderCtrl, infatti, vuole introdurre un nuovo sistema per velocizzare le procedure di controllo ai confini sfruttando algoritmi di intelligenza artificiale per smascherare chi mente. E promette di essere un disastro.

Il progetto è finanziato con i fondi di Horizon 2020 e riceve 4.501.877€ per sviluppare un sistema intelligente portatile da utilizzare per il controllo alle frontiere. Il sistema è suddiviso in due parti: un’applicazione online per effettuare un pre-screening prima di trovarsi alla frontiera e dei dispositivi mobili che gli agenti frontalieri utilizzeranno per effettuare il controllo finale.

Pubblicità

Un algoritmo di intelligenza artificiale analizza le micro-espressioni facciali in cerca di segnali.

Come riportato in un articolo della Commissione Europea, nella prima fase le persone devono caricare le foto dei propri passaporti e rispondere ad alcune domande di fronte alla webcam poste da una sorta di poliziotto virtuale generato a computer e che “tiene in considerazione la lingua, l’etnia e il genere del viaggiatore” — qualunque cosa questo voglia dire concretamente.

A questo punto, un algoritmo di intelligenza artificiale analizza le micro-espressioni facciali in cerca di segnali. Ed è proprio qui che l’idea di fondo di questa tecnologia che deve velocizzare e ottimizzare i processi di controllo mostra tutta la sua fragilità e pericolosità.

Come ha sottolineato su Twitter la ricercatrice di Privacy International, Frederike Kaltheuner, questo sistema presenta dei gravi problemi legati all’opacità dell’utilizzo di sistemi automatici per la valutazione e il giudizio di persone. Inoltre, sottolinea sempre su Twitter, “le macchine della verità hanno una preoccupante storia di errori ai danni di persone innocenti, e non ci sono evidenze che un’AI possa risolvere questo problema.”

1541162532072-iborderctrl

l sistema raccoglie un’imponente mole di dati, non solo biometrici.

E la pericolosità — nonché inutilità — dei poligrafi è stata al centro di una recente inchiesta pubblicata su Wired: analizzando i dati ottenuti con molteplici richieste FOIA a diversi dipartimenti di polizia americani riguardo l’uso della macchina della verità per l’assunzione degli agenti, è emerso che vi sono enormi differenze fra i risultati dei poligrafi in base all’esaminatore che somministra il test. Presentando, in alcuni casi, persino bias nei confronti di persone di colore.

Secondo quanto riportato sul sito del progetto e nel post della Commissione Europea, stanno per iniziare 3 test pilota in in Ungheria, Grecia e Lettonia. Ma sul sito del progetto mancano ancora i documenti relativi all’analisi etica e alle eventuali conseguenze di un tale sistema — documenti che rimarranno comunque riservati, come abbiamo preso in uno scambio mail con i coordinatori del progetto.

Le macchine della verità sono degli stupidi oggetti da film hollywoodiano. Sono inutili, dannosi, basati su presupposti scientifici che non hanno fondamento, e se applicati attraverso degli algoritmi automatici rischiano di introdurre un livello di discrezionalità inaccettabile. Eppure l’Europa sembra fregarsene.

Segui Riccardo su Twitter: @ORARiccardo