Le leggi sui diritti umani devono essere calate nella nuova realtà tecnologica e non il contrario: così si pronuncia il Manifesto di Vienna per l'umanesimo digitale. Università e Ong come Amnesty International lanciano l'allerta sul rispetto della neutralità e obiettività nell'uso di mezzi informatici, utilizzati nel controllo delle migrazioni verso l'Europa.
by 
L’AI discrimina finché non glielo proibiamo. Seguendo le regole degli algoritimi infatti, è difficile distinguere il giusto dallo sbagliato, ciò che è moralmente accettabile e le regole non scritte della società. Se n’è accorta l’Ong Amnesty International, che a febbraio ha pubblicato un documento intitolato “Difendere i diritti dei migranti e dei rifugiati nell’era digitale”, nel quale viene analizzato l’uso dell’AI a fini securitari in Europa, Regno Unito, Stati Uniti e nel resto del mondo.
Con la premessa dell’estensione dei confini virtuali dell’UE in Africa, il testo non vuole essere semplicemente una denuncia di violazione dei diritti umani, ma anche un glossario delle parole chiave del nuovo linguaggio informatico. Nel 2024 infatti è necessario sapere per esempio il significato di algoritmo, dati biometrici, riconoscimento facciale, interoperabilità ed esternalizzazione delle frontiere. Tali concetti sono alla base del nostro mondo fatto di scambio di informazioni tecnologiche.
Il professore ed esperto di e-health Floriano Zini, che oltre a insegnare nella Smart Data Factory al NOI Techpark è il responsabile della circoscrizione Veneto e Alto Adige di Amnesty International, sostiene che sia l’uso che facciamo degli algoritmi a fare la differenza.
Dal suo punto di vista non ci si deve preoccupare che l’intelligenza artificiale prenda il sopravvento sugli esseri umani, quanto dell’uso che gli esseri umani decidono di farne. A riguardo si può e si deve, secondo il professore, prendere provvedimenti.
Sono numerosi gli intellettuali che hanno avvisato della necessità di riflettere sull’etica informatica, in particolare dalla nascita di ChatGpt e dalla sua pubblicizzazione esplosiva nel 2023. Sono infatti nate società come SipEIA (Società Italiana per l’Etica dell’Intelligenza Artificiale), formata da professori delle università di Roma, Torino, Bari e Bologna, che fornisce corsi di insegnamento al ragionamento etico sulla tecnologia.
All’interno del proprio manifesto, la società dichiara che le intelligenze artificiali richiedono un cambiamento dell’etica perché «oggi, ciascun atto può essere registrato e mantenuto: mentre sino a pochi decenni fa non era dato conoscere i movimenti di un soggetto, oggi questi sono tracciabili».
Nella ricerca di Amnesty si parla proprio dei sistemi di monitoraggio dei soggetti, in questo caso migranti, e come questi possono violare i diritti umani globalmente sottoscritti.
In particolare fa riferimento alle torri di controllo gestite dall’AI al confine tra Usa e Messico, al tagging elettronico alla caviglia usato nel Regno Unito per monitorare chi deve essere rimpatriato, ai sistemi di sorveglianza aerea e ai droni utilizzati dall’Unione Europea per “vigilare” sul Mar Mediterraneo. Addirittura, in Paesi come Grecia, Lettonia e Ungheria vengono usate tecnologie di riconoscimento facciale ed emotivo durante gli interrogatori per “individuare le bugie” (sistema iBorderCtrl).
Essendo per definizione persone in difficoltà, i richiedenti asilo dovrebbero godere di una presunzione di libertà (come la presunzione di innocenza durante un processo) supportata e protetta dalla legge: questo sostiene il testo, che non a caso chiede di “Difendere i diritti dei migranti e dei rifugiati nell’era digitale”.
Gli interessi delle compagnie private però hanno consentito e stimolato la proliferazione di mezzi informatici e tecnologici e i sistemi politici ne stanno facendo uso già da diversi anni. Amnesty International dichiara che questo utilizzo sta portando a discriminare le persone al confine sulla base di bias (pregiudizi) di tipo razziale ed etnico sotto il finto precetto di neutralità e obiettività.
Contemporaneamente Amnesty, Ong che si occupa dal 1961 di violazione dei diritti umani e che ha sedi in tutto il mondo, riconosce che le nuove tecnologie potrebbero essere utilizzate nell’ambito migratorio per facilitare la comunicazione tra persone in movimento e la conoscenza di pratiche di accoglienza. Dall’altra parte ne sottolinea l’alto rischio di violazione del diritto di privacy e di non-discriminazione, princìpi che sono stati richiamati anche nel recente European AI Act, valido però per i soli cittadini europei.
Lo stesso professor Zini in una recente intervista ritiene che le legislazioni sui diritti umani debbano essere calate nella nuova realtà digitale, non l’inverso: queste devono funzionare come linee guida per l’applicazione degli sviluppi tecnologici.
Insieme a lui, numerosi docenti e intellettuali hanno aderito al Manifesto di Vienna per l’Umanesimo Digitale, cioè un «appello a riflettere e ad agire sullo sviluppo tecnologico attuale e futuro» stilato e firmato nel maggio 2019 da professori universitari di Austria, Italia, Germania, Svizzera, Paesi Bassi e Stati Uniti.
Il Manifesto chiede alle comunità accademiche e professionali, ai leader industriali, ai decisori e responsabili politici di tutto il mondo di «progettare le tecnologie in base ai valori e ai bisogni umani, invece di consentire alle tecnologie di plasmare gli esseri umani».
I firmatari, infatti, si rendono conto che «la massa di dati, algoritmi e potenza computazionale sta avendo un effetto dirompente sul tessuto stesso della società, cambiando le interazioni tra le persone, le istituzioni sociali, le economie e le strutture politiche» e chiede di adottare un approccio umanista e illuminista sulle tecnologie.
Se quindi le intelligenze artificiali riescono a discriminare facilmente è grazie alla mancanza di dati che impediscano queste discriminazioni. Il professor Floriano Zini aggiunge che le tecnologie possono permettere di individuare i bombardamenti indiscriminati in Darfur se ben utilizzate, come fa il laboratorio informatico Amnesty Tech fondato da Amnesty International, che unisce informatici e giuristi contro i sistemi di violazione della privacy e alla ricerca dei diritti digitali.
Con le parole dello stesso Manifesto: «Siamo a un bivio per il nostro futuro; dobbiamo agire subito e scegliere la direzione giusta!».
©RIPRODUZIONE RISERVATA
