Nell’aprile del 2021 – praticamente una vita fa nel grande dibattito sugli usi e sugli abusi della IA – la Commissione europea aveva presentato una proposta di 108 pagine per la regolamentazione dell’Intelligenza artificiale. Si tratta della prima normativa davvero esaustiva, secondo le attese, dedicata a questa tecnologia così controversa. Da poco ha appena passato il «trilogo», con un’intesa di alto livello raggiunta fra Commissione, Consiglio europeo (in rappresentanza degli Stati membri) e Parlamento europeo (in rappresentanza del popolo). La caratteristica principale di questo specifico accordo quadro è il suo approccio basato sul rischio, dove il livello di regolamentazione è correlato al rischio che il sistema in questione pone alla sicurezza o ai diritti fondamentali delle persone.
Per alcuni tipi di sistemi il livello di rischio è stato ritenuto inaccettabile, vietando concretamente il suo utilizzo e la sua vendita nella Comunità europea. A questa categoria appartengono i sistemi di punteggio sociale e quelli di identificazione biometrica, sia remota sia in tempo reale, come le tecnologie di riconoscimento facciale. Secondo queste restrizioni, i sistemi ad alto rischio necessiterebbero di obblighi severi, monitoraggio e valutazioni continue, laddove i sistemi a rischio minore sarebbero soggetti a una pressione normativa più lieve. Fra gli esempi forniti dalla Commissione sui sistemi a rischio minimo o nullo ci sono i filtri spam e i videogiochi abilitati all’Intelligenza artificiale, ma viene fatto anche notare come fra i sistemi attualmente in uso in Europa sarebbe la maggioranza a ricadere in questa categoria.
La domanda su quale sistema ricada in quale fascia, tuttavia, è stata fonte di mai sopiti contenziosi.
Una proposta del Consiglio, per esempio, vorrebbe che al processo venisse aggiunto un «ulteriore livello», che conceda agli stessi sviluppatori di decidere sul tema. Una svolta che nei fatti renderebbe l’intera iniziativa una forma di auto-regolamentazione, portando in luce l’immenso potere dell’industria sul processo di negoziazione per via consiliare. A oggi è ancora poco chiaro se questa proposta verrà o meno portata avanti nella redazione tecnica.
Il Consiglio, come se non bastasse, aveva anche proposto una totale esclusione dei sistemi utilizzati a scopi militari, comprese diverse deroghe sulla loro applicazione a opera delle forze dell’ordine e in questioni legate all’immigrazione. Come attestato da molteplici organizzazioni per i diritti umani, l’uso di tecnologie del genere crea una situazione in cui «questi sistemi prendono di mira in modo sproporzionato comunità già marginalizzate, intaccando i loro diritti giuridici e procedurali, e contribuendo allo stesso tempo alla sorveglianza di massa». Nello specifico, esiste una chiara relazione fra la tecnologia usata sulle persone «on the move» – quelli che attraversano i confini e/o possiedono uno status migratorio incerto – e la conseguente implementazione di questi strumenti su scala maggiore. Dal momento che per le persone è più complicato opporsi, le frontiere rappresentano il luogo dove poter testare le tecnologie più invasive e discutibili, come le analisi predittive, le profilazioni discriminatorie, o gli strumenti pseudoscientifici per la valutazione degli stati emotivi. Non appena diverranno sofisticati, questi prodotti sono destinati a trovare nuovi mercati. È un punto su cui il Consiglio pare l’abbia avuta vinta, dal momento che l’intesa finale uscita fuori dai triloghi è contraddistinta da alcuni tecnicismi legati all’uso dell’Intelligenza artificiale per la sicurezza nazionale e da una marcia indietro rispetto all’interdizione originariamente assoluta nei riguardi del riconoscimento facciale dal vivo.