Gli usi delle intelligenze artificiali e l’AI Act

Le intelligenze artificiali sono diventate virali e pop tra l’estate del 2022 e la primavera del 2023, complici le strategie di marketing di alcune aziende private americane che si occupano prevalentemente di intelligenze artificiali generative. E complice anche il ciclo delle news che, come al solito, va a ondate, si muove per picchi di interesse per poi lasciare enormi buchi tra un macro-evento e l’altro.

Su Slow News abbiamo pubblicato una policy per l’uso che facciamo delle I.A., perché queste macchine entreranno – anzi, sono già entrate – in maniera massiva nel mondo del giornalismo. Anche questo articolo è illustrato da immagini disegnate da una macchina su mie indicazioni. E ho usato macchine di intelligenza artificiale per fare molte cose (se vuoi scoprire quali, scrolla fino al fondo dell’articolo e scoprirai chi ci ha lavorato, umani e non umani).

Ma le intelligenze artificiali ci riguardano da vicino, più in generale, come cittadine e cittadini. 

Non sono un fatto nuovo: hanno una storia strutturata. Non sono una tecnologia che piomba all’improvviso nel discorso, non si devono all’impulso di una sola persona o di una sola azienda. Non sono un fatto nuovo nemmeno per quanto riguarda la politica di coesione europea, quella politica, cioè, che agisce in Europa per eliminare le disuguaglianze. 

Se cerchiamo sul sito di Open Coesione le parole “intelligenza artificiale”, per esempio, troviamo elencati, al 4 agosto 2023, 452 progetti italiani che rientrano tra i finanziamenti e i co-finanziamenti dei fondi di politica di coesione europea, per un totale di 200 milioni di finanziamenti pubblici.

Li abbiamo estratti e messi in ordine qui: 35 fanno parte del ciclo di programmazione dei fondi che andava dal 2007 al 2014.

Se si consulta l’archivio soprattutto esaminando i progetti più vecchi si trovano già, in embrione, gli usi più interessanti delle intelligenze artificiali: diagnosi precoci di malattie e trattamenti di patologie oncologiche su tutte.

Ma si trovano già anche usi con rischi potenziali, come per esempio il reclutamento in ambito lavorativo. E le strutture di monitoraggio di contesti ambientali e di spostamenti di persone, potenzialmente molto invasive, come la Smart Control Room 2.0 di Venezia.

Se la tecnologia va velocissima – quando non la monitori quotidianamente, poi, ti sembra che proceda per salti esponenziali –, gli usi della medesima rientrano in ambiti che si possono quasi sempre circoscrivere, a patto di volerli mappare con calma. 

Il cosiddetto AI Act dell’Unione Europea è il primo lavoro politico, a livello mondiale, di regolamentare gli usi della tecnologia e non la tecnologia stessa.

La priorità del Parlamento – si legge nella scheda che introduce i lavori – è quella di garantire che i sistemi di intelligenze artificiali (IA) utilizzati nell’UE siano sicuri, trasparenti, tracciabili, non discriminatori ed ecologici. I sistemi IA dovrebbero essere supervisionati da persone, piuttosto che da automazione, per prevenire possibili output dannosi.

Il Parlamento, inoltre, vuole anche arrivare a una definizione uniforme e neutra delle tecnologie di IA, che possa essere applicata anche a futuri sistemi. Sembra una questione puramente burocratica, ma, in realtà, la definizione del concetto stesso di intelligenza artificiale è sfuggente e complessa. 

L’AI Act prevede una definizione dei rischi all’interno della quale rientrano diversi usi di queste tecnologie: a seconda della tipologia di “rischio” in cui rientra l’uso di un’AI, ci sono regole diverse. 

Questi usi sono proibiti dall’AI Act. Rientrano in questa categoria, per esempio:

1) manipolazione comportamentale cognitiva delle persone o di gruppi vulnerabili specifici (ad esempio giocattoli attivati dalla voce che incoraggiano comportamenti pericolosi nei bambini)

2) punteggio sociale (in inglese, social scoring): classificazione delle persone in base al comportamento, allo status socio-economico o alle caratteristiche personali

3) sistemi di identificazione biometrica in tempo reale e a distanza, come il riconoscimento facciale

I sistemi IA che possono avere impatti negativi sulla sicurezza delle persone o sui diritti fondamentali saranno considerati ad alto rischio. Verranno valutati prima di poter essere immessi nel mercato e durante il loro “ciclo di vita”.

Rientrano in questo ambito:

1) Sistemi IA utilizzati in prodotti che rientrano nella legislazione dell’UE sulla sicurezza dei prodotti (per esempio: giocattoli, automobili, aviazione, dispositivi medici, ascensori)

2) Sistemi IA che rientrano in otto aree specifiche che dovranno essere registrati in un database dell’UE.
Le aree sono:

a) Identificazione e categorizzazione biometrica delle persone
b) Gestione e funzionamento delle infrastrutture critiche
c) Educazione e formazione professionale
d) Occupazione, gestione dei lavoratori e lavoro autonomo
e) Accesso e godimento di servizi privati essenziali e servizi e benefici pubblici
f) Applicazione della legge
g) Gestione del controllo dell’immigrazione, dell’asilo e dei confini
h) Assistenza nell’interpretazione legale e nell’applicazione della legge

Le intelligenze artificiali generative – come ChatGPT e Midjourney – dovranno rispettare requisiti di trasparenza:

1) divulgare che il contenuto è stato generato da IA

2) progettare il modello per impedire che generi contenuti illegali

3) pubblicare riassunti dei dati protetti da copyright utilizzati per la formazione

I sistemi IA a rischio limitato dovrebbero, infine, secondo l’AI Act, rispettare requisiti minimi di trasparenza per consentire alle persone di prendere decisioni informate: le persone devono essere consapevoli di stare interagendo con un’IA e deve poter decidere se continuare a utilizzarla o meno. Questo include anche sistemi IA che generano o modificano immagini, audio o contenuti video.

Per capire meglio a che punto è questo lavoro di regolamentazione e per chiarirne alcuni aspetti, abbiamo raggiunto telefonicamente Brando Benifei, correlatore per il Parlamento Europeo proprio dell’AI Act che, a giugno del 2023 è stato votato in forma definitiva dal Parlamento europeo, dopo la prima proposta della Commissione europea e dopo il lavoro dell’Eurocamera e delle sue commissioni. 

L’idea è di fare la stessa cosa, cioè di avere un patto europeo sull’intelligenza artificiale che nei due anni di transizione incentivi le pubbliche amministrazioni e le aziende a essere compliant prima del tempo.

Faccio un esempio molto italiano: quando è entrato in vigore il GDPR abbiamo letto, anche sui nostri giornali, cose tipo: «Tra una settimana l’Europa ci impone le nuove norme sulla privacy». Ma c’è stato un sacco di tempo per adeguarsi alle norme: a un certo punto, semplciemente, il GDPR è entrato in vigore. 

Il fatto di anticipare il rispetto della norma è un modo per aiutare tutti a adeguarsi a una regolamentazione complessa con una certa gradualità.

Questi sono i prossimi passi».

II fatto di aver progettato l’AI Act sulla base degli usi e non sulla base dell’evoluzione tecnologica è sufficiente per evitare di essere travolti dalla velocità con cui vengono fatte evolvere queste tecnologie? Nel frattempo, cosa dobbiamo aspettarci?

«La scelta della regolazione degli usi, più che della tecnologia in quanto tale, è uno dei modi utilizzati per cercare di contrastare l’obsolescenza della norma. 

Credo che questa scelta sia giusta ed efficace e che sia già un importante salvaguardia.

Sia l’evoluzione dell’interpretazione sia le autorità di supervisione e l’Ufficio europeo dell’Intelligenza Artificiale contribuiranno, comunque, a seguire le evoluzioni di queste tecnologie.

Ci sarà un apparato di norme – che stiamo ancora discutendo con gli stati membri – per dare la possibilità di aggiornare l’AI ACT attraverso diversi strumenti (atti delegati e di implementazione) che potranno permettere, in maniera più rapida, di aggiornare alcuni aspetti del regolamento».

E per quanto riguarda gli usi più critici? Per esempio, strutture già operative come la Smart Control Room 2.0 di Venezia, peraltro finanziata con fondi europei (qui e qui)? Potrebbero diventare, nel frattempo, strumenti di sperimentazione e di controllo. Oppure, aree come le migrazioni? O le armi? 

«Ovviamente il testo è il frutto di un compromesso politico. Ad esempio, io avevo proposto di vietare l’uso del riconoscimento biometrico alle frontiere, ma non c’era il consenso neanche in Parlamento. Questo ha portato a fare la scelta di inserire nell’alto rischio questo tipo di tecnologia. Abbiamo vietato il riconoscimento emotivo alle frontiere, quindi nei confronti dei migranti, ed è comunque una proposta del Parlamento che andrà negoziata con i Governi.

Rispetto alle sperimentazioni già in atto che potrebbero diventare illegali, be’, certamente sarà vietato qualcosa che viene fatto, se non rispetterà le norme. 

Penso ad esempio alla polizia predittiva – cioè ai tentativi di usare l’AI per prevenire i reati – che noi riteniamo non possa funzionare, anche sulla base dei dati raccolti: la vogliamo vietare.

Queste questioni, poi, non si muovono in un ambito normativamente vuoto: l’intelligenza artificiale, comunque dovrà deve rispettare le norme esistenti.

Su alcuni punti dovremo negoziare con il Consiglio anche per i divieti che ci sono nella proposta, perché ci sono posizioni molto diverse su varie questioni. In ogni caso i principi fondamentali della Costituzione Italiana, della Protezione Europea dei diritti umani, i documenti fondativi delle varie legislazioni si applicano a prescindere». 

Andrà valutato se ci sono state palesi violazioni dei diritti dei creativi ed è chiaro che ciò è legato anche alle interpretazioni delle norme. Ma senza la conoscenza a monte dei dati usati, nulla di tutto questo può essere ipotizzato».

E quindi trasparenza e ispezionabilità? 

«Sì, serve trasparenza dei contenuti che sono stati utilizzati per l’addestramento e ispezionabilità dei modelli di fondazione alla base delle AI generative. Tuttavia, anche questa è materia di negoziazione con gli stati membri e di fatto non ci siamo ancora entrati: ci siamo concentrati, per il momento, sui temi legati alla sicurezza e ai diritti fondamentali». 

Ci sono cose che potrebbero non essere fattibili tecnicamente, proprio per come funzionano queste tecnologie. Mi riferisco, per esempio, all’opt-in o all’opt-out dei propri contenuti dall’addestramento. O alla certificazione di “contenuto prodotto con AI”.

«È vero: la fattibilità tecnica dell’opt-in o dell’opt-out è un tema enorme, come la riconoscibilità dei contenuti prodotti dai contenuti artificiali.

Stiamo esplorando opzioni tecniche e non abbiamo una risposta definitiva su quanto si possa fare e come. Però, se riterremo, dopo un confronto democratico, che servano certe regole, le pratiche che andranno a infrangere quelle regole non saranno possibili, una volta che il regolamento sarà entrato in vigore. Non accetteremo come risposta a un tema di tutela e di protezione il fatto che non ci siano mezzi tecnici a disposizione.
Le regole verranno fatte tenendo conto di tutti gli aspetti in gioco, ma il “non si può fare” non deve diventare una scusa».

Anche a costo di cancellazione di modelli già esistenti?

«Se non rispetteranno le norme che verranno approvate, le aziende e i loro modelli non potranno operare nel mercato europeo. Comunque, siamo convinti che la legge avrà un effetto di ricasco anche su altre parti del mondo».

Il lavoro del Parlamento Europeo di cui abbiamo parlato con Brando Benifei è un precedente importante e sarà importante seguirne le evoluzioni, perché segnerà in qualche modo una linea di demarcazione fra un “prima” senza regole e un “dopo”.

Monitorare questa regolamentazione significa lavorare per assicurarsi che le tecnologie basate su AI non violino i diritti umani e non vengano usate per scopi deleteri: i compromessi che si raggiungeranno dopo la negoziazione con gli Stati membri saranno fondamentali per capire se si genereranno, ancora una volta, cittadine e cittadini di serie A e di serie B. 

In ballo c’è un pezzo di futuro, di mezzo c’è anche la nostra visione del mondo.
Abbiamo bisogno di trovare una via di mezzo fra gli apocalittici che paventano solo catastrofi e gli integrati che idolatrano qualsiasi innovazione.

Ci sono posizioni radicali che vorrebbero la messa al bando di queste tecnologie, ritenute troppo pericolose. È un’ipotesi difficile da perseguire e rischia di cancellare anche tutto il buono che queste macchine si possono portare appresso: basti pensare agli usi potenziali in medicina o in altri ambiti in cui possono fare la differenza.

D’altra parte, anche l’entusiasmo acritico non aiuta affatto: in aree come l’accesso al credito, il mondo delle assicurazioni, le migrazioni, l’amministrazione della giustizia, le disuguaglianze potrebbero essere ulteriormente amplificate da queste macchine. Se è una macchina che decide se ho diritto o no a entrare in un Paese o ad accendere un mutuo (questo, per inciso, accade già), a chi parlo, una volta che la decisione è stata presa? A chi mi appello? Se una macchina ha dei pregiudizi di programmazione ed è usata per prendere decisioni nel mondo del lavoro, come faccio a tutelarmi? E poi ci sono le armi, appunto: la possibilità di incorporare intelligenze artificiali generative dentro a robot-soldati di cui nemmeno il Parlamento europeo ha potuto occuparsi.

C’è anche il tema della proprietà intellettuale: in Metà dei soldi va per i recinti abbiamo già parlato di come sia importante trovare soluzioni collettive e di come crediamo che solo l’open access possa essere il modo migliore per liberare l’accesso alle macchine che si possono usare per il lavoro creativo. Fino a questo momento, tutti i tentativi di recintare la proprietà delle opere si sono risolti a vantaggio di pochissime persone (le major, ovviamente, e una élite di artisti e creatori).

Abbiamo anche parlato dei rischi reali (non quelli dell’estinzione di massa), che sono in buona parte quelli individuati dall’AI Act e quelli che abbiamo raccontato in questo pezzo.

Tutto questo, infine, è sostenibile? Come impatta sul resto del mondo, quello storicamente depredato? Come si risolve il problema dell’estrazione dei materiali che occorrono per realizzare queste macchine? Come si bilancia la loro richiesta di energia? 

Ci sono tante domande. Abbiamo poche risposte. Quel che possiamo dire è che, ancora una volta, siamo di fronte a una tecnologia che potrebbe essere usata per rendere più coeso il mondo. Rischiamo di vederla usata per amplificare le disuguaglianze. 

Questo pezzo fa parte di A Brave New Europe – Next Generation, un progetto di Slow News, Percorsi di Secondo Welfare, Internazionale, Zai.net, La Revue Dessinée Italia, finanziato dalla Commissione Europea.

Il gruppo di lavoro, le autrici e gli autori dei contenuti sono i soli responsabili di questa pubblicazione. I contenuti riflettono i nostri punti di vista, con la massima libertà editoriale e senza condizionamenti. La Commissione Europea non è in alcun modo responsabile di come verranno utilizzate le informazioni contenute in questo progetto.