AI Act salvo: maggiore il rischio, più severe le regole

Dopo tre giorni di intensi lavori e colloqui – superati anche gli ultimi ostacoli relativi all’utilizzo delle tecniche di identificazione biometrica e i limiti imposti all’AI generativa (come ChatGpt) – il Consiglio e il Parlamento europeo hanno raggiunto un accordo sulle regole per l’intelligenza artificiale, nella notte tra l’8 e il 9 dicembre a Bruxelles. Accordandosi, in via provvisoria, sul testo dell’AI Act. 

E’ di fatto il primo accordo a livello mondiale sull’AI, che mira a garantire che i sistemi di intelligenza artificiale immessi sul mercato unico europeo (e utilizzati nell’Unione europea) siano sicuri e rispettosi dei diritti fondamentali e dei valori europei. Un atto che, con questo primato sui tempi, può contribuire a definire gli standard globali per la regolamentazione dell’AI sulla scena mondiale, che interessano tutti, pubblico e privato. Così come era stato per il Gdpr, nel 2018, che aveva spronato tutti i paesi a regolamentare l’approccio alla sicurezza e alla privacy dei dati degli utenti.

L’idea che guida il documento (al momento provvisorio) è quella di regolamentare l’AI in base alla capacità di quest’ultima di causare danni alla società, seguendo un approccio basato sul rischio: maggiore è il rischio, più severe sono le regole.

Un documento che recepisce tutte le preoccupazioni avanzate in questi mesi riguardo a usi impropri dell’intelligenza artificiale. Per esempio il riconoscimento biometrico in tempo reale da parte delle forze dell’ordine, fino alla polizia predittiva con la possibilità di usare algoritmi per prevedere le probabilità con cui può essere commesso un reato, da chi e dove. Un dibattito che aveva schierato su posizioni opposte il Parlamento Europeo (espressione dei cittadini) a favore di un blocco totale di utilizzi impropri dell’AI e il Consiglio Europeo (espressione degli Stati) per un approccio più permissivo. Mobilitando esperti di privacy e accademici a sostegno di un AI Act che non concedesse sconti sui divieti per l’utilizzo improprio dell’AI.

Principali punti dell’accordo

Rispetto alla proposta iniziale, i principali elementi dell’accordo possono essere così riassunti:

•  Sono stati definiti poteri di applicazione a livello europeo.
•  E’ stato esteso l’elenco dei divieti. Il riconoscimento biometrico è stato vietato, con la possibilità di utilizzare l’identificazione biometrica a distanza da parte delle autorità di polizia negli spazi pubblici in soli tre casi: ricerche mirate di vittime (rapimento, traffico, sfruttamento sessuale), prevenzione di una minaccia terroristica specifica e attuale, localizzazione o identificazione di una persona sospettata di aver commesso uno dei reati specifici menzionati nel regolamento (tra cui terrorismo, traffico di esseri umani, omicidio, stupro).
• E’ stata migliorata la protezione dei diritti, partendo dal garantire la qualità dei dati utilizzati nello sviluppo degli algoritmi, dal verificare che non violino il copyright, rendendo identificabili come artificiali testi, suoni e immagini.
  Le regole per l’uso dell’AI generativa hanno, infatti, vincoli via via più stringenti per i sistemi più potenti.
  Per normare questo tema il documento propone due livelli di inquadramento dei sistemi, con relativi obblighi da rispettare. Da una parte le cosiddette AI ad alto impatto (al momento, solo Gpt-4 di OpenAI rispetterebbe questa caratteristica) a cui sono richieste regole di sicurezza, trasparenza dei processi di addestramento, valutazione d’impatto e condivisione della documentazione tecnica prima di arrivare sul mercato.
  Dall’altra AI per scopi generali, dove i controlli dell’AI Act scattano solo quando l’AI viene immessa sul mercato. “Abbiamo scelto un indicatore non di fatturato che non identifica solo le aziende più grandi, ma riconosce dall’ampio impatto i modelli che possono porre i maggiori i rischi”, precisa Carme Artigas, segretario di Stato spagnolo per la digitalizzazione e l’intelligenza artificiale alla presidenza del Consiglio Europeo. Da queste regole sono esclusi i modelli destinati alla ricerca.
  “Questo è un risultato storico e un’enorme pietra miliare verso il futuro – continua -. L’accordo odierno affronta in modo efficace una sfida globale in un ambiente tecnologico in rapida evoluzione in un settore chiave per il futuro delle nostre società ed economie. E in questo sforzo siamo riusciti a mantenere un equilibrio estremamente delicato: promuovere l’innovazione e l’adozione dell’intelligenza artificiale in tutta Europa, nel pieno rispetto dei diritti fondamentali dei nostri cittadini”.
  
• Per alcuni utilizzi dell’intelligenza artificiale, il rischio è ritenuto inaccettabile, per cui i sistemi in oggetto saranno banditi dall’UE. Tra questi la manipolazione comportamentale cognitiva,  il riconoscimento delle emozioni sul posto di lavoro e negli istituti scolastici, attività di polizia predittiva per dedurre dati sensibili come orientamento sessuale o credi religiosi.

Governance dell’AI Act

Un Ufficio AI, all’interno della Commissione, supervisionerà i modelli di AI più avanzati, contribuendo a promuovere standard, best practice e garantire il rispetto delle regole, supportato da un comitato scientifico di esperti indipendenti. Resterà operativo l’AI Board con i rappresentanti degli Stati membri, come organo di coordinamento e consultivo affiancato da un forum di rappresentanti dell’industria, di piccole e medie aziende, startup, società civile e mondo accademico.

Fissate anche le sanzioni, secondo un duplice criterio: una percentuale sul fatturato annuo della società o un importo predeterminato, a seconda di quale sia il più alto. L’importo ammonterebbe a 35 milioni di euro o al 7% del fatturato per violazioni delle applicazioni di AI, a 15 milioni di euro o al 3% del fatturato per violazioni degli obblighi di legge, a 7,5 milioni di euro o 1,5% del fatturato per la fornitura di informazioni errate. Sanzioni più proporzionate per Pmi e startup nel caso di violazione delle disposizioni di legge.

Nelle prossime settimane si finalizzerà l’accordo provvisorio dell’8 dicembre con il nuovo regolamento che verrà sottoposto all’approvazione definitiva e verrà pienamente applicato due anni dopo l’entrata in vigore.

Il commissario europeo al mercato interno, Thierry Breton, che ne ha dato l’annuncio ha commentato su X: “Storico! L’Ue diventa il primo continente a stabilire regole chiare per l’uso dell’IA. L’AI Act è molto più di un regolamento: è un trampolino di lancio per startup e ricercatori dell’Ue per guidare la corsa globale all’intelligenza artificiale e garantire che l’AI protegga i diritti fondamentali, la democrazia, lo Stato di diritto e la sostenibilità ambientale, stimolando al tempo stesso l’innovazione e rendendo l’Europa leader nel settore”. Ripartiamo da qua per affrontare le sfide legate all’AI, non poche. Tra queste la stesura finale del testo dell’AI Act nelle prossime settimane. 

© RIPRODUZIONE RISERVATA