Romano (IBM Technology): AI, governance è la chiave

Lo sviluppo dei progetti legati all’intelligenza artificiale, oltre alle difficoltà legate all’utilizzo delle tecnologie disponibili (richiede comunque competenze specifiche ancora poco diffuse), dovrebbe portare le aziende a ponderare con attenzione le implicazioni legate all’utilizzo dell’AI che da un lato è evidentemente strumento digitale “abilitante” per ottenere risultati vantaggiosi di business, dall’altro sollecita oggi attenzioni e riflessioni, anche relative all’attività di regolamentazione necessaria, per le evidenti implicazioni collegate ai temi di privacy ed etica nell’utilizzo dei dati e, in prospettiva più ampia, al bisogno di una vera e propria “governance” sull’AI.
Ne parliamo con Bianca Maria Romano, Senior Client Engineering Manager, IBM Technology Italy per l’AI. “Sono temi, questi, cari da sempre ad IBM che tra le prime aziende ha sollecitato riflessioni al riguardo e ha lavorato alle tecnologie necessarie per agevolare il compito di sviluppatori ed addetti ai lavori nell’utilizzo corretto degli abilitatori digitali” – esordisce Romano -. Oggi l’AI è sempre più pervasiva, basterebbe considerare i momenti di una giornata “tipo” di ognuno mentre utilizza gli assistenti digitali, ma oltre a questa ‘punta dell’iceberg’, vi sono già collegate all’AI una serie di importanti attività, quelle di marketing, per esempio e, ancora più importanti, sono gli ambiti per cui l’intelligenza artificiale può portare ad eventi decisionali di grande impatto sulla vita delle persone  (si pensi a sanità e diagnostica, risorse umane, nel settore bancario, nell’istruzione, … e così via).. “Per questo in IBM è stato costituito un ‘board’ che si occupa in modo specifico di questi temi”.

L’esperienza dell’azienda l’ha portata a consigliare di considerare sempre, in modo specifico, tre dimensioni: “La prima riguarda lo scopo del progetto AI (non sostituire o annullare facoltà umane, ma incrementarne ed estenderne le potenzialità); la seconda riguarda i dati, che appartengono solo ai creatori dei dati stessi e quindi è richiesto di concentrarsi su data set controllati e propri. La terza dimensione tocca il tema della trasparenza, per cui i tool e le tecnologie di AI devono essere ‘spiegabili’”, come dettaglia Romano. Devono essere “trustworthy“, affidabili, non confinando la soluzione dei problemi a verifiche esclusivamente tecniche, ma anche etiche. Si fa riferimento quindi ad una “branca multidisciplinare impegnata a studiare come usare i benefici dell’AI riducendone i rischi impliciti nell’ambito applicativo e del reale utilizzo delle tecnologie”.

Cinque pilastri per l’etica nell’AI

Cinque sono i pilastri su cui si basa l’etica per l’AI nel modello IBM. Il primo di questi è proprio l’explainability, “la ‘spiegabilità’ di un tool intesa come la possibilità da parte dell’uomo di comprendere l’analisi dei risultati, degli output forniti dall’AI”. Il secondo punto riguarda la fairness, ovvero “l’equità nel trattamento di individui e gruppi oggetto dell’analisi”. Terzo punto: la robustezza perché “un sistema di AI che si basa su petabyte di dati deve dimostrarsi robusto alle variazioni dei dati di input”. Quarto pilastro, la transparency, la trasparenza, intesa come la capacità di includere informazioni per cui il tool è stato pensato. “Serve quindi comunicare lo scopo, ma anche eliminare l’idea dell’AI come blackbox tra input e output, a rafforzare l’affidabilità e la credibilità dell’azienda stessa”. E quinto punto riguarda la privacy. “L’AI deve salvaguardare i concetti di privacy insiti dei dati utilizzati per alimentare i sistemi”. Non si parla di concetti teorici, quanto piuttosto di “luci guida per il board che ricadono a cascata su tutte le business unit IBM a partire da quelle che si occupano di sviluppo fino agli utilizzatori nelle aziende”. Proprio per abilitare l’idea di un‘etica by design.

Le soluzioni per una governance a 360 gradi dell’AI

Per questo IBM parla del bisogno di una vera e propria governance per l’AI e mette a disposizione tool e servizi ad indirizzare queste esigenze. Le best practice alla base del loro sviluppo sono in linea con i punti cardine identificati e “tengono al centro proprio l’idea di AI governance cara all’azienda per fare in modo che l’AI non sia una ‘sfida’, quanto piuttosto una vera e propria utility su cui ogni azienda può far leva ed investire”. Per fare in modo che l’AI permei i processi è necessario però che le aziende e tutti gli attori coinvolti riescano a governare sviluppo, creazione, implementazione, gestione, monitoraggio di tutto il ciclo di vita dell’AI.
“Con la piattaforma  Cloud Pak for Data – spiega Romano – IBM mette a disposizione i tool per indirizzare tutte queste sfide. Offre ad AI builder, data science, sviluppatori, amministratori la possibilità di adoperare tecniche e tool di AI sui propri dati”. Nei propri domini di conoscenza e competenza.
Il bisogno di una trustworty AI, ovvero un’AI affidabile, di cui si è già messa in luce l’importanza, sono indirizzati bene della piattaforma che consente agli attori di ogni settore di spiegare e ‘vedere’ quali sono i parametri che impattano su ogni specifico modello, e quindi come è possibile darne ragione e spiegarlo. Altre sfide indirizzate dalla piattaforma riguardano la reputazione aziendale, ma anche il rispetto delle normative (con le peculiarità locali). “La piattaforma, tout court è in grado di tutelare l’azienda e gli esperti di dominio rispetto a tutte queste sfide, e mostra le capabilities relative alla lifecycle governance per catalogare e monitorare i modelli di AI con diversi strumenti utili a monitorarne gli output rispetto agli input e a prevedere azioni di rimedio, in caso di anomalie e bias”, prosegue Romano.
La piattaforma dispone inoltre degli strumenti necessari per il risk management, sfruttando l’automazione per il monitoraggio ed il reporting relativo degli eventi, così da ridurre i bias e gestire i rischi. Ultimo, ma non meno importante provvede alla verifica di tutti i requisiti di compliance. In estrema sintesi, per una rapida carrellata delle soluzioni disponibili al momento ecco che Watson Knowledge Catalog permette di governare e catalogare il dato, Watson Machine Learning serve invece per il training e il deploy dei  modelli ML, Watson OpenScale permette di monitorare e misurare i risultati dei modelli AI e aiuta a garantire che continuino ad essere corretti, spiegabili e conformi; ed infine Watson Studio lavora come builder e rappresenta l’ambiente dinamico per la gestione e lo sviluppo dei modelli di machine learning.

IBM watsonx, come evolve la piattaforma

IBM watsonx rappresenta in questo contesto la piattaforma unica per l’AI che comprenderà al suo interno, come l’abbiamo spiegata, anche tutta la componente dedicata alla “governance”. Con WatsonX quindi si vuole proporre una nuova piattaforma di AI e dati che consentirà alle imprese di scalare e accelerare l’introduzione di sistemi di AI più avanzati basati su dati affidabili.

In concreto, si parla di uno stack tecnologico completo che consente di addestrare, operare fine-tuning e distribuire modelli di intelligenza artificiale in un’organizzazione, compresi foundation model e altri tipi di tipologie di modelli di machine learning, basati su dati affidabili, velocità e governance, il tutto in un unico punto luogo e in qualsiasi ambiente cloud. Questo sulla base di tre set di strumenti unici: IBM watsonx.ai – consente a chi sviluppa l’AI di addestrare, testare, mettere a punto e distribuire sia modelli realizzati con metodi tradizionali che con nuovi metodi di AI generativa facendo leva su fondation model e attraverso un’interfaccia utente aperta e intuitiva.; watsonx.data – un data store specializzato, costruito su un’architettura lakehouse aperta che consente di combinare le prestazioni dei DataWarehouse con la flessibilità e scalabilità dei Data Lake,  ottimizzato per ospitare dati eterogenei a supporto dei workload analitici in ambito AI e in grado di fornire servizi di query e governance su dati in formati open, e, appunto, IBM watsonx.governance.
“Significa che gli strumenti di governance declinati come descritto, oggi convergono naturalmente nella componente IBM watsonx.governance”, il toolkit completo di governance dell’AI per abilitare flussi di lavoro affidabili per l’AI.

La soluzione, la cui disponibilità generale è prevista per la fine di quest’anno “rende quindi operativa la governance per contribuire a ridurre i rischi, i tempi e i costi associati ai processi manuali e fornisce la documentazione necessaria per ottenere risultati trasparenti e spiegabili”, ma offre anche meccanismi per proteggere la privacy dei clienti, rilevare in modo proattivo le distorsioni e le derive dei modelli e aiutare le organizzazioni a rispettare gli standard etici. Con la piattaforma IBM watsonx, i clienti saranno quindi in grado di soddisfare le esigenze della loro organizzazione in cinque aree chiave del loro business: interagire e conversare con clienti e dipendenti; automatizzare i flussi di lavoro aziendali e i processi interni; automatizzare i processi IT; proteggersi dalle minacce e affrontare gli obiettivi di sostenibilità.

AI, lavoro di squadra

FFacile intuire quindi come l’AI in azienda sia destinata necessariamente ad essere interpretata come un lavoro di squadra “da almeno due punti di vista – spiega Romano -. Il primo riguarda l’impegno del gruppo che in un’azienda si cimenta nei nuovi progetti legati all’intelligenza artificiale, ma il concetto vale anche per IBM che insieme con altre aziende si mette nei panni dello sviluppatore AI e cerca, insieme ai builder, di collaborare al miglioramento di tutti i modelli quindi in una prospettiva di ‘community’, ben consapevole di come per un buon progetto AI siano in gioco variegate competenze, specifiche, ma anche imprescindibili, e la creazione del modello rappresenti solo una di queste componenti”. Si pensi in questo caso anche solo alla partnership con Hugging Face. 

L’obiettivo del lavoro di squadra non è certo quello di poter offrire un modello pronto “as is” per l’utilizzo quanto piuttosto offrire basi di modelli pre-addestrati che possono essere scelti e “raffinati” da chi ha competenze specifiche di dominio. “E’ necessario quindi abilitare le aziende ad ottimizzare e personalizzare i modelli ma anche consentire loro di “governare” tutti i processi evolutivi del modello, monitorandone nel tempo le performance”. Il valore della community per IBM è fondamentale quindi, e legato alla possibilità proprio di accelerare i progetti in particolare legati all’AI generativa. “Watsonx.ai, per esempio – conclude Romano – permette di scegliere un  foundation model specifico raffinarlo e utilizzarlo per vederne e capirne gli effetti sul proprio scopo di business specifico. Sfrutta tutte le funzionalità del mondo open source per consentire a tutti di sviluppare, eseguire e distribuire i modelli di AI attraverso i particolari modelli dell’AI generativa”.

Per saperne di più scarica il whitepaper: IBM Transformation Index: State of Cloud

Leggi tutti gli approfondimenti della Room Think, almost there by IBM

© RIPRODUZIONE RISERVATA