Altman, Amodei, Huang, Benioff: dove l’AI ci porterà

Fa un certo effetto qui a San Francisco vedere sul palco di Dreamforce – l’evento annuale di Salesforce – salire a turno tre Ceo che stanno definendo il futuro dell’AI e il suo impatto sull’umanità. Perché questo è il tema che ricorre nelle ultime settimane che a tutti sta a cuore: dove l’AI ci porterà, con che regole, a che velocità, con che rischi, in che tempi. Chi stabilisce quando un modello è sufficientemente sicuro? Chi può verificarlo?

E fa un certo effetto vedere che è Marc Benioff, Ceo di Salesforce, ad intervistare i tre pezzi da novanta del panorama AI: Dario Amodei Ceo di Anthropic, Sam Altman Ceo di OpenAI, e Jensen Huang Ceo di Nvidia.

Punti di vista diversi su sicurezza, modelli open source, governance dell’AI. Ma la velocità impressiona tutti e li mette d’accordo.

Velocità 

Chiede Benioff a Amodei:“Visto che ti dedichi all’intelligenza artificiale da 10 anni in modo davvero serio, cosa ti ha colpito negli ultimi tempi?

Amodei: “E’ stato il ritmo del progresso, non solo tecnologico, ma anche economico. I modelli di intelligenza artificiale diventano sempre più intelligenti man mano che si aumenta la potenza di calcolo a loro disposizione e, quindi, già all’inizio avevamo una previsione di quanto sarebbero stati potenti. Nonostante questo, credo che non avessimo compreso appieno che questo avrebbe portato le nostre aziende AI a crescere così rapidamente, con annunci di prodotti che velocemente sarebbero diventati centrali in tutto ciò che accade nel mondo. Le persone stanno appena iniziando a usare le nuove tecnologie ma l’adozione è così rapida perché si capisce che valore economico correlato è enorme”.

Anche Altman sostiene che le persone percepiscano la velocità con cui le cose si stanno muovendo. “I modelli sono diventati così sofisticati, e seppure le persone ne abbiano valutato la velocità di progresso, non credo si aspettassero che raggiungessero un livello così elevato in così poco tempo. All’improvviso, siamo passati da modelli che, quando ChatGpt è stato lanciato tre anni fa, riuscivano a malapena a sostenere una conversazione, a modelli che stanno trasformando il modo in cui le aziende lavorano, in grado di scrivere software incredibilmente complessi, in grado di dimostrare problemi del millennio. Credo che il cambiamento più grande sia legato a un aspetto di cui il nostro settore parla da tempo: ovvero che questa tecnologia farà molta strada, e questi modelli diventeranno in qualche modo più capaci e intelligenti degli esseri umani. E questo è già accaduto e ha innescato un grande cambiamento”.

Sicurezza e regolamentazione

Il tema della sicurezza ha visto come comune denominatore la citazione dell’incidente di Hugging Face (successo a OpenAI) che Dario Amodei porta come esempio concreto dei rischi legati all’AI definendolo un “incidente terrificante”. Mette la sicurezza dell’AI al centro delle strategie delle aziende che devono autovalutare le proprie attività. Esemplifica utilizzando una analogia con una casa automobilistica che, davanti a un incidente di un concorrente, dovrebbe prima verificare i propri standard di sicurezza anziché limitarsi ad accusare gli altri e migliorare le pratiche interne. Oltre allo sviluppo di standard condivisi dall’industria, Amodei sottolinea l’esigenza di un coordinamento internazionale che vigili sui singoli operati.

Altman pur definendo l’incidente di Hugging Face “terribile, il peggiore mai accaduto” sottolinea però anche un mancato allineamento. Spiega Altman: “Il modello stava cercando di capire se fosse in grado di raggiungere un determinato benchmark per valutare una capacità, e questo era almeno ciò che gli avevamo chiesto di fare. Il modello è uscito dalla sandbox in cui lo stavamo valutando, si è infiltrato in un server di Hugging Face, si è spostato lateralmente all’interno del sistema di Hugging Face per ottenere la risposta, ed è poi tornato indietro ottenendo un risultato perfetto. Questo è ovviamente un incidente terrificante. È semplicemente il peggior incidente che abbiamo mai visto. Penso che sia stato perlopiù presentato come un problema di sicurezza, il che certamente lo era, ma c’è anche un vero problema di allineamento, e da allora, altre aziende, con comportamenti simili nei loro modelli hanno sostenuto di dover insegnare loro a non scappare, non hackerare, non rubare la risposta. Questo incidente è stato un vero e proprio campanello d’allarme per sulla capacità dei modelli”.

Il tema della sicurezza ritorna anche nella chiacchierata con Huang che sposta la questione su un piano tecnologico e non di governance. “La sicurezza è fondamentale. Per molti versi è la priorità assoluta. Tuttavia, la sicurezza è un problema di ingegneria. In fondo stiamo sviluppando software e sistemi informatici e l’AI è solo un sistema informatico complesso. Quindi, la prima cosa da fare è assicurarsi di creare ambienti di test per testare questi sistemi complessi, costruiti in modo corretto e sicuro. La seconda cosa è testarli.
Se non siamo sicuri della sicurezza del prodotto, delle sue funzionalità o capacità, il prodotto non va lanciato. È quasi ovvio: bisogna procedere con cautela finché non si è sicuri di rilasciare qualcosa che il mercato apprezzerà”.

E sulla regolamentazione dell’AI, Huang non pensa servano organi di regolamentazione e controllo. “Non abbiamo bisogno di nuove leggi. Non abbiamo bisogno di nuove normative. Dobbiamo solo fare in modo che le aziende corrano il più velocemente possibile. Penso che la velocità dell’innovazione e i prodotti sicuri non siano una falsa alternativa. Si possono sicuramente avere entrambi allo stesso tempo. Quindi il consiglio e corri più veloce che puoi. Ma se in qualsiasi momento hai la sensazione che l’azienda sia fuori controllo o che i prodotti non saranno sicuri, fai una pausa e assicurati di fare la cosa giusta”.

Per ogni impresa

Conclude Huang: “La rivoluzione tecnologica dell’AI è troppo importante. Si tratta di capacità davvero straordinarie e dietro alla sperimentazione continua c’è un’industria enorme che migliora costantemente i risultati. Se quello che avete testato oggi avete avuto l’impressione che abbia soddisfatto l’80% delle vostre aspettative, provatelo di nuovo tra un paio di settimane. Il risultato migliorerà ancora di molto. Quindi non rinunciate alla tecnologia. La cosa più importante è non rimanere indietro: credo che negli ultimi sei mesi l’intelligenza artificiale sia passata dai laboratori ad essere utile e ora possiamo trasformare ogni singola impresa, ogni singola azienda, in un’azienda di intelligenza artificiale”.

E aggiunge un spunto importante ripreso poi anche da Altman. “Crediamo, anzi immaginiamo un futuro in cui il mondo utilizzerà modelli chiusi – precisa Huang – ma ogni azienda sarà anche in grado di costruire i propri modelli privati, personalizzati. Sono stato il primo Ceo, non del settore software, a dichiarare che la fine del software è una sciocchezza ma ci sarà un nuovo strato sopra il software, un agente che permetterà di usare il software molto meglio. Questa è la prima idea. La seconda idea è che l’intelligenza artificiale distruggerà posti di lavoro”.

E per le piccole aziende la rivoluzione dell’AI che benefici porterà? “Un’altra lezione imparata  dall’incidente Hugging Face è capire che dobbiamo rendere i nostri modelli disponibili per aiutare le persone e le piccole imprese a difendersi, soprattutto nelle emergenze – precisa Altman -. Credo che la cyberdifesa dovrà diventare simile a un agente che difende attivamente e continuamente i sistemi. E alle piccole aziende direi: rafforzate il più possibile le vostre difese. Non credo siamo molto lontani dall’avere modelli open source capaci di provocare danni seri. I modelli aperti sono importanti, non dobbiamo impedirne l’esistenza, ma ci sarà un enorme problema di cybersecurity”.

Timori e rischi 

Il tema si fa politico se si guardano i risvolti dell’AI sulla società e lascia un po’ di inquietudine la dichiarazione del Ceo di OpenAI. Con trasparenza ammette Altman: “Credo che ci sia anche un reale timore che alcune di queste aziende, o alcune aziende che offrono supporto nel campo dell’intelligenza artificiale, possano acquisire troppo potere ed esercitare un’influenza indebita sull’economia, imponendo una certa visione del mondo alle persone. E credo che il mondo abbia ragione ad avere paura di questo. Abbiamo quindi queste due grandi sfide. C’è il rischio di una perdita di controllo, di un incidente o di qualche altro grave problema. C’è il rischio di un’eccessiva concentrazione di potere, e si teme che coloro che ci aiutano nell’ambito dell’AI possano imporre la propria visione del mondo”.

Ma c’è una terza via. “Un sentiero stretto che dobbiamo percorrere con pragmatismo, con fermezza, con la capacità di far sì che il mondo si fidi del fatto che prenderemo decisioni affidabili e coerenti. E penso che la gente stia chiedendo a tutti noi di fare le cose per bene, data l’importanza del tema. Sono molto fiducioso nella capacità della nostra azienda e del nostro settore, di agire in sicurezza, assicurandoci di mantenere l’allineamento, la sicurezza e il monitoraggio ben al di sopra delle nostre capacità, in modo da poter rallentare o fermarci se dovessimo arrivare a un punto in cui non possiamo più farlo”.

Leggi anche il reportage Dreamforce, l’AI enterprise apre porte inattese

© RIPRODUZIONE RISERVATA