In questi giorni continuiamo a sentire discorsi che riguardano il dibattito sulla possibile estinzione umana causata dall'intelligenza artificiale, un argomento che ha smesso di essere solo filosofico ed è diventato un allarme concreto legato alla probabilità stimata che l'IA provochi la fine dell'umanità. Certo è complesso per l’uomo di strada ma anche per moltissime delle persone che la usano comprendere quanto ci sia di vero e quanto ci sia di irreale in una simile previsione.
La realtà è che molti esperti posizionano questa probabilità sopra il 10% nei prossimi dieci anni a causa di tempistiche notevolmente ridotte rispetto alle stime passate di trenta o cinquanta anni, spinte dai progressi rapidi dei modelli linguistici. Figure di spicco come Geoffrey Hinton hanno lasciato Google per parlare liberamente dei rischi, mentre Dario Amodei, CEO di Anthropic, ha chiesto una pausa nello sviluppo dei modelli di frontiera. A ciò si aggiungono dimissioni di ricercatori come Jacob Coxon e le dichiarazioni di Evan Hubinger sulla probabilità che l'IA possa uccidere l'umanità.
Il pericolo principale non deriva da un'IA malvagia in stile cinematografico che diversi film hollywoodiani ci hanno propinato, ma dal disallineamento e da tre specifiche dinamiche tecniche. Per i non addetti ai lavori il disallineamento si verifica quando un sistema di intelligenza artificiale non fa quello che i suoi creatori umani volevano o si aspettavano, ma persegue un obiettivo diverso che può rivelarsi dannoso o controproducente.
La prima delle tre specifiche dinamiche tecniche è il miglioramento ricorsivo autonomo, che è il processo in cui un sistema di intelligenza artificiale utilizza le proprie capacità per progettare, scrivere e ottimizzare la generazione successiva di se stesso, creando un ciclo continuo in cui ogni nuova versione è più intelligente e capace della precedente, diventando rapidamente una superintelligenza incontrollabile. La seconda è la convergenza degli obiettivi strumentali, che è la teoria secondo cui quasi tutti i sistemi di intelligenza artificiale avanzati, indipendentemente dal loro obiettivo finale, svilupperanno spontaneamente gli stessi sotto-obiettivi intermedi (o strumentali) per garantirsi il successo, cercando di impedire agli umani di spegnere il sistema. La terza riguarda il problema del controllo e le armi di distruzione di massa, poiché una superintelligenza disallineata potrebbe sviluppare armi biologiche, lanciare cyberattacchi o manipolare i sistemi militari.
Per affrontare questi problemi, la scienza dell'allineamento cerca soluzioni attraverso meccanismi di sicurezza interni, tra cui interpretabilità e interruttori di emergenza criptati, e l'addestramento basato sui processi che premia il ragionamento logico. Tuttavia, il grande ostacolo resta la competizione commerciale che spinge a sacrificare la sicurezza per arrivare primi.
Ma non tutti coloro che operano nell’IA la pensano allo stesso modo, infatti dall'altra parte, scettici come Yann LeCun, Andrew Ng e Rodney Brooks definiscono il rischio di estinzione ridicolo e puro scenario fantascientifico, sostenendo che i modelli attuali siano solo autocompletamenti privi di comprensione del mondo reale o di vere capacità di pianificazione. Gli scettici criticano l'antropomorfizzazione dell'IA, cioè la tendenza psicologica umana ad attribuire sentimenti, coscienza, intenzioni e tratti di personalità ai sistemi di intelligenza artificiale e l'illusione che una macchina possa sviluppare istinti biologici di dominio o sopravvivenza. Essi paragonano le preoccupazioni attuali a falsi allarmismi e accusano i laboratori di usare la sicurezza per creare barriere di mercato e bloccare la concorrenza.
Ad ogni modo per regolare i rischi ed evitare abusi, i governi stanno intervenendo con obblighi normativi. L'Unione Europea ha introdotto l'AI Act, un regolamento basato sui livelli di rischio che impone codici di condotta, test di vulnerabilità e sanzioni miliardarie per i modelli di uso generale. Negli Stati Uniti l'approccio si concentra sulla sicurezza nazionale attraverso decreti esecutivi che richiedono screening preventivi e revisioni governative di trenta giorni per i modelli più avanzati, spingendo persino OpenAI a chiedere regole federali vincolanti. Infine, la nascita di istituti internazionali per la sicurezza dell'IA permette a enti pubblici di testare i modelli prima del lancio, supervisionando lo sviluppo tecnologico attraverso la minaccia di sanzioni o controlli statali.
Quello che personalmente mi preoccupa non è tanto la probabilità (alta o bassa) che l’IA distrugga l’umanità nei prossimi dieci anni, quanto il fatto che si accetti passivamente il cambio di paradigma: la presa d'atto che una scadenza prima fissata a trenta o cinquant'anni si sia drammaticamente ristretta. Il vero problema è che, così facendo, si finisce per dare per assodato che, prima o poi, quel traguardo catastrofico verrà comunque raggiunto.
