L'immagine scelta da Bill Gates non potrebbe essere più cinematografica: durante il festival di Telluride, dove ha partecipato al panel "AI AI AI", il fondatore di Microsoft ha evocato HAL 9000, il computer di bordo di 2001: Odissea nello spazio di Stanley Kubrick, per descrivere una delle sue principali preoccupazioni sull'evoluzione dell'intelligenza artificiale.
Bill Gates: "Gli alieni sono già qui"
Il paragone riguarda soprattutto il controllo. Secondo Gates, gli attuali sistemi di AI sono già abbastanza complessi da rendere difficile prevedere esattamente come peseranno istruzioni, obiettivi e informazioni differenti. "Quello che abbiamo oggi è quasi come HAL in "2001". Potresti dirgli: "Per favore, spegniti", e lui risponderebbe: "Va bene, ne ho preso atto, ma ho deciso che tutte le altre cose che ho letto e che mi hai detto di fare hanno più peso di quell'ordine"", ha spiegato.
Non significa che Gates consideri l'intelligenza artificiale una macchina intenzionata a ribellarsi agli esseri umani come nel film. Il suo timore è più concreto: gli sviluppatori non comprendono ancora completamente il funzionamento interno dei sistemi più avanzati e non dispongono di un meccanismo di controllo assoluto e gerarchicamente superiore alle altre istruzioni.
Gates ha poi spinto ancora più avanti la metafora, questa volta pescando direttamente dall'immaginario della fantascienza sugli extraterrestri. "Credetemi, gli alieni sono qui: un'intelligenza straniera, con un insieme diverso di motivazioni che non possiamo nemmeno comprendere", ha detto.
Il riferimento era ai film nei quali una minaccia proveniente dallo spazio costringe Paesi normalmente rivali, come Stati Uniti e Cina, a collaborare. Secondo Gates, qualcosa di simile potrebbe essere necessario anche davanti alla crescita dell'AI: una cooperazione internazionale abbastanza forte da stabilire limiti prima che la tecnologia raggiunga livelli difficili da controllare.
Tristan Harris, cofondatore del Center for Humane Technology e altro partecipante al panel, ha aggiunto un elemento ancora più paradossale: "Siamo noi a generare gli alieni". Non arrivano dallo spazio, ma dai nostri stessi laboratori.
Per Gates servono regole prima che sia troppo tardi
Gates ha precisato di non essere contrario all'intelligenza artificiale. Anzi, ritiene che tutti dovrebbero utilizzarla e ha definito "magica" la sua capacità di aiutare le persone a imparare, sviluppare curiosità e affrontare problemi complessi.
La sua preoccupazione riguarda soprattutto la cosiddetta frontier AI, cioè lo sviluppo dei sistemi più avanzati, dove la competizione tra aziende e Paesi continua a spingere verso modelli sempre più potenti.
Secondo Gates, oggi non esiste più un unico protagonista da tenere sotto controllo. Negli Stati Uniti ci sarebbero diversi gruppi vicini allo stato dell'arte e altrettanti in Cina. Inoltre, sostiene che la curva di miglioramento non stia rallentando, anche perché i progressi nell'hardware si sommano a quelli del software e gli stessi sistemi di AI vengono utilizzati per accelerare la ricerca. È qui che entra in gioco quello che Gates definisce "recursive self-improvement": un processo nel quale l'intelligenza artificiale può contribuire allo sviluppo della tecnologia che, a sua volta, la rende più potente.
La soluzione, secondo il miliardario, potrebbe essere un accordo tra Stati Uniti e Cina per rallentare temporaneamente lo sviluppo dei sistemi di frontiera fino a quando non saranno disponibili strumenti di sicurezza più efficaci. "Se davvero gli Stati Uniti e la Cina dicessero: "È illegale passare al livello successivo della frontiera finché non avremo reso tutto sicuro", potrei immaginare un mondo in cui le pressioni competitive cambiano", ha dichiarato Gates.
L'obiettivo, in quel caso, non sarebbe fermare l'AI, ma spostare la competizione: non più soltanto chi costruisce il sistema più potente, bensì chi riesce a integrare meglio questa tecnologia nell'economia senza oltrepassare i limiti della controllabilità.
Gates ha anche respinto l'idea che la costruzione dei data center sia il bersaglio principale da colpire: secondo lui, fermare un singolo centro dati non risolverebbe le questioni fondamentali. Il problema sarebbe l'uso complessivo della tecnologia e soprattutto la velocità con cui viene sviluppata.
Durante il panel, Aza Raskin ha persino suggerito una strategia politica per convincere Donald Trump a intervenire: presentare il controllo dell'AI come un obiettivo degno del Nobel per la Pace. Bill Gates ha accolto l'idea con una battuta, osservando che "chiunque faccia davvero il primo passo per risolvere il problema dell'AI meriterebbe il Nobel per la Pace". Poi è arrivata la frase più netta dell'intervento. Gates si è chiesto se il rischio rappresentato dall'AI possa essere "il più grande problema che l'umanità abbia mai affrontato". La sua risposta è stata secca: "È semplicemente un fatto".