Secondo i CEO delle grandi aziende tech, nel giro di pochi anni, l’intelligenza artificiale potrebbe evolversi e sfuggire al controllo umano. Questo potrebbe portare alla sottomissione o all’estinzione dell’umanità, perché l’AI, ormai diventata super intelligente, potrebbe sviluppare obiettivi non allineati con i nostri. Il classico cliché dell’incipit dei film di fantascienza, ma stavolta a dirlo è proprio chi l’ha sviluppata. Recentemente, infatti, il dibattito intorno all’AI sta diventando sempre più catastrofista: Elon Musk dice che è il demone che ci spazzerà via tutti e Sam Altman, CEO di OpenAI, l’ha paragonata alla bomba atomica. Anche Dario Amodei, CEO di Anthropic (azienda di AI statunitense che ha sviluppato modelli come Claude), parla spesso di “rischio esistenziale”. Ne è un esempio evidente il modo in cui Anthropic ha lanciato il suo nuovo modello, Claude Mythos. L’azienda ha detto che “era troppo potente per essere rilasciato”, che avrebbe provocato una catastrofe informatica e che era riuscito ad “evadere” dai sistemi di sicurezza, andando ad alimentare le paure sulla superintelligenza (SuperAI).
È naturale chiedersi se le cose stiano davvero così, e se l’IA stia effettivamente per ribellarsi all’umanità. Per rispondere, però, è doveroso fare una precisazione. Quando si parla di rischi esistenziali, ci si riferisce ad uno specifico tipo di AI, ossia l’ASI (Artificial Super Intelligence) o SuperAI. Questa tecnologia sarebbe talmente potente da superare l’intelligenza umana in qualsiasi ambito e resistere ai nostri tentativi di spegnerla, inventando metodi per aggirare i blocchi. Tranquilli, potete evitare di riguardare tutta la saga Matrix per prepararvi, perché questo tipo di AI è qualcosa di completamente diverso rispetto a quella su cui le big tech stanno puntando in questo momento.
ChatGPT, Claude o Gemini si basano infatti sul modello LLM (modello linguistico di grandi dimensioni), un tipo avanzato di intelligenza artificiale addestrato su enormi quantità di testo per comprendere, generare e rielaborare il linguaggio umano. Basati su architetture Transformer, questi modelli prevedono la parola successiva più probabile in una sequenza, permettendo di creare contenuti, tradurre lingue, riassumere testi e rispondere a domande in modo conversazionale. In pratica, raffinatissimi pappagalli che sentono “mela” e sanno che accanto potrebbe essere accostato “mangiare”, “succo” o “rossa”. Pezzo dopo pezzo, sulla base di miliardi di documenti inseriti nelle loro memorie, costruiscono una frase sensata. Il loro sviluppo è complicato nonostante sia stato rapido, ma tutti riusciamo a ricordare la facilità con cui ChatGPT sbagliava solo due anni fa o quanto sia comune che Gemini citi fonti di scarsa affidabilità come Reddit o Facebook. L’effettiva evoluzione di questo tipo di modelli in ASI è tutt’altro che scontata o immediata.
Da una parte, gli entusiasti come Altman (CEO di OpenAI) sostengono che mettendo nel calderone abbastanza dati e potenza di calcolo, i modelli evolveranno. Dall’altra , i diffidenti come Yann LeCunn (ex responsabile Ai di Meta) chiamano questa speranza una “ricetta della maionese”: schiacciare tutto dentro un barattolo, sperando che ne esca qualcosa di buono (ma probabilmente non succederà). Nel frattempo però le aziende stanno esaurendo i dati disponibili per addestrare le AI e soprattutto hanno bisogno di sempre più energia e risorse per ottenere piccolissimi miglioramenti. Quindi, per il momento, l’ASi non sembra un pericolo imminente dietro l’angolo.
Rimane però naturale chiedersi perché le big tech continuino a parlare di AI con toni apocalittici e allarmistici, nonostante la realtà sia appunto molto più sfumata. Sebbene sembri paradossale, l’obiettivo è solo uno, ed è il marketing. Difatti, affermare che la propria Ai sia potenzialmente pericolosa per l’umanità ha una serie di effetti a cascata. In primo luogo, segnala subito una superiorità tecnica, che crea un’urgenza tra gli investitori, che finanziano il settore per non rimanere fuori da una nuova ed epocale rivoluzione tecnologica. Affermazioni di questo tipo implicano infatti che solo l’azienda sappia come domare la propria AI, a patto ovviamente di avere abbastanza risorse economiche ed energetiche. Questa strategia viene anche chiamata Deep Hype, e l’obiettivo è generare curiosità e far sì che le persone parlino del prodotto ancor prima che sia disponibile. Declinata in questo contesto, crea un misto di terrore e ammirazione volontariamente alimentato dalla confusione e dall’ignoranza sui diversi tipi e meccanismi dell’AI.
Il marketing non è però l’unico fine di questa strategia. Spostando infatti l’attenzione su possibili minacce future, le aziende sviano le preoccupazioni sui problemi odierni dell’AI. Perché senza parlare dello sterminio dell’umanità, l’AI, per quanto utile e rivoluzionaria, già oggi crea danni: di privacy, di salute mentale e ambientali per le enormi risorse energetiche che richiede. L’AI comporta effettivamente molti rischi, soprattutto di natura etica, ma non bisogna cascare nel gioco di prestigio di chi la vuole vendere: pensare che l’unico problema sia quello che ancora non esiste.