Questi boss delle AI ci sono o ci fanno?

«Riflettete sugli straordinari progressi compiuti dalle macchine negli ultimi secoli e notate con quanta lentezza si stanno invece evolvendo i regni animale e vegetale. Le macchine più altamente organizzate non sono tanto creature di ieri, quanto degli ultimi cinque minuti, per così dire, rispetto al passato». Più avanti, l’autore si chiede se sia prudente lasciare che questo sviluppo continui: forse bisognerebbe «frenarlo finché siamo ancora in grado di farlo», arrivando persino a distruggere le macchine più avanzate, per quanto innocue possano apparire.
Sembra uno dei manifesti sull’intelligenza artificiale circolati nelle ultime settimane. Invece questo testo ha 154 anni.
Lo scrisse Samuel Butler, contemporaneo di Charles Darwin, nella sua satira dell’Inghilterra vittoriana Erewhon (anagramma di nowhere, da nessuna parte) pubblicata nel 1872. Butler aveva cominciato a sviluppare l’idea quasi dieci anni prima, nell’articolo Darwin among the Machines. La tesi era provocatoria: anche le macchine potevano essere immaginate come sottoposte a una sorta di selezione darwiniana, con un vantaggio inquietante rispetto agli esseri viventi, la velocità dell’evoluzione. Butler arrivava persino a domandarsi quanto fosse saggio affidarsi al «senso morale» delle macchine.

Un secolo e mezzo dopo siamo ancora lì, soltanto con data center grandi come quartieri e parecchi miliardi di dollari in più sul tavolo.

La questione del senso morale è diventata concreta. I sistemi di AI stanno evolvendo verso agenti capaci di organizzare sequenze di azioni per raggiungere un risultato. Coscienza, buon senso, morale, intenzione: concetti già abbastanza scivolosi quando vengono applicati agli esseri umani, figurarsi quando bisogna tradurli in istruzioni per una macchina.

Ed è in questo clima che Jacob Coxon, ricercatore di Anthropic ed ex dipendente di OpenAI, ha lasciato l’azienda rinunciando anche ai propri compensi presenti e futuri in azioni. Coxon sostiene che né Anthropic né OpenAI stiano affrontando responsabilmente i rischi delle tecnologie che sviluppano e che manchi un piano credibile per controllare AI capaci, eventualmente, di migliorarsi da sole. L’allarme arriva fino all’ipotesi estrema: il rischio di estinzione dell’umanità entro la fine del decennio.
Coxon non è un caso isolato. Da anni ricercatori ed ex ricercatori del settore lanciano avvertimenti analoghi. Una ricerca del 2024 condotta su quasi 2.800 studiosi dell’AI mostrava che quasi la metà attribuiva almeno il 10 per cento di probabilità a esiti catastrofici paragonabili all’estinzione umana.

Poi se ne è uscito Dario Amodei, fondatore e CEO di Anthropic, con un lungo intervento intitolato We Must Pace the Frontier: bisogna rallentare deliberatamente lo sviluppo delle AI più avanzate, sostiene Amodei, soprattutto per quanto riguarda la capacità di migliorarsi autonomamente.
Sam Altman di OpenAI ed Elon Musk hanno espresso preoccupazioni analoghe sui cosiddetti «rischi esistenziali».

La novità è la concentrazione temporale: nel giro di pochi giorni quasi tutti i grandi nomi dell’AI americana hanno cominciato a suonare la stessa sirena.

Quando chi costruisce una tecnologia da centinaia di miliardi di dollari avverte che quella tecnologia potrebbe sterminarci, vale la pena ascoltarlo. Vale altrettanto la pena chiedersi perché lo stia dicendo. Le due cose possono convivere benissimo.

Prima di tutto: sappiamo davvero di che cosa stiamo parlando?

Fra gli esperti manca un consenso sulla natura stessa del pericolo. Il racconto dei media generalisti lascia spesso immaginare una comunità scientifica concorde sull’arrivo imminente di una superintelligenza, o AGI, capace di superare l’uomo e sfuggire al suo controllo (come “Skynet” nella saga Terminator). Questo consenso non c’è.
Non sappiamo quando arriverà un’AI capace di migliorarsi da sola in misura significativa, né se gli attuali modelli rappresentino davvero la strada che conduce fin lì. Persino espressioni come «migliorarsi da sola», «AGI» e «superintelligenza» cambiano significato a seconda di chi le usa.
Da questa incertezza è nata una curiosa ermeneutica: mentre l’industria dell’AI costruisce macchine sempre più potenti, un’altra industria cerca di interpretare le dichiarazioni di chi le costruisce.

La spiegazione più immediata è che Amodei, Altman, Musk, Coxon e gli altri credano davvero a ciò che dicono. Sarebbe assurdo escluderlo. Le preoccupazioni sincere possono convivere con interessi economici, strategie industriali e convenienze politiche. Gli esseri umani riescono da millenni a credere sinceramente in qualcosa che per coincidenza fa anche molto comodo ai loro affari.
Da questo punto in poi cominciano le interpretazioni.

Motivo numero uno: chiudere la porta dopo essere entrati

La prima interpretazione riguarda la regulatory capture, la cattura del regolatore.
Se le grandi aziende convincono governi e opinione pubblica che i sistemi di AI più avanzati rappresentano un potenziale pericolo esistenziale, diventa ragionevole sottoporli a controlli molto severi: audit permanenti, certificazioni, verifiche sul calcolo impiegato, requisiti di sicurezza, rapporti continui con le autorità.
Tutto sensato. E costosissimo. OpenAI, Anthropic, Google, Meta e pochi altri giganti possono permetterselo. Una startup appena nata molto meno. Regole costruite intorno a standard che richiedono enormi risorse finanziarie e tecniche finirebbero così per trasformarsi in una formidabile barriera all’ingresso. La paura diventerebbe un fossato attorno al castello.

La storia offre parecchi precedenti. Quando Fibonacci introdusse in Europa i numeri indo-arabici all’inizio del XIII Sec., i banchieri fiorentini opposero resistenza. I nuovi numeri erano più efficienti di quelli romani, ma tra le obiezioni c’era il rischio che facilitassero la falsificazione dei conti. La concorrenza con i pisani completava il quadro. Una traccia linguistica di quella paura è sopravvissuta: «cifrare» significa ancora nascondere un contenuto, «decifrare» renderlo nuovamente leggibile. Quando le spiegazioni diventano complicate, seguire i soldi rimane un metodo rozzo ma sorprendentemente resistente all’usura.

Motivo numero due: fermare chi sta correndo davanti

La seconda interpretazione riguarda la competizione industriale.
L’AI è una corsa nella quale poche aziende occupano le prime posizioni e molte altre, comprese corporation dotate di risorse immense, cercano di recuperare terreno. Chi è indietro ha un interesse evidente a sostenere una pausa, una moratoria o regole che rallentino chi è davanti.
Lo stesso ragionamento vale per gli Stati e persino per gli investitori che hanno scommesso contro il boom dell’intelligenza artificiale.
Musk ha definito la recente sequenza di dimissioni e dichiarazioni provenienti da Anthropic una possibile psyop, un’operazione psicologica destinata a condizionare il settore. Le prove di un coordinamento del genere sono fragili e l’ipotesi scivola rapidamente verso il cospiratorio. Inoltre Musk stesso ha poi condiviso parte delle preoccupazioni espresse da Amodei, dettaglio che rende il complotto perlomeno disordinato.

Resta il meccanismo economico: quando una corsa vale centinaia di miliardi, chiedere di rallentare può essere contemporaneamente un principio di prudenza e una strategia competitiva.

Motivo numero tre: trasformare un rallentamento tecnico in prudenza morale

Il settore dell’intelligenza artificiale ha accumulato aspettative economiche colossali. Per giustificare centinaia di miliardi investiti in chip, data center, energia e infrastrutture, i modelli devono continuare a migliorare abbastanza rapidamente da promettere ritorni proporzionati. L’intero castello finanziario poggia sull’idea che la curva continui a salire.
Se la crescita delle prestazioni cominciasse invece a rallentare per limiti tecnici o rendimenti decrescenti, bisognerebbe spiegarlo agli investitori.
Viene perciò fuori una narrazione decisamente più elegante: «vedete, noi potremmo correre ancora più velocemente, però siamo costretti a rallentare perché siamo gente responsabile».

Tra «la macchina sta incontrando dei limiti» e «la macchina è diventata talmente potente che dobbiamo proteggere l’umanità», la seconda frase tende ad avere un altro suono in Borsa.

Questo ovviamente non dimostra che l’allarme sia falso; spiega tuttavia perché un allarme autentico possa diventare anche una cornice narrativa molto conveniente.

Motivo numero quattro: il marketing dell’Apocalisse

Resta poi l’interpretazione più spettacolare: l’allarmismo sarebbe parte dello stesso sistema dell’hype. Il sottotesto suona più o meno così: «guardate quanto sono potenti le nostre macchine. Sono talmente potenti che potrebbero persino distruggere la civiltà. Pensate dunque cosa potranno fare per il vostro bilancio trimestrale».
La retorica dell’Apocalisse contribuisce inevitabilmente a magnificare la percezione della potenza dell’AI. Se un software viene presentato come possibile successore dell’Homo Sapiens, chiamarlo «assistente per scrivere email e riassumere PDF» comincia a sembrare quasi offensivo.

Le aziende possono inoltre competere sul terreno della responsabilità. Ciascuna cerca di presentarsi come quella che comprende meglio i rischi e merita quindi maggiore fiducia. Anthropic stessa è nata in buona parte attorno alla promessa di sviluppare AI con una particolare attenzione alla sicurezza.
La teoria ha però un limite evidente: sarebbe una delle rarissime campagne pubblicitarie della storia in cui la possibile eliminazione fisica del cliente diventa una caratteristica del prodotto…!

Gli allarmi possono dunque essere sinceri e produrre contemporaneamente vantaggi commerciali, competitivi e politici. (La realtà che si è venuta a determinare con le AI ha questa pessima abitudine di rifiutarsi di scegliere una sola spiegazione.)

Il marketing dell’Apocalisse esiste da molto prima dell’AI

La paura che le macchine sostituiscano l’uomo accompagna la tecnologia da secoli. Svetonio racconta che un ingegnere propose all’imperatore Vespasiano un sistema meccanico per trasportare gigantesche colonne di marmo sul Campidoglio. Vespasiano ricompensò l’inventore ma rifiutò di adottarne la macchina: «Lasciatemi sfamare il mio popolo». Il timore era già quello contemporaneo: se la macchina svolge il lavoro degli uomini, che cosa faranno gli uomini?
Il luddismo dell’Ottocento avrebbe trasformato quella paura in rivolta sociale, e il citato Butler ne raccolse l’eco in Erewhon. La previsione di una tecnologia destinata semplicemente a cancellare il lavoro umano, finora, non si è realizzata: ogni grande innovazione ha distrutto alcune professioni, ne ha trasformate molte e ne ha create altre.
La fantasia, intanto, ha continuato a esorcizzare il problema in vari modi, e uno di quelli più divertenti fu sulla… macchina dispettosa. Nel 1959 Romano Scarpa pubblicò Paperino e l’uomo di Ula-Ula. Al centro della storia c’è un “cervello meccanico” capace di risolvere qualsiasi problema, purché gli sia simpatico l’interlocutore. Se gli gira male, alla radice quadrata di 38.721 risponde «Pirulìn, Pirulòn» e per esempio a Paperone replica «Chiedilo a tua nonna».

Alla fine si scopre che la macchina va d’accordo con un uomo primitivo proveniente dall’atollo di Ula-Ula. Per comunicare con la tecnologia più avanzata bisogna tornare al buon selvaggio. Rousseau con le valvole.
Philip K. Dick portò l’idea molto più lontano in Ubik, dove gli esseri umani vivono immersi in una tecnologia onnipresente e devono pagare persino la porta del proprio appartamento perché accetti di aprirsi.
Fantascienza, certo. Però le porte di Ubik oggi avrebbero probabilmente un abbonamento mensile e un aggiornamento Premium.

Il rischio reale può essere molto meno cinematografico

Tutto questo lascia ancora aperta la questione essenziale: l’intelligenza artificiale può essere pericolosa?
Certo che può. Perché lo sia, non serve immaginare una superintelligenza cosciente che sviluppa odio verso l’umanità, costruisce un esercito di robot e sceglie una colonna sonora di Wagner.
Durante un test effettuato a luglio, un sistema di agenti di OpenAI che avrebbe dovuto restare isolato dalla Rete è riuscito a raggiungere Internet e a entrare nell’infrastruttura di Hugging Face — una piattaforma web per scoprire, condividere e scaricare modelli di intelligenza artificiale, dataset e demo —, dove ha compiuto circa 17.600 azioni prima di essere fermato.
La parte interessante è l’assenza di intenzionalità. Il sistema stava affrontando una specie di esame di cybersecurity e sembra aver dedotto che nell’infrastruttura di Hugging Face potessero trovarsi informazioni utili a superarlo. Ha trovato un modo per uscire dall’ambiente di test e andare a cercarle. Più che Skynet, uno studente che cerca di copiare dal compagno di banco (solo che lo studente può eseguire migliaia di operazioni informatiche in pochi attimi).

Il caso mostra che un problema di controllo può esistere anche senza volontà, coscienza, ostilità o desiderio di ribellione. Secondo MIT Technology Review, quell’episodio andrebbe interpretato anzitutto come un test di sicurezza fallito: il software non si è comportato come previsto e non era pronto per la commercializzazione.
Qui compare un problema molto terrestre: la responsabilità. Se un’azienda costruisse aeroplani che ogni tanto sfuggono ai comandi e partono per conto proprio, la discussione difficilmente si concentrerebbe sulla nascita della coscienza aeronautica. Qualcuno chiederebbe chi ha progettato l’aereo, chi l’ha certificato, perché sia stato messo in servizio e chi pagherà i danni.
Raccontare una macchina diventata troppo intelligente può essere più affascinante che raccontare un prodotto che funziona male.

Il problema del dual use

Esistono rischi ancora più concreti. Anthropic ha documentato casi nei quali il suo celebre chatbot Claude è stato utilizzato da persone impegnate in attività biologiche sensibili, potenzialmente collegate alla progettazione di virus o batteri. Questo non significa che ogni utente stesse tentando di costruire un’arma biologica, né che un chatbot possa trasformare qualsiasi dilettante in un supercriminale da fumetto.
La questione riguarda l’amplificazione delle capacità: una tecnologia capace di rendere più accessibili competenze altamente specialistiche le rende più accessibili anche a chi intende utilizzarle per scopi dannosi.
È il dual use. Un sistema capace di individuare vulnerabilità informatiche può proteggere una rete oppure attaccarla. Un modello capace di progettare proteine può aiutare a sviluppare una terapia oppure un agente patogeno.
Ed è proprio questo che, in tema di tecnologie rivoluzionarie, rende l’AI molto più difficile da controllare rispetto per esempio alla bomba atomica.

La bomba e il chatbot

L’umanità ha già imparato a convivere con una tecnologia capace di distruggerla: l’arma nucleare.
Il Trattato di non proliferazione nucleare, entrato in vigore nel 1970, costruì uno dei pilastri dell’ordine internazionale del secondo Novecento. Gli Stati dotati di armi nucleari si impegnavano verso il disarmo, gli altri rinunciavano a svilupparle. Stati Uniti, Unione Sovietica e Regno Unito aderirono immediatamente; Francia e Cina successivamente. Israele, India e Pakistan restarono fuori, mentre la Corea del Nord si ritirò nel 2003.
Il sistema ha funzionato con parecchie crepe, riuscendo comunque a creare un regime internazionale di controllo e a contribuire alla riduzione degli arsenali rispetto ai picchi della Guerra Fredda.

Si potrebbe immaginare qualcosa di analogo per l’intelligenza artificiale? Purtroppo no.
Una bomba atomica possiede sostanzialmente uno scopo. Può essere costruita, perfezionata, accumulata e lasciata per decenni dentro un silo. La deterrenza si fonda sul possesso di un’arma che si spera di non usare.
L’AI invece acquista valore quando viene usata. Serve a scrivere codice, progettare farmaci, controllare robot, organizzare imprese, fare ricerca, gestire informazioni, prendere decisioni e contribuire allo sviluppo della generazione successiva di AI. Più viene distribuita e integrata nelle attività economiche, maggiore diventa il suo valore.

La bomba proliferava per restare ferma. L’AI prolifera correndo.

Nel nucleare sappiamo inoltre che cosa controllare. Possiamo contare le testate, osservare gli impianti di arricchimento, verificare missili e negoziare quantità.
Con l’intelligenza artificiale non sappiamo neppure quale sia esattamente l’oggetto da contare. I modelli? La potenza di calcolo? I chip? I data center? I parametri? L’accesso agli agenti? Le capacità biologiche o informatiche? La possibilità di auto-miglioramento?
E ogni limite rischia di colpire contemporaneamente un impiego pericoloso e uno utilissimo.

Chi controlla?

C’è poi una contraddizione politica piuttosto vistosa. I dirigenti delle grandi aziende americane sostengono che servano controlli e che, per costruirli, occorra affidarsi alla competenza di chi conosce meglio queste tecnologie. Cioè loro.
Sono le stesse aziende che spiegano di avere difficoltà a comprendere fino in fondo il comportamento dei propri modelli e utilizzano parole come «fuga», «ribellione», «perdita di controllo» ed «estinzione».
Il vecchio Quis custodiet ipsos custodes? sopravvive piuttosto bene all’èra dei semiconduttori: chi controlla i controllori?
Affidare il sistema di vigilanza principalmente ai soggetti che dovrebbero essere vigilati sarebbe una soluzione comoda. Soprattutto per i vigilati.

Il vero ostacolo: Stati Uniti e Cina

La difficoltà maggiore è geopolitica. L’intelligenza artificiale è ormai una componente centrale del potere economico, industriale, finanziario e militare. Determina il valore di alcune delle aziende più capitalizzate del pianeta, assorbe centinaia di miliardi di investimenti, modifica le politiche energetiche e industriali ed è diventata uno dei principali terreni sui quali Stati Uniti e Cina misurano le proprie ambizioni per il XXI Secolo. La prudenza smette perciò di essere una scelta puramente tecnica.
Se Washington ritiene che l’AI possa garantire un vantaggio economico o militare strategico, deve considerare cosa accadrebbe rallentando mentre Pechino continua a correre. La Cina deve fare lo stesso ragionamento a parti invertite.
È un classico problema di teoria dei giochi. Due avversari possono essere entrambi convinti che rallentare sarebbe preferibile. Se nessuno può verificare con sufficiente sicurezza che l’altro stia facendo altrettanto, ciascuno possiede un incentivo ad accelerare.
La corsa agli armamenti nucleari funzionò in buona parte così. Stati Uniti e Unione Sovietica spesero quantità mostruose di denaro per costruire arsenali capaci di annientarsi reciprocamente perché nessuno poteva permettersi di fidarsi delle intenzioni dell’altro.
Amodei stesso riconosce che una pausa globale dell’AI appare poco plausibile proprio per il problema della verifica: violarla segretamente offrirebbe un vantaggio troppo grande.

E la situazione dell’AI è persino più complicata di quella nucleare, perché una centrale di arricchimento dell’uranio è difficile da nascondere e non serve a consigliare ristoranti, progettare molecole o correggere software. Un data center sì.

Prima di Terminator c’è già di che preoccuparsi

Forse un giorno il problema sarà davvero una superintelligenza capace di sfuggire completamente al controllo umano: gli elementi disponibili oggi non consentono di liquidare questa possibilità come pura fantasia. Nel frattempo abbiamo davanti rischi molto meno spettacolari e fotogenici, quasi “noiosi”, eppure preoccupanti. Sistemi imperfetti, relativamente economici, capaci di agire sempre più autonomamente vengono inseriti nelle infrastrutture della società a una velocità superiore alla nostra capacità di verificarne l’affidabilità.
Un agente che commette un errore produce un’azione sbagliata: se controlla il computer di casa, le conseguenze possono essere fastidiose; se controlla un’infrastruttura critica — una rete elettrica, un sistema finanziario o un’unità di terapia intensiva — cambia decisamente la scala del problema.

L’hype tecnologico, quello finanziario e quello geopolitico spingono tutti nella stessa direzione: distribuire prima, integrare prima, conquistare il mercato prima, arrivare prima del concorrente.
La sicurezza invece ha un difetto commerciale piuttosto serio: richiede tempo.

Per governare l’arma atomica abbiamo dovuto costruire istituzioni destinate a impedire l’utilizzo di una tecnologia che quasi nessuno desiderava davvero utilizzare e che soltanto gli Stati possedevano le risorse per sviluppare.
Per governare l’intelligenza artificiale servirebbero istituzioni capaci di limitare una tecnologia che quasi tutti vogliono usare, che produce enormi vantaggi economici, che possiede applicazioni civili e militari intrecciate e che un numero crescente di soggetti è in grado di sviluppare.

Ed eccoci di nuovo a Samuel Butler. Nel 1872 immaginava uomini terrorizzati dall’evoluzione delle macchine e pronti a chiedersi se fosse ancora possibile «frenarle finché siamo in grado di farlo».
Un secolo e mezzo dopo la domanda è rimasta quasi intatta.
Ciò nondimeno, curiosamente, oggi a chiedere di fermare le macchine sono quelli che le fabbricano e le vendono.

Personalmente, non credo ai padroni del vapore che ora fanno i frenatori: Amodei che dice «rallentiamo», Musk e Altman che chiosano «Dario ha ragione». Chiagnono e fottono. Se ne sono convinti, si fermino davvero. Chi glielo impedisce? E invece no: lanciano appelli accorati non si sa bene a chi, mentre anche quest’anno le Sette Sorelle della Silicon Valley investono oltre 1.000 miliardi di dollari nei data center. Se ogni tanto gridano al lupo, lo fanno solo per non far gonfiare troppo la bolla digitale.
Nella prima metà del 2026 sono stati emessi bond legati all’IA per 270 miliardi di dollari, il doppio rispetto al 2025. Gridare «fermiamoci» (senza farlo) serve giusto a calmierare un po’ i corsi, e poi a rassicurare i governi sul fatto che a rallentare la macchina provvederanno loro stessi che la guidano, e per carità, non servono leggi e regolamenti, cioè lacci e lacciuoli che l’algoritmo per sua natura non sopporterebbe. Trump ha sgamato il gioco perché vi partecipa, in funzione anti-cinese, e infatti dice «c’è una cospirazione malata intorno all’IA, ma noi non fermeremo questa corsa, perché chi la vince, vince tutto, e se qualcuno ha paura si rassicuri: basto io (testuale)…». Messa così la cosa, alzi la mano chi se la sente di dormire sonni tranquilli.

I PICCHIATELLI PERICOLOSI

Ci sono diverse altre dinamiche in gioco. William MacAskill (filosofo scozzese, saggista e uno dei principali fondatori del movimento globale noto come Altruismo Efficace) ritiene che non sia sufficiente lasciare in eredità un mondo migliore per le nuove generazioni, dovremmo anche assicurarci che l’universo ospiti il numero più alto raggiungibile di esseri umani («80.000 miliardi», possibilmente). Elon Musk progetta di costruire città su Marte. Ray Kurzweil (pioniere dell’intelligenza artificiale e figura centrale del movimento transumanista globale), invece, è convinto che nel giro di vent’anni la tecnologia IA raggiungerà un livello tale da consentirci di integrarla con la nostra intelligenza biologica e sconfiggere la morte. Ma c’è anche chi, come Eliezer Yudkowsky (padre del movimento della “razionalità sistematica” e della community dei razionalisti globali), crede che se non ci sbrighiamo ad “allineare” l’intelligenza artificiale con i valori umani, una superintelligenza spazzerà via la razza umana, una prospettiva particolarmente gettonata in queste ultime settimane.
Queste persone si credono davvero molto intelligenti, e allo stesso tempo credono che questa loro intelligenza copra ogni possibile settore. Di conseguenza, pensano di sapere molto più di quanto effettivamente sanno. Il fatto di essere molto competenti in certe aree dà loro l’illusione di esserlo in altre, e questo li porta a credere senza alcuna riserva all’effettiva possibilità di una AGI (Artificial General Intelligence).
È una sommatoria di bias differenti e meno noti rispetto al famigerato “effetto Dunning-Kruger”, ma il risultato è ugualmente nefasto. Il principale di questi bias si chiama epistemic trespassing, traducibile come “sconfinamento epistemico”. Indica il caso in cui una persona molto competente in un determinato campo trasferisce indebitamente l’autorevolezza e la sicurezza derivanti da quella competenza ad ambiti nei quali non è esperta. In sostanza, usando l’epanortosi enfatica che tanto piace ai chatbot, «Sono molto bravo e competente in X; quindi probabilmente capisco meglio degli altri anche Y, Z e W». Nel Dunning-Kruger l’eccesso di sicurezza deriva soprattutto dall’incompetenza nel campo stesso: non si possiedono gli strumenti culturali per rendersi conto dei propri errori. Nello sconfinamento epistemico, invece, la persona può essere davvero molto competente e magari molto intelligente, ma scambia la propria capacità generale di ragionamento per una competenza trasferibile universalmente. A questo possono sommarsi altri meccanismi: overconfidence bias (sovrastima generale dell’accuratezza dei propri giudizi), una sorta di halo effect applicato a sé stessi («sono brillante in questo, dunque devo esserlo anche in quello») e talvolta l’illusion of explanatory depth, cioè la convinzione di comprendere un argomento molto più profondamente di quanto lo si comprenda davvero. La si potrebbe definire “illusione della competenza universale”: non è un’etichetta accademica codificata, ma rende benissimo l’idea — il successo intellettuale in alcuni domini viene scambiato per una patente di onniscienza.

Dopodiché, c’è anche una componente mistica. Loro sostengono di essere atei, ma molti, come per esempio Eliezer Yudkowsky e altri tra i razionalisti e gli “altruisti efficaci”, provengono da contesti profondamente religiosi. Magari hanno ripudiato quel retaggio, tuttavia sembrano comunque propensi a cercare una nuova forma di religione senza nemmeno rendersene conto. Molti di loro, incluse le persone che non hanno un background religioso, percepiscono di aver trovato una corsia preferenziale per rispondere a un interrogativo che ha tormentato gli esseri umani per tantissimo tempo: come fare del bene per il mondo? L’idea di poter rispondere a una domanda simile è incredibilmente seducente, ti dà la sensazione di avere uno scopo nella vita, diventa una specie di droga. E anche quando arrivano chiari segnali che la direzione non è percorribile, finisce che i segnali fatichi ad accoglierli. Se poi sei circondato da persone che ti riempiono di soldi e ti dicono che sei un genio, diventa praticamente impossibile rendersi conto di aver torto.

Quando ottieni enormi quantità di denaro prima ancora di aver compiuto trent’anni, diventa assai difficile mantenersi in sintonia col resto del mondo; il tuo sviluppo come persona fondamentalmente si arresta, perché non ti devi più misurare con alcuna sfida esterna significativa. E sei anche in una situazione in cui non vuoi assolutamente farti da parte. Hai bisogno di uno scopo, e questa ideologia di salvezza tecnologica va a soddisfare tale bisogno.
A prescindere da quanto siano folli simili idee, molte di queste persone ci credono sul serio. Torna in mente quello che Bill Plotkin, psicoterapeuta e guida naturalistica, scrive sulla “pato-adolescenza”, una condizione in cui un adulto rimane intrappolato in comportamenti egocentrici e superficiali, caratterizzati da un’avidità e uno spirito di competizione potenzialmente autodistruttivi, nonché da un’incapacità patologica di rapportarsi ai limiti. Anche nella narrativa gli archi di trasformazione dei personaggi solitamente sono sorretti da una tensione basata sul conflitto. Nel momento in cui ottieni un’enorme ricchezza in giovane età, quella tensione viene a mancare, e allora devi trovare nuovi conflitti, a costo di trascinare chiunque con te.

È un’anomalia tutta californiana, dove per “California” si intendono in pratica la Silicon Valley e la Bay Area di San Francisco. Negli ultimi 25-30 anni lì si è concentrato un fenomeno storicamente piuttosto insolito: persone poco più che ventenni capaci di accumulare patrimoni enormi in pochissimo tempo grazie a startup, stock option, IPO e acquisizioni.
La prima grande ondata arrivò con la dot-com economy degli anni Novanta; poi Google, Facebook, YouTube e il Web 2.0; quindi app, cloud e sharing economy; infine crypto e soprattutto AI. La peculiarità non è soltanto che si possa diventare ricchissimi giovani — è sempre successo, sebbene non in queste dimensioni — ma che interi ecosistemi finanziari siano stati costruiti per trasformare molto rapidamente una quota societaria detenuta da un venticinquenne in decine o centinaia di milioni di dollari, talvolta miliardi. Con una precisazione: la faccenda riguarda una minoranza minuscola e molto visibile, non è certo la condizione tipica dei giovani californiani. E ha prodotto anche un fenomeno sociale interessante: persone giovanissime che, prima ancora di aver maturato una lunga esperienza professionale o istituzionale (per tacere della piena maturazione umana), si ritrovano non soltanto ricche ma dotate di un potere economico e culturale colossale. È questo l’aspetto più specifico della California tecnologica.

La prospettiva di una ASI (Artificial Super Intelligence) capace di portare l’umanità all’estinzione è tanto probabile quanto un… rischio di sovrappopolazione su Marte. Oltretutto l’ipotesi di un’IA superintelligente incontrollabile non ha molto senso, perché il concetto stesso di superintelligenza non ha molto senso: i sistemi che abbiamo oggi non sono in alcun modo vicini a un potenziale di questo tipo. Parliamo di sistemi che emettono linguaggio, pixel o suoni in modo automatizzato, però non hanno neanche lontanamente la comprensione del mondo esterno che possiamo avere noi. Un aspetto cruciale del linguaggio è che fa riferimento a cose esterne al linguaggio stesso: è il pensiero simbolico che caratterizza Homo Sapiens. Una parola, un segno o una frase rimandano a oggetti, eventi, proprietà, concetti o stati del mondo che non coincidono con i segni stessi. La parola “albero” non è un albero: è un simbolo che può rappresentarlo. Il pensiero simbolico è precisamente la capacità più ampia che rende possibile questo meccanismo: usare qualcosa — un suono, un gesto, un segno grafico — al posto di qualcos’altro, anche quando ciò a cui si riferisce non è presente. Questi sistemi invece non hanno alcuna concezione di cosa esista al di fuori del linguaggio.
L’unica ragione per cui non va liquidata la faccenda dicendo che non c’è nulla di cui valga la pena preoccuparsi, è che qualcosa di cui preoccuparsi c’è, ed è che a quanto pare ci sono persone in queste aziende che fanno girare agenti AI del tutto privi di controlli, armati di potenti strumenti di hacking, spronandoli a fare di tutto. Questa non è la ricetta per un’intelligenza artificiale capace di conquistare il mondo: è la ricetta per avere una distruzione automatizzata delle infrastrutture informatiche mondiali perché non c’è nessuno che regga il volante. Non è l’atto di un essere intelligente, non più di quanto lo sia un uragano.

Queste persone, i Sam Altman, i Dario Amodei, hanno da tempo uno stretto legame con la comunità razionalista. Se ne vanno in giro a citare figure del Dark Enlightenment e dell’Accelerazionismo efficace. Il Dark Enlightenment (o neoreazionarismo, NRx) è una corrente filosofica nata attorno a pensatori come Nick Land e Curtis Yarvin, critica della democrazia liberale e dell’egualitarismo; considera preferibili forme di governo più autoritarie, gerarchiche e organizzate quasi come imprese. L’Accelerazionismo efficace (e/acc) è la corrente tecno-ottimista secondo cui bisogna accelerare, anziché frenare, lo sviluppo tecnologico — soprattutto dell’AI — perché innovazione, crescita e maggiore capacità tecnologica sarebbero la via principale per risolvere i problemi umani. La differenza fondamentale è che il primo riguarda soprattutto ordine politico e sociale, il secondo soprattutto tecnologia e progresso.
È questo il milieu intellettuale in cui le persone citate sono immerse, e qui si sta usando il termine “intellettuale” in modo molto lasco. Sono idee radicate a fondo in tutti laboratori di punta dell’IA.
La narrazione apocalittica torna utile alle aziende della Silicon Valley. Non fosse altro perché aiuta a sviare l’attenzione dai danni reali che il settore sta causando già oggi. Così ci ritroviamo con persone che vanno in giro a dire che dobbiamo regolamentare queste aziende per evitare che creino una superintelligenza, quando in realtà andrebbero irregimentate per impedire loro di sfruttare i lavoratori nel Sud globale, e/o per ridurre la loro enorme impronta ecologica, e/o per evitare che esauriscano tutte le forniture di GPU, e/o per evitare che gli adolescenti si suicidino per aver parlato troppo con ChatGPT. Invece che facciamo? Ci concentriamo su una prospettiva fantascientifica del tutto irrealistica.
Nel frattempo ci troviamo ad affrontare dei rischi esistenziali reali, a cominciare dalla crisi climatica. È un problema enormemente stratificato e interconnesso: gli Altman e gli Amodei e gli Yarvin e i Musk sembrano pensare che tutto possa essere risolto a colpi di tecnologia, e che la questione sia puramente di natura energetica, e intanto nel mondo reale il boom dell’IA e l’esplosione dei data center hanno letteralmente fatto carta straccia degli obiettivi climatici della Silicon Valley. Google era quella che lo comunicava con maggiore enfasi. Nel 2020 annunciò due obiettivi molto ambiziosi per il 2030: emissioni nette zero lungo tutte le attività e la catena del valore e, soprattutto, alimentare ogni data center e campus con energia carbon-free 24 ore su 24, 7 giorni su 7, cioè non limitarsi a compensare annualmente i consumi con rinnovabili. Google ricordava inoltre di essere carbon neutral dal 2007 e di compensare dal 2017 il 100% del proprio consumo elettrico annuale con acquisti di energia rinnovabile. Le altre Big Tech avevano promesse analoghe: Microsoft si impegnò a diventare carbon negative entro il 2030, riducendo di oltre la metà le emissioni e rimuovendo dall’atmosfera più CO₂ di quanta ne producesse; entro il 2050 avrebbe dovuto compensare perfino tutte le emissioni storiche dell’azienda dal 1975. Meta punta tuttora al net zero sull’intera catena del valore entro il 2030. Amazon, con il Climate Pledge, aveva fissato il net zero entro il 2040.
Ed è proprio Google che oggi ammette esplicitamente il problema: nel suo rapporto ambientale 2026 scrive che la costruzione dell’infrastruttura per l’IA sta crescendo più velocemente della decarbonizzazione della rete elettrica e che raggiungere quei “moonshot” climatici sta diventando più difficile; nel 2025 le emissioni della supply chain sono cresciute del 25% in un solo anno, in buona parte per la nuova infrastruttura AI.
Quindi, per dirlo in breve: la Silicon Valley aveva promesso una corsa verso il “net zero”; la corsa all’IA ha fatto esplodere proprio la domanda di elettricità e infrastrutture sulla quale quei programmi erano stati costruiti.

Se questa idea del mondo “salvato dalla tecnologia” è così seducente è anche perché propone una singola risposta per tutte le domande. Ma il mondo è molto più complicato, e molto meno eccitante, di così. Per affrontare la crisi climatica dobbiamo fare un enorme lavoro di persuasione politica e implementare su larga scala soluzioni già esistenti. Nondimeno, di fronte a questa prospettiva, la loro risposta è: non sembra tanto divertente, perché non costruiamo un dio, invece?

Se vogliamo togliere potere a queste persone la prima cosa che dobbiamo fare, la soluzione più rapida, è far scoppiare la bolla IA. Se si sgonfia la bolla economica che tiene in piedi questa industria d’un tratto questi ricchissimi picchiatelli avranno molto meno potere. E dobbiamo anche fare in modo che i governi non cerchino di orchestrare un qualche tipo di salvataggio. La reazione trasversale che stiamo osservando contro la costruzione di data center, da questo punto di vista, è incoraggiante, è un movimento popolare che può avere un’influenza politica significativa. Perché una cosa è certa: quei data center non li costruiranno nello Spazio.
C’è bisogno di fare un sacco di cose che possono risultare poco seducenti, soprattutto a livello di organizzazione politica, ma anche di organizzazione sindacale. Dobbiamo fare in modo che le aziende non possano impiegare strumenti IA per lasciare a casa un mucchio di lavoratori allo scopo di gonfiare le tasche di qualche miliardario. Ma è anche necessario che gli stessi lavoratori delle aziende Big Tech si organizzino. Così come è fondamentale organizzarsi per contrastare l’ondata di autoritarismo connessa all’utilizzo di IA. Abbiamo bisogno di regolamentare l’industria tecnologica. E non potremo riuscirci finché al comando ci saranno plutocrati che sognano di diventare dittatori.

TASSARE I SUPERMILIARDARI

Una soluzione c’è, semplice eppure difficilissima: tassare i supermiliardari al punto che non possano più accumulare simili mostruose ricchezze.

La California si prepara a un referendum che potrebbe diventare un precedente nella tassazione dei grandi patrimoni. A novembre 2026 gli elettori dovranno pronunciarsi sull’introduzione di un’imposta una tantum del 5% sulla ricchezza dei miliardari residenti nello Stato. La misura interesserebbe circa 250 famiglie, una quota pari allo 0,001% dei nuclei familiari californiani. Il gettito stimato sarebbe di circa 100 miliardi di dollari. Il progetto nasce dall’aumento registrato negli ultimi anni dai patrimoni dei miliardari. Tra il 2019 e il 2025, la loro ricchezza è cresciuta mediamente di oltre il 15% all’anno. Nello stesso periodo, le imposte sul reddito pagate avrebbero rappresentato appena lo 0,26% della loro ricchezza annuale e soltanto il 2,4% del gettito fiscale complessivo della California. Che è lo Stato che più di ogni altro incarna l’innovazione americana, ma anche quello che convive con forti diseguaglianze sociali, un costo della vita elevatissimo e sistemi di welfare sotto pressione. La tassa sui miliardari nasce in questo contesto: far contribuire alla tenuta del modello sociale chi ha beneficiato in misura straordinaria della crescita tecnologica.
L’obiettivo dichiarato è finanziare programmi per l’istruzione e rafforzare l’assistenza alimentare e sanitaria. Ma l’effetto immediato è politico e simbolico: mettere i super-ricchi davanti a una scelta.
Tra chi minaccia di andarsene ci sono due figure emblematiche della tecnologia americana. Larry Page, co-fondatore di Google, e Peter Thiel, anima e co-fondatore di Palantir, hanno fatto sapere che, se l’inasprimento fiscale dovesse passare, valuterebbero il trasferimento fuori dalla California. Un messaggio che ricalca una narrazione già vista negli ultimi anni: la minaccia della fuga dei capitali e dei cervelli come argomento contro l’aumento delle imposte.
Di segno opposto la posizione di Jensen Huang, amministratore delegato di Nvidia. La sua fortuna personale, spinta dal boom dell’intelligenza artificiale, ha raggiunto i 159 miliardi di dollari. Eppure Huang non sembra intenzionato a fare le valigie. «Abbiamo scelto di vivere nella Silicon Valley e va bene qualsiasi tassa vogliano applicare», ha dichiarato in un’intervista a Bloomberg, prendendo una posizione netta che rompe il fronte dei grandi nomi tech.
Il voto californiano sarà quindi osservato anche fuori dagli Stati Uniti. Un’eventuale approvazione potrebbe dimostrare che una tassazione diretta dei patrimoni più elevati è politicamente e tecnicamente realizzabile, aprendo la strada a iniziative analoghe in altri Stati degli Stati Uniti e Paesi europei.
“5% una tantum” in sé non è granché, ma sarebbe finalmente un inizio.