L’algoritmo va alla guerra

Palmer Luckey è uno dei tanti giovani prodigi della Silicon Valley sbocciato in un garage (ma cosa avranno mai, questi garage delle case americane?): a poco più di 16 anni ha inventato Oculus Rift, un visore per la realtà virtuale indossabile sul viso, e in capo a pochi anni lo ha venduto a Facebook per due miliardi. È anche per merito suo se Facebook ha cambiato nome in Meta: è lui che, dando vita nel 2012 alla prima società in grado di produrre visori per la realtà virtuale pronti per il mercato, ha dato il via a quella che, anni dopo, è diventata la grande (e a quanto pare inutile, finora) corsa al “metaverso”.
La sua azienda successiva si chiama Anduril e promette di rendere la guerra “più economica e più cool”. E se vi sentite un brivido gelato salire lungo la schiena ne avete ben donde.

A vederlo, il tipo, non gli dareste due lire. A una recente conferenza è comparso indossando un paio di infradito e una coloratissima camicia hawaiana. Abbigliamento standard da startupper della Silicon Valley: peccato che Palmer Luckey fosse circondato da uomini in giacca e cravatta e non si trovasse a una conferenza sulle criptovalute o sull’ultima tendenza nel mondo dei social media, ma a un incontro relativo ai progressi tecnologici dell’industria bellica.
Fondata nel 2017, Anduril prende il nome dalla leggendaria spada di Aragorn ne “Il Signore degli Anelli” e incarna la visione di Luckey di una guerra al contempo tecnologicamente iper-sofisticata ed estremamente economica.
Mentre la maggior parte dei giganti della Silicon Valley si è finora mantenuta a debita distanza dal settore della difesa (ma quanto durerà?), Luckey presenta il suo impegno militare come una specie di missione “per la sicurezza americana” e “per la pace nel mondo”. Il solito paradossale si vis pacem, para bellum, che è tanto vero, e verificabile, a livello strategico, quanto spesso una foglia di fico per i più cinici opportunismi economici.

In proposito Luckey, che si definisce «libertarian pendente a destra» (scuola Peter Thiel, cfr. più avanti), ha dichiarato in un’intervista a NPR:

Le principali aziende del settore della difesa non hanno il giusto talento o la giusta struttura di incentivi per investire in cose come l’intelligenza artificiale e la robotica. E le aziende con le giuste competenze, come Google, Facebook e Apple, si rifiutano di lavorare con la comunità della sicurezza nazionale statunitense.

Nel giro di sei anni Anduril ha assemblato una squadra di veterani della tecnologia, dell’esercito e della sicurezza nazionale americana e con essa si propone di rivoluzionare il settore con droni autonomi (aerei e terrestri) e software AI che, tramite dati ricavati da sensori, promettono di trasformare il controllo sulla guerra reale in una specie di grande videogioco strategico.

Il fascino dei cattivi e l’hype per la guerra

Luckey, che ha una biografia da prodigio dell’ingegneria a cavallo tra meccanica e informatica, hardware e software, è anche il fiero possessore della più grande collezione di videogiochi della storia. La tiene chiusa in un bunker anti-atomico dismesso. A differenza di uno come Elon Musk, che ha scoperto il lato cool della questione giunto ormai alla mezza età, Palmer non finge di essere uno strano nerd: egli è uno strano nerd.
Nato nel 1993, è cresciuto con il mito di Seto Kaiba, il cattivo del manga Yu-Gi-Oh. Seto è un orfano che eredita un impero commerciale dei videogiochi e decide di dedicare tutte le sue energia allo sviluppo della realtà virtuale. Visto com’è andata la sua carriera, è Luckey stesso a pensare che la passione per i manga abbia avuto un’enorme influenza sulla sua vita professionale e imprenditoriale. E lo stesso si potrebbe dire per la passione per l’elettricità e per la costruzione fai-da-te di dispositivi di ogni tipo.
Mentre la maggior parte dei suoi coetanei iniziava a programmare, Luckey sperimentava nel garage dei genitori, cercando fin dalla pre-adolescenza di costruire armi laser ed elettromagnetiche utilizzando rame e condensatori ad alto voltaggio. Qualche anno dopo, iniziò anche a modificare dispositivi per il gaming, a riparare iPhone usati, a smontare e rimontare vecchi dispositivi per la realtà virtuale acquistati durante aste governative, a leggere paper desecretati sulle ricerche avanzate del Pentagono.
Una dedizione presto premiata, non appena Palmer Luckey vendette Oculus a Mark Zuckerberg e sembrò sul punto di diventare il nuovo campione della Silicon Valley. E invece le cose presero una piega completamente diversa: prima si scoprì che nel 2016 Luckey aveva fatto donazioni a gruppi anti Hillary Clinton, poi venne a galla il suo esplicito supporto per Donald Trump (all’epoca candidato presidente), che gli alienò le simpatie di un mondo tecnologico all’epoca ancora dominato dalla corrente liberal.
Licenziato da Facebook, decise di fare ciò che all’epoca nessun altro avrebbe osato a San Francisco e dintorni: fondare una startup di tecnologia bellica. Nel 2017 nacque così Anduril, inizialmente sostenuta economicamente dal solito Peter Thiel, uno dei più importanti venture capitalist statunitensi (anche lui sostenitore di Donald Trump). Il primo contratto governativo di Anduril arrivò poco dopo ed era relativo alla fornitura di una torretta di sorveglianza munita di intelligenza artificiale da dispiegare al confine tra Stati Uniti e Messico. Da allora, Anduril ha messo a segno una crescita senza sosta, arrivando a raccogliere finanziamenti per 2,8 miliardi di dollari. Merito, se così si può dire, delle armi tecnologicamente avanzatissime sviluppate da questa startup: il drone “Altius-600M”, in grado di identificare in autonomia il nemico e di esplodere in una palla di fuoco al contatto con esso, l’aereo da guerra autonomo “Fury” e il sottomarino da battaglia “Dive-LD”.

Quando Luckey parla di un drone come se fosse un nuovo Transformer non è una posa ma la manifestazione di un genuino entusiasmo per l’approssimarsi della realtà ai mondi fantastici di cui si nutre la sua immaginazione. Ecco un esempio, sempre dall’intervista a NPR:

È un drone che viene lanciato in aria da un tubo, quindi si dispiega, stende le ali, estende la coda, apre l’elica e si trasforma in un piccolo aereo. Può trasportare una testata esplosiva fino a 13 chili. Quindi ha una grande potenza.

Luckey non si limita a vendere tecnologie: vende un’idea della guerra iper-moderna, quasi un’estetica.
Gli armamenti di Anduril sono estremamente brandizzati, hanno linee da oggetti di design e vengono presentati con video molto curati, con un gusto a metà tra la tipica levigatezza della Silicon Valley e quella di videogiochi come Metal Gear Solid, reference molto palese.
Se non sapessimo che si tratta di un drone che porta esplosivi potremmo pensare che si tratti del lancio di un nuovo eccitante gadget tecnologico. Forse perché per Luckey e per Anduril, in fondo, un drone che porta esplosivi non è che… un ennesimo gadget tecnologico.

Anche i commenti sotto il video non sono molto diversi da quelli, pieni di hype e facili entusiasmi, che si potrebbero trovare sotto il trailer di un videogioco o la presentazione di un nuovo iPhone.

In qualità di esperto militare certificato di YouTube, posso affermare che è incredibilmente cool e che ne voglio subito uno!

Mettetelo in un gioco di Call of Duty e tra qualche anno avrete a disposizione 100.000 operatori addestrati.

È incredibile e di una creatività eccezionale! Andate a fargli il culo, ragazzi!

Design e ingegneria assolutamente straordinari!

La maggioranza dei commenti si concentra sul livello ingegneristico raggiunto e/o esprime entusiasmo senza riserve per l’oggetto, a prescindere da qualunque considerazione o remora rispetto ai suoi scopi.
Grazie alla totale disintermediazione dei contenuti via social, è la trasformazione della guerra nell’ennesimo campo di esercizio di hype social fine a sé stesso.
Inutile dire che Luckey, che è insieme tech-nerd, gamer, maker, super-ingegnere e libertarian convinto che la forza sia l’unica vera grammatica del mondo, in mezzo a questo tipo di entusiasmo ci sguazza.

Intoppi e visioni

Il problema semmai è che dietro l’entusiasmo per l’immagine, i prodotti di Anduril — così dicono i soldati ucraini che ne fanno già uso in guerra — sono ancora piagati da numerosi bug, da inaffidabilità che richiedono un costante aggiornamento per superare le contromisure russe.

Questi problemi, secondo Luckey, tuttavia sono solo piccoli intoppi (sic!) che si risolveranno. Gli intoppi ingegneristici, del resto, nel suo mondo si risolvono sempre. (Peccato che gli ucraini abbiano a disposizione una sola vita e non una caterva di vite come nei videogames.)
Nel frattempo Anduril si è aggiudicata numerosi contratti con il Dipartimento della Difesa degli Stati Uniti e, con il sostegno di Peter Thiel, ha sviluppato tecnologie per la sorveglianza delle frontiere, che sono state criticate da attivisti per i diritti civili e additate come strumenti invasivi di controllo.
Luckey respinge ogni accusa, sostenendo che, senza innovazione, la sicurezza nazionale è destinata a essere superata e che una difesa moderna richiede metodi radicalmente diversi.

In quasi tutti i suoi interventi pubblici Palmer esprime e ribadisce la convinzione libertaria che la tecnologia non sia buona né cattiva, ma semplicemente uno strumento di potere, e che il compito di una società tecnologica responsabile (sic!) sia quello di dotarsi degli strumenti più efficienti.
Quello che è essenziale della visione di Anduril sono due aspetti: da un lato una guerra pressoché del tutto autonoma, robotica e combattuta senza coinvolgimento umano e, bontà sua, «senza spreco di vite di soldati». Una prospettiva apparentemente progressista ma che in realtà nasconde enormi problemi etici circa le eventuali regole di ingaggio e le responsabilità delle “macchine” in caso, per esempio, di vittime civili collaterali.

Anche in considerazione di simili problematiche, al momento il Dipartimento della Difesa americana rifiuta di considerare l’acquisto di armi totalmente autonome, mentre Luckey in merito ha dichiarato:

I nostri avversari usano frasi che suonano davvero bene come: “Non puoi non essere d’accordo sul fatto che un robot non dovrebbe mai poter decidere chi vive e chi muore?” E la mia risposta è: dov’è la superiorità morale di una mina che non distingue tra un bus pieno di bambini e un carro armato russo?

L’altro aspetto fondamentale della filosofia di Palmer è l’idea di una guerra dai costi sempre più ridotti, grazie alla sostituzione di pochi grandi mezzi costosissimi (aerei, missili, carri armati, etc.) con sciami di droni e tante piccole unità autonome, maggiormente sacrificabili poiché sostituibili a basso costo. Una guerra, si potrebbe dire, basata su grandi economie di scala.
Una “democratizzazione della tecnologia bellica”, come la definisce Luckey, che se da un lato permetterebbe di ridurre i budget della difesa a favore di altre spese (rendendo tuttavia al contempo meno sconveniente, e quindi frequente, il ricorso alle armi), dall’altra apre una grande questione: un esercito di armi autonome e a basso costo non finirebbe per mettere in discussione il “monopolio della violenza” degli Stati?

“Bellum omnium contra omnes”, in salsa Thiel

In un mondo di corporation da trilioni di dollari, quanto costerebbe a ognuna di esse assemblare un esercito “alla Luckey”? Quanto costerebbe, in altre parole, a Google o Microsoft o NVIDIA dotarsi di proprie “truppe cibernetiche automatiche” ben armate e in grado di vincere una battaglia o una guerra? La risposta è semplice: una piccola percentuale del loro capitale.
Non è una fantasia distopica fine a sé stessa ma un ingrediente del milieu filosofico di cui è impregnato Luckey. Soprattutto se consideriamo che uno dei suoi mentori e finanziatori è, come detto, quello stesso Peter Thiel che da tempo sostiene il superamento dello Stato come forma di organizzazione sociale (!), proprio a partire dal superamento del suo “monopolio della violenza”, per effetto della disruption tecnologica definitiva.

Secondo Thiel (e altri pezzi grossi della Silicon Valley), lo Stato non è un Leviatano che sopprime la violenza tra gruppi e individui ai fini del bene collettivo, bensì un «coercitore-repressore delle élite tramite il “monopolio della violenza” e di altri strumenti come il fisco», strumenti che «servono a mantenere una minoranza di individui particolarmente produttivi ed efficienti alla mercé di masse di soggetti improduttivi e dipendenti». (Altri brividi lungo la schiena? Eppure è questo il sentire comune di gente come Elon Musk.)
Al posto dello Stato, Thiel immagina un forma di anarco-capitalismo in cui le élite potrebbero finalmente de-finanziare gli Stati, lasciando al proprio destino gli individui sotto un certo reddito, per vivere in paradisi fiscali o fondare micro-nazioni gestite come corporazioni.

Ciò tuttavia comporterebbe ovviamente il ritorno all’incubo hobbesiano del “bellum omnium contra omnes”, la guerra di tutti contro tutti. Uno scenario di violenza diffusa e pervasiva in cui però, sostiene Thiel, «le élite economiche saprebbero prosperare proprio grazie alla capacità di acquisire forme di sicurezza privata sempre più efficienti» (incidentalmente questo mondo è lo stesso di uno dei più grandi classici della fantascienza cyberpunk: “Snow Crash” di Neal Stephenson, il libro che ha inventato il Metaverso).
Non serve aggiungere che un mondo simile è un mondo in cui il tipo di tecnologia di difesa che offre Luckey sarebbe perfettamente a suo agio. E che la vittoria di Trump e l’ascesa (anche politica) di Elon Musk, due figure che incarnano un profondo rifiuto delle strutture e dei poteri consolidati — in ultima analisi, il rifiuto della democrazia liberale —, offrono ulteriore propellente a visioni come quella di Palmer Luckey.

Dietro l’immagine del “buon” patriota trumpiano, del difensore della sicurezza nazionale, dell’amico di Zelensky e del nerd con il mullet e le camicie haiwaiane di Palmer Luckey si cela un retroterra ideologico molto più cospicuo di quanto appaia, e soprattutto una trama di filosofia della Storia — la relazione tra Stati e tecnologie in grado di disintermediare tutte le prerogative statali — che è forse la singola traccia più importante e cruciale del contemporaneo, quella che tiene insieme i più disparati, ma rilevanti, fenomeni di questa epoca inquieta e assurda.

La discesa in campo delle AI

Anduril sta ora sviluppando un sistema avanzato di difesa aerea basato su uno sciame di piccoli droni che lavorano insieme in missione. Questi velivoli autonomi sono controllati attraverso un’interfaccia alimentata da un modello linguistico di grandi dimensioni (LLM), che interpreta i comandi inviati in linguaggio naturale e li traduce in istruzioni che sia i piloti umani che i droni possono comprendere ed eseguire.
Finora Anduril aveva utilizzato LLM open source per i suoi test: d’ora in poi avrà al suo fianco OpenAI, la celeberrima produttrice dell’intelligenza artificiale ChatGPT.
Al momento non risulta che Anduril utilizzi un’intelligenza artificiale avanzata per controllare i suoi sistemi autonomi o per metterli in condizione di prendere decisioni autonome. Una mossa del genere sarebbe più rischiosa, soprattutto vista l’imprevedibilità degli attuali modelli.
«OpenAI costruisce la sua AI a vantaggio del maggior numero possibile di persone e sostiene gli sforzi degli Stati Uniti per garantire che la tecnologia sostenga i valori democratici», ha dichiarato mercoledì 4 dicembre l’amministratore delegato di OpenAI, Sam Altman. I modelli di intelligenza artificiale di OpenAI saranno utilizzati per potenziare i sistemi di difesa aerea: «Insieme, ci impegniamo a sviluppare soluzioni responsabili che consentano agli operatori militari e di intelligence di prendere decisioni più rapide e accurate in situazioni di alta pressione», ha dichiarato Brian Schimpf, cofondatore e amministratore delegato di Anduril.

La retromarcia dell’industria tech sull’AI militare

Fino a qualche anno fa, diversi ricercatori di AI nella Silicon Valley erano fermamente contrari a lavorare con le forze armate. Nel 2018, migliaia di dipendenti di Google avevano organizzato proteste in risposta alla fornitura di AI da parte dell’azienda al dipartimento della Difesa degli Stati Uniti, attraverso quello che all’epoca era noto all’interno del Pentagono come “progetto Maven” (Google ha poi fatto marcia indietro sull’iniziativa).
Ma alcune aziende e dipendenti del settore tecnologico statunitense hanno cambiato idea dopo l’invasione dell’Ucraina da parte della Russia. E ora che l’AI è sempre più vista come una tecnologia trasformativa e geopoliticamente significativa negli ambienti governativi, molte aziende tech sembrano più aperte a lavorare con i militari. Negli Stati Uniti inoltre i contratti con il dipartimento Difesa promettono di garantire un cospicuo flusso di entrate: elemento cruciale per le aziende di AI, che devono investire enormi quantità di capitale in ricerca e sviluppo.
(Sulle AI e sull’entusiamo esagerato che le circonda cfr. anche questo esaustivo quadro che ho pubblicato nell’aprile 2023.)

A novembre 2024 una delle più importanti rivali di OpenAI, Anthropic, ha annunciato di aver stretto una partnership con Palantir, un’azienda che collabora con il Pentagono, per fornire alle agenzie di intelligence e di difesa statunitensi l’accesso ai suoi modelli di AI. Nello stesso periodo, Meta (Facebook, Instagram, Messenger, Threads, Whatsapp) ha dichiarato di aver reso disponibile la sua tecnologia open source Llama alle agenzie governative e agli appaltatori statunitensi che si occupano di sicurezza nazionale, grazie a partnership con Anduril, Palantir, Booz Allen, Lockheed Martin e altri.
Il Pentagono si sta rivolgendo sempre più a società come Anduril per i droni. In particolare, dopo che un rapporto dell’esercito ha rilevato che il drone che a inizio 2024 ha ucciso tre militari in una base in Giordania probabilmente non era stato individuato e che nella base non esistevano armi per distruggerlo. Il Pentagono sta cercando di utilizzare l’innovazione della Silicon Valley negli armamenti per dotare le forze americane e gli alleati di una tecnologia più potente, completa e accessibile.

«Non tutti nell’industria tecnologica sono pronti ad abbracciare il lavoro con i militari», osserva il Washington Post. Importanti ricercatori di intelligenza artificiale si sono uniti ai sostenitori del controllo degli armamenti per spingere per un divieto preventivo sulle armi abilitate all’AI, per il timore che le macchine diventino in grado di decidere autonomamente di uccidere gli esseri umani.
Dal mito della Silicon Valley liberal e un po’ hippie sorta nell’epoca post-Vietnam, si arriva così alla Silicon Valley testa d’ariete delle capacità belliche dell’intelligenza artificiale, in un mondo dalle tensioni sempre più acuite. Palmer Luckey, per molti versi, è il pioniere di questa cupa trasformazione.