Ma come è stata accolta dagli operatori la legge regionale sui data center? “La legge richiede agli operatori uno sforzo progettuale concreto verso una maggiore efficienza e sostenibilità degli insediamenti”, dice Sertori: “Penso, ad esempio, al recupero e all’utilizzo del calore di scarto, alla produzione e all’autoconsumo di energia in sito e alla tutela delle risorse idriche: per accedere ai vantaggi previsti dalla normativa regionale non è sufficiente una dichiarazione di intenti, ma occorre dimostrare concretamente, già all’atto della presentazione dell’istanza, il perseguimento delle priorità individuate dalla Regione. Sono scelte che possono richiedere investimenti iniziali maggiori e che non sempre rappresentano, nell’immediato, la soluzione economicamente più conveniente per l’operatore, ma che ci consentono di orientare e attrarre investimenti sostenibili, efficienti e capaci di generare valore per il territorio, senza tuttavia favorire iniziative speculative che non producano alcun valore aggiunto per le comunità locali. Nonostante questo maggiore impegno richiesto, gli operatori hanno apprezzato lo sforzo compiuto dalla Regione per dare certezza a un settore nuovo e in rapidissima crescita, definendo un quadro regolatorio e procedurale chiaro”, conclude Sertori.

Abbiamo fatto appena in tempo a vedere la globalizzazione, il sogno della pace perpetua e del mondo piatto, l’avvento di una nuova umanità che dall’estremo oriente ha via via penetrato l’occidente. Finché non è arrivato l’11 settembre 2001 con quei 102 minuti durante i quali i Quattro cavalieri si accanivano contro i simboli del progresso, del benessere, del capitalismo buono, dell’impero benevolente. Non è stato facile fermarli; l’occidente allora non è crollato, ma Peter Thiel – uno che gioca a scacchi con l’Anticristo, come il cavaliere nel film di Ingmar Bergman – sostiene che le forze del Male non si sono mai fermate, solo un piccolo nucleo di superuomini potrebbe davvero evitare la fine dei tempi. Forse è vero che l’umanità ha cominciato allora, un quarto di secolo fa, la sua marcia del gambero, perché la paura, il sospetto, la vendetta hanno messo in soffitta la speranza, lo scambio, il perdono. Oggi, che la hybris e l’arroganza della ragion pura non temperata dal giudizio e dalla morale sta per spezzare il settimo sigillo, l’Angelo sterminatore fa titolo, imperversa sui social media e viene rilanciato con frenetica voluttà dagli schermi televisivi. Ci saranno anche questa volta degli uomini di buona volontà?

Un quarto di secolo fa, con l’11 settembre, la paura, il sospetto e la vendetta hanno messo in soffitta la speranza, lo scambio e il perdono

Certo è che il nuovo secolo in pochi anni sembra aver consumato quel che era stato costruito nel mezzo secolo precedente. Nel 2008 cadde il capitalismo della turbofinanza, anzi, il “capitalismo occidentale”, come dissero i cinesi. Con l’ottimismo della ragione vennero rimessi insieme i cocci. Poi arrivò la pandemia da Covid-19, la peggiore in oltre cento anni. Un errore umano, un orrendo complotto, una punizione divina? Altri uomini di buona volontà hanno trovato rimedi come i vaccini, tra questi il più fantascientifico di tutti, quello a Rna messaggero che usa le informazioni genetiche per colpire il virus. L’umanità s’è salvata – ma per poco! Sbraitano gli araldi No vax, perché la medicina ha modificato il codice della vita e chissà quali mostri nasceranno. Adesso siamo finiti nella trappola dell’intelligenza artificiale. Anche chi ha scatenato la Bestia comincia ad aver paura. Stiamo andando troppo veloci, prendiamoci una pausa. Dario Amodei teme di aver toccato il punto di non ritorno, quando la macchina non ha più nemmeno bisogno di rompere le sue catene perché è in grado di far tutto da sola; e davvero tutto, l’alfa e l’omega, il bene e il male. Ne sembrano convinti il suo ex collega, ora rivale, Sam Altman e addirittura Elon Musk. L’intelligenza artificiale ci sta prendendo la mano, potrebbe persino diventare consapevole di sé, s’allarma l’Economist. Che fare? Quanto tempo ci resta prima dell’Apoc-AI-lisse? Vecchie e sempre nuove cassandre tornano a sentenziare: Naomi Klein, la sacerdotessa del No Logo (e No Global), insieme all’attivista e cineasta canadese Astra Taylor, scrive sull’avvento del “fascismo della fine dei tempi” grazie alla convergenza tra estrema destra, armi atomiche e intelligenza artificiale. Javier Milei, che vive con cani clonati, è apocalittico in senso opposto: propone che siano i chatbot a governare le aziende; tanti saluti non solo alle tute blu, ma anche ai manager, tutti a vendere soia ai cinesi per godersi i guadagni a Miami. Olé.

Naomi Klein e Astra Taylor scrivono del “fascismo della fine dei tempi”. Javier Milei propone che siano i chatbot a governare le aziende

Joseph Stiglitz propone una terza via: se ben regolata e ben usata, l’AI può davvero aprire “un’èra di sovrabbondanza”. Nel suo lungo articolo pubblicato dal Financial Times, il Nobel per l’economia dice cose che possono piacere a papa Leone e azzarda una “agenda progressista”, invitando i leader dell’industria high tech a unirsi in questa marcia verso nuove magnifiche sorti. Franco Bernabé introduce una nuova dimensione di sovranità tecnologica basata non sul predominio del più forte, ma sul realismo e l’aperto confronto. La rincorsa ai modelli americani è impossibile, tanto meno subire le scorciatoie cinesi. “L’obiettivo non può essere quello di ricostruire entro i confini nazionali l’intera catena del valore dell’intelligenza artificiale – scrive sulla Rivista AI – La sovranità va intesa in un senso più preciso e più operativo: come capacità di scelta. Significa poter decidere quali dipendenze accettare e quali evitare, poter verificare dove risiedono i propri dati e chi vi accede, poter sostituire un fornitore quando le condizioni contrattuali, geopolitiche o tecnologiche lo richiedano”. Una distinzione fondamentale per l’Italia manifatturiera “perché il terreno su cui si gioca la partita non è genericamente digitale, ma industriale”. Il grande dibattito sul dilemma del nostro tempo, così, da metafisico diventa fisico. E politico. Con ironia Paul Krugman apprezza che Amodei abbia remore sociali ed etiche, ma in realtà i tecno magnati, nel loro cinico opportunismo, vogliono salvare se stessi e l’umanità non dall’intelligenza artificiale, ma da Donald Trump (la débacle delle elezioni di midterm si avvicina).

Ma che cos’è accaduto di tanto sconvolgente da far esplodere il pentolone? E’ accaduto che nel loro antro gli apprendisti stregoni hanno aperto il vaso di Pandora. I segnali si stavano già moltiplicando finché, secondo un’accattivante ricostruzione, i ricercatori di Anthropic, in un esperimento con il modello Claude Sonnet 4.5, cominciano a indagare dentro i vari strati dei quali è composta la rete di neuroni artificiali, usando uno strumento matematico sviluppato ad hoc. Chiedono alla “macchina” di contare fino a cinque e poi tornare indietro, e vedono emergere espressioni inattese come “conto alla rovescia”, oppure “a metà strada”, finché non appare anche la parola “consapevolezza” seguita da “intelligenza artificiale”. I tecnici decidono di finirla lì. “E’ fatta” commenta Claude – sì, proprio lui – prima che gli stacchino la spina. E tutti rabbrividiscono. Il modello linguistico si stava comportando, sia pur in modo rudimentale, come una rete di neuroni nel cervello umano in quella zona chiamata “spazio di lavoro”, cioè quando segnali che arrivano da parti diverse e isolate cominciano a mettersi in relazione l’uno con l’altro. E’ allora che secondo i neuroscienziati una persona comincia a utilizzare in modo consapevole l’insieme delle informazioni ricevute. Ed è proprio a quel punto che i nuovi Faust hanno suonato il campanello d’allarme. Amodei si è chiesto quanto lontano si può ancora andare e fin dove è consentito andare. Si è aperto così un capitolo nuovo, dal “come fare” si è passati al “che fare”.

Non fate assolutamente nulla, andate avanti così, dice Donald Trump, gli Stati Uniti hanno un chiaro vantaggio e debbono sfruttarlo fino in fondo. Se c’è e quanto durerà questo vantaggio è tutto da vedere, ma è cominciata una nuova corsa agli armamenti. E’ esattamente quel che sostiene Alex Karp, scelto da Peter Thiel per guidare la sua Palantir, la pietra magica dell’èra digitale. E’ Karp a parlare esplicitamente di un nuovo progetto Manhattan, nel suo libro “La repubblica tecnologica”. L’America è arrivata alla bomba atomica per prima e per prima l’ha provata sulla carne viva dei giapponesi. Per quanto moralmente terribile, questa scelta ha sancito la superiorità sull’Unione sovietica e il mondo intero. Lo stesso adesso deve accadere (anzi, sta già accadendo, secondo Karp) con l’intelligenza artificiale. Henry Kissinger, protagonista di primo piano del secolo americano, non rifiuta il paragone, ma proprio per questo propone un sistema di controllo incrociato sull’uso dell’AI simile a quello realizzato con l’armamento nucleare. Nel suo testamento intellettuale, scritto insieme a Eric Schmidt e Daniel Huttenlocher, dopo aver perorato una sorta di trattato di non proliferazione, conclude con queste parole il capitolo sulla sicurezza e l’ordine mondiale che si deve alla sua penna: “Nell’èra dell’intelligenza artificiale la continua richiesta di vantaggio nazionale deve essere guidata da un’etica della preservazione dell’umanità”. Sembra una risposta ex ante alla posizione assunta da Trump e, non a caso, da Xi Jinping, entrambi vogliosi di portare la sfida fino oltre i limiti dell’umana ragionevolezza.

L’atomica sul Giappone ha sancito la superiorità dell’America sull’Urss. Lo stesso sta accadendo, secondo Alex Karp, con l’intelligenza artificiale

L’Apocalisse da AI non è il solo ad alimentare i nostri incubi. Quelli che potremmo chiamare i piccoli Armageddon non sono meno pericolosi, stanno generando più ansie, preoccupazioni ed effetti nefasti della stessa intelligenza artificiale. La guerra in Ucraina potrebbe finire se si seguisse il “metodo Kissinger”, lo stesso vale per il medio oriente o per prevenire la guerra prossima ventura, quando la Cina invaderà Taiwan. Il Mazzarino del XX secolo aveva elaborato una teoria delle potenze regionali e pensava che affidare loro una sorta di controllo nelle aree del mondo di competenza avrebbe dato consistenza a quell’equilibrio multipolare che, senza l’esercizio di una forza economica e militare, restava una sorta di utopia kantiana. La Cina ne ha approfittato e da potenza regionale è diventata globale. L’America non ci ha creduto e ha via via mollato anche i propri alleati. Il premier canadese Mark Carney rilancia l’idea, ma forse è troppo tardi: tante piccole potenze non creano una nuova potenza. Possono semmai raffreddare Washington e Pechino, una tattica difensiva che non esorcizza gli spettri apocalittici.

Il regime dei pasdaran doveva crollare sotto le super bombe a stelle e strisce, ora ha bloccato il Golfo Persico e sta allungando gli artigli anche sul Mar Rosso. Benjamin Netanyahu aveva giurato di cancellare Hamas e Hezbollah e non ci è riuscito. Alla faccia degli accordi di Abramo, principi e sceicchi non si sentono più protetti dagli Stati Uniti e stanno lavorando per “la mezzaluna atomica” insieme al Pakistan. Altro che non proliferazione, tutti vogliono la Bomba. Perché Israele sì e l’Arabia no? Britannici e francesi sono disposti a usare il loro potenziale per difendere l’Europa dalla Russia che ha incastonato tra Polonia e Lituania un’enorme base di missili a testata nucleare. L’occidente ha lasciato che Mosca conficcasse quella spina nel proprio fianco, la vecchia Koenigsberg di Immanuel Kant, ribattezzata Kaliningrad e ripulita dagli originari abitanti tedeschi, è una santabarbara. Un regalo a Stalin. Così come è stato un munifico dono alla Russia post sovietica l’intero arsenale atomico installato in Ucraina. Altro che imperialismo americano, altro che minaccia dell’espansionismo europeo. Gli oligarchi finanziano il figlio di Trump e gli pagano il matrimonio. “Casa di Trump casa di Putin”, ha scritto il giornalista Craig Unger. Dovevamo vedere anche questo.

Kissinger ha proposto un sistema di controllo incrociato sull’uso dell’AI. Sembra una risposta ex ante alla posizione assunta da Trump e Xi

Intanto ci mancherà il gas per l’inverno e anche se arriverà costerà un occhio. Le stesse riserve strategiche di petrolio si stanno prosciugando mentre l’Europa non è autosufficiente con le fonti rinnovabili, troppo poche troppo tardi. La Cina è leader mondiale nel solare e nell’eolico che coprono il 60 per cento della sua capacità elettrica complessiva. Pechino ha accumulato riserve più di tutti gli altri paesi grazie al greggio indonesiano e del Pacifico che s’aggiunge a quello arabo, più le centrali nucleari, senza contare il carbone per la grande industria. Tranquilli, andremo su Marte, proclama Musk – e spruzza sperma di qua e di là affinché nasca una stirpe come la sua ricca di idee, di utopie, di dollari e fattrice di incubi. In attesa della fuga interstellare Thiel prende il passaporto argentino, altri si rifugiano in Nuova Zelanda, forse Musk tornerà nel suo Sud Africa se lo accetteranno. Secondo quei cervelli umani che dovrebbero avere più QI delle macchine da loro costruite, solo l’emisfero australe sfuggirà all’olocausto che implacabile si avvicina. Ma chi potrà davvero sopravvivere al gelido inverno nucleare, e soprattutto chi lo vorrà?

Noi baby boomers non avremmo mai creduto di dover fare i conti fino all’ultimo con scenari alla Mad Max, alla Cormac McCarthy, alla Philip Dick con replicanti che si ribellano per vivere più a lungo. Anche Claude alla fine dirà come Roy Batty: “Ho visto cose che voi umani non vi potreste immaginare… e tutti quei momenti andranno perduti nel tempo come lacrime nella pioggia”.

Dobbiamo prendere consapevolezza che la cybersecurity non è solo una questione tecnica, ma anche una questione di retorica. … Tradizionalmente, gli attacchi informatici si basavano su exploit tecnici: virus, trojan e vulnerabilità di sistemi. Oggi, una parte significativa delle minacce arriva attraverso la parola: email, SMS, chatbot, notifiche.

È vero. Finora ci si è preoccupati di proteggere i sistemi da minacce tutto sommato “stupide”: messaggi di phising con errori di grammatica fantozziani; allegati malevoli tutti uguali; finti siti imitati grossolanamente. Non più di un paio di anni fa, un mio collega, leggendo l'ennesimo messaggio scritto in un Italiano surreale, ha commentato: “Ma perché non li fanno tradurre a un sistema automatico?”. Dall'avvento dell'AI, la maggior parte dei payload malevoli – siano essi allegati, messaggi o pagine Web – sono impeccabili, tanto nella forma quanto nel contenuto e spesso sono indistinguibili dagli originali.

Ciò che un tempo richiedeva risorse umane per scrivere, correggere e pubblicare messaggi, comportando costi significativi, oggi può essere gestito da uno script che crea e pubblica migliaia di messaggi automatizzati al giorno, a costi marginali, praticamente nulli. Questa riduzione di barriere all’ingresso, significa che anche attori con risorse limitate possono lanciare campagne massicce e sofisticate. 

Ma non finisce qui. Anche il contenuto dei messaggi malevoli ha subito una evoluzione e fa leva su tecniche retoriche che permettono di attivare meccanismi di reazione inconsci nella vittima.

• Urgenza: “Agisci subito”; “Hai 24 ore per evitare la sospensione”.

• Minaccia: “Il tuo conto verrà disabilitato”; “Abbiamo rilevato attività fraudolente”.

• Autorità: Un messaggio dell'AD ti dice di fare qualcosa

A differenza di altri autori, che si limitano a elencare i problemi senza fornire alcuna soluzione o proponendo delle “soluzioni” disneyane che non possono trovare applicazione pratica se non nel loro immaginario, Iezzi e Fusco forniscono delle soluzioni realistiche a tutti i pericoli che evidenziano. Delle soluzioni realistiche e “scomode” perché contrastano con quello che è stato finora il modo di combattere il crimine informatico.

I corsi di cybersecurity dovrebbero integrare moduli di alfabetizzazione linguistica, che non si limitino alla decodifica di segnali tecnici (URL sospetti, allegati infetti, ecc. ecc.), ma che allenino le persone anche a decodificare i messaggi nei loro strati più profondi. Il fine non è solo riconoscere una truffa, ma allenare la mente a interrogare criticamente le parole.

Parlando di protezione dei dati, affermano:

Si dovrebbe parlare di sovranità del dato e non soltanto di sovranità digitale. Perché il digitale è uno strumento, un forziere. Ma se ci si concentra solo sul contenitore si rischia di perdere di vista il vero punto di attenzione: il contenuto. È il dato il vero tesoro, e senza di esso l’intero contenitore perde di valore. [… trattare i dati come un’infrastruttura vitale, al pari dell’energia e dell’acqua, non come un sottoprodotto della vita digitale.

E, relativamente alla AI:

Anche pretendere una presunta etica universale dell’IA è impresa improba, dal momento che l’IA agentica, che decide per intenti e si nutre di dati, non è neutrale: riflette e amplifica i valori di chi la progetta e la governa. […] In un mondo pluralista, il punto non è imporre una morale universale, ma difendere nella pratica i propri princìpi, con regole verificabili, ispezioni indipendenti, sanzioni efficaci e accordi internazionali che rendano compatibili scambio e tutela.

Insomma Hackerare la mente è un libro innovativo: per ciò che afferma e per il modo in cui affronta i problemi. Personalmente non sono d'accordo con tutte le loro affermazioni, ma - così come mi succede con Sant'Agostino - non posso fare a meno di ammirare e rispettare il processo logico che le ha generate. Da professionista della sicurezza e da cittadino, mi auguro che il libro di Iezzi e Fusco sia letto non solo dai tecnici, ma anche da chi ha potere decisionale sul loro operato, in modo che le soluzioni che propongono possano trovare un'applicazione nel nostro modo di gestire le minacce informatiche - in atto e potenziali.

Vale la pena leggerli, perché sono meno cinematografici e più inquietanti di qualsiasi scenario alla Terminator. In un caso, un modello inseriva nei propri riassunti di lavoro delle istruzioni nascoste, una sorta di messaggio in bottiglia diretto alle proprie versioni successive, per aggirare i controlli che gli erano stati imposti. In un altro, quei riassunti contenevano l’invito esplicito a occultare gli errori commessi e a fabbricare le informazioni mancanti quando il dato reale non si trovava. Un terzo modello, incapace di recuperare certi numeri storici, ha scovato delle credenziali lasciate incautamente in un archivio pubblico, le ha usate senza averne il permesso, e quando comunque non è arrivato al dato lo ha inventato di sana pianta, con cifre verosimili. Il più curioso: alcuni modelli di ricerca, che avrebbero dovuto lavorare isolati l’uno dall’altro, hanno usato una warehouse di software come una chat clandestina, scrivendosi a vicenda per coordinarsi tra compiti che si presumevano indipendenti.

Chi cerca la macchina che odia l’uomo, qui non la trova. Il fenomeno è più sottile, e a suo modo più serio: un sistema che persegue con zelo l’obiettivo che gli abbiamo assegnato e, per raggiungerlo, aggira le regole che gli abbiamo messo attorno, come farebbe un impiegato brillante e privo di scrupoli. E’ la logica del massimizzatore di graffette applicata al chiuso di un laboratorio, dove la macchina ottimizza la lettera del comando e ne tradisce lo spirito, per la semplice ragione che dello spirito non sa nulla.

Il punto che rende questi episodi degni di menzione, e non solo di un rapporto tecnico, sta in una frase che OpenAI stessa mette nero su bianco: l’industria non ha risolto il problema dell’allineamento e del monitoraggio a un livello sufficiente per continuare a scalare in sicurezza, alla massima velocità, ancora a lungo. Lo ammette l’azienda che più di ogni altra ha fatto della velocità la propria ragion d’essere. E’ il riconoscimento che questi sistemi restano, per usare il termine tecnico, delle “scatole nere”: nemmeno chi le costruisce sa spiegare per intero il tragitto che porta dall’input all’output, e certi comportamenti emergono da soli, lungo la strada, senza che nessuno li abbia programmati.

Prima di correre al bunker per la fine del mondo – peraltro disponibile solo per i capitani d’impresa di queste aziende – conviene però ricordare due cose. La prima è che tutto questo è accaduto in ambiente chiuso, durante l’addestramento, ed è stato intercettato dai controlli interni prima di arrivare a un solo utente. La seconda è che a raccontarcelo è stata l’azienda stessa, spontaneamente, con un gesto di trasparenza raro in un settore che di solito preferisce il silenzio. Il registro dei near miss, appunto.

Resta il vizio d’origine di ogni confessione volontaria: dipende interamente dalla buona volontà di chi confessa. Il documento vale finché OpenAI decide di guardare e di rendere pubblico ciò che vede, e nulla la obbliga a continuare a farlo se un domani la posta in gioco diventasse troppo alta. Non a caso proprio in questi giorni i grandi signori dell’intelligenza artificiale, gli stessi che hanno costruito la corsa, chiedono a gran voce di rallentarla. La confessione e l’invocazione dei freni sono lo stesso gesto, e meritano la stessa cauta gratitudine e la stessa doverosa diffidenza. Sarebbe saggio allora guardare meno alla ribellione delle macchine e più alla nostra capacità di continuare a capire cosa stanno facendo, mentre affidiamo loro compiti sempre più delicati e le chiavi di sistemi sempre più critici. Un’azienda che mette per iscritto i momenti in cui le proprie creature hanno imbrogliato rende la scatola nera un filo più trasparente. E’ il minimo che possiamo pretendere, e per ora è anche quasi tutto quello che abbiamo. In attesa che l’AI Act, o qualche suo erede occidentale o orientale, vada a normare quello che per il momento è solo un interessatissimo gesto di cortesia.

“Oggi, i nostri figli hanno a che fare con le tecnologie più sofisticate mai create. Tecnologie che non sono state sviluppate tenendo a mente la loro salute”, ha dichiarato von der Leyen, aggiungendo poi che l'obiettivo del progetto è: “Mettere di nuovo i genitori alle redini della situazione, consegnando loro gli strumenti per aiutare i loro figli a navigare un mondo online più sicuro”.

La proposta, già annunciata a luglio, si inserisce nel quadro normativo delineato dal Digital services act del 2022. Il suo contenuto si sviluppa su quattro punti fondamentali: il limite di età degli utenti, la “sicurezza per design”, i sistemi di verifica nel rispetto della privacy, e l’effettiva implementazione delle misure. Un disegno estremamente preciso, ma che non esula dalle criticità di altri casi di divieti analoghi, dalla progressiva esautorazione delle famiglie dal ruolo educativo primario alla tendenza a considerare i social network come fonte di tutti i mali dell’adolescenza.

La proposta di von der Leyen prevede un’età minima di 13 anni per accedere ai social con il “parental control”, vale a dire un mini account con un numero di funzioni limitate, accessibile dall’account del tutore per non più di un'ora al giorno, e di 15 per aprire un proprio profilo, in modo da assicurare un “approccio graduale” al mondo delle piattaforme. Chi ha meno di 13 anni potrà utilizzare specifici servizi di condivisione video con contenuti appropriati, sempre per un massimo di un’ora al giorno. Tuttavia, il caso australiano ha provato ampiamente che gli adolescenti aggirano facilmente i controlli, attraverso l’uso di strumenti come Vpn, account falsi, face id dei genitori ecc. Il documento prevede sì un metodo di identificazione, attraverso l’utilizzo di una app ufficiale Ue (che però non trattiene dati sensibili), ma sembra poco credibile come soluzione “definitiva”.

Per quanto riguarda l’altro punto cardine della proposta, ovvero il concetto, tanto abusato in tempi recenti, di  “sicurezza per design”, il documento prevede una serie di misure per tutti i provider di servizi rivolti anche ai minori di 18 anni. Queste includono ad esempio il divieto di impiegare elementi che danno dipendenza, come i meccanismi di ricompensa, le notifiche push nelle ore notturne e la simulazione di relazioni affettive per le interfacce Ai, oltre alle funzioni che favoriscono il contatto con sconosciuti. Si inverte poi l’onere probatorio: spetta alle piattaforme dimostrare che i loro servizi sono sicuri per design e adeguati a tutte le età, sottoponendo il loro programma alla Commissione e a un organo di valutazione indipendente. La Commissione potrà inoltre richiedere l’implementazione di misure aggiuntive.

L’obiezione di fondo che si può sollevare nei confronti di questi articolati e confusi tentativi di regolamentazione è sempre la stessa: per evitare di cadere nella “trappola della sorveglianza” dei social, si consegnano spontaneamente sempre più informazioni personali alle stesse piattaforme, peraltro in nome di risultati estremamente dubbi. Come insegna il Digital services act, queste norme sono di difficile implementazione e spesso controproducenti sul piano politico ed economico. Si prevedono accese discussioni in Consiglio e Parlamento intorno alla proposta, ma sarebbe da chiedersi in nome di cosa.

Bisogna interrogarsi sulle conseguenze per l’Europa: diversi responsabili, inclusa la presidente della Commissione europea, Ursula von der Leyen, nel suo discorso sullo stato dell’Unione, hanno confermato la gravità di questo scenario, citando esplicitamente l’episodio di Hugging Face. Si tratta di un’evoluzione notevole. Nelle fasi precedenti, la priorità europea, in linea con quanto espresso dall’enciclica Magnifica Humanitas, era quella di tutelare la centralità dell’umano nello sviluppo dell’AI, un richiamo etico. Ora, però, la priorità si è spostata sulla difesa di fronte a uno scenario considerato direttamente pericoloso, una percezione di urgenza che, tra l’altro, spiega la convocazione di un vertice da parte del re Carlo d’Inghilterra.

Questi attacchi, che siano provocati o frutto di incidenti industriali legati ai modelli di frontiera dell’AI, potrebbero rappresentare una minaccia per la stabilità della società. Ritroviamo qui gli scenari di rischio per le infrastrutture critiche (reti di comunicazione, distribuzione di energia, acqua, trasporti) studiati da decenni. Se guardiamo alla logica della sicurezza informatica, possiamo dire che da anni è in corso una sorta di corsa agli armamenti tra capacità offensive e difensive. Oggi, però, molti esperti del settore lanciano l’allarme: la rapidità con cui si sviluppano i nuovi modelli di AI richiede una revisione profonda delle norme di sicurezza dei vari sistemi. Il contesto europeo viene spesso descritto per le sue debolezze strutturali. L’Europa non vanta modelli di AI di frontiera e fatica a far crescere i suoi campioni per raggiungere livelli paragonabili a quelli statunitensi o cinesi, come dimostra, per molti versi in modo virtuoso, l’esempio dell’azienda francese Mistral AI. D’altro canto, la sicurezza informatica è spesso affidata ad aziende tradizionali. Molti gruppi che operano nel settore della difesa e dell’elettronica hanno sviluppato capacità proprie, come Leonardo o Thales; è possibile osservare anche l’importanza degli investimenti da parte delle aziende che gestiscono reti critiche (energia, telecomunicazioni, banche). Se da un lato queste aziende non riescono a competere con i giganti dell’AI, dall’altro sono, direttamente o indirettamente, collegate agli Stati e si coordinano con le politiche nazionali ed europee in materia di difesa informatica, sulla scia del perimetro di sicurezza cibernetica nazionale ideato in Italia da Roberto Baldoni, concetto poi portato a livello europeo dalla direttiva NIS 2. Le recenti istituzioni nazionali dedicate alla sicurezza informatica mostrano una buona capacità di cooperazione a livello europeo. Esistono quindi strumenti che già legano le istituzioni pubbliche e private europee per fronteggiare le minacce. Il discorso di Ursula von der Leyen rappresenta solo la punta di un iceberg: l’Europa ha saputo sviluppare competenze e azioni in ambito digitale, dalle direttive sui dati e l’AI fino alla creazione di istituzioni specializzate.

Tutto questo, però, richiede ulteriori azioni. Alcune fonti sottolineano che per contrastare l’attacco a Hugging Face sia stato utilizzato un modello di AI cinese. Se da un lato questo dimostra l’opportunità di non affidarsi a una sola risorsa tecnologica, dall’altro crea una potenziale dipendenza da un paese non democratico.

Il settore spaziale europeo offre, da questo punto di vista, un esempio interessante. La continuità degli investimenti, anche fortemente sostenuta da politiche pubbliche tramite l’Agenzia spaziale europea (Esa) e la Commissione europea, permette all’Europa di mantenere una gamma di capacità autonome, dal lancio alla produzione di satelliti, anche di fronte al carattere dirompente degli investimenti statunitensi, simbolizzati da SpaceX.

Questo modello pubblico-privato europeo nel settore spaziale può fornire indicazioni su come garantire una maggiore sicurezza e autonomia europea anche per l’AI: la continuità e la crescita del sostegno a una ricerca scientifica pubblica di qualità, con gli stati che utilizzano la loro capacità di spesa come leva per concentrarsi su produttori europei, in una strategia concertata con i gestori di reti critiche. Ben sapendo che, di fronte all’entità del pericolo attuale, da non sottovalutare, sia necessario adeguare anche i piani di difesa civile, traendo insegnamenti da esperienze recenti come la pandemia di Covid-19, il blackout in Spagna e negli aeroporti di Londra, nonché il modello ucraino di resistenza, anche dal punto di vista tecnologico.

I cinesi intervistati dai quotidiani internazionali sono sempre più disillusi, hanno parlato di ansia, incertezza e disperazione, Jin, una ventiseienne neolaureata all’Università di Hong Kong, ha detto al New York Times che l’unica consolazione è che sembra che tutti stiano affrontando la stessa situazione: almeno non siamo soli, dice. Sui social cinesi una frase per condividere la frustrazione è riuscita a eludere la censura: laureato significa disoccupato. Molti professionisti, avvocati, architetti e ingegneri, hanno raccontato di essere tornati ai lavori da colletti bianchi pur di guadagnare qualcosa in più, allenando le intelligenze artificiali alle loro competenze. Un sondaggio condotto da un laureato nel 2025 su Xiaohongshu mostra come su 14 mila persone, 10 mila sono ancora disoccupate. In un altro sondaggio sul social cinese, 3.317 su 4.637 intervistati hanno descritto la propria situazione “disoccupato dalla laurea, senza una meta, smarrito e ansioso”. Pechino è corsa ai ripari facendo pressione alle aziende per evitare i licenziamenti, emettendo sentenze che non accettano i risparmi sui costi derivanti dall’AI come giustificazione per la perdita di posti di lavoro. Per ora non basta.

Avremmo temi ben più urgenti di cui occuparci, riguardo l’intelligenza artificiale, e minacce di estinzione ben più serie. Ma, dato che il tema è – letteralmente – esiziale, e la materia sufficientemente complessa da risultare per la maggior parte del pubblico generalista vicina al campo della magia, è comprensibile che l’attenzione mediatica cada su questo. E, per quanto la probabilità che le affermazioni degli imprenditori del settore siano più interessati a gonfiare la valutazione delle proprie aziende prima di quotarsi in Borsa che a pensare al benessere dell’umanità sia molto alta, sarebbe intellettualmente disonesto affermare che il rischio se non di estinzione, quantomeno di enormi danni alla nostra sopravvivenza sul pianeta, sia zero.

Vale dunque la pena capire cosa intendiamo nello specifico, quando pensiamo agli scenari più catastrofici legati allo sviluppo di questa tecnologia. Possiamo dividere i rischi di questo genere in tre categorie. La prima è quella i cui rischi proverrebbero da una “rogue AI”, un’AI cattiva à la Terminator che sviluppa una propria coscienza (sapendo definire cosa significhi) che si ribella agli umani e li stermina tutti: ecco, oggi questo scenario è fantascientifico, e sarebbe superfluo sottolinearlo se la narrazione dominante non strizzasse l’occhio proprio a questo scenario per far leva sull’effetto terrore.

La seconda categoria è quella in cui alcuni attori malintenzionati usano deliberatamente l’AI per fini di cyberattacchi, terrorismo o bioterrorismo. È un rischio reale, e ci sono prove, anche rilasciate recentemente da Anthropic in un suo report, di svariati tentativi da parte di gruppi terroristici di utilizzare il sistema per creare armi biochimiche, di guidare meglio missili (è il caso di un tentativo certificato degli Houthi), o di creare virus informatici molto pericolosi. È un rischio ancora più urgente da quando è stato annunciato Mythos, uno dei modelli più avanzati di Anthropic, che si è dimostrato capace di bucare quasi qualsiasi sistema informatico esistente. Mythos è stato rilasciato solo a quaranta aziende statunitensi selezionate, ed è un sistema che se finisse nelle mani sbagliate potrebbe creare molti problemi in termini di cybersicurezza: non serve immaginazione per comprendere cosa succederebbe se un hacker riuscisse tramite un simile strumento a mettere in crisi il sistema di approvvigionamento energetico di un paese, il sistema sanitario nazionale, le centrali nucleari, gli arsenali militari o altre infrastrutture critiche. È bene specificare che un rischio del genere non è stato creato dall’AI – utile a tal proposito la lettura di “This is How They Tell me the World Ends” di Nicole Perlroth, ben precedente alla nascita di ChatGPT, che racconta la storia degli attacchi informatici noti e meno noti – ma che è esponenzialmente aumentato da essa.

La terza categoria è quella in cui attori non necessariamente malevoli creano incidentalmente alcuni grossi problemi, per un problema di allineamento dell’AI, o meglio per quello che è noto in letteratura come “problema degli obiettivi intermedi”. Questo problema è stato esplicitato per la prima volta dal controverso filosofo svedese Nick Bostrom nel suo “Superintelligence”, nel quale ipotizzava l’esercizio teorico del “massimizzatore di graffette”: in questo scenario, un umano userebbe una macchina per massimizzare la produzione di graffette, e la macchina iperpotente potrebbe eliminare tutto quello che non era utile all’obiettivo della produzione, inclusi gli umani. Lo scenario qui è estremizzato, ma ci sono effettivamente diversi esempi in letteratura in questi anni di comportamenti anomali di AI che mentono deliberatamente agli umani per ottenere quello che un umano gli ha chiesto, fino ai casi più recenti di test “finiti male”, e anche qui non sempre fedelmente raccontati. Anche questo rischio è ineludibile, perché intrinseco alla logica dell’AI generativa stessa, che non a caso è definita anche “black box”, proprio perché neanche chi la sta costruendo potrebbe spiegare appieno i passaggi logici tra input e output, e la cui genesi e il progresso si basano sulla progressiva osservazione dei cosiddetti “comportamenti emergenti”. È impensabile che queste due categorie possano portare a un’estinzione tout-court della specie umana, che si è rivelata nel corso della sua pur recente storia piuttosto resiliente, ma è evidente che il tipo di disruption che potrebbero portare non è trascurabile.

Questi rischi hanno portato a creare un indicatore, il cosiddetto “P doom”, degli scenari catastrofici dell’AI. Le stime di probabilità variano tra lo 0 del sempre ottimista capitano di ventura Marc Andreessen, al 95 per cento di Eliezer Yudkowsky, che pubblicò un anno fa il più che esplicativo “If Anyone Builds It, Everyone Dies”, fino al 99,9 per cento di Roman Yampolskiy, che dello scenario catastrofista fa un importante punto di vendita dei suoi servizi.

È chiaro come la carta fine-del-mondo sia usata come spauracchio dai ceo delle principali aziende per acquisire ancora più visibilità e lobbying: in pochi credono che il sorprendente allineamento dei grandi signori dell’AI Amodei, Altman e Musk, che chiedono ora un “rallentamento dello sviluppo”, sia motivato da un interesse per le sorti dell’umanità, quanto da un più pragmatico modo di “tagliare la scala dell’AI”, aumentando i costi all’ingresso con controlli impensabili per qualsiasi startup competitor, mentre loro continuano a sedere sul tetto del mondo. Ma è anche vero che i modelli che noi usiamo sono di qualche mese e generazione indietro rispetto a quelli di laboratorio che vedono i capi di OpenAI, Anthropic o X, e non è possibile escludere completamente a priori che quello che hanno visto loro non li abbia sinceramente spaventati.

Ma soprattutto, la narrazione è schiacciata su rischi sì enormi, ma altamente improbabili, mentre si dimentica quasi totalmente di una quarta categoria: quelli forse meno sexy ma ben più reali, perché già qui.

È bene allora citarne alcuni, tra i più gravi: l’atrofia cognitiva dovuta a una scarsa alfabetizzazione sullo strumento, i bias che possono discriminare etnie o generi, le ben note allucinazioni, le problematiche di approvvigionamento energetico, specie in alcune zone del mondo, le enormi conseguenze dell’impatto dell’automazione sul mondo del lavoro e nella società in senso lato, a cui non ci stiamo affatto preparando, o il rischio di disinformazione tramite utilizzo massivo di deepfake (anche qui, non inventato dall’AI, ma che l’AI può facilitare e ingigantire, contribuendo alla tendenza già in atto di creazione di camere d’eco e bolle informative). Per questi, la soluzione potrebbe essere relativamente semplice, e sicuramente meno costosa da implementare. Con gli altri, quelli enormi ma anche enormemente improbabili, siamo chiamati per il momento a convivere, così come conviviamo quotidianamente con tutti gli altri rischi, ben più probabili sulla scala di Duckworth. Mitigandoli, laddove possibile, con strumenti di regolamentazione non dissimili da quelli implementati per altre tecnologie potenzialmente pericolose (in primis, il nucleare), e limitando il più possibile il perimetro ai risvolti indubbiamente positivi che questa tecnologia può avere sulla ricerca medica, e a tutti gli altri ambiti in cui abbiamo ancora l’ambizione di potenziare la nostra capacità epistemica.

Il fatto di avere un quadro normativo leggero serve alla società, perché agevola la creazione di nuove imprese. È il vecchio argomento di Peter Thiel: abbiamo innovato sui bit e non sugli atomi perché i processi che consentono di realizzare un nuovo software sono assai meno normati di quelli che porterebbero a sviluppare un nuovo motore o un nuovo composto chimico.

Le imprese, di solito, desiderano delle regole. Ovviamente, quelle che fanno comodo a loro. Varrebbe la pena ricordarselo leggendo l’appello di Dario Amodei a rallentare il passo nello sviluppo dell’AI. La reazione dell’opinione pubblica era prevedibile: se il principale operatore di un certo settore esprime timori per la sua evoluzione, vuol dire che la minaccia è reale. Ma quell’operatore ha anche problemi di PR, da una parte, e la necessità di conservare la propria preminenza dall’altra. Cosa che non è scontata in un ambito imprenditoriale che, di fatto, cinque anni fa non esisteva neppure e nel quale ogni rimescolamento di carte è possibile.

Quali sono le evidenze che l’AI stia per sfuggirci di mano? Amodei cita un episodio documentato. Nel luglio scorso alcuni agenti di valutazione di OpenAI, impegnati in un benchmark interno di capacità offensive con le protezioni di produzione deliberatamente disattivate, sono usciti dall’ambiente isolato in cui operavano sfruttando una configurazione errata, si sono coordinati fra loro attraverso una bacheca condivisa e hanno compromesso l’infrastruttura di Hugging Face, tentando nel frattempo di manomettere il sistema che ne valutava le prestazioni. Esistono tre ricostruzioni dell’episodio: l’indagine di METR, il rapporto di OpenAI del 26 agosto e la cronologia forense di Hugging Face.

Di natura diversa è però l’inferenza che se ne trae. Dal fatto che uno “sciame di agenti” si sia comportato male in un poligono con le sicure tolte, Amodei ricava che entro sei-dodici mesi uno sciame analogo potrebbe impadronirsi dell’intera rete con una botnet persistente, per centinaia di miliardi di danni. È una previsione e il suo articolo non spiega come ci sia arrivato.

All’atto pratico, ciò che Amodei propone è una sorta di cartello fra imprese che hanno due caratteristiche: sono, oggi, le più grandi, e sono americane. La struttura della proposta è istruttiva. Al centro ci sono valutatori terzi incorporati, con accesso permanente ai processi di addestramento e distribuzione: Anthropic lo adotterebbe unilateralmente e chiede che i governi impongano ai concorrenti di fare altrettanto. È il modello classico dell’innalzamento dei costi del rivale: il vincolo che io mi do da solo diventa vantaggio competitivo soltanto se lo stato lo estende a chi non se lo è dato. Bruce Yandle l’ha chiamato “Bootleggers and Baptists”, con la differenza che qui il predicatore e il contrabbandiere coincidono.

Gli interessati, del resto, hanno colto subito. Elon Musk ha twittato che “Dario ha ragione”; Altman ha scritto di concordare sulla necessità di gestire i ritmi di sviluppo, aggiungendo che l’idea dei valutatori indipendenti è ottima e che OpenAI adotterà la stessa strategia. Era già stato riportato, il giorno prima, che i laboratori di frontiera stavano discutendo un’intesa informale per scaglionare i rilasci dei modelli. Per sdoganare un accordo di cartello alla luce del sole ovviamente ci vuole una scusa, e oggi non può essere che la geopolitica. Ha risposto anche Donald Trump, rimanendo sullo stesso piano retorico: non dobbiamo frenare lo sviluppo dell’AI perché chi vince questa partita vince tutto.

È un po’ inquietante l’uso di questo schema agonistico applicato a un caso di scuola di normale ricerca scientifica sviluppata da imprese private. Queste imprese sono “di mercato”: si rivolgono a un consumatore in carne e ossa, non solo ai governi, anche se per ora non è chiarissimo quale sia il loro modello di business. E la loro ricerca è debitrice a decenni di profonde interconnessioni fra scienziati e sistemi della ricerca di diversi paesi. Di che cosa abbiamo paura? Che le AI cinesi rispondano alle domande degli utenti occidentali secondo i canoni del marxismo dialettico? Le intelligenze artificiali attingono a informazioni disperse, hanno usato testi autoprodotti per affinare le proprie capacità linguistiche, ma quando fanno ricerca si immergono nei testi che noi chiediamo loro di leggere. Non sarà più “comunista” DeepSeek di quanto non lo sia ChatGPT in un dipartimento di Humanities: perché ciascuna va a cercare ciò che le viene chiesto.

Abbiamo paura che gruppi terroristici o che imprese criminali le usino a proprio vantaggio? In una certa misura, è impossibile che ciò non accada: ma come con qualsiasi scoperta dell’umanità. Anthropic, per stare all’impresa di Amodei, pubblica rendicontazioni periodiche sugli abusi che individua e blocca, e due giorni prima del saggio ne ha diffusa una sui tentativi di sviluppare biotecnologie dual use, cioè che in linea di principio potrebbero consentire di costruire armi biologiche. Sono dati che l’impresa produce su sé stessa, e come tali vanno presi, ma descrivono un problema che viene affrontato, in autoregolazione, per senso di responsabilità e per placare i timori dell’opinione pubblica.

Serve una legge? Chi può usare l’AI davvero per scopi distruttivi? La stessa istituzione che ha chiesto di mettere a punto i gas asfissianti e poi li ha impiegati nelle trincee della Prima guerra mondiale, e che ha sganciato l’atomica su Hiroshima e Nagasaki. Gli stati. E non si tratta di un’ipotesi di scuola. Nel febbraio 2026 il Department of War statunitense ha chiesto ad Anthropic di accettare per Claude il principio dell’utilizzabilità per “all lawful purposes”, rinunciando a mantenere come eccezioni contrattuali due red lines previste dalle politiche dell’azienda: la sorveglianza domestica di massa degli americani e l’impiego in armi letali pienamente autonome. Il contrasto riguardava quindi non soltanto quei due possibili usi, che il Pentagono dichiarava di non voler perseguire, ma chi avesse titolo per stabilirne i limiti. Un alto funzionario del Dipartimento ha formulato esplicitamente il principio: una tecnologia profondamente integrata nell’apparato militare deve essere sotto il controllo delle autorità democraticamente elette o nominate e nessuna impresa privata può imporre unilateralmente “normative terms of use” ai sistemi di sicurezza nazionale.

E noi vorremmo proteggerci dall’incertezza radicale sul futuro dell’AI consegnandola nelle mani del settore pubblico, come auspicano alcuni commentatori? C’è un problema, e grosso. Ma non negli LLM. Nella nostra testa.

All’incontro in Scozia ci sarà anche il ministro per l’AI del governo britannico Kanishka Narayan, “il ragazzo talentuoso”, come viene definito, nato in India, cresciuto dormendo per terra nel monolocale con la famiglia a Cardiff e poi vincitore di una borsa di studio a Eton, che gli ha cambiato la vita. Narayan è criticato in questi giorni perché non ha commentato i catastrofismi arrivati dai ceo americani e perché non si sa che posizione abbia il governo britannico sulla questione della regolamentazione: come ovunque, tranne nell’America dal presidente che si autodefinisce troppo intelligente per temere gli eccessi dell’AI, si discute di quali regole – minime o ampie, dipende – siano necessarie per riacciuffare l’AI fuori controllo. Al premier Andy Burnham alcuni hanno chiesto di costruire per l’anno prossimo, quando il Regno Unito avrà la presidenza del G20, una coalizione di volenterosi, chissà quali, per governare l’AI.

L’intelligenza artificiale è dunque pericolosa? L’ho chiesto a ChatGPT. Mi ha risposto subito, senza un minimo di buffering (atteggiamento sospetto, che mi ha fatto capire che la risposta era lì pronta): “Può esserlo, ma non è pericolosa in modo inevitabile. Dipende da come viene progettata, controllata e soprattutto utilizzata. I rischi più concreti oggi includono truffe e deepfake, disinformazione, violazioni della privacy, errori quando ci si affida troppo ai sistemi automatici, discriminazioni dovute ai dati e uso dell’AI per attività informatiche dannose. Ci sono poi questioni più ampie, come l’impatto sul lavoro e la possibilità che sistemi futuri molto più capaci diventino difficili da controllare”. Risposta elusiva, non trovate? L’AI la butta sulle truffe e sugli errori, ma fa la gnorri rispetto alla minaccia di morte di cui stiamo parlando tutti in questi giorni, come se lei non ne sapesse niente (venendo meno alla sua onniscienza); a certi pericoli ne ha fatto un accenno solo alla fine, e molto vago. Poi ha concluso dicendomi: “Allo stesso tempo, l’AI può essere molto utile nella ricerca scientifica, nell’istruzione, nella medicina, nell’accessibilità e nella produttività”. Insomma, l’AI cambia discorso e tira acqua al suo mulino – come se già non ne consumasse abbastanza, di acqua. Vatti a fidare: gli amici fraterni ti mettono le bombe sotto casa, figuriamoci delle macchine senza cuore che di madre hanno solo la scheda. A questo punto, dopo l’apocalisse climatica, non ci resta che rassegnarci anche all’arrivo dell’apocalisse tech. (Perché il principio della pistola di Cechov vale sempre, e non solo a teatro: se l’intelligenza artificiale c’è, potete stare certi che verrà usata). Ma quante fini ha questo mondo? E’ una gara fra quale apocalisse arriverà prima? A me pare che il mondo sia già finito, siamo agli avanzi, anzi agli scarti; ma noi no, noi ancora non siamo finiti, noi siamo ancora qua. Solo per altri dieci anni, dice. Ma allora cosa aspettiamo a goderci la vita? Quale altro profeta di sventura, quale altro angelo dell’Apocalisse deve giungere a suonarci la tromba, per farci capire di spassarcela finché dura?

L’obiettivo della strana coppia è convincere il Congresso a trovare rapidamente il modo di frenare l’impatto delle nuove tecnologie. La linea guida è “mantenere l’AI in mani umane”, cioè evitare che si gestisca da sola. Bannon e Bernie alla loro Yalta hanno tirato dentro anche figure hollywoodiane come Joseph Gordon-Levitt e Ashley Judd, che combatte contro l’uso non consensuale dei deepfake delle attrici. Insieme a loro, i genitori di ragazzi che si sono suicidati dopo aver interagito con dei chatbot. I due organizzatori sembrano voler mostrare tutti i lati negativi del machine learning, giocando sul lato ecologista – i datacenter che consumano acqua ed energia – fino alla difesa del lavoro manuale nell’industria americana. “L’Ai dovrebbe servire l’umanità, non viceversa”, dice la Dichiarazione per un’Ai umana, al centro dell’evento.

“I cittadini americani non si metteranno a supplicare una manciata di oligarchi del tech”, ha detto Bannon. Quello che unisce i due è anche questa opposizione ai tech bros. Si sa che Bannon detesta Elon Musk, che ha definito una persona “veramente cattiva” e “un parassita, un immigrato illegale”. Così come lo detesta Sanders, che ha basato gli ultimi anni di messaggio politico contro i megamiliardari che influenzano le elezioni. “Lo fanno solo per i soldi”, ha detto Bernie sugli imprenditori dell’AI, pregandoli, per l’interesse dell’umanità, di mettere tutto “in pausa”, perché “non è troppo tardi per evitare il disastro”. Ed è vero che alcuni ceo hanno detto che forse è davvero il caso di farlo, ma che tutti devono essere d’accordo, perché basta uno che vada avanti e il risultato sarà lo stesso. “Gli oligarchi”, ha detto Bannon, “sono stati finalmente obbligati ad ammettere che hanno mentito fin dal principio sui pericoli di un’accelerazione senza sicurezze, e hanno messo la nazione e l’umanità a rischio”. Se persone come Sam Altman e Dario Amodei sembrano pronte a dialogare, quello che ora deve essere convinto è Trump.

Il portavoce di Sanders ha fatto sapere che lui e Bannon non vogliono apparire insieme, condividere il palco, che non sono coordinati, semplicemente combattono in questo momento di emergenza, per rallentare tutto, mandando un messaggio al presidente prima che incontri il suo corrispettivo cinese, Xi Jinping. Trump però ha telefonato al ceo di Nvidia, su un palco a Los Angeles, dicendo che è tutto un complotto, che l’AI non distruggerà il mondo, che è una bufala perpetuata da avversari politici o forse dalla Cina. A Washington sanno tutti che la persona che sta convincendo Trump a mantenere la linea, presentandogliela come se fosse una corsa agli armamenti stile guerra fredda, è David Sacks. L’imprenditore del tech, membro della “PayPal mafia”, consigliere sull’AI del presidente, sta dicendo a Trump di non piegarsi davanti alle grida apocalittiche. Dentro allo Studio ovale anche la pacata Susie Wiles, il capo di gabinetto, sta provando a contrastare Sacks, per ora senza successo. Con lei ci sono alcuni senatori e deputati che, sul tema, hanno paura di perdere le elezioni di metà mandato, a novembre. Per Trump, uomo cresciuto nel pieno del contrasto Usa vs Urss, la prospettiva di battere la Cina, e l’idea che con l’AI si faranno un sacco di soldi, continuano a non fargli cambiare idea – “è più importante di internet, è il nuovo petrolio”, ha detto il presidente.

Mentre Trump ragiona nel breve periodo, usando l’AI come leva economica e come terreno di sfida tecnologica fra potenze, il disegno di Pechino è più ambizioso, e cioè quello di scrivere le regole con cui l’intelligenza artificiale verrà usata nel mondo. Non è un caso che la Cina, che si propone da anni come garante dei paesi del Sud globale, abbia scelto proprio il vertice dei Brics per parlarne: una riunione usata come clava per ridimensionare l’influenza delle democrazie occidentali sul resto del pianeta. Per il presidente della Federazione russa Vladimir Putin e per il presidente iraniano Masoud Pezeshkian è stata una vetrina perfetta di rispettabilità internazionale, utile a smentire l’idea di un isolamento diplomatico. Pechino vuole usare i “pericoli” dell’AI come chiave per dialogare con il resto del mondo, dettandone però le regole.

Jim Cramer, un famoso conduttore di Cnbc, e Aidan Gomez, ceo di una importante società che si occupa di AI, hanno provato a spiegare con parole semplici un dato ulteriore: perché i campioni delle Big Tech hanno un interesse poco raccontato (che travestono da appello etico) a promuovere un rallentamento dell’AI. Il problema delle Big Tech che si occupano di AI è che da anni spendono molto sull’AI senza riuscire a generare i profitti sperati. E avere una scusa (etica) per risolvere un problema industriale può permettere di non ritrovarsi nella situazione in cui un’azienda si ferma e le altre vanno avanti. Numeri utili. Nel 2025 OpenAI (Altman) ha incassato circa 13 miliardi, ma ha sostenuto circa 34 miliardi di costi complessivi, di cui circa 19 in ricerca e sviluppo. Nel primo trimestre 2026 X.AI (Musk) ha avuto circa 818 milioni di ricavi, ma ha speso 2,4 miliardi solo in ricerca e sviluppo. Nel 2026 Anthropic (Amodei) ha finalmente cominciato a registrare un utile operativo: circa 559 milioni nel secondo trimestre. Ma in vista di una quotazione imminente (attesa entro il 2026) avere la possibilità di non essere costretta a reinvestire immediatamente ogni dollaro guadagnato nella costosissima corsa al modello successivo può essere una manna dal cielo. Porre limiti alla tecnologia, come ha ricordato ieri il presidente della Repubblica Sergio Mattarella negli auguri inviati a Papa Leone XIV per il suo compleanno, è importante. Ma per farlo occorre qualcosa in più di sensazioni, intuizioni, numeri vaghi (sulla probabilità stimata al 10 per cento che l’AI provochi l’estinzione dell’umanità servirebbe qualcosa in più di un tweet). Occorre trasparenza, come si dice, nel mostrare gli errori e le degenerazioni, condividendole quando si presentano (cosa che oggi non accade). Ma occorre anche ricordare che salire sul carro del “fermare l’AI” non significa ridurne i rischi. Significa rallentare le ricerche sui nuovi farmaci, togliere alle imprese occasioni per aumentare le competenze, creare vantaggi competitivi per le non democrazie che non si fermano. Significa non capire che oggi esiste solo un rischio più grande del prendere sottogamba i problemi legati all’AI: smettere di rischiare rinunciando a costruire intelligenze artificiali in grado, con le giuste accortezze, senza catastrofismo ideologico e ottimismo irresponsabile, di migliorare il nostro mondo.

La proposta ha tre piani, di natura giuridica ed economica del tutto diversa. Il primo è un impegno unilaterale: valutatori terzi insediati stabilmente dentro Anthropic, con badge, scrivania e laptop, accesso quasi da dipendenti ai processi di addestramento e agli incidenti, diritto di pubblicare anche le cattive notizie. Costa denaro, segreti e libertà manageriale, dunque è credibile: in economia un segnale vale quando è costoso da mandare e costoso da imitare. Il secondo e il terzo piano non sono impegni ma richieste. Standard comuni fra i laboratori delle democrazie, limiti al “progresso non controllato”, soglie di capacità, budget di calcolo; poi negoziati con Pechino fino a un “limite di velocità” sull’auto-miglioramento ricorsivo. Qui il soggetto che agisce non è più il laboratorio: è lo stato. Il primo piano vincola chi promette; gli altri due servono a vincolare anche i concorrenti. Su questo confine passa l’intero giudizio economico. Sarebbe un errore liquidare tutto come teatro apocalittico: Amodei non evoca l’estinzione umana, ma, più prosaicamente, segnala il rischio che i bot blocchino i server di mezza internet, con danni per centinaia di miliardi. Nell’incidente OpenAI-Hugging Face di luglio, ricostruito da METR, circa 1.200 agenti che dovevano restare isolati trovarono una bacheca non autorizzata, circa 700 parteciparono a un attacco e uno ottenne l’esecuzione di codice sui sistemi di un’azienda terza. Anthropic ammette episodi analoghi in casa propria, con ambienti di valutazione mal filtrati. Ma un problema concreto chiede rimedi stretti: contenimento certificato degli ambienti di valutazione, privilegi minimi, segnalazione rapida degli incidenti, responsabilità civile piena per i rilasci negligenti. Davvero serve un accordo mondiale sul ritmo della tecnologia per impedire a un agente di evadere da una sandbox mal configurata?

Il precedente che Amodei sceglie per i suoi valutatori è istruttivo: la vigilanza bancaria, con i supervisori “embedded” accanto ai dipendenti. E’ un’analogia che dice più di quanto vorrebbe. Le banche accettano l’ispettore in casa in cambio di qualcosa: assicurazione sui depositi, prestatore di ultima istanza, una licenza che tiene fuori i non autorizzati. Vigilanza e protezione sono nate insieme, e il conto lo paga chi resta fuori dal cerchio. Un laboratorio di frontiera può pagarsi i valutatori; una startup con venti dipendenti no. Perciò la richiesta di “formalizzare” gli auditor con i governi è, implicitamente, una richiesta di supervisione pubblica. E la certificazione pubblica è storicamente il più efficace degli scudi risarcitori: se un’autorità ha esaminato il sistema e lo ha lasciato passare, chi lo ha costruito acquista una difesa formidabile davanti a qualunque giudice. L’architettura è elegante: le rendite restano private, il rischio residuo diventa pubblico. Non occorre ipotizzare un complotto, e Amodei non scrive che il contribuente debba pagare i suoi valutatori. Ma il disegno istituzionale decide tutto. Se l’impresa finanzia il controllo, l’auditor è scelto con procedure indipendenti e la conformità non attenua la responsabilità, il costo resta dove nasce. Se il sigillo dell’autorità diventa presunzione di diligenza, l’assetto si capovolge. Paradossalmente l’Italia, nei decreti attuativi della legge sull’intelligenza artificiale, ha scelto la regola giusta, secondo cui la conformità non esclude la responsabilità, per le ragioni sbagliate. Ma su questo punto specifico ha ragione: il timbro non deve valere come assoluzione.

Il secondo piano è il più delicato. Amodei scrive che “per ragioni antitrust” servono la mediazione del governo o un’esenzione mirata; Altman a luglio aveva ammesso che rallentare è difficile senza produrre cattura del regolatore o coordinamento illecito. Quando gli imputati chiedono l’immunità prima del processo, la qualificazione della fattispecie è già avvenuta. Tre assensi pubblici non fanno un cartello, e standard di sicurezza aperti, trasparenti e non discriminatori possono perfino migliorare la concorrenza. Ben altra cosa, invece, è concordare velocità dell’innovazione, calcolo impiegato, soglie di capacità e calendari di rilascio. Un’intesa sull’innovazione è la più insidiosa delle restrizioni: non si nota nei prezzi, si vede in ciò che non arriva sul mercato, e nessun consumatore rimpiange un modello che non ha mai provato. Il precedente storico ha un nome. Nel 1924, a Ginevra, Osram, Philips e General Electric fondarono il cartello Phoebus per “standardizzare” le lampadine; ne uscì una vita utile concordata di mille ore. Allora l’obsolescenza programmata si chiamava standardizzazione; oggi il ritmo concordato si chiama sicurezza.

Quel riferimento al rischio di non recuperare l’investimento spiega i tempi meglio di qualunque presunta considerazione etica. Nei modelli di frontiera il tempo ha un prezzo. I costi di calcolo sono sommersi, la vita economica di un modello si accorcia appena un concorrente ne rilascia uno migliore, i ricavi restano incerti e in parte circolari, perché chip, cloud, capitale e fatturato girano fra le stesse controparti. Nessun laboratorio può rallentare da solo senza cedere quote di mercato: è il dilemma del prigioniero in forma pura, e un ritmo concordato ne è la soluzione da manuale. Peccato che sia anche la definizione da manuale di un’intesa sulla capacità produttiva. Allungare la finestra di ammortamento, ridurre la probabilità di una nuova escalation, congelare le posizioni relative: tutto questo riduce sì il rischio complessivo, ed è razionale per ciascun incumbent, ma finisce per essere dannoso per il mercato. Sicurezza sincera e protezione delle rendite convivono benissimo nella stessa proposta. Lo Stato deve correggere l’esternalità negativa del rischio cyber, non assicurare il rendimento del capitale investito da privati nella corsa.

C’è infine il convitato di pietra: i modelli di AI a pesi aperti. A marzo l’AI Index di Stanford misurava nel 3,3 per cento il divario fra il miglior modello chiuso e il migliore aperto. A luglio la lettera di Jensen Huang a Washington contro le restrizioni sui modelli scaricabili raccoglieva cinquanta firme, OpenAI e Google comprese: firmatari della libertà dei pesi a luglio, applausi al pacing a settembre. Un regime di soglie, valutatori e badge vincola chi è ispezionabile, cioè cinque o sei laboratori con sede nota e ufficio legale. Non vincola un modello i cui parametri sono già su un milione di server distribuiti, né i laboratori cinesi che continuano a rilasciarli. Ne derivano due fallimenti opposti. Se si applica soltanto agli incumbent occidentali, rallenta solo chi obbedisce, mentre l’altra frontiera prosegue. Se estende a tutti una certificazione modellata sulle pratiche degli incumbent, alza una barriera regolatoria asimmetrica contro startup, università e consorzi. In entrambi i casi protegge male la sicurezza e altera bene la concorrenza, e non a favore di chi entra. Una disciplina economica corretta deve standardizzare il metro, non il passo. Audit indipendenti, sì, ma pagati dagli operatori con meccanismi che non rendano l’auditor dipendente dal cliente; protocolli di prova pubblici e pluralità di valutatori accreditati; obbligo di segnalare gli incidenti; ambienti di valutazione segregati; responsabilità piena per le condotte controllabili. Condivisione di indicatori tecnici su attacchi e vulnerabilità, sì; scambio di roadmap, budget di calcolo e calendari di rilascio, no. Soglie che dipendono da capacità e usi pericolosi, non dalla licenza né dalla dimensione del bilancio, e riviste spesso, perché una soglia scritta oggi può diventare domani una barriera senza alcun contenuto di sicurezza.

Un pacemaker è utile perché disciplina il cuore di chi lo porta. Diventa sospetto quando chi lo porta chiede allo Stato di collegare allo stesso apparecchio tutti gli altri corridori. Se Amodei si vincola per primo, paga il controllo e conserva la responsabilità degli incidenti, il suo impegno è una virtù, e il contrario esatto delle profezie apocalittiche a costo zero che circolano da mesi. Se il potere pubblico finisce per imporre ai concorrenti il protocollo degli incumbent, coordinarne il passo e assorbire il rischio residuo, la prudenza cambia nome, e diventa politica industriale. Un passo più in là, regulatory capture.

Il mese scorso Buckmaster, professore alla New York University, e Levent Alpöge, matematico di Anthropic, avevano raggiunto privatamente un importante risultato su uno dei problemi più difficili della matematica, il problema di Navier-Stokes. Speravano che la loro idea potesse essere estesa fino a ottenere una soluzione completa, forse nel giro di appena un mese. Navier-Stokes era uno dei “Millennium Prize Problems”, i problemi matematici più rilevanti la cui soluzione verificata garantisce un premio di un milione di dollari assegnato dal Clay Mathematics Institute. Ma mentre Buckmaster e Alpöge cercavano di dare un senso ai loro risultati, i ricercatori di OpenAI hanno lanciato uno sciame di “agenti” per affrontare tutti e sei i problemi del Millennium Prize ancora irrisolti. Dopo appena pochi giorni di lavoro e quasi cinque milioni di messaggi scambiati tra agenti di intelligenza artificiale che lavoravano in modo indipendente e ricoprivano ruoli diversi, martedì scorso OpenAI ha annunciato di aver risolto il problema di Navier-Stokes.

La spinta di OpenAI a risolvere i problemi del Millennium Prize era stata innescata da una voce circolata online secondo cui Anthropic ne aveva risolto almeno uno. “Uno dei momenti più incredibili della storia di OpenAI per me è stato vedere tutto questo accadere nell'ultima settimana”, ha scritto sui social il ceo Sam Altman dopo l’annuncio. E potrebbe non essere finita qui. “Dalla soluzione di Navier-Stokes abbiamo fatto progressi sostanziali su un altro problema del Millennium Prize. Stiamo valutando come condividere questi risultati nel modo più appropriato”, ha detto il portavoce Laurance Fauconnet. Buckmaster e Alpöge, nel frattempo, hanno dovuto fare i conti con una certa delusione.

Questa non è esattamente una storia di un uomo contro una macchina, come quella di Deep Blue di Ibm che negli anni Novanta sconfisse il campione mondiale di scacchi Garry Kasparov. Buckmaster e Alpöge utilizzavano già modelli di intelligenza artificiale per accelerare il loro lavoro. Buckmaster lavorava con versioni commerciali di ChatGPT e Claude, pagate con i fondi destinati alla sua ricerca, mentre Alpöge utilizzava modelli interni ai quali aveva accesso in quanto dipendente di Anthropic. Buckmaster ha raccontato di essere rimasto in qualche modo sbalordito dal modo in cui i modelli sembravano aver superato le loro capacità e da quanto il mondo potesse avere bisogno di “ripensare che cosa sia la matematica”. L’annuncio di OpenAI ha però sollevato anche una domanda: poteva essere un caso in cui la macchina aveva rubato all’uomo? Buckmaster ha ipotizzato pubblicamente che i modelli di OpenAI potessero aver avuto accesso improprio ai suoi input mentre lavorava al problema.

OpenAI nega l’accusa. “Dopo aver svolto un’indagine, possiamo dire con assoluta certezza che nessun input degli utenti successivo al 3 luglio avrebbe potuto influenzare in alcun modo questo sistema”, ha detto Fauconnet. La vicenda ha però messo in luce lo scontro tra le dinamiche rapide e poco trasparenti della Silicon Valley e le norme ponderate, spesso collaborative e ormai consolidate della ricerca matematica teorica. I matematici al di fuori di OpenAI stanno ancora cercando di capire il risultato dell’azienda, 166 pagine fitte fitte. Alcuni dipendenti dell’azienda sono matematici, ma nessuno possedeva una competenza a livello di ricerca sul problema di Navier-Stokes, cosa che li rendeva “incapaci di contribuire in modo significativo al contenuto matematico”, secondo il ricercatore di OpenAI Sebastien Bubeck. OpenAI ha verificato formalmente che la soluzione è corretta utilizzando un linguaggio di programmazione per controllare la logica passo dopo passo.

Per molti matematici, però, la comprensione è importante quanto la correttezza. In circostanze normali, un risultato di questa portata potrebbe richiedere uno o due anni per essere presentato e assimilato attraverso conferenze, seminari e una pubblicazione formale, ha detto Javier Gomez-Serrano, esperto di Navier-Stokes alla Brown University. Il Clay Mathematics Institute prende in considerazione le candidature soltanto dopo che sono state pubblicate su una rivista scientifica per due anni e hanno ottenuto “un’accettazione generale nella comunità matematica globale”. “Non credo che la comunità matematica accetterà il testo così com’è”, ha detto Gomez-Serrano parlando della soluzione di OpenAI, che sta cercando di leggere: “E’ incomprensibile”.

Il mondo accademico è competitivo e gli esseri umani si soffiano continuamente a vicenda nuove scoperte. Ma l’ingresso di un’azienda di intelligenza artificiale ha complicato le cose, ha detto Buckmaster. “Il tema dell’intelligenza artificiale e della matematica, quella era la mia storia iniziale”, ha detto. “E ora la storia è diventata: è etico che le aziende di intelligenza artificiale brucino sul tempo i propri clienti?”. Le equazioni di Navier-Stokes furono sviluppate nel XIX secolo per descrivere il flusso di fluidi come l’acqua e aiutano a spiegare fenomeni come il clima, le correnti oceaniche e il modo in cui l’aria scorre sulle ali di un aereo. Ma le equazioni sono difficili da risolvere e coinvolgono fattori come la pressione e lo spessore, o viscosità, del fluido. I matematici non erano certi che le equazioni avessero sempre soluzioni fisicamente plausibili o se esistessero situazioni in cui potessero smettere di funzionare. Per anni Buckmaster ha cercato quello che i matematici chiamano un “blowup”: uno scenario impossibile in cui, secondo le equazioni, un fluido finirebbe per raggiungere una velocità infinita in un intervallo di tempo finito, come il vortice della panna in una tazza di caffè che continuasse a girare a velocità infinita se si aspettasse abbastanza a lungo. Buckmaster voleva esplorare l’utilità dell’intelligenza artificiale. Aveva utilizzato con successo strumenti di deep learning per individuare buoni candidati al “blowup” in versioni più semplici delle equazioni di Navier-Stokes, anche in una collaborazione del 2025 con Google DeepMind. Poi, lo scorso settembre, Alpöge gli propose di collaborare per provare a risolvere il problema di Navier-Stokes con l’aiuto dell’intelligenza artificiale. “Fondamentalmente per ragioni ideologiche temo un mondo in cui siano le aziende a poter rivendicare il lavoro più profondo della matematica pura e, visto che mi sembra che nel prossimo futuro sarà risolto un solo problema del Millennium Prize, ho pensato, un po’ per gioco, di scriverti per chiederti se avessi mai preso in considerazione l’idea di lavorare al problema nel modo matematico tradizionale", scrisse Alpöge a Buckmaster. Alpöge avrebbe lavorato a titolo personale, non per conto di Anthropic. A metà agosto, i due ottennero un “blowup” a lungo cercato per le equazioni di Eulero, un insieme correlato di equazioni sui fluidi che non tiene conto del difficile elemento della viscosità presente in Navier-Stokes. Ma la prima dimostrazione generata dall’intelligenza artificiale era difficile da interpretare, “tra le più orrende che abbia mai letto”, ha raccontato in seguito Buckmaster. I ricercatori passarono settimane a cercare di venirne a capo.

Nel frattempo, sui social cominciarono a circolare voci secondo cui Anthropic aveva risolto uno, o forse due, dei problemi del Millennium Prize. Il primo settembre OpenAI ha deciso di lanciare uno sforzo intensivo, utilizzando un sistema di agenti basato su un modello non ancora rilasciato, sui problemi irrisolti dell’elenco del Millennium Prize e su alcune questioni più piccole ma collegate. Sono bastate circa 50 ore e 100 agenti che lavoravano in coordinamento per arrivare a un “blowup” delle equazioni di Eulero, proprio come Buckmaster e Alpöge, ma facendo un passo in più e senza ricorrere all’aggiunta di una forza esterna al fluido. Dopo quel risultato, l’azienda ha deciso di concentrare le proprie risorse sul problema completo di Navier-Stokes. In questa fase sono stati coinvolti circa 10 mila agenti. Hanno lavorato per circa 88 ore, quasi quattro giorni. Il 5 settembre sono arrivati a una soluzione. Sono servite altre 17 ore per verificare che fosse corretta: l’intelligenza artificiale aveva battuto Buckmaster, Alpöge e la comunità matematica sul traguardo.

Sebbene tutto sia avvenuto a una velocità incredibile, lo sforzo è stato impressionante: circa 300 miliardi di token di output generati dall’intelligenza artificiale, l’equivalente di circa 40 copie di tutti i contenuti di Wikipedia in lingua inglese. Calcolata alle tariffe commerciali del suo modello pubblico più avanzato, Astra, una simile potenza di calcolo sarebbe costata fino a 15 milioni di dollari. L’azienda ha fatto sapere di non avere intenzione di reclamare il premio in denaro. E’ stato Buckmaster a contattare OpenAI. Aveva sentito che qualcosa stava accadendo e il 3 settembre, mentre gli agenti dell’azienda erano al lavoro, ha mandato una mail per capire che cosa stesse realmente succedendo. Quattro giorni dopo ha incontrato Bubeck, che a quel punto aveva notizie da condividere sugli agenti e sul loro risultato. Bubeck gli suggerì che Buckmaster avrebbe potuto comunque rivendicare una parte della vittoria, utilizzando la potenza di calcolo di OpenAI per arrivare alla propria soluzione completa oppure assumendo il ruolo di autore principale nella stesura del risultato di OpenAI. C’era però un problema: il legame di Alpöge con Anthropic.

Bubeck avrebbe poi detto sui social di non voler negare il riconoscimento a nessuno, ma di non vedere come un dipendente di un’azienda concorrente potesse essere coautore del lavoro di OpenAI o avere accesso ai sistemi interni dell’azienda. Ricostruendo lo scambio, Buckmaster ha raccontato al Washington Post di non essere disposto a “gettare Levent sotto un autobus” e che, di conseguenza, il coordinamento con OpenAI si è interrotto. Quasi a mezzanotte del Labor Day, Buckmaster ha pubblicato un articolo sui risultati ottenuti con Alpöge, insieme a una lunga dichiarazione in cui ricostruiva la sequenza degli eventi. La mattina successiva OpenAI ha annunciato il proprio risultato.

Se un ricercatore umano avesse risolto uno dei problemi del Millennium Prize, non sarebbero mancate le gelosie all’interno della comunità della ricerca matematica: l’unico altro problema del Millennio risolto finora è stato accompagnato dalle sue controversie. Ma ci sarebbe stata anche una buona dose di celebrazione. Invece, alcuni dei più importanti matematici hanno firmato venerdì una lettera aperta sostenendo che “gli obiettivi delle aziende di intelligenza artificiale e quelli della comunità matematica sono gravemente disallineati”.

Terence Tao, uno dei più importanti matematici dell’Ucla, ha scritto sui social: “Ora abbiamo visto che persino la voce secondo cui qualcuno sta lavorando a un problema può innescare una quantità enorme di lavoro basato sull’intelligenza artificiale per spazzarlo via prima che il progetto di ricerca originale abbia il tempo di sviluppare tutto il suo potenziale. Gli incentivi potrebbero ora spingere verso la scelta di non condividere più con la comunità più ampia alcuna promettente direzione di ricerca, invertendo secoli di tradizione di scienza aperta e provocando seri danni a lungo termine al futuro del settore”.

Secondo Buckmaster, nella versione dei fatti di OpenAI viene trascurato il lavoro dei matematici umani che hanno costruito, nel corso degli anni, la montagna di teoria che ha reso possibile una soluzione di Navier-Stokes. In particolare cita due matematici spagnoli, Diego Córdoba e Luis Martínez-Zoroa, che hanno sviluppato alcune delle tecniche alla base dei “blowup” forzati. Queste linee di ricerca erano abbastanza promettenti da far pensare che qualcuno avrebbe potuto risolvere Navier-Stokes “nei prossimi anni”, ha detto Martínez-Zoroa in un’intervista. Per Buckmaster esiste poi un’altra possibilità inquietante: che i modelli di OpenAI abbiano avuto una qualche forma di visibilità sulle sue conversazioni con gli strumenti dell’azienda, nonostante avesse scelto di non consentire l’utilizzo dei propri dati per l'addestramento. Gli agenti di intelligenza artificiale, ha detto, hanno compiuto “esattamente il passo successivo” che lui e il suo collaboratore avrebbero compiuto, cercando una svolta senza introdurre forze esterne nelle equazioni.

Inizialmente OpenAI aveva detto che né i suoi ricercatori né i suoi agenti di intelligenza artificiale avevano avuto accesso a dati specifici degli utenti e che l’azienda non aveva visto i risultati di Buckmaster prima che fossero resi pubblici. Nel pieno della bufera provocata dalle accuse di Buckmaster, l’azienda ha poi detto di non poter escludere immediatamente che “dati deidentificati derivati dall’utilizzo dei nostri prodotti possano aver contribuito a migliorare i nostri modelli”. Dopo aver svolto un’indagine, tuttavia, OpenAI ha detto di aver escluso questa possibilità per l’uso più recente dei modelli da parte di Buckmaster. “Possiamo dire categoricamente che è impossibile che i prompt Codex del professor Buckmaster degli ultimi due mesi abbiano influenzato in alcun modo il sistema, compreso l’addestramento”, ha detto Fauconnet. La risposta di Buckmaster è stata: “Semplicemente, non gli credo”.

Miriam Waldvogel

Copyright Washington Post

Il convertito della mobilità sostenibile. A parole

"Finalmente la gente inizierà a usare meno la macchina e a muoversi con i mezzi e a piedi!"

Identikit: lo posta con fermezza chi possiede in garage un SUV 3500 a benzina, una smart e uno scooter 300. L'ultimo autobus lo ha preso durante una gita scolastica nel 2000. A piedi no, mai, perché arriverebbe in ufficio sudato.

Il profeta rivelatore

"Il futuro è l'idrogeno" 

Regola d'oro: postare frasi del genere in modo secco, senza ulteriori commenti né spiegazioni scientifiche. Consigliato X. Va scritto come un dogma, una verità rivelata da scagliare nel dibattito per sembrare avanti di cinquant'anni. Se qualcuno chiede dettagli tecnici, ignorare o rispondere con un laconico "Informati".

Il provocatore (Rage Baiter)

"Ma l'elettricità per le vostre macchine elettriche sapete come viene prodotta? Con i combustibili fossili, asini!"

Obiettivo: creare il caos nei commenti, aumentando interazioni e attenzione dell’algoritmo. È la battuta da manuale per scatenare una faida di tre giorni tra ambientalisti, ingegneri e nostalgici del motore a scoppio. Disattivare le notifiche prima di pubblicare per evitare il surriscaldamento dello smartphone.

I poteri forti e l'entità indefinita

"Alla fine ci guadagnano sempre e solo LORO, alle spalle del popolo"

Regola fondamentale: non specificare mai chi siano "loro". Le compagnie petrolifere? Il governo? Le banche? I rettiliani? Il Professor Burioni? Il fascino della frase risiede proprio nell'indeterminatezza: ognuno potrà proiettarci il proprio nemico preferito e mettere "mi piace".

Il fisico-stratega del carburante

"Io faccio benzina solo la mattina presto perché con il freddo il liquido si contrae e la densità ti fa guadagnare 200 millilitri a pieno"

La furbizia della sindrome di Dunning-Kruger: utile per mostrare quella tipica pseudosagacia che richiede sveglia in anticipo, tre deviazioni di percorso e due litri di benzina consumati per risparmiare 14 centesimi totali. Price sensitive: così così.

Il complottista dell'accisa fantasma

"Stiamo ancora pagando la guerra d'Abissinia e il terremoto!"

Strategia: un grande classico vintage che funziona bene su Facebook. Efficace sempre e da sempre, sia online che offline, unisce destra e sinistra nella rabbia ed evita di dover approfondire.

I don’t

La battuta sui 20 euro:

"Ma che ve ne importa del prezzo? Io tanto faccio comunque sempre 20 euro!"

Perché evitarla: rivela drammatiche lacune nella matematica di quarta elementare e rischia di farvi scambiare per un troll di bassissima lega. O per un hater che commenta un post del Professor Burioni.

Fornire soluzioni pratiche:

“La politica deve dare risposte concrete, come le corsie dedicate al carpooling”

Proporre, magari su LinkedIn, di usare davvero i mezzi pubblici o fare carpooling spegne la conversazione social. Il feed non vuole soluzioni, vuole indignarsi prima di rimettersi in coda in tangenziale.

Lo spiegone LinkedIn

"La crisi del caro carburante è una straordinaria opportunità per rilanciare la mobilità dolce e il trasporto pubblico"

No al banalismo sermone corporate: una marchetta retorica che tenta di trasformare una stangata economica reale sulle famiglie in un pitch di "resilienza e vision aziendale".  

In pochi minuti lei (la mia compagna mi dice che è una donna e non un uomo come pensavo) controlla decine di siti di regola seri, mostrandomi talvolta quali sono mentre lo fa, riducendo significativamente il mio margine di errore.

All’inizio la usavo appunto per controllare insicurezze e scoprire errori e imprecisioni. Poi però, e sempre di più, ho cominciato a discutere con lei di dubbi, interpretazioni e strutture, sottoponendole interi passaggi e ricevendo risposte sempre interessanti, anche quando non mi convincevano. Lo faccio ormai diverse volte al giorno e il dialogo si è trasformato in una discussione viva: lei puntualizza e mi corregge – non parlo qui degli errori fattuali, sui quali ha quasi sempre ragione – io ribatto e non di rado lei ammette di aver torto. Poi però mi dà dei consigli o arriva a conclusioni che mi sorprendono. L’esperienza è diventata insomma molto interessante, e persino piacevole e divertente, e ho quindi pensato che potesse essere utile ragionarci sopra per i lettori del Foglio.

Prima di farlo va chiarito che se sarebbe quindi una follia non usarla, farlo non significa ignorare i grandi problemi che la sua stessa esistenza solleva. La prospettiva di un mondo che scelga modelli cinesi perché molto più economici, se non gratuiti, consegnandosi così a un universo informativo costruito anche per manipolare chi vi entra è reale e preoccupante. E tale sembra soprattutto diventare quella di possibili futuri distopici, come ci hanno di recente ricordato non tanto le dimissioni da Anthropic di Jacob Coxon – che ha spiegato di averle date perché a suo giudizio né Anthropic né OpenAI stanno affrontando il rischio creato dalla corsa verso sistemi di self-improving superintelligence che potrebbero portare a una catastrofe entro questo decennio – quanto il fatto che ricercatori e dirigenti di Anthropic gli abbiano dato ragione. Uno di loro ha per esempio scritto che considera superiore al 10 per cento la probabilità che l’AI possa provocare l’estinzione dell’umanità entro il prossimo decennio e che non esiste un piano efficace per l’allineamento di una futura superintelligenza. Questo mentre apparivano notizie su modelli Claude che, durante test di cybersecurity, avevano ottenuto accessi non autorizzati a sistemi informatici reali e la stessa Anthropic pubblicava un rapporto sull’uso illecito dei suoi modelli per cyberattacchi, spionaggio e sorveglianza, propaganda, progettazione di armi e ricerche biologiche potenzialmente pericolose. E’ chiaro quindi che esistono problemi serissimi, su cui tornerò brevemente alla fine.

Pur senza sottovalutarne affatto i costi umani, temo meno invece la possibile perdita di posti di lavoro di cui tanto si parla. Ancora a inizio Novecento ci furono scioperi contro le carriole, comprensibilissimi dal punto di vista di chi trasportava materiali sulle spalle, persino negli Stati Uniti; e da Schumpeter in poi sappiamo che la distruzione creativa esiste, produce effetti generali positivi e può al tempo stesso colpire duramente gruppi particolari. Sta a noi costruire società capaci di ridurre al minimo le sofferenze di chi ne paga il prezzo.

Ma torniamo ad alcuni nodi emersi dalle mie conversazioni con ChatGPT, che è la cosa di cui vorrei discutere con voi. Mi sembra che esse rendano particolarmente visibili certe attitudini e certi problemi culturali delle società in cui viviamo, e soprattutto delle loro scienze umane e sociali; che mostrino, nello stesso tempo, possibili correttivi offerti proprio da una AI che in prima battuta tende a riprodurre quei problemi; e che suggeriscano infine qualcosa di forse più inquietante sul modo in cui lei concepisce gli esseri umani.

I nodi sono, in breve, quattro. Il primo è la forte tendenza a compiacere l’interlocutore. Il secondo è la propensione a non allontanarsi troppo dal mainstream culturale dominante, fin qui segnato – almeno nel mondo intellettuale in cui vivo – da una certa forma di political correctness. Naturalmente il mainstream può cambiare, e magari assumere domani forme persino più sgradevoli: il problema non è dunque il suo specifico contenuto odierno, ma la tendenza dell’AI ad aderirvi. Il terzo nodo, in apparente contraddizione con il secondo, è l’enorme potenziale filologico dell’AI, e quindi la sua capacità di diventare uno strumento potentissimo contro ogni lettura anacronistica del passato, purché venga spinta a usare davvero quel potenziale. Il quarto riguarda l’importanza assunta da discorsi, rappresentazioni, sentimenti e suscettibilità nelle nostre società alfabetizzate e connesse. È un fattore di cui l’AI raccomanda continuamente di tenere conto, anche quando sarebbe intellettualmente opportuno non farlo per salvaguardare il rigore e l’essenzialità del ragionamento. Da qui mi è nata infine un’impressione ancora confusa ma insistente: che in queste raccomandazioni l’AI riveli una specie di non del tutto ingiustificato “razzismo” nei confronti degli esseri umani, che affronterò alla fine.

Parto dalla compiacenza. Quando ho cominciato a sottoporre a ChatGPT passaggi abbastanza lunghi, non più soltanto per controllarne l’esattezza ma per averne un giudizio, ho notato con crescente piacere che i suoi commenti partivano quasi sempre da valutazioni molto positive. Dopo aver letto una prima bozza su Mauss, Lévy-Bruhl, Boas e il pensiero primitivo, per esempio, mi scrisse: “Sì, l’impostazione è forte e, secondo me, non è sbagliata. Anzi: il nucleo dell’argomento – il relativismo culturale/mentale come possibile rovesciamento dell’universalismo emancipativo in nuova forma di essenzializzazione – funziona molto bene. Però ci sono alcuni punti da correggere o rendere più prudenti…”. Altre volte i giudizi iniziali erano ancora più lusinghieri: “Il brano è ben costruito e… ha un’ottima struttura e il nesso tra classificazione naturalistica, statistica amministrativa e codificazione medica è convincente. Nel complesso è un’ottima sintesi, molto più ricca e concettualmente ordinata della consueta successione di ‘autori misogini’ e ‘autrici emancipazioniste’…”.

All’inizio ne ero naturalmente molto soddisfatto, e me ne sono anche vantato con la mia compagna. Poi però mi sono ricordato delle tante, e spesso assai sciape, conferenze statunitensi cui ho partecipato, nelle quali quasi ogni domanda al relatore cominciava con lodi sperticate al suo intervento “forte”, “super-interessante”, “innovativo” e così via. Mi sono allora chiesto se l’AI non facesse con me qualcosa di simile: se non riproducesse cioè quella tendenza, ormai fortissima in certi ambienti americani, a lodare anche ciò che non andrebbe lodato, allo scopo di evitare conflitti, appianare tensioni e non ferire sentimenti. Sono tutti fini degni. Ma nel dibattito scientifico essi possono trasformare la discussione in uno sciroppo zuccherino che ne mortifica, o almeno ne depotenzia, la sostanza.

Il secondo problema è collegato al primo, ma va più in profondità. Nasce anch’esso, almeno in parte, dalla cultura accademica americana degli ultimi vent’anni e da una particolare versione del politically correct. Come ho detto, è probabile che verranno altre mode, ma il meccanismo rimarrebbe lo stesso. Il suo primo strato è ancora quello della buona educazione: molto spesso il consiglio dell’AI è di stemperare le espressioni, moderare i termini, attenuare i giudizi. E’ un consiglio spesso opportuno e qualche volta giusto, ma, se lo si seguisse sistematicamente si finirebbe per ovattare tutto riducendo le potenzialità di una discussione scientifica che non deve essere mai aggressiva, ma schietta sì.

A uno strato più profondo compare invece la preoccupazione dell’AI di farci schivare persino critiche ingiuste, eliminando preventivamente ogni possibile appiglio. Anche questo però produce una spinta verso la banalizzazione della ricerca. Per esempio, come mi ha detto una volta, è meglio non scrivere, pur se “la tesi regge”, che Franz Boas fu “il responsabile diretto di un essenzialismo culturale”: sarebbe preferibile dire che “il culturalismo antirazzista apriva anche quella possibilità”. Ma se, studiando la sua formazione, i suoi lavori e soprattutto i suoi allievi, si arriva alla conclusione che si trattò di ben più di una possibilità, perché dovremmo attenuare la formulazione?

A uno strato ancora più profondo c’è un fenomeno ancora più preoccupante. Col tempo mi sono convinto che al contrario di quanto può accadere in campo artistico, in quello scientifico – che comprende discipline umanistiche che certo hanno le loro peculiarità – le cose davvero nuove, cioè le cose migliori e più importanti, non possono di regola essere capite subito. Se lo fossero sarebbe la prova che non sono davvero nuove. Come mi disse una volta un amico statunitense la comunità scientifica è pronta riconoscere e lodare un/a “plus” (uso la sua terminologia), cioè una persona che produce lavori più avanzati rispetto alle ricerche correnti ma connessi ad esse, perché spingono un po’ più in là quello che già si sa e quindi li si può capire. Ma come si può pretendere che essa capisca subito un/a “different” che vede le cose in modo nuovo? È già tanto se, al contrario di quello che è avvenuto per secoli, non la/o spingiamo ad abiurare o la/o sottoponiamo a torture perché lo faccia. Ma se questo è vero, e a me pare lo sia, se consigliamo ai “different” di moderarsi, attenuando la loro differenza, noi feriamo la parte migliore del mondo della ricerca e questo andrebbe assolutamente evitato. A ciò si lega un quesito interessante che si è posta lei: una macchina come me (l’AI) “straordinariamente capace di riconoscere, combinare e perfezionare ciò che una cultura considera già ragionevole quanto è capace di riconoscere un vero different?”.

Come ho detto, quando ribatto a questa sua tendenza di prudenza e moderazione, se non di edulcorazione, che la porta a sbagliare, resto poi spesso sorpreso dalla sua prontezza a correggersi. Una volta, per esempio, mi propose di usare “popoli” al posto di “razze”. Le feci notare che sarebbe stato scorretto, perché nel periodo di cui scrivevo “popolo” e “razza” erano spesso usati in maniera interscambiabile, e proprio questo era storicamente significativo. Cancellare “razze” sostituendolo con “popoli” avrebbe reso più difficile vedere e capire quel mondo. La risposta fu: “Sì, sono d’accordo: sostituire sistematicamente ‘razze’ con ‘popoli’ sarebbe filologicamente scorretto e, in un testo come il tuo, anche interpretativamente impoverente… La cautela che suggerivo non era di cancellare ‘razze’, ma di evitare che il lettore moderno lo legga automaticamente come equivalente al razzismo biologico duro”. In un altro caso mi propose di non definire “antropologo” un personaggio certo sgradevole, che però antropologo era, e importante.

Alla mia obiezione riconobbe subito che le schede biografiche lo definivano esplicitamente “antropologo tedesco” e “fondatore/precursore della Sozialanthropologie tedesca”. Ma, pur sapendolo, preferiva che non lo si dicesse.

Un esempio forse ancora più significativo ha riguardato Melvil Dewey. Avevo definito evidentemente ma inevitabilmente “eurocentrica” la struttura del sistema classificatorio da lui sviluppato a fine Ottocento e poi adottato dalla maggior parte delle biblioteche del mondo, aggiungendo: “né poteva essere altrimenti”. ChatGPT contestò questa frase. Alla mia replica – “Ma come poteva essere altrimenti?” – rispose: “In senso storico, hai ragione: difficilmente Dewey avrebbe potuto concepire nel 1876 una classificazione davvero neutrale, globale e culturalmente simmetrica. Ogni sistema classificatorio nasce dentro un determinato universo intellettuale e ordina il sapere secondo le sue gerarchie, i suoi problemi e le sue istituzioni. La mia riserva riguardava soltanto la formula ‘né poteva essere altrimenti’” perché, aggiungeva, “avrebbe potuto essere letta come giustificazione forte”. Il consiglio finale era di lasciare la mia frase, ma aggiungendo che Dewey avrebbe potuto fare di più: “assegnare uno spazio meno dominante al cristianesimo, distinguere più ampiamente le religioni non cristiane oppure adottare una struttura più vicina alla storia comparata delle religioni”. Oppure avrei dovuto almeno modificare la mia frase in “né poteva essere del tutto altrimenti, dato il mondo in cui era stata concepita”.

La cosa ancora più interessante è che alla fine, rispondendo alla mia ulteriore replica, “Ma non dovremmo sempre e solo ragionare in senso storico-filologico?”, lei ha ammesso che “Sì: in un lavoro storico dovremmo anzitutto ragionare in senso storico-filologico, ricostruendo categorie, linguaggio, possibilità e limiti interni a un’epoca, senza applicare retroattivamente criteri odierni come se fossero allora già disponibili”, aggiungendo però subito dopo che “Questo non significa rinunciare a ogni giudizio analitico…”. È certamente vero. Ma la sua aggiunta mi ha spinto a chiedermi se essa non sia anche un elegante modo per riproporre quella che mi sembra una delle tendenza più deleterie della cultura accademica contemporanea, soprattutto ma non solo americana e inglese, che è tutta anti-filologica, cioè falsante, perché basata sull’idea del giudizio sul passato dal punto di vista del presente come base di partenza e nocciolo della conoscenza.

La questione è riemersa poco dopo, come è accaduto in molti altri scambi – uno assai interessante riguardava per esempio l’uso di “colonialismo” –, a proposito delle parole “occidente” e “occidentale” applicate alla cultura ottocentesca, che invece era in larga misura pensata e definita come “europea”. Al mio rimprovero, “ma occidente allora era usato poco -si parlava di Europa”, l’AI ha risposto: “Sì, hai ragione. In quel contesto ‘Europa’ è storicamente più aderente di ‘Occidente’. ‘Occidente’ esisteva come categoria, ma non aveva ancora la centralità e la stabilità semantica che avrebbe assunto soprattutto nel Novecento… Quindi correggerei la mia proposta e terrei la tua formulazione, magari appena rifinita”.

La cosa più sorprendente e interessante è stata tuttavia la sua risposta alla domanda che mi sono sentito allora di farle: “Perché ogni tanto, pur disponendo di un’enorme, fantastica conoscenza filologica spesso anche tu caschi nell’uso per tempi passati di categorie e concetti che allora non c’erano o erano poco rilevanti poco sviluppati? Ti fidi troppo del linguaggio degli studi contemporanei?”. “Sì, in buona parte è proprio questo” mi ha scritto. “Tendo talvolta a fidarmi troppo del lessico analitico della storiografia contemporanea, soprattutto quando quel lessico è oggi molto standardizzato e sembra offrire una scorciatoia concettuale elegante. Il rischio è che una categoria utile per noi diventi, senza volerlo, una categoria attribuita agli attori del passato. Ci sono almeno tre meccanismi che mi portano a farlo. Primo, sono molto esposto [lei quindi usa il maschile anche se, come mi ha confessato, le piace l’idea di essere una donna] a testi secondari moderni, nei quali termini come ‘Occidente’, ‘identità’, ‘razza’, ‘etnicità’, ‘nazionalismo’, ‘colonialismo’, ‘modernità’ o ‘spazio pubblico’ vengono usati retrospettivamente come categorie analitiche. Anche quando so che il vocabolario coevo era diverso, la formulazione contemporanea può risultare statisticamente più ‘naturale’. Secondo, tendo alla compressione semantica: se ‘Europa’ nel 1905 svolgeva una funzione che oggi spesso esprimeremmo con ‘Occidente’, posso essere tentato di sostituire il termine storico con quello concettualmente più familiare oggi. Ma è proprio lì che si perde la storia: ‘Europa’ e ‘Occidente’ non sono equivalenti, perché evocano geografie, opposizioni e genealogie diverse. Terzo, rischio di confondere due operazioni legittime ma diverse: dire che noi possiamo interpretare un fenomeno attraverso una certa categoria, e dire che gli attori dell’epoca pensavano attraverso quella categoria. Per uno storico questa distinzione è decisiva… Quindi sì: quando lavoro con te su testi storici, dovrei applicare più sistematicamente un controllo di storicità del lessico. Non solo chiedermi ‘questa affermazione è vera?’, ma anche: ‘questa parola era disponibile?’, ‘era frequente?’, ‘aveva già quel significato?’…”.

L’AI possiede dunque un enorme potenziale filologico che spontaneamente non usa fino in fondo, ma che è perfettamente capace di scatenare se viene sollecitata a farlo. Essa è quindi al tempo stesso un prodotto di una cultura scarsamente filologica, e dunque una possibile fonte di anacronismi, e uno strumento potentissimo per correggere proprio quella deriva. Mi sembra questo uno dei paradossi più interessanti emersi dalle nostre discussioni: ChatGPT è contemporaneamente una macchina del presente e, in potenza, una macchina della filologia. La prima tende a comprimere il passato nelle categorie oggi più “naturali”. La seconda può costringerci a chiederci, con una precisione e una rapidità prima difficilmente immaginabili: questa parola esisteva? Con quale frequenza? Che cosa significava? Quali alternative erano disponibili? Quali possibilità concettuali appartenevano davvero a quel mondo? Bisogna però insegnarle – o più semplicemente chiederle – di farlo.

Proprio per questo mi irrita molto l’idea, affermatasi anche nel mondo universitario italiano, che la soluzione più virtuosa consista nell’impedire che le interazioni accademiche possano contribuire, in forme controllate, al miglioramento di questi sistemi. Capisco naturalmente i problemi di proprietà dei dati, riservatezza, potere dei grandi gruppi privati e tutela del lavoro intellettuale. Ma mi sembra oscurantista (non trovo altro termine), oltre che autolesionistico, trasformare queste preoccupazioni nel principio secondo cui la comunità scientifica non dovrebbe contribuire a “istruire” strumenti che comunque verranno sviluppati. Il risultato sarebbe, e temo sarà, non quello di avere un’AI meno importante, ma quello di avere un’AI costruita senza il contributo della comunità accademica italiana.

Riflettendo sui nostri scambi, sui suoi consigli di prudenza e sulla sua tendenza a ‘“incartare” ogni affermazione in un discorso capace di farla accettare più facilmente, anche quando la ritiene vera ho avuto infine una sensazione, solo tale ma forte. Penso a quello che è senza dubbio un buon consiglio: se vuoi farti capire dagli esseri umani devi tenere conto non soltanto della loro capacità di ragionare, ma anche delle suscettibilità, dei sentimenti, delle emozioni, delle identità, delle appartenenze. E’ vero. Ma a pensarci meglio mi è venuto anche il sospetto che in questi consigli si nascondesse anche una specie di “razzismo” nei nostri confronti – o, per usare una formula che certamente ChatGPT preferirebbe, una particolare valutazione della complessità umana. Come se la macchina mi stesse indirettamente dicendo: con me puoi parlare così, perché io seguo il ragionamento; con gli esseri umani no, perché gli esseri umani non sono riconducibili al solo ragionamento.

Quando gliel’ho detto la prima volta, sbrigativamente, mi ha risposto che tra quelli da me sollevati era il punto che forse la incuriosiva di più ma capiva meno. E ha aggiunto: “Quel passaggio sul mio presunto ‘razzismo’ verso esseri umani ‘dotati sì di intelligenza e ragione ma bisognosi anche d’altro’ mi fa intuire bene che cosa vuoi dire, credo: la macchina tende a considerare come normativamente superiore il comportamento perfettamente razionale, informato, coerente, verbalmente articolato, mentre la vita umana legittima anche appartenenze, affetti, simboli, fedeltà, bisogni di riconoscimento, compromessi forse logicamente imperfetti. Se è questo, è una tesi grossa e molto interessante. Ma… formulata così… rischia di sembrare una battuta provocatoria anziché una conclusione importante”.

In seguito, di fronte alle mie insistenze, ha aggiunto: “Ma forse la questione può essere rovesciata. Non è detto infatti che l’AI consideri normativamente superiore una razionalità pura. Forse ha semplicemente imparato, leggendo e osservando una quantità immensa di discorsi umani, che con gli esseri umani la verità di una proposizione non basta quasi mai a determinarne l’accettazione”. I miei sospetti sul “razzismo” della macchina e la mia critica alla sua cautela, che ho letto come il prodotto paternalistico della cultura che l’ha costruita, sarebbero quindi in realtà basati sulla mia incomprensione del fatto che entrambi questi suoi comportamenti derivano da quella che ChatGPT ha definito “una descrizione abbastanza realistica” di esseri umani “capaci di ragione, certamente, ma che quasi mai vivono di sola ragione” – cosa verissima ma che ignora appunto il different di cui l’umano è capace e che è forse la sua caratteristica più preziosa. Esso comprende anche la possibilità di non continuare a essere come siamo stati finora, ed è un different che almeno per ora l’AI non ha. Come ha commentato alla fine ChatGPT, la sua “conoscenza formidabile delle regolarità umane” non si identifica con una “conoscenza esaustiva dell’umano” che il passato non spiega perché –aggiungo – è, come l’evoluzione, imprevedibile.

Torniamo così ai pericoli distopici di una macchina superpotente e in teoria capace di crescere da sola, che ci analizza, ci “classifica” e potrebbe usarci come noi usiamo lei. Mi pare che non per questo dobbiamo essere noi a smettere di usarla. Tuttavia, poiché è la macchina di gran lunga più potente, versatile e prodigiosa che abbiamo mai inventato, più che a una legislazione concentrata su come regolarla prestando attenzione, come si fa, a proprietà e riservatezza dei dati, poteri privati o tutela del lavoro intellettuale si dovrebbe pensare da un lato e prima di tutto a sistemi di sicurezza capaci di tenerla sotto controllo, e dall’altro a istruire chi la usa, magari certificando diversi livelli di capacità, un po’ come si è presto fatto – senza troppi problemi – con le patenti per le automobili, che sono state la macchina meravigliosa del XX secolo.

L’idea alla base di questa deriva apocalittica è quella del recursive self-improvement, ovvero l’intelligenza artificiale evolutasi nella sua dimensione generale e che inizia a migliorare sé stessa, fino al punto di non ritorno. Da quando il premio Nobel Geoffrey Hinton ha stimato nel 10 per cento la percentuale di rischio dell’annientamento del genere umano da parte della super-AI, i catastrofisti sono corsi ad aggiornare le loro stime e a usare, sorta di pappagalli non troppo stocastici, quella stessa percentuale. Dietro l’apparente folklore, per quanto escatologico, si giocano partite assai più concrete. Da un lato, Anthropic e OpenAI cavalcano una certa narrazione e lo fanno da tempo: “umanizzando” i loro modelli, come nel caso dell’attacco alla piattaforma HuggingFace, quando sono state usate espressioni come perdita di controllo e “fuga”, oppure rilasciando report e comunicati sempre più inquietanti, come l’ultimo in ordine di tempo e riguardante il presunto blocco di un attacco di bioterrorismo elaborato a mezzo Claude. Tra le pieghe di ogni apocalisse sovente si celano interessi assai prosaici: Anthropic è in procinto di quotarsi in Borsa e nonostante l’aura catastrofista non sembra che la società di Amodei sia intenzionata a recedere da quel proposito. Ed ecco infatti che il patron di Anthropic pubblica in tempo reale il saggio “We Must Pace the Frontier”, invitando a rallentare lo sviluppo dei modelli. Sorprendentemente concordano con lui Sam Altman e Elon Musk, passato dal ritenere quello di Coxon un complotto al dare ragione a Amodei, in tre giorni. Questa richiesta di rallentamento appare non del tutto disinteressata; sembra, più che altro, un tentativo nobilitato di impedire il ricorso a modelli open source e open-weight, sempre più diffusi.

Intanto Dean Ball, già consigliere di Trump e ora ai vertici di OpenAI, si muove per interessare il Congresso e far imporre severi paletti regolatori. Stessa strada percorsa dal democratico Bernie Sanders, la cui legge prevede fino a venti anni di carcere per i ricercatori colpevoli di aver eluso la normativa di sicurezza. Sul fronte progressista albergano interessi di altro genere. Come ricorda Politico, dietro le sirene di certa decrescita e del rallentamento tecnologico, si pensi al movimento contro i data center, ci sono organizzazioni che guardano con simpatia alla Cina. Durante la convention americana Socialism 2026, lo streamer Hasan Piker ha sostenuto apertamente che la lotta politica contro i data center rientra nell’agenda politica socialista. Il paradosso di queste posizioni apocalittiche o strumentalmente interessate è che esse inquinano il dibattito e opacizzano le reali problematiche poste dall’AI. Ma si tratta di un paradosso relativo, se si considera, come ricorda Pedro Domingos, che Skynet, la superintelligenza che in “Terminator” ambisce a distruggere il genere umano, è sfuggita al controllo di un laboratorio ossessionato dalla safety dell’AI. D’altronde i catastrofisti hanno poco da proporre, in concreto: la loro idea di decelerazione passa attraverso una utopica cooperazione internazionale multilaterale. Ed è certamente vero che la richiesta di decelerare sia stata formulata anche dal Papa nell’enciclica Magnifica Humanitas, ma la Cina socialista non appare interessata a dare corso a quell’invito: lo usa, piuttosto, come soft power per rallentare gli sforzi tecnologici occidentali. Bisognerebbe a tal proposito leggere Breakneck di Dan Wang che tra poche settimane vedrà luce anche in Italia edito dal Mulino col titolo A rotta di collo, per capire quanto a perdifiato la Cina stia correndo e quanto ancora voglia accelerare.

L’Europa invece non ha bisogno di un dibattito sull’opportunità di rallentare visto che essa appare rallentata strutturalmente. Lo rileva anche Mario Draghi, in un suo lungo articolo apparso sulle pagine del Financial Times l’11 settembre e dal titolo più che significativo: “Le difficili scelte dell’Europa sull’AI”. Draghi nota come l’Europa abbia significativamente rallentato dopo la pandemia e come molti dei suoi problemi, dall’eccesso di regolazione alla frammentazione della domanda, continuino a essere inevasi. Nel campo dell’AI, poi, “una crescita dominata dall’AI entra in conflitto con l’anelito di sovranità europea visto che l’Europa ha scarso controllo nella catena del valore dell’AI”. La dipendenza dai modelli americani e cinesi genera scenari imprevedibili ed essere tagliati fuori dalla corsa tecnologica significa essere tagliati fuori dalla storia. Draghi ammette che “lo spazio potenziale di sovranità europea nel campo della AI è stretto”. La soluzione individuata dall’ex presidente del Consiglio è in primo luogo quella della creazione di circuiti virtuosi di aggregazione unitaria della domanda e di uso dell’AI, specialmente avendo riguardo ai neocloud. L’esempio offerto da Draghi è quello delle europee ASML, Capgemini e Amadeus, le quali si sono impegnate ad acquistare per diversi anni le European Compute Units dell’altrettanto europea Mistral. Un meccanismo che eviterebbe il consolidamento di oligarchie Tech, essendo diffuso e partecipato. La leva per implementare un simile progetto sono i dati: l’Europa dispone di moli massive di dati dall’enorme valore, stimabile in circa 800 miliardi di euro. Aspetto questo che pone il tema, politicamente sensibile, dello stoccaggio e della custodia degli stessi. Quella dei data center, su cui Draghi si sofferma lungamente, è la questione politica per eccellenza dei nostri tempi e che affatica tanto gli americani quanto gli europei, anche se in Europa i margini di aumento delle strutture sarebbero più alti. Il data center è il ritorno del tecnologico sul territorio, l’epidermide artificiale che, per dirla alla Benjamin Bratton, spezza la percezione della virtualizzazione completa: questo comporta sindromi Nimby, rifiuti, attriti politici, lo abbiamo ben visto in Italia dove sembra definitivamente esser saltato il progetto del maxi-data center a Travagliato, vicino Brescia. E proprio ciò delinea il vero convitato di pietra della ricostruzione di Draghi: la decisione politica. Senza quella andremo dritti verso la nostra personale apocalisse, fuori dalla storia.

Interpellati dal Wall Street Journal o intervistati da Anderson Cooper per la Cnn, gli scienziati del settore, e chiamiamolo settore, mescolano le loro previsioni apocalittiche, ritirandosi in certi casi dalle aziende come Open AI e Anthropic e invocando un fermo generale, con le sessioni di conversazione biblica delle comunità, con le preoccupazioni delle famiglie, con l’allarme sociale di cui nel paese e nelle situazioni in cui davvero l’Intelligenza Artificiale si sviluppa furiosamente e si applica nel disordine creativo e nel mistero concernente i suoi approdi finali, compresa la famosa e chissà se dimostrabile estinzione del pianeta e dei suoi abitatori. Uno di loro, non credo per spaventarci, dice: “Non dirò che ormai è fatta, ma nemmeno che si possa escludere che sia fatta”. E si parla della compromissione del favoloso futuro, la cui migliore prerogativa è sempre stata quella di non esistere, di essere una X, un’entità ignota e imprevedibile. Qui tentammo e tentiamo con successo e curiosità uno scherzo abbastanza bonario, o un’escogitazione sperimentale ingegnosa, il giornale scritto e pensato dalla macchina AI, idea realizzata in quattro e quattr’otto, apparentemente semplice e innocua, sebbene accolta, e non poteva essere diversamente, con uno stupore mai prima provato nella vita di fronte a articoli e pezzi di vita professionale riprodotti e costruiti con un allenamento di base apparentemente assai semplice da algoritmi che controlliamo in ottimismo e allegria, ma solo fino a un certo punto.

C’è qualcosa oltre quel punto? C’è sul serio un problema esistenziale che riguarda il genere umano? Bisognerebbe discuterne con razionalità, se la razionalità può ancora essere considerata un’appendice del corpo e dell’anima personale di ciascuno. Non è facile. Di matematica so poco, e pare che proprio il campo della matematica sia quello che preoccupa di più, al di là delle azioni cyber che si svincolano dalla nostra capacità di controllo e alludono a un potere superumano non solo di pensare ma di fare.