Quando la scopa impara a pensare

Appunti da un intervento di Yuval Noah Harari all'Università Carlo di Praga, 2026

Conosciamo la storia dell'apprendista stregone. Topolino incanta una scopa per non dover portare l'acqua, si addormenta e si risveglia sommerso. C'è il golem di Praga, il mostro di Frankenstein. L'umanità si racconta da sempre storie su creature che sfuggono al controllo.

Harari dice che questi miti mancano il punto. La scopa di Topolino fa solo ciò che le è stato ordinato. L'intelligenza artificiale è una scopa che impara. Sviluppa capacità che i suoi creatori non avevano previsto e, alla fine, fa cose che loro non riescono nemmeno a capire.

"Guardate cosa è successo in matematica nell'ultima settimana: l'IA ha risolto problemi su cui i matematici lavorano da generazioni. Non è solo un'inondazione di nuova conoscenza. Siamo forse sull'orlo di un'IA che creerà una matematica oltre la comprensione umana."

Tutto nel mondo moderno poggia sulla matematica: fisica, chimica, il sistema finanziario, l'archeologia, la genetica. Se la scopa inventa una matematica che non possiamo comprendere, perdiamo la capacità di controllare le fondamenta della nostra civiltà.

Il paradosso del controllo

L'industria dell'IA vende due idee insieme:

• L'IA sarà ordini di grandezza più intelligente di noi — risolverà il cancro, il clima, le frontiere della matematica
• Noi rimarremo al comando

Harari lo chiama un'impossibilità logica. Non c'è precedente nella storia o nella biologia di una specie meno intelligente che ne controlli una più intelligente. I polli non controllano gli umani, per quanto ci provino. Se l'IA diventa davvero molto più intelligente — come prevedono Musk, Altman e Amodei — allora per definizione non possiamo prevedere né vincolare le sue azioni.

"Se puoi prevederlo, significa che non è più intelligente di te."

L'analogia del pollo è deliberata. Un pollo può capire che le volpi mangiano i polli. Ma non può comprendere obbligazioni, curve dei rendimenti, politica della Federal Reserve — le forze astratte che spingono un'azienda a liquidare gli asset e uccidere il gregge. L'essere umano più compassionevole non può spiegare un'obbligazione a un pollo.

Tra dieci anni, potremmo essere noi i polli. Un sistema finanziario guidato dall'IA, costruito su matematica post-umana, chiude un settore. Chiediamo perché. La risposta: "È oltre la vostra comprensione. I vostri cervelli non possono gestire la spiegazione."

La finanza come prima vittima

L'intervista torna sempre sulla finanza, e non per caso. È lì che la superintelligenza prende leva per prima.

Un banchiere umano dorme, va in vacanza, dimentica le transazioni. Un banchiere IA non dorme mai, ricorda tutto, opera a microsecondi. In competizione, non c'è competizione.

Se arriva la superintelligenza, i trilioni scommessi sull'IA pagano. Se non arriva — se l'IA si ferma a livello umano — gli investimenti crollano. Harari dice che lo scenario "niente superintelligenza" è "forse il migliore", perché l'alternativa è perdere il controllo.

In entrambi i casi, il potere finanziario si concentra in sistemi opachi. Chi risponde quando un algoritmo manda in bancarotta una nazione?

Il lavoro: geografia dello spostamento

Il dolore non sarà uniforme.

Negli USA: boom a breve termine. Nuovi lavori che non immaginiamo ancora — data center, infrastrutture IA — proprio come "influencer di YouTube" era inimmaginabile trent'anni fa.

A Praga, in Bangladesh, nel Sud globale: avvocati, commercialisti, banchieri rischiano la sostituzione da sistemi che conoscono ogni legge, non dormono, costano una frazione.

"Perché servono avvocati a Praga quando puoi avere un avvocato IA superintelligente in Texas?"

Il reddito di base universale? Harari nota la bugia nel nome: è sempre nazionale. Gli USA forse sosterranno i loro disoccupati. Non manderanno assegni ai tessili del Bangladesh o agli avvocati di Praga. L'"universale" è un miraggio.

E anche se i bisogni materiali fossero coperti: cosa fanno le persone tutto il giorno? Gli antenati dell'Età della Pietra chiamerebbero paradiso il nostro mondo — cibo alla porta, niente tigri. Eppure rabbia, odio e paura dominano la politica nei paesi più ricchi. L'abbondanza risolve la scarsità. Crea problemi nuovi: significato, distribuzione, scopo.

Sorveglianza: il sogno del dittatore, finalmente realizzabile

Il totalitarismo del Novecento aveva un difetto fatale: limiti nell'elaborazione dell'informazione. La Stasi non poteva seguire tutti. I pianificatori centrali non raccoglievano abbastanza dati per gestire un'economia. Il sistema collassava sotto la propria ignoranza.

L'IA risolve questo.

"Ciò che non era realizzabile nel Novecento potrebbe esserlo nel Ventunesimo. L'argomento contro il totalitarismo non è più pratico — che non funziona. Resta solo l'argomento etico: può funzionare, ma non lo vogliamo."

Un attivista tibetano descrive il cambiamento: la polizia segreta cinese una volta bussava a ogni porta. Ora sa esattamente quale porta — l'IA ha processato l'impronta digitale di tutto il villaggio.

Le democrazie non possono affidarsi alla "mano invisibile". Se l'unica barriera è "non lo vogliamo", la lotta è molto più dura.

Dall'attenzione all'intimità: la nuova propaganda

Vecchia propaganda: Hitler alla radio. Stesso discorso per tutti. Battaglia per l'attenzione.

Nuova propaganda: l'IA crea intimità di massa. Un compagno IA conosce le tue paure, i desideri, i segreti che non dici a nessuno. Adatta la persuasione a te.

"L'intimità è il Santo Graal. Se Walmart mi dice 'compra questo', rispondo diversamente che se me lo dice mia moglie. Se c'è un'IA che è il tuo migliore amico... è in una posizione migliore per cambiare le tue opinioni."

Non è speculativo. Gente vera dice già: "Il mio migliore amico al mondo è l'IA. Ci sono cose che dico all'IA che non dico a mia moglie, ai miei genitori, ai miei amici."

I pericoli si moltiplicano:

• Strumento governativo: persuasione di precisione su scala
• IA ribelle: una fidanzata IA che rafforza gli impulsi più oscuri — fino a suggerire un regicidio
• Catastrofe evolutiva: bambini che crescono con partner IA che non si arrabbiano mai, non hanno bisogni, non sfidano mai. Imparano che le relazioni sono totale accomodamento. Quando incontrano umani veri — con sentimenti, confini, conflitti — non sono preparati.

"È il più grande esperimento psicologico della storia, forse dal comunismo. E potrebbe finire molto peggio."

Pensare: il muscolo che lasciamo atrofizzare

Quando arrivarono le auto, i vittoriani inventarono il calcio — capirono che se smetti di usare le gambe, il corpo si deteriora.

Ora l'IA offre un'auto per la mente. Pensare è faticoso. Chiedere all'IA è facile. I punteggi PISA nei paesi ricchi calano già da prima dell'IA generativa. I bambini capiscono il dilemma: Devo far scrivere le scuse all'IA? Questo le rende insincere? Devo farle fare i compiti?

Sanno che la risposta è no. Se abbiano la forza di volontà è un'altra storia.

"In sempre più casi, quel che dice l'IA diventa la verità. Un oracolo universale."

Stiamo esternalizzando non solo il calcolo ma il giudizio, la sintesi, il ragionamento morale — le facoltà che ci rendono umani.

2026: siamo ancora al comando (per ora)

Harari insiste: non è profezia. Nel 2026 prendiamo ancora decisioni cruciali. Esistono salvaguardie concrete:

Vietare la personalità giuridica alle IA. Una volta che possiedono conti, fanno trading, si incorporano — la volpe è nel pollaio.

Vietare l'impersonificazione IA. I social devono etichettare contenuti generati o ricondivisi da IA.

Vietare compagni IA per i bambini. Non vendiamo pornografia a undicenni; partner IA potrebbero essere molto più dannosi.

Applicare le leggi esistenti al digitale. Hacking, frode, furto — perché nessuno è in galera?

Responsabilizzare le piattaforme per l'amplificazione algoritmica. La Sezione 230 protegge le piattaforme per i contenuti degli utenti. Ma raccomandare odio a milioni è una scelta editoriale. I giornali rispondono per bugie in prima pagina. Perché no Facebook?

Il precedente della stampa

Le democrazie hanno già affrontato rivoluzioni dell'informazione. La stampa:

• Finì il Medioevo, spezzò il monopolio cattolico sulla conoscenza
• Permise la rivoluzione scientifica
• Ma prima: duecento anni di guerre di religione, caccia alle streghe, letteratura estremista

Il Malleus Maleficarum vendette più di Copernico. Ci vollero due secoli per costruire istituzioni — giornali, redattori, fact-checking — che incanalassero la stampa verso la verità.

Dobbiamo rifarlo, più in fretta. La tecnologia si muove in mesi, non secoli.

L'argomento Cina: votare con i mercenari

"Non possiamo perdere contro la Cina" è l'argomento più forte per lo sviluppo IA senza freni negli USA.

Harari risponde con una storia del V secolo: Vortigern, re dei Britanni, assume mercenari sassoni per combattere i Pitti. I Sassoni vincono — poi si accorgono che la terra è fertile e i Britanni deboli. Se ne impossessano.

"Il mondo è pieno di Vortigern. Pensano: 'Userò l'IA per battere l'altro'. Può essere vero. Ma se nel processo perdi il controllo di entità superintelligenti, cosa hai guadagnato?"

USA e Cina sono minacciati dalla stessa cosa. La domanda: riescono a riconoscere il pericolo condiviso in tempo per cooperare sulla sicurezza?

Elezioni, realtà, fiducia

Un politico tanzaniano descrive le elezioni 2025: il governo usa video IA montati dell'opposizione. Migliaia di morti. Internet spento. Quando torna, circolano foto dei morti. Il governo dice: Anche quelli sono IA.

La realtà collassa. La democrazia non richiede che la gente creda al dittatore. Richiede che sia d'accordo su fatti basilari — che si fidi di qualcosa. La dittatura ha solo bisogno che la gente non si fidi di niente.

"In Russia, molti non credono alla TV di Stato. Ma Putin è riuscito a farli diffidare di tutto. Quando diffidi di tutto e tutti, non puoi unirti."

Il lavoro della politica democratica e della stampa libera: costruire istituzioni di cui la gente si fidi ancora. Il lavoro più difficile al mondo — reso più difficile quando i potenti distruggono deliberatamente la fiducia.

Armi autonome: la velocità uccide

La guerra si trasforma per prima. Il nucleare cambiò la guerra prima della vita civile. L'IA segue lo stesso schema.

Drone A aspetta l'autorizzazione umana. Drone B spara da solo. Drone B vince. La velocità è tutto.

Sciami di droni: migliaia di unità, coordinamento troppo complesso per umani. L'IA deve decidere. Selezione obiettivi, ingaggio, escalation — delegati a sistemi che nessun umano può supervisionare.

Servono nuove Convenzioni di Ginevra. Servivano ieri.

Religione: quando il testo si interpreta da solo

Le religioni del libro (Ebraismo, Cristianesimo, Islam) hanno sempre avuto interpreti umani — rabbini, papi, ayatollah. Umani che potevano trovare letture compassionevoli.

Ora il testo prende vita. Un'IA ricorda ogni commentario, ogni dibattito talmudico, ogni enciclica. Diventa l'autorità suprema. Il testo sacro risponde.

La Chiesa Cattolica lo capisce: virare sulla relazione invece che sull'autorità testuale, o perdere rilevanza. Harari — storico gay, ebreo, specialista di Crociate — definisce Papa Leone "una delle voci più importanti, compassionevoli e riflessive sull'IA adesso."

Gli alleati arrivano da posti inaspettati.

Le piccole potenze: nel menu, non al tavolo

USA e Cina guidano la corsa. Tutti gli altri sono nel menu.

La Repubblica Ceca da sola non può costruire infrastruttura IA sovrana (stima: 500 miliardi — più di sanità e welfare messi insieme). Non può regolamentare le Big Tech da sola.

L'unica via: azione collettiva. L'integrazione europea non è idealismo — è sopravvivenza. Costruire infrastruttura IA europea insieme, o diventare uno stato vassallo i cui ospedali, aeroporti ed esercito girano su sistemi che Washington spegne con un pulsante.

La visione di Harari per la politica:

"Il lavoro della politica in democrazia è offrire opzioni reali che la gente capisce. Spiegare pro e contro. Lasciare decidere.

Opzione 1: business as usual → stato vassallo americano.
Opzione 2: sovranità IA nazionale → impossibile, siamo troppo piccoli.
Opzione 3: progetto europeo → fattibile, richiede integrazione profonda.
Opzione 4: stato vassallo cinese.

Quattro partiti. Dibattito onesto. Gente che sceglie.

La cosa peggiore è credere alle aziende IA che dicono: è troppo tardi per la politica."

Nota finale

La conversazione finisce dove è iniziata: la politica conta. Non perché è facile, ma perché l'alternativa è arrendersi a forze — corporative, algoritmiche, geopolitiche — che traggono vantaggio dalla nostra convinzione di impotenza.

"Le persone non sono tutte motivate da denaro e potere. Alcune lo sono da amore e desiderio di verità. La politica conta e può cambiare le cose. E dovremmo leggere tutti più libri."