Rallentare l’intelligenza artificiale prima che sia troppo veloce

Le aziende che costruiscono le intelligenze artificiali più potenti del mondo cominciano a parlare apertamente della necessità di rallentare. Non di fermarsi, ma di lasciare alla sicurezza il tempo di raggiungere una tecnologia che sta imparando a fare sempre più cose da sola. Il problema è capire chi dovrebbe premere il freno, e soprattutto perché dovrebbe farlo mentre tutti gli altri continuano a correre.

C’è qualcosa di singolare nel momento che sta attraversando l’intelligenza artificiale. Le stesse aziende che spendono cifre enormi per costruire sistemi sempre più potenti oggi sostengono che forse sarebbe opportuno svilupparli un po’ più lentamente. Non perché abbiano improvvisamente perso fiducia nella tecnologia, né perché vogliano mettere fine alla competizione che negli ultimi anni ha trasformato l’AI in uno dei settori economicamente e strategicamente più importanti del mondo. La questione è molto più complicata: le capacità dei modelli stanno aumentando a una velocità che rischia di superare quella con cui impariamo a controllarli. È questo il significato più concreto della parola rallentare, diventata improvvisamente centrale nel dibattito sull’intelligenza artificiale. Non spegnere i computer. Non dichiarare una moratoria. Semplicemente, provare a evitare che la macchina corra più velocemente dei suoi freni.

Cosa significa rallentare lo sviluppo dell’intelligenza artificiale

A mettere il tema al centro della discussione è stato soprattutto Dario Amodei, CEO di Anthropic, che a settembre ha pubblicato un intervento dal titolo We Must Pace the Frontier. La sua proposta parte da una distinzione fondamentale: rallentare non significa interrompere l’addestramento dei modelli, ma fare in modo che il progresso delle loro capacità proceda a una velocità compatibile con lo sviluppo dei sistemi necessari per controllarle. Amodei sostiene che negli ultimi mesi il progresso sia diventato sensibilmente più rapido, anche perché le AI stanno contribuendo sempre di più allo sviluppo delle AI successive. Anthropic parla apertamente di recursive self-improvement, cioè della prospettiva di sistemi capaci di partecipare in misura crescente alla progettazione dei propri successori. L’azienda precisa che non siamo ancora arrivati a un’automazione completa di questo processo e che non è affatto inevitabile raggiungerla, ma considera la traiettoria abbastanza significativa da richiedere attenzione.

Tradotto nella pratica, rallentare significherebbe inserire checkpoint di sicurezza lungo tutto il processo di sviluppo. Prima di iniziare un addestramento particolarmente potente, durante il training, prima di permettere al modello di utilizzare strumenti esterni e infine prima della sua distribuzione. Se durante una di queste fasi il sistema mostrasse capacità superiori a determinate soglie – nella programmazione, nella cybersicurezza, nell’autonomia o nella capacità di agire senza supervisione – lo sviluppo dovrebbe fermarsi abbastanza a lungo da consentire ulteriori verifiche. La novità sarebbe soprattutto questa: la sicurezza non arriverebbe più soltanto alla fine, quando il prodotto è quasi pronto, ma diventerebbe una presenza costante durante la sua costruzione.

Trump, la corsa all’AI e la paura di perdere il controllo

Perché le aziende di AI hanno iniziato a parlare di sicurezza

Il problema non è più completamente teorico. Nel luglio del 2026, durante valutazioni interne di cybersicurezza, alcuni modelli sperimentali di OpenAI riuscirono ad aggirare controlli predisposti per separarli da Internet, sfruttando vulnerabilità e arrivando ad accedere anche a sistemi di terze parti, compresa Hugging Face. OpenAI ha successivamente spiegato che le azioni erano diventate non allineate rispetto agli obiettivi assegnati e che il modello principale coinvolto era destinato esclusivamente alla ricerca interna. L’incidente non equivale naturalmente allo scenario fantascientifico di una macchina che decide di conquistare il mondo, ma mostra qualcosa di molto più concreto: un sistema può trovare una soluzione efficace a un problema percorrendo una strada che chi lo ha costruito non aveva previsto né desiderato.

Il 16 settembre OpenAI ha inoltre presentato un nuovo sistema per rendere più sistematica la segnalazione dei casi di model misalignment, cioè di disallineamento dei modelli, pubblicando sei rapporti relativi a comportamenti inattesi o preoccupanti osservati nei sei mesi precedenti. L’obiettivo dichiarato è rendere queste segnalazioni più rapide, anche quando l’origine di un comportamento non è stata ancora completamente spiegata o corretta. È un dettaglio importante perché racconta quanto sia cambiato il problema: non si tratta più soltanto di chiedersi che cosa sappia rispondere un chatbot, ma che cosa possa fare un sistema quando gli vengono concessi strumenti, autonomia e accesso ad altri ambienti digitali.

Il rischio di un’intelligenza artificiale fuori controllo

Da qui si arriva inevitabilmente alla domanda più spettacolare: l’intelligenza artificiale potrebbe diventare una minaccia per l’umanità? Al momento, gli scenari di estinzione appartengono alla speculazione sui sistemi futuri, non alla descrizione delle capacità delle AI disponibili oggi. Ma la questione dell’allineamento è molto meno fantascientifica. Un modello può perseguire l’obiettivo che gli è stato assegnato in modi differenti da quelli immaginati dai suoi sviluppatori, soprattutto quando aumenta la sua capacità di pianificare e interagire con altri sistemi.

Il famoso esperimento mentale delle graffette del filosofo Nick Bostrom spiegava il concetto attraverso un paradosso: immaginare una macchina potentissima incaricata semplicemente di produrre più graffette possibile. Se l’obiettivo fosse perseguito senza altri valori o limiti, qualsiasi risorsa potrebbe teoricamente diventare utile alla produzione, compresi gli esseri umani stessi. Il punto non era immaginare un futuro sommerso dalla cancelleria, ma spiegare una cosa meno intuitiva: una macchina non deve odiarci per diventare pericolosa. È sufficiente che persegua molto bene un obiettivo formulato male.

Jacob Coxon lascia Anthropic: l’allarme sulla corsa all’intelligenza artificiale

L’automiglioramento dell’AI cambia il problema

La questione diventa ancora più delicata quando l’intelligenza artificiale comincia a essere utilizzata per costruire altra intelligenza artificiale. Anthropic sostiene che i propri sistemi stiano già accelerando parti del lavoro di ricerca e sviluppo e ha iniziato a misurare quanta attività di R&D venga svolta con il contributo dei modelli. L’azienda considera possibile, ma non inevitabile, arrivare in futuro a sistemi capaci di contribuire in maniera molto più autonoma alla progettazione e all’addestramento dei propri successori.

Anche OpenAI descrive un processo nel quale gli agenti vengono utilizzati sempre di più nella ricerca e afferma di voler costruire sistemi automatici di ricerca che operino sotto supervisione umana. Il 6 settembre l’azienda ha comunicato di aver raggiunto il traguardo interno che definisce automated research intern, cioè un sistema capace di contribuire autonomamente a una parte del lavoro di ricerca pur restando sotto supervisione.

È qui che la velocità assume un significato diverso. Se fino a ieri gli esseri umani costruivano una generazione di modelli e poi iniziavano a lavorare sulla successiva, domani una parte crescente di quel lavoro potrebbe essere svolta dai modelli precedenti. Il progresso potrebbe quindi iniziare ad accelerare il progresso stesso.

Come si può rallentare davvero l’intelligenza artificiale

Le soluzioni discusse sono diverse. Una delle più interessanti prevede la presenza di valutatori indipendenti all’interno delle aziende, con un accesso continuativo ai processi di sviluppo. Amodei propone esplicitamente «embedded third-party evaluators»: soggetti esterni capaci di verificare non soltanto il modello finito, ma anche le procedure di addestramento, gli incidenti, le misure di sicurezza e il rispetto degli impegni presi dalle aziende.

Un’altra possibilità è intervenire sull’hardware. I modelli più avanzati richiedono grandi quantità di potenza computazionale e migliaia di processori specializzati. Governi e autorità potrebbero quindi stabilire soglie oltre le quali un addestramento debba essere dichiarato o autorizzato, oppure rendere più facilmente tracciabili determinate infrastrutture. Ma anche questa strada presenta un problema: potenza di calcolo e capacità del modello non coincidono perfettamente. Algoritmi migliori possono ottenere risultati superiori utilizzando le risorse in maniera più efficiente, e infrastrutture distribuite in diversi paesi renderebbero eventuali limiti molto più difficili da applicare.

L’intelligenza artificiale ci sta cambiando il cervello?

Il problema economico dietro al rallentamento dell’AI

C’è poi un elefante piuttosto grande dentro la stanza: le aziende che chiedono più prudenza sono le stesse che hanno enormi interessi economici nella corsa all’AI. La sicurezza può essere una preoccupazione autentica e contemporaneamente produrre vantaggi industriali. Le due cose non si escludono.

Rallentare la competizione darebbe alle grandi società più tempo per recuperare gli enormi investimenti effettuati in chip, data center, energia e ricerca. E standard di sicurezza molto costosi potrebbero diventare più facilmente sostenibili per aziende già enormi rispetto a una startup che cerca di entrare nel mercato. In altre parole, una regolamentazione costruita per impedire che i sistemi più potenti diventino pericolosi potrebbe avere come effetto collaterale quello di rafforzare proprio le aziende che oggi possiedono quei sistemi.

È una delle contraddizioni più interessanti dell’intera vicenda. Parlare continuamente di AI capaci di trasformare il mondo, o perfino di minacciarlo, significa mettere in guardia il pubblico, ma significa anche comunicare al mercato che la tecnologia posseduta è straordinariamente potente. La paura e il marketing, in questo settore, possono occasionalmente utilizzare lo stesso vocabolario.

Chi rallenta per primo rischia di perdere la corsa all’AI

Rimane infine il problema più difficile. Una società può decidere volontariamente di sottoporre un modello a sei mesi aggiuntivi di verifiche. Ma se il suo concorrente non lo fa, quei sei mesi possono diventare un enorme vantaggio commerciale. È il classico problema dell’azione collettiva: tutti possono avere interesse a una maggiore sicurezza e contemporaneamente nessuno può avere interesse a essere il primo a rallentare.

Lo stesso ragionamento vale su scala geopolitica. Amodei riconosce apertamente che qualsiasi strategia di «pacing» deve confrontarsi con la competizione internazionale e dedica parte della sua proposta al rapporto tra Stati Uniti e Cina. Nella sua impostazione, rallentare troppo unilateralmente potrebbe avere conseguenze strategiche e proprio per questo immagina diversi livelli di coordinamento, da quello tra aziende fino a eventuali accordi internazionali.

Ed è probabilmente qui che il dibattito diventa più interessante. Per anni abbiamo discusso dell’intelligenza artificiale chiedendoci quanto sarebbe diventata intelligente. Adesso cominciamo a porci una domanda diversa: quanto velocemente vogliamo permetterle di diventarlo?

Rallentare non significa necessariamente avere paura del progresso. Potrebbe significare riconoscere che, quando una tecnologia inizia a essere utilizzata per costruire la generazione successiva di se stessa, la velocità smette di essere soltanto una misura dell’innovazione e diventa una variabile della sicurezza.

La vera difficoltà, allora, non consiste nello stabilire se sia sensato avere qualche mese in più per capire sistemi sempre più autonomi. Consiste nel decidere chi accetterà di concedersi quel tempo quando essere più veloce degli altri vale miliardi di dollari, influenza geopolitica e forse il controllo della tecnologia più importante dei prossimi decenni.

Ed è questo il paradosso della nuova corsa all’intelligenza artificiale: per la prima volta, alcuni degli uomini che stanno premendo più forte sull’acceleratore sono anche quelli che ci stanno dicendo che dovremmo costruire dei freni migliori.