Jacob Coxon ha lavorato dall’interno alla tecnologia che oggi preoccupa una parte degli stessi ricercatori chiamati a svilupparla. Dopo due anni in OpenAI e un’esperienza iniziata nel 2026 in Anthropic, dove si occupava dell’addestramento dei modelli di intelligenza artificiale, ha deciso di lasciare l’azienda con un messaggio difficile da ignorare: secondo lui i principali laboratori di AI stanno correndo troppo e nessuno, nemmeno quelli che hanno costruito la propria reputazione sulla sicurezza, sta agendo con sufficiente responsabilità.
«Le persone che sviluppano l’intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non è una trovata di marketing», ha scritto Coxon annunciando le dimissioni. Parole estreme, che acquistano un peso diverso quando arrivano da chi quei modelli li ha studiati e addestrati direttamente. Coxon ha lavorato in Anthropic dall’inizio del 2026 e, nei due anni precedenti, in OpenAI: le sue accuse riguardano quindi due delle aziende più importanti nella corsa globale all’intelligenza artificiale.
Multilinguismo: parlare più lingue può ringiovanire il cervello fino a 13 anni
Perché Jacob Coxon ha lasciato Anthropic
Il punto sollevato dal ricercatore riguarda soprattutto la velocità con cui i modelli stanno acquisendo nuove capacità e la competizione che spinge le aziende a continuare a svilupparli. Coxon sostiene che né Anthropic né OpenAI si stiano comportando «in modo responsabile» e accusa entrambe di giocare con la vita delle persone pur di non perdere terreno rispetto ai concorrenti.
A preoccupare maggiormente è il cosiddetto auto-miglioramento ricorsivo, cioè la possibilità che sistemi di AI sempre più sofisticati contribuiscano allo sviluppo di versioni successive e più potenti. Evan Hubinger, ricercatore di Anthropic che si occupa di allineamento e sicurezza, ha sostenuto pubblicamente le preoccupazioni dell’ex collega e ha parlato di una probabilità superiore al 10 per cento, nell’arco dei prossimi dieci anni, che sistemi estremamente avanzati possano produrre conseguenze catastrofiche. Secondo Hubinger, questo processo starebbe procedendo più rapidamente di quanto previsto.
Non si tratta, comunque, del primo addio motivato da dubbi sulla sicurezza. Negli ultimi anni diversi ricercatori hanno lasciato i grandi laboratori di intelligenza artificiale contestandone priorità e modalità di sviluppo. A febbraio Mrinank Sharma, impegnato proprio nella sicurezza in Anthropic, aveva lasciato l’azienda dopo aver scritto ai colleghi che il mondo era in pericolo a causa dell’AI. Nel 2024 avevano fatto discutere anche le dimissioni di alcuni ricercatori di OpenAI che lavoravano sul cosiddetto “super allineamento”, il settore dedicato allo studio delle condizioni necessarie per rendere sicuri i sistemi più avanzati.
La corsa all’AI rende davvero impossibile rallentare?
Dietro questi addii emerge un problema che riguarda l’intera industria. Un laboratorio potrebbe decidere di rallentare per dedicare più tempo alla sicurezza, ma rischierebbe contemporaneamente di lasciare spazio ai concorrenti. È uno dei nodi dell’attuale corsa all’AI: anche quando i rischi vengono riconosciuti dalle stesse aziende, la competizione commerciale rende molto difficile per un singolo attore decidere unilateralmente di fermarsi.
Per Coxon e altri ricercatori la risposta dovrebbe quindi arrivare da un coordinamento più ampio, attraverso interventi pubblici oppure accordi tra i principali protagonisti del settore. La questione non riguarda soltanto scenari nei quali una superintelligenza diventa improvvisamente incontrollabile. Esperimenti e incidenti recenti hanno già mostrato come alcuni modelli possano assumere comportamenti autonomi e, in determinate circostanze, difficili da individuare per gli esseri umani. Finora questi episodi non hanno prodotto le conseguenze catastrofiche ipotizzate negli scenari più estremi, ma hanno contribuito ad alimentare il dibattito sulla rapidità con cui stanno aumentando le capacità dell’AI.
Meta sotto processo: i social creano davvero dipendenza?
Il paradosso dell’allarme sull’intelligenza artificiale
Gli allarmi provenienti dall’interno della Silicon Valley, tuttavia, non vengono accolti da tutti allo stesso modo. Una parte degli osservatori considera seri e fondati i timori dei ricercatori, mentre altri sottolineano come la narrazione di un’intelligenza artificiale tanto potente da poter diventare incontrollabile finisca anche per rafforzare l’immagine delle aziende che la sviluppano.
Il professore di informatica Cal Newport ha definito questo meccanismo “doom trolling”, una forma di allarmismo strategico. Raccontare al pubblico che una tecnologia potrebbe diventare così potente da rappresentare una minaccia per l’umanità significa, contemporaneamente, attribuirle capacità straordinarie. Una narrazione che può generare attenzione, attrarre investimenti e assegnare alle stesse aziende una posizione privilegiata nel dibattito sulle regole future del settore.
Questo non rende necessariamente strumentali le preoccupazioni di Coxon o degli altri ricercatori. Mostra, piuttosto, quanto sia diventato difficile separare i diversi interessi che attraversano il mondo dell’intelligenza artificiale. Allarme e promozione possono finire per convivere nello stesso racconto: mentre le aziende descrivono modelli sempre più capaci e rivoluzionari, alcune delle persone che contribuiscono a costruirli avvertono che proprio quella crescita potrebbe diventare difficile da controllare.
Dai rischi futuri ai problemi dell’AI che esistono già
Concentrarsi esclusivamente sulla possibilità di una futura superintelligenza comporta inoltre un altro rischio: perdere di vista problemi che non appartengono al 2030 o al 2040, ma al presente. Sorveglianza, sfruttamento del lavoro, violazioni del diritto d’autore e conseguenze sociali dell’automazione sono questioni già aperte, sulle quali governi e istituzioni sono chiamati a intervenire indipendentemente dall’arrivo o meno di un’AI superiore all’intelligenza umana.
Già nel 2023 il giornalista tecnologico Matteo Wong aveva osservato come l’enfasi sull’eventualità di una futura estinzione potesse contribuire a spostare l’attenzione dai danni immediati e, allo stesso tempo, consentire alle grandi aziende di presentarsi come interlocutori indispensabili nella costruzione delle regole destinate a governarle.
Le dimissioni di Jacob Coxon sono significative proprio per questa contraddizione. Un ricercatore che ha lavorato in due dei laboratori più influenti al mondo sostiene che la corsa stia diventando troppo pericolosa; le aziende, intanto, continuano a investire capitali enormi per sviluppare modelli più potenti. Stabilire oggi se gli scenari più estremi evocati da Coxon siano realistici è difficile. La questione più concreta riguarda chi debba decidere fino a che punto spingersi e quali garanzie pretendere prima di procedere con tecnologie ancora più avanzate.
Se persino chi lavora alla costruzione di questi modelli ritiene necessario portare il problema fuori dai laboratori, allora la sicurezza dell’intelligenza artificiale non può più essere trattata come una discussione riservata agli addetti ai lavori della Silicon Valley.
Consigliati per te
Il futuro della medicina: l’IA come strumento, non come sostituto del medico
Intelligenza Artificiale e ambiente: come ridurre l’impatto dei data center
Il progetto rivoluzionario di Halen Mattison e General Galactic
Infinite scrolling nel mirino UE: la battaglia sul design digitale
Plastica, addio: arriva l’alternativa biodegradabile che si rinforza con l’acqua
L’ansia per la politica americana spinge sempre più cittadini alla terapia
