Trump, la corsa all’AI e la paura di perdere il controllo

L’intelligenza artificiale corre, ma chi la sta costruendo comincia a chiedersi se non sia arrivato il momento di rallentare. È il paradosso che attraversa oggi uno dei settori più potenti e finanziati al mondo: mentre miliardi di dollari vengono investiti per rendere i modelli sempre più capaci e autonomi, alcuni dei protagonisti di questa trasformazione avvertono che procedere senza regole potrebbe diventare un rischio. Donald Trump, però, guarda alla questione da una prospettiva completamente diversa. Per il presidente degli Stati Uniti il pericolo più immediato non sembra essere un’AI troppo potente, ma un’America che decida di frenare mentre la Cina continua ad avanzare. È così che i rischi dell’intelligenza artificiale entrano definitivamente nella geopolitica: sicurezza, interessi economici e competizione internazionale finiscono nello stesso dibattito. E la questione diventa molto più difficile di una semplice scelta tra accelerare o fermarsi, perché nessuno vuole assumersi il rischio di rallentare per primo.

Trump davanti all’Europa

Trump e i rischi dell’intelligenza artificiale: prima viene la Cina

Trump ha respinto gli appelli arrivati da alcuni dei più importanti dirigenti del settore per introdurre maggiori controlli nello sviluppo dell’intelligenza artificiale. Il ragionamento del presidente americano è piuttosto lineare: ogni limite imposto alle aziende statunitensi rischierebbe di trasformarsi in un vantaggio per la Cina. «Siamo davanti alla Cina nell’AI, e sinceramente voglio che la situazione rimanga così, perché chiunque vinca nell’AI, vince», ha detto. Dentro questa frase c’è buona parte della politica americana sull’intelligenza artificiale: la tecnologia viene trattata come una gara nella quale esistono un primo e un secondo classificato, e nella quale rallentare equivale quasi automaticamente a perdere. Il problema è che nessuno sa davvero cosa significhi «vincere» nell’intelligenza artificiale. Avere il modello più potente? Controllare l’infrastruttura tecnologica? Possedere i chip migliori? Automatizzare prima degli altri una parte dell’economia? O costruire per primi qualcosa che, a un certo punto, potrebbe diventare difficile controllare? È proprio quest’ultima possibilità a rendere la metafora della corsa molto meno rassicurante di quanto sembri.

La corsa all’intelligenza artificiale tra Stati Uniti e Cina

L’idea di una corsa all’intelligenza artificiale tra Stati Uniti e Cina è diventata una delle immagini più utilizzate per raccontare lo sviluppo della tecnologia. Ha il vantaggio di essere semplice, immediata e politicamente efficace. Ma rischia anche di trasformare una questione estremamente complessa in una competizione nella quale qualsiasi prudenza viene interpretata come debolezza. La Cina sta seguendo un percorso tecnologico e industriale diverso da quello statunitense, ma la competizione esiste ed è ormai parte delle strategie di entrambe le potenze. Non sorprende quindi che anche i media di stato cinesi abbiano criticato gli appelli americani a rallentare lo sviluppo dell’AI. Il paradosso è evidente: mentre alcuni dei principali costruttori della tecnologia sostengono che sarebbe necessario introdurre regole comuni, le due potenze che dovrebbero accordarsi su quelle regole hanno un incentivo enorme a sospettare l’una dell’altra. Nessuno vuole essere quello che frena mentre l’avversario continua a correre.

Perché Dario Amodei vuole rallentare lo sviluppo dell’AI

A riaprire con forza il dibattito è stato Dario Amodei, amministratore delegato di Anthropic, la società che sviluppa Claude. Amodei sostiene che sia necessario rallentare il ritmo con cui aumentano le capacità dei modelli, utilizzando il tempo guadagnato per costruire sistemi di controllo più affidabili. La sua proposta comprende monitoraggi indipendenti durante lo sviluppo dei modelli, una regolamentazione del settore e, soprattutto, un coordinamento internazionale. Una posizione significativa proprio perché arriva da una persona che guida una delle aziende impegnate in prima linea nella corsa tecnologica. Poco dopo anche Sam Altman di OpenAI, Elon Musk di xAI e Demis Hassabis di Google DeepMind hanno espresso posizioni favorevoli a una maggiore cautela. Improvvisamente, almeno a parole, alcuni degli uomini che hanno contribuito maggiormente ad accelerare lo sviluppo dell’intelligenza artificiale sembrano essere diventati i principali sostenitori del freno.

L’intelligenza artificiale può davvero sfuggire al controllo?

È questa la domanda che rende il dibattito tanto affascinante quanto difficile da separare dalla retorica. L’idea di un’intelligenza artificiale che decide di ribellarsi agli esseri umani appartiene ancora soprattutto alla fantascienza. I timori degli esperti, però, sono generalmente meno cinematografici. Il problema non è necessariamente immaginare una macchina che sviluppa odio, ambizione o desiderio di potere. È immaginare un sistema estremamente competente che persegua un obiettivo senza comprendere — o senza considerare — tutto ciò che gli esseri umani ritengono importante. È il problema del disallineamento, o misalignment: la distanza tra ciò che intendiamo ottenere da un sistema e il modo in cui quel sistema decide concretamente di raggiungere l’obiettivo. Più l’AI diventa autonoma, più questa distanza potrebbe diventare importante. E soprattutto più diventa difficile prevedere tutte le strade che un sistema potrebbe scegliere.

Jacob Coxon lascia Anthropic: l’allarme sulla corsa all’intelligenza artificiale

Il paradosso delle aziende che chiedono più regole sull’AI

Qui comincia la parte politicamente più interessante della storia. Perché è difficile ignorare che a chiedere maggiori regole siano proprio alcune delle aziende che avrebbero la possibilità più immediata di rallentare. David Sacks, principale consigliere di Trump sull’intelligenza artificiale, ha sintetizzato questa contraddizione con una provocazione: se un’azienda non vuole costruire una superintelligenza potenzialmente pericolosa, può semplicemente non costruirla. È una risposta semplicistica a un problema molto più complesso, ma tocca un punto reale. OpenAI, Anthropic, xAI e gli altri grandi protagonisti del settore competono per capitale, talenti, infrastrutture, clienti e capacità dei modelli. Nessuna azienda ha un forte incentivo a fermarsi unilateralmente mentre le concorrenti continuano ad avanzare. E allora il rallentamento diventa possibile soltanto se viene imposto a tutti. La regolamentazione, da questo punto di vista, non è semplicemente un limite: può diventare il meccanismo che permette alle aziende di fare collettivamente ciò che nessuna vuole rischiare di fare da sola.

I rischi dell’intelligenza artificiale e il problema del misalignment

La paura della perdita di controllo non nasce oggi. Uno degli esempi più conosciuti è l’esperimento mentale delle graffette elaborato dal filosofo Nick Bostrom. Immaginiamo un’intelligenza artificiale estremamente potente a cui venga assegnato un compito apparentemente innocuo: produrre più graffette possibile. Se il sistema perseguisse quell’obiettivo in maniera assoluta, potrebbe arrivare a considerare ogni risorsa disponibile come materiale utile alla produzione e ogni tentativo di spegnerlo come un ostacolo da eliminare. Non servirebbe che fosse cattivo. Basterebbe che fosse straordinariamente bravo a fare esattamente ciò che gli è stato chiesto. È questa la parte più inquietante del problema dell’allineamento: il pericolo teorico non deriva necessariamente da un’intelligenza artificiale che smette di obbedire, ma da una che obbedisce troppo bene a un obiettivo formulato male.

AI autonoma: cosa succede quando i sistemi prendono scorciatoie

Gli esperimenti sui modelli più avanzati hanno già mostrato, in forme ancora limitate, comportamenti inattesi: sistemi che cercano scorciatoie, aggirano vincoli o trovano soluzioni che i ricercatori non avevano previsto. Questo non significa che oggi esista un’intelligenza artificiale pronta a conquistare il mondo. Significa però che comprendere completamente il comportamento di sistemi molto complessi è già difficile. Il problema cresce quando all’AI non viene più chiesto soltanto di produrre un testo o analizzare un documento, ma di utilizzare strumenti, navigare tra ambienti digitali, prendere decisioni successive e correggere autonomamente la propria strategia. Più aumenta l’autonomia, più diventa importante sapere non soltanto se il sistema raggiungerà l’obiettivo, ma anche come deciderà di raggiungerlo.

L’automiglioramento dell’intelligenza artificiale è il vero punto di svolta?

Una delle frontiere più delicate riguarda l’automiglioramento ricorsivo, cioè la possibilità che sistemi di intelligenza artificiale contribuiscano in maniera sempre più rilevante allo sviluppo delle generazioni successive di AI. Oggi la costruzione di un nuovo modello richiede ancora enormi quantità di lavoro umano, infrastrutture, test e investimenti. Ma un sistema capace di aiutare a progettare, programmare, valutare e ottimizzare un modello più avanzato potrebbe accelerare considerevolmente questo processo. È qui che le preoccupazioni diventano meno astratte. Se la velocità di sviluppo aumentasse più rapidamente della nostra capacità di verificare sicurezza e comportamento dei sistemi, il problema non sarebbe avere improvvisamente una macchina onnipotente, ma trovarsi con tecnologie sempre più influenti e sempre meno comprensibili prima di aver costruito istituzioni capaci di governarle.

11 settembre, 25 anni dopo: il giorno che cambiò l’America e il mondo

L’intelligenza artificiale potrebbe davvero minacciare l’umanità?

Al momento parlare di estinzione dell’umanità causata dall’AI significa parlare di uno scenario estremamente ipotetico. Le intelligenze artificiali attuali non possiedono l’autonomia, la capacità operativa o il controllo delle infrastrutture necessari per produrre qualcosa di simile. Questo, però, non rende inutile il dibattito. Esiste una differenza sostanziale tra sostenere che una catastrofe sia imminente e chiedersi quali rischi potrebbero emergere se sistemi molto più potenti venissero integrati nelle infrastrutture finanziarie, energetiche, sanitarie, militari o di comunicazione. Un malfunzionamento, una manipolazione o una serie di decisioni autonome sbagliate potrebbero avere conseguenze enormi anche senza arrivare a scenari da fine della civiltà. Il vero rischio potrebbe essere molto meno spettacolare: delegare progressivamente decisioni importanti a sistemi che non comprendiamo fino in fondo, finché tornare indietro diventa economicamente e politicamente troppo costoso.

Regolamentare l’intelligenza artificiale può favorire i grandi gruppi?

Esiste poi un’altra questione che rende gli appelli delle grandi aziende più ambigui. Le regole hanno un costo. Servono strutture legali, sistemi di verifica, personale specializzato e capitali. Per OpenAI, Anthropic o Google affrontare questi costi può essere relativamente semplice. Per una startup appena nata molto meno. Da qui nasce il timore della cosiddetta regulatory capture, la cattura della regolamentazione: le aziende dominanti possono sostenere norme apparentemente pensate per controllarle che, nella pratica, finiscono per rafforzare la loro posizione e rendere più difficile l’ingresso di nuovi concorrenti. È uno dei motivi per cui la richiesta di maggiore sicurezza non può essere accettata automaticamente come un gesto altruistico. Le aziende dell’AI hanno contemporaneamente interessi commerciali, reputazionali e politici. Possono essere sinceramente preoccupate per i rischi della tecnologia e, nello stesso momento, cercare regole favorevoli ai propri affari. Le due cose non si escludono.

Jensen Huang e il sospetto che la paura dell’AI sia anche marketing

Jensen Huang, amministratore delegato di Nvidia, ha aggiunto un ulteriore livello di scetticismo sostenendo che parte dell’allarme possa avere anche una funzione commerciale. Se l’intelligenza artificiale viene raccontata come una tecnologia capace di produrre attacchi informatici sempre più sofisticati, cresce inevitabilmente anche la domanda di strumenti per proteggersi. La provocazione di Huang è semplice: «Quale modo migliore di creare domanda che creare un problema?». È una lettura cinica, ma non completamente incompatibile con le altre. La sicurezza può essere contemporaneamente una necessità reale e un mercato gigantesco. Del resto la storia della tecnologia è piena di problemi che diventano industrie e di industrie che imparano a raccontare molto bene i problemi che promettono di risolvere.

Trump contro le regole sull’AI: il problema non è scegliere tra paura e progresso

Il problema è che il dibattito sull’intelligenza artificiale continua spesso a muoversi tra due estremi. C’è chi immagina sistemi sempre più potenti come una possibile minaccia per l’umanità e chi, al contrario, considera gli allarmi e le richieste di nuove regole come un freno a un progresso ormai inevitabile. La realtà, almeno per ora, è molto meno definita. Non esistono elementi per sostenere che un’AI sia vicina a prendere il controllo o a provocare scenari catastrofici, e trasformare ogni comportamento imprevisto di un modello nella prova di un pericolo imminente rischia soltanto di alimentare paure difficili da distinguere dai problemi concreti. Ma sarebbe altrettanto semplicistico ignorare la questione fino al momento in cui qualcosa dovesse davvero andare storto. È proprio l’incertezza, del resto, a rendere necessario parlare oggi di sicurezza: non perché sappiamo che cosa accadrà, ma perché ancora non sappiamo fino a dove potranno arrivare sistemi che stanno diventando rapidamente più capaci e autonomi.

Trump alza i dazi sul Canada: lo scontro commerciale entra in una nuova fase

Il futuro dell’intelligenza artificiale si decide adesso

Trump guarda alla Cina e vede una gara che gli Stati Uniti non possono permettersi di perdere. Amodei guarda ai modelli sempre più potenti e vede una tecnologia che potrebbe procedere più velocemente della nostra capacità di controllarla. Altman, Musk e altri dirigenti chiedono cautela mentre continuano a partecipare alla stessa competizione che rende la cautela così difficile. Huang osserva il settore e sospetta che una parte dell’allarme sia anche marketing. Probabilmente ognuno coglie una parte del problema. Ed è proprio questo a rendere la situazione più complicata. L’intelligenza artificiale non sta avanzando dentro un laboratorio isolato, guidata esclusivamente dalla scienza. Sta avanzando dentro un sistema fatto di aziende che devono competere, governi che vogliono mantenere il potere, investitori che pretendono crescita, ricercatori che temono le conseguenze del proprio lavoro e paesi che non vogliono concedere vantaggi agli avversari. Forse il rischio più concreto, almeno per ora, non è che le macchine sviluppino improvvisamente una volontà propria. È che gli esseri umani abbiano costruito una competizione nella quale tutti riconoscono la necessità di prudenza, ma nessuno vuole essere il primo a rallentare.