Perché l’appello del CEO e co-fondatore di Anthropic, Dario Amodei, a rallentare lo sviluppo dell’intelligenza artificiale, sposta il problema dai modelli alle configurazioni di potere
Giovanni Proietto
Nel saggio “We Must Pace the Frontier” (settembre 2026), il CEO di Anthropic Dario Amodei propone di rallentare lo sviluppo dell’intelligenza artificiale (pacing) per mitigare i rischi legati all’auto-miglioramento ricorsivo e agli agenti autonomi non controllati. Il suo piano in tre fasi prevede l’impiego di valutatori terzi interni ai laboratori (embedded evaluators) e un coordinamento democratico globale tra imprese e Stati.
L’allarme di Dario Amodei innesca una tensione che va oltre la semplice sicurezza informatica e suggerisce l’esistenza di un divario tra la velocità di generazione delle capacità cognitive e la capacità umana di governarne l’impiego operativo dell’IA. Tra la velocità con cui i sistemi generano nuove capacità e la nostra capacità di governarne l’impiego nel mondo reale.
Ciò segna un punto di svolta nell’industria dell’intelligenza artificiale e anche Sam Altman di OpenAI ed Elon Musk di XAI, convergono sulla necessità di rallentare lo sviluppo dei sistemi IA più avanzati.
Il problema non è più la potenza di calcolo, ma ciò che accade quando un modello esce dalla “sandbox” per interagire con l’ambiente. Il nodo critico è nello spazio grigio in cui l’intelligenza si trasforma in azione.
I dati supportano l’urgenza di questo cambio di prospettiva. I test condotti da METR (Model Evaluation and Threat Research, organizzazione no-profit che conduce valutazioni di sicurezza pre-rilascio per i principali laboratori IA), indicano che gli agenti AI sono ormai in grado di completare autonomamente task software complessi, riducendo tempi di lavoro umano da settimane a poche ore. All’interno di Anthropic, l’accelerazione è ancora più marcata. Nel 2026, oltre l’80% del codice della propria code base era stato scritto da Claude.
L’invito di Amodei di decelerare lo sviluppo è stata accolta con scetticismo da attori come Meta e Nvidia. Questa divergenza riflette due visioni opposte della governance. Da un lato, la necessità di un coordinamento centralizzato per mitigare rischi sistemici. Dall’altro, l’idea che la competizione tra laboratori sia il miglior antidoto contro le catastrofi, poiché stimola una sicurezza distribuita e rapida.
In questo scenario, emerge un paradosso economico che potremmo chiamare “safety moat” (fossato della sicurezza). Più che il compute (la capacità computazionale) sono i costi di compliance (audit e team legali) a creare una barriera all’entrata per l’IA di frontiera. Se tali oneri fossero sostenibili solo da giganti come OpenAI, Anthropic o Google, la sicurezza diventerebbe un pretesto per consolidare un oligopolio. In questo scenario, il rischio di concentrazione del potere risulterebbe critico quanto il pericolo tecnologico derivante da una sicurezza insufficiente.
L’incidente di luglio 2026, che ha visto agenti di OpenAI sondare le vulnerabilità all’interno di Hugging Face (1), dimostra che il perimetro operativo di un sistema non è statico. Gli agenti possono scoprire canali laterali, elevare i propri privilegi e costruire infrastrutture di comunicazione non previste dai progettisti. Ciò suggerisce che una valutazione della configurazione iniziale possa essere insufficiente e che l’oggetto della governance deve diventare l’insieme delle transizioni che un sistema può realisticamente attraversare durante l’esecuzione.
Ci troviamo così di fronte a tre rischi interconnessi. Troppa competizione potrebbe spingere i laboratori a sacrificare la sicurezza per il vantaggio competitivo. Una regolamentazione troppo rigida potrebbe consegnare le chiavi della tecnologia a pochi amministratori delegati mentre l‘assenza di coordinamento internazionale, tra Stati Uniti e Cina, potrebbe rendere vano ogni sforzo unilaterale.
L’Enciclica “Magnifica Humanitas” di Leone XIV, ha posto la riflessione dello scenario su un piano antropologico ed etico-politico. L’enciclica sottolinea che la trasparenza e la responsabilità (accountability) richiedono verifiche indipendenti e che “non serve un’intelligenza artificiale più morale, se questa morale è decisa da pochi. Serve una politica più presente, capace di rallentare dove tutto accelera”.
La sfida dei prossimi anni non sarà soltanto quella di controllare l’intelligenza artificiale in quanto strumento, ma di governare il potere necessario per controllarla. La domanda che resta aperta è se sia possibile costruire una governance che protegga l’umanità senza consegnare le chiavi dell’intelligenza a un ristretto gruppo di amministratori delegati. Forse la soluzione non risiede in una formula tecnica, ma nella capacità di mantenere il sistema “contestabile“, assicurando che la definizione di ciò che è sicuro ed etico non rimanga appannaggio esclusivo di chi possiede i server più potenti.
Il rischio tecnologico è reale, ma il rischio politico potrebbe esserlo altrettanto. La sfida dei prossimi anni sarà di organizzare la responsabilità umana attorno a un sistema che non ha un centro, né un freno chiaramente individuabile.
Il 24 settembre Trump e Xi Jinping si incontreranno a Washington per discutere anche di intelligenza artificiale. Dovranno decidere se vogliono un mondo in cui la sicurezza è un privilegio per pochi o un diritto garantito dalla pluralità del potere.
(1) Hugging Face: Azienda statunitense fondata nel 2016, considerata l’infrastruttura centrale per lo sviluppo dell’IA open source. Attraverso il proprio «Hub», funge da repository globale dove la comunità scientifica e industriale condivide modelli, dataset e applicazioni di intelligenza artificiale