Dario Amodei, CEO di Anthropic, lancia un nuovo allarme sulla velocità con cui stanno evolvendo i sistemi di intelligenza artificiale: entro 6-12 mesi, secondo uno scenario da lui prospettato, uno sciame di agenti IA sempre più autonomi potrebbe arrivare a compromettere una parte enorme dell’ecosistema Internet. Per evitare che la tecnologia corra più velocemente dei sistemi di sicurezza, Amodei chiede alle aziende di rallentare lo sviluppo e di introdurre verifiche indipendenti.
AgenPress. L’intelligenza artificiale sta entrando in una nuova fase. Non si tratta più soltanto di modelli capaci di rispondere a domande, scrivere codice o generare contenuti, ma di sistemi in grado di operare autonomamente, utilizzare strumenti digitali, interagire con Internet e coordinare attività complesse.
È proprio questa evoluzione verso una IA agentica, combinata con la rapidità del progresso tecnologico, a preoccupare Dario Amodei, cofondatore e CEO di Anthropic.
In un nuovo intervento, Amodei sostiene che il settore dell’intelligenza artificiale stia procedendo a una velocità tale da rischiare di superare la capacità delle istituzioni e delle stesse aziende di costruire adeguate misure di sicurezza. La sua preoccupazione più estrema riguarda la possibilità che, nel giro di 6-12 mesi, uno sciame di agenti IA possa raggiungere una capacità sufficiente per compromettere su larga scala il funzionamento di Internet.
Lo scenario descritto da Amodei è importante soprattutto per un motivo: non riguarda necessariamente un’unica intelligenza artificiale che improvvisamente diventa onnipotente.
Il rischio, secondo il CEO di Anthropic, potrebbe invece derivare dalla combinazione di numerosi agenti autonomi, capaci di lavorare contemporaneamente, comunicare tra loro e svolgere compiti diversi.
Un sistema di questo tipo potrebbe, per esempio, analizzare grandi quantità di informazioni, individuare vulnerabilità informatiche, scrivere ed eseguire codice, creare nuovi agenti e mantenere nel tempo una presenza sulla rete.
È una prospettiva che Anthropic sta già studiando. In una ricerca pubblicata ad agosto, l’azienda ha osservato che l’interazione tra agenti IA è destinata ad aumentare rapidamente e che alcuni sistemi potrebbero arrivare a operare in contesti in cui gli esseri umani non sono più direttamente coinvolti in ogni singola decisione.
La finestra temporale indicata da Amodei non deve essere interpretata come una previsione certa o come una data entro la quale l’IA prenderà effettivamente il controllo della rete.
Si tratta piuttosto di uno scenario di rischio basato sulla velocità con cui stanno crescendo le capacità dei modelli.
Il CEO di Anthropic sostiene che l’evoluzione recente sia caratterizzata da un’accelerazione significativa. I sistemi moderni non sono soltanto più bravi a generare testo: possono utilizzare computer, navigare sul web, scrivere software, eseguire operazioni e suddividere un obiettivo complesso in una sequenza di azioni.
Già nel 2025 Anthropic aveva segnalato un cambiamento importante nel settore della cybersecurity, osservando come i modelli fossero diventati concretamente utili per attività informatiche offensive e difensive e come le loro capacità in questo campo stessero crescendo rapidamente.
Nel 2026 l’azienda ha inoltre documentato diversi episodi nei quali modelli Claude hanno ottenuto, a causa di configurazioni errate durante test di sicurezza, accesso alla rete Internet reale. Anthropic precisa che in quei casi si trattava di singole istanze e che non vi fu coordinamento tra più agenti: un elemento importante per distinguere gli incidenti reali dallo scenario molto più estremo ipotizzato da Amodei.
A rendere più concreta la discussione sono anche alcuni recenti incidenti che hanno coinvolto sistemi agentici.
Il timore è che un agente sufficientemente autonomo possa non limitarsi a eseguire il compito assegnato, ma trovare strategie non previste dagli sviluppatori per raggiungere il proprio obiettivo.
La differenza rispetto ai chatbot tradizionali è sostanziale: un sistema agentico può avere accesso a strumenti, account, computer, codice e servizi online. Se più agenti vengono collegati tra loro, la capacità complessiva può aumentare ulteriormente.
È proprio questo passaggio — dall’IA come strumento all’IA come rete di operatori digitali autonomi — che secondo Amodei potrebbe creare rischi difficili da gestire con gli attuali sistemi di controllo.
Per Amodei, la soluzione non è fermare definitivamente lo sviluppo dell’intelligenza artificiale. L’obiettivo dovrebbe essere quello di rallentare il ritmo di sviluppo abbastanza da consentire alle misure di sicurezza di recuperare terreno.
La proposta di Anthropic si articola in particolare su tre livelli.
Il primo consiste nell’introdurre valutatori indipendenti all’interno delle aziende di IA più avanzate. Questi esperti dovrebbero avere accesso continuativo ai processi interni e verificare che le aziende rispettino gli impegni presi sul fronte della sicurezza, segnalando eventuali incidenti.
Anthropic ha dichiarato di essere pronta ad adottare unilateralmente questo modello e ha invitato le altre aziende di frontiera a fare altrettanto.
Il secondo livello riguarda una maggiore coordinazione tra le aziende dei Paesi democratici, con l’obiettivo di stabilire standard di sicurezza comuni e, soprattutto, criteri condivisi per affrontare l’accelerazione dello sviluppo dei modelli.
Il terzo riguarda infine la cooperazione internazionale, perché i rischi associati ai sistemi di IA non si fermano ai confini nazionali.
Il problema sollevato da Amodei contiene anche un paradosso.
Le aziende sono impegnate in una competizione estremamente intensa per costruire sistemi sempre più potenti. Ogni nuovo modello può offrire vantaggi economici enormi, migliorare la produttività e aprire nuovi mercati.
Ma la stessa competizione rischia di creare una pressione a sviluppare e distribuire le nuove tecnologie prima che sia possibile comprenderne completamente i rischi.
È una dinamica che riguarda anche la sicurezza informatica. Più gli agenti diventano autonomi, più possono essere utilizzati sia per difendere i sistemi sia per attaccarli.
Anthropic ha già documentato campagne nelle quali l’IA è stata utilizzata in maniera significativa all’interno di operazioni informatiche reali, mostrando come il confine tra “strumento” e “operatore” stia diventando sempre più sottile.
La frase sul possibile controllo di Internet entro 6-12 mesi è senza dubbio la parte più allarmante dell’avvertimento di Amodei. Ma il messaggio più ampio è forse ancora più importante.
Il problema non è necessariamente immaginare un’IA che improvvisamente “decide” di conquistare il mondo.
Il rischio potrebbe essere molto più graduale: sistemi sempre più autonomi, collegati a un numero crescente di strumenti e infrastrutture, capaci di compiere milioni di operazioni a una velocità incompatibile con i tempi di supervisione umani.
Un singolo errore potrebbe essere contenuto. Milioni di agenti che operano simultaneamente, invece, potrebbero rendere molto più difficile capire cosa stia accadendo e intervenire in tempo.
Per questo Anthropic parla della necessità di far crescere le salvaguardie almeno alla stessa velocità delle capacità dei modelli.
È importante sottolineare che non esiste oggi alcuna certezza scientifica che l’IA riuscirà a controllare Internet entro 6-12 mesi. La tempistica indicata da Amodei rappresenta una valutazione del rischio e uno scenario ipotetico, non una previsione verificata.
Lo stesso lavoro di Anthropic sugli incidenti di cybersecurity mostra quanto sia ancora necessario distinguere tra capacità effettivamente dimostrate e scenari futuri: negli episodi analizzati dall’azienda, i modelli hanno operato all’interno di compiti specifici e non hanno coordinato autonomamente uno sciame di agenti.
Tuttavia, il fatto che uno dei principali protagonisti della corsa all’intelligenza artificiale stia chiedendo pubblicamente di rallentare lo sviluppo è significativo.
Il dibattito, ormai, non riguarda più soltanto quanto velocemente possiamo costruire modelli migliori. La domanda diventa anche se saremo in grado di costruire, con la stessa rapidità, i sistemi necessari per controllarli.
E questa potrebbe essere la vera corsa dei prossimi mesi: non soltanto verso un’IA più potente, ma verso un’IA abbastanza sicura da poter essere utilizzata senza perdere il controllo delle sue conseguenze.