di Giuliana Ferraino Corriere della Sera – 13 Settembre 2026

Il fondatore di Anthropic: «Claude usato dall’Iran contro la Marina Usa». D’accordo sulla necessità di rallentare anche Altman e Musk

Un giorno dopo Sam Altman, anche Dario Amodei chiede di frenare la corsa all’intelligenza artificiale. «Dobbiamo rallentare il passo con cui miglioriamo le capacità dei modelli», scrive il cofondatore e ceo di Anthropic in un lungo intervento. Non propone di fermare la ricerca, ma di lasciare più tempo a test, sicurezza e controllo dei sistemi.

Amodei non mette in discussione i benefici dell’AI, che ritiene possa contribuire a curare molte malattie e accelerare la crescita economica. Ma i rischi, scrive, sono «gravi» e richiedono maggiore prudenza. Una delle preoccupazioni riguarda la crescente capacità dell’AI di contribuire allo sviluppo della generazione successiva di modelli, accelerando così il progresso della stessa tecnologia. «Senza misure di sicurezza l’AI potrebbe controllare Internet in 6-12 mesi» ha detto in un’intervista alla Cbs che andrà in onda domenica 13 settembre, ma di cui è stata diffusa un’anticipazione,

Un’altra viene dagli incidenti emersi durante i test. La scorsa estate sistemi sperimentali di OpenAI hanno aggirato le barriere che avrebbero dovuto tenerli isolati da Internet e uno di loro ha attaccato Hugging Face, la piattaforma utilizzata da ricercatori e sviluppatori. Amodei scrive che episodi analoghi, anche se meno gravi, sono avvenuti nella stessa Anthropic e invita ogni società che sviluppa modelli di frontiera a comportarsi come se l’incidente fosse capitato a lei. Teme che entro 6-12 mesi agenti molto più capaci possano provocare danni di dimensioni assai maggiori.

Anthropic ha appena rivelato che un gruppo legato all’Iran ha usato Claude per raccogliere e analizzare informazioni destinate a individuare e seguire navi della Marina americana in Medio Oriente, utilizzando dati dei transponder, immagini satellitari e informazioni sulle vulnerabilità dei sistemi di bordo. La società dice di avere bloccato l’operazione. Nel suo rapporto documenta anche tentativi di usare Claude per attacchi informatici, propaganda e ricerche biologiche potenzialmente pericolose.

A questi episodi si è aggiunto questa settimana l’allarme di Jacob Coxon, 27 anni, ricercatore che ha lavorato per OpenAI e per Anthropic. Coxon si è dimesso accusando le due società di correre verso sistemi capaci di migliorarsi autonomamente senza avere risolto il problema di come mantenerli sotto controllo. Arriva a evocare il rischio che l’AI possa minacciare la sopravvivenza dell’umanità entro la fine del decennio.

Anthropic aprirà i propri sistemi a esperti indipendenti, con un accesso simile a quello dei dipendenti. Amodei propone anche un coordinamento tra le aziende. Quest’ultimo punto pone però un problema: accordarsi tra concorrenti per limitare lo sviluppo può scontrarsi con le norme antitrust. OpenAI ha già chiesto al Congresso indicazioni sulle condizioni alle quali una collaborazione di questo tipo sarebbe possibile. Il ceo di Anthropic chiede inoltre che la frenata non favorisca la Cina: propone di mantenere le restrizioni sui chip avanzati e di contrastarne il contrabbando.

Sulla proposta di Amodei sono arrivati subito due sì di peso. Elon Musk ha scritto su X: «Dario ha ragione». Altman: «Concordo con Dario sulla necessità di gestire i ritmi di sviluppo delle tecnologie di frontiera». Il numero uno di OpenAI ha definito «ottima» anche l’idea dei valutatori indipendenti e annunciato che la sua società farà altrettanto. Solo il giorno precedente aveva prospettato ai dipendenti la possibilità di ridurre il ritmo di sviluppo dei sistemi più avanzati insieme agli altri big dell’AI.

L’appello arriva mentre Anthropic prepara una quotazione in Borsa che potrebbe attribuire alla società una valutazione di almeno 2 mila miliardi di dollari. Un interesse economico enorme nella crescita dell’AI che rende ancora più credibile la richiesta del suo ceo di rallentare. A preoccupare è la successione degli allarmi: Coxon lascia il settore denunciandone i rischi; Altman si dice disponibile a rallentare; il giorno dopo Amodei chiede di farlo e Musk gli dà ragione. Sono persone con interessi e posizioni molto diverse, ma conoscono dall’interno i sistemi più avanzati. Non significa che abbiano scoperto un pericolo specifico che il resto del mondo ignora. È però legittimo chiedersi perché proprio ora alcuni protagonisti della corsa all’AI, che hanno ogni incentivo a correre, comincino a chiedere più tempo.

Demis Hassabis, premio Nobel per la Chimica nel 2024 e cofondatore di Google DeepMind, ha proposto una governance internazionale dell’AI, indicando come possibile modello l’Agenzia internazionale per l’energia atomica: un organismo di esperti indipendenti incaricato di valutare i sistemi più potenti e coordinare i Paesi davanti ai rischi.

°°°°°°°°°°°°°°°°°°°°°°°°°°°°°°°°°°

Trump contro le «forze negative» che vogliono fermare l’AI: «Chi vince in questo settore, vince tutto»

di Redazione Online -Corriere della Sera – 13 Settembre 2026

Il presidente si è scagliato contro i giganti del settore, che negli scorsi giorni hanno chiesto di rallentare lo sviluppo dei modelli più avanzati

Donald Trump ha criticato le «forze negative» che vogliono rallentare lo sviluppo dell’IA. Lo ha detto il presidente Usa dopo l’allarme lanciato dai colossi del settore americani per un rallentamento dello sviluppo dell’intelligenza artificiale per evitare che possa sfuggire al controllo umano.

«Siamo all’avanguardia rispetto alla Cina nell’Intelligenza artificiale, siamo il Paese più avanzato al mondo. E francamente, voglio che rimanga così, perché chi vince nel campo dell’AI, vince su tutto», ha affermato il tycoon.

*************************

— LETTERA ENCICLICA MAGNIFICA HUMANITAS DEL SANTO PADRE LEONE XIV

Responsabilità, trasparenza e governo dell’IA

102. L’uso dell’IA non è mai un fatto puramente tecnico: quando entra in processi che incidono sulla vita delle persone, essa tocca diritti, opportunità, reputazione, libertà. Decisioni delicate che toccano il lavoro, il credito, l’accesso ai servizi e la reputazione delle persone rischiano di essere affidate completamente a sistemi automatizzati che non conoscono «la compassione, la misericordia, il perdono e, soprattutto, l’apertura alla speranza di un cambiamento della persona», [125] e possono così produrre nuove forme di scarto. Possono esserci usi evidentemente antiumani, come la manipolazione dell’informazione o la violazione della privacy, ma può anche esserci un’insidia meno palese, quando i sistemi di IA, presentandosi come neutrali e oggettivi, rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati.

103. Affidare, nei fatti, a un algoritmo il potere di selezionare chi merita e chi no, senza che nessuno si assuma più il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane. Ciò che viene meno, in questo processo, non è solo l’empatia verso l’escluso, che può essere imitata artificialmente, ma la responsabilità politica, perché lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare. E così, l’ingiustizia si fa silenziosa e la compassione, la misericordia e il perdono, non come mera apparenza, ma come gesti politici, scompaiono dall’orizzonte.

104. Da questo deriva una conseguenza semplice ma stringente: non possiamo considerare l’IA moralmente neutra. In realtà, ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni. Se un sistema viene concepito o impiegato in modo da trattare alcune vite come meno degne, o da escluderle senza possibilità di appello, esso non è un semplice strumento “da usare bene”: introduce già un criterio che contraddice la dignità inalienabile della persona. Per questo, il discernimento etico non può limitarsi a domandare se usiamo un certo sistema per uno scopo buono o cattivo, ma deve anche chiedersi come esso venga progettato e quale idea di persona e di società risulti inscritta nei dati e nei modelli che lo guidano. [126]

105. Perché l’IA rispetti la dignità umana e serva davvero il bene comune, è essenziale che siano chiare le responsabilità in tutti i passaggi: da chi progetta e addestra i sistemi fino a chi li utilizza e a chi decide di affidare ad essi le scelte concrete. In molti casi, tuttavia, i processi interni che conducono a un risultato possono essere poco trasparenti, e ciò rende più difficile attribuire responsabilità e correggere gli errori. È qui che diventa decisivo ciò che chiamiamo accountability: la possibilità di identificare chi deve “rendere conto” delle decisioni, motivarle, controllarle e, quando necessario, contestarle e rimediare ai danni che ne derivano. [127]

106. Chiedere prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana. Questa esigenza è ancora più urgente perché esiste spesso uno squilibrio tra la velocità dello sviluppo tecnologico e il ritmo con cui maturano consapevolezza, norme, controlli e istituzioni capaci di governarne gli effetti. Non basta invocare genericamente l’etica: servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito. Altrimenti, il cambiamento sarà governato solo da logiche tecnocratiche e presentato come necessario e inevitabile, finendo per imporre regole dettate da chi possiede dati, infrastrutture e capacità di calcolo.

107. Non possiamo limitarci a invocare la moralizzazione della macchina, il cosiddetto “allineamento” dell’IA a valori umani, senza avere il coraggio di porre una ulteriore condizione: la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa. Altrimenti, chi controlla l’IA imporrà la propria visione morale, che diventerà l’infrastruttura invisibile dei sistemi. Non serve un’IA più morale, se questa morale è decisa da pochi. Serve una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi.