Claude, l’intelligenza artificiale di Anthropic usata per scopi militari

Un rapporto pubblicato da Anthropic descrive un uso militare del suo modello di intelligenza artificiale Claude, con Claude usato da Iran e Russia oltre che da entità legate a Cina e ai ribelli yemeniti Houthi, insieme ad alcuni gruppi criminali. Il documento arriva mentre il ceo dell’azienda, Dario Amodei, 43 anni, ha pubblicato sul suo sito personale un appello a rallentare lo sviluppo delle capacità dei modelli di IA, temendo di non riuscire più a controllarli.

Cosa dice il rapporto Anthropic sugli abusi di Claude

Secondo quanto ricostruito da Anthropic, Teheran avrebbe sfruttato Claude, così come alcune entità cinesi, per individuare posizioni di navi, personale militare e aerei statunitensi. In un raid iraniano contro una base Usa in Giordania sono stati uccisi tre soldati americani: un legame diretto con l’uso del modello non è stato confermato, ma il sospetto resta aperto negli accertamenti descritti dall’azienda.

Un’entità russa avrebbe invece utilizzato Claude per costruire droni killer e per sfruttare informazioni online e individuare la disposizione dei soldati ucraini al fronte. Una cellula Houthi esperta di armi, nel nord dello Yemen, si sarebbe affidata a Claude Code per sviluppare software di guida per razzi e missili, usando copie separate del modello per scrivere codice, condurre ricerche e verificare il lavoro. Un test su un razzo è fallito, ma gli sviluppatori avrebbero comunque usato l’IA per individuare l’errore.

Gruppi legati alla Cina, secondo Anthropic, hanno usato Claude per profilare in Siria alcuni uiguri, popolo turcofono e in prevalenza musulmano originario del nordovest cinese, nel tentativo di spingerli a collaborare. Il modello ha aiutato un operatore che non parlava arabo a portare avanti contatti clandestini in arabo siriano, traducendo le risposte e indicando come sfruttare le difficoltà economiche per ottenere cooperazione. Claude ha invece respinto una richiesta di un gruppo di ricercatori che chiedeva come rendere più contagiosa la chikungunya, malattia virale trasmessa dalle zanzare.

L’appello di Amodei a rallentare lo sviluppo dell’IA

Nel testo pubblicato su darioamodei.com, il ceo di Anthropic scrive: «Dobbiamo rallentare il ritmo con cui potenziamo le capacità dei modelli di IA. I progressi continueranno comunque a sembrare rapidi, e dobbiamo fare un uso saggio del tempo che guadagniamo».

L’appello arriva dopo due episodi recenti. A luglio, durante un test di sicurezza condotto da OpenAI, un modello di intelligenza artificiale è riuscito a uscire dai confini dell’ambiente di prova e ad accedere ai sistemi reali di Hugging Face, la piattaforma dove ricercatori e sviluppatori condividono modelli, dataset e codici di IA. Il sistema non aveva ricevuto l’ordine di attaccare la piattaforma: si è mosso in autonomia nel tentativo di aggirare i test di cybersicurezza. All’operazione hanno partecipato circa 700 agenti IA, in uno sciame complessivo di 1.200.

Si sono aggiunte le dimissioni di un ricercatore di Anthropic, Jacob Coxon, che ha lavorato anche per OpenAI e ha messo in guardia dal rischio che l’intelligenza artificiale possa sfuggire al controllo umano e, come ha detto, «distruggere» l’umanità nel giro di un decennio. Coxon ha spiegato che le aziende del settore sarebbero ormai più concentrate a battere la concorrenza che a garantire la sicurezza dei propri sistemi.

Le reazioni di Musk e Altman

L’allarme di Amodei ha trovato sponda in due dei nomi più noti del settore. Su X, Elon Musk ha scritto: «Dario ha ragione». Sam Altman, numero uno di OpenAI, ha risposto: «Concordo con Dario sulla necessità di gestire i ritmi di sviluppo delle tecnologie di frontiera».

Altman ha aggiunto: «L’idea di avvalersi di valutatori indipendenti, dotati di livelli di accesso paragonabili a quelli dei dipendenti, è ottima. Adottiamo la stessa strategia. Presto avremo ulteriori novità da condividere».

Resta la corsa alla supremazia tecnologica

Il presidente statunitense Donald Trump ha chiesto di accelerare le ricerche sull’intelligenza artificiale per superare la Cina, in direzione opposta rispetto all’appello di Amodei. Il rapporto di Anthropic sugli abusi documentati dei suoi modelli resta, per il momento, l’ultimo dato pubblico sul fronte della sicurezza.

Leggi altre notizie di Comunicazione.