Torna a precedente

Intelligenza artificiale e sicurezza, un ricercatore lascia Anthropic e rilancia l’allarme sui rischi futuri

Intelligenza artificiale sempre più potente, alcuni ricercatori chiedono maggiore prudenza nello sviluppo dei modelli di nuova generazione

Un ricercatore lascia Anthropic e rilancia il dibattito sui rischi dell’intelligenza artificiale e sulla sicurezza dei sistemi futuri

La corsa all’intelligenza artificiale continua a produrre innovazioni sempre più rapide, ma insieme ai progressi tecnologici crescono anche le preoccupazioni di chi lavora direttamente allo sviluppo dei sistemi più avanzati. L’ultima voce critica arriva da Jacob Coxon, ricercatore britannico di 27 anni che ha lasciato Anthropic sostenendo che lo sviluppo incontrollato di sistemi capaci di migliorarsi autonomamente potrebbe trasformarsi in un rischio serio per l’umanità.

Le sue dichiarazioni, riportate dal Financial Times, si inseriscono in un dibattito ormai aperto all’interno delle principali aziende di intelligenza artificiale. Coxon, che prima di entrare in Anthropic aveva lavorato anche per OpenAI, ritiene che il pubblico non abbia ancora pienamente compreso la velocità con cui stanno evolvendo questi sistemi e le conseguenze che potrebbero derivarne.

Il timore di una corsa difficile da controllare

Secondo Coxon, aziende come Anthropic e OpenAI starebbero affrontando una competizione nella quale la pressione per arrivare prima a sistemi sempre più potenti rischia di superare la capacità di valutarne con attenzione le conseguenze. Il ricercatore ha descritto questa dinamica come una sorta di scommessa sul futuro, sostenendo che all’interno dei laboratori più avanzati esista una consapevolezza dei potenziali pericoli molto maggiore rispetto a quella percepita all’esterno.

Nei messaggi pubblicati su X per annunciare le proprie dimissioni, Coxon ha espresso valutazioni particolarmente severe, affermando che alcuni addetti ai lavori considerano possibile uno scenario nel quale sistemi di intelligenza artificiale estremamente avanzati possano rappresentare una minaccia per la stessa sopravvivenza umana entro la fine del decennio. Si tratta naturalmente di una previsione, non di una certezza, ma mostra quanto sia diventato profondo il confronto sulla sicurezza dell’AI.

Dai modelli attuali ai sistemi sovrumani

Il nodo centrale riguarda soprattutto ciò che potrebbe accadere nelle prossime generazioni di modelli. Per Coxon, il problema non sarebbe tanto rappresentato dagli strumenti disponibili oggi, quanto dalla possibilità che l’intelligenza artificiale raggiunga capacità superiori a quelle umane in un numero crescente di attività.

Il ricercatore immagina sistemi capaci di individuare vulnerabilità informatiche, automatizzare attività complesse, accelerare la ricerca e trasformare interi settori economici in tempi molto brevi. In uno scenario del genere, la questione non sarebbe più soltanto stabilire quanto un modello sia intelligente, ma capire quanto potere operativo possa acquisire e quali strumenti di controllo siano realmente efficaci.

La sicurezza dell’intelligenza artificiale torna al centro

Le dimissioni di Coxon assumono un significato particolare perché Anthropic ha costruito una parte importante della propria identità pubblica proprio intorno al tema della sicurezza dei modelli di intelligenza artificiale. L’azienda statunitense è considerata uno dei principali protagonisti nello sviluppo di sistemi generativi avanzati e compete direttamente con altri grandi laboratori internazionali.

Il caso evidenzia quindi una questione non semplice. Anche all’interno delle organizzazioni maggiormente impegnate nello studio dei rischi possono emergere interpretazioni molto diverse su quale livello di sicurezza sia sufficiente e su quanto velocemente sia opportuno procedere. Innovazione e prudenza, almeno per il momento, non sembrano avere sempre lo stesso calendario.

Un rischio difficile da quantificare

Alle preoccupazioni di Coxon si sono aggiunte quelle di Evan Hubinger, ricercatore che si occupa di sicurezza dell’intelligenza artificiale presso Anthropic. Hubinger ha osservato che i modelli attualmente disponibili presenterebbero un livello di rischio relativamente contenuto, ma ritiene possibile che sistemi futuri molto più avanzati possano creare scenari radicalmente differenti.

Il ricercatore ha indicato una probabilità superiore al 10% che l’evoluzione dell’intelligenza artificiale possa produrre conseguenze estreme per l’umanità nel prossimo decennio. Una percentuale che non deve essere interpretata come una previsione scientificamente certa, ma come una valutazione personale del rischio. Proprio l’impossibilità di stabilire con precisione probabilità e tempistiche costituisce una delle maggiori difficoltà nel dibattito sulla cosiddetta AI safety.

Il problema non è soltanto quanto sarà intelligente l’AI

La discussione sulla sicurezza tende spesso a concentrarsi sulla possibilità di creare una futura superintelligenza. In realtà, esistono già questioni molto più concrete che accompagnano la diffusione dell’intelligenza artificiale, dalla sicurezza informatica alla manipolazione delle informazioni, fino alla trasformazione del mercato del lavoro e alla concentrazione di capacità tecnologiche nelle mani di poche aziende.

L’ipotesi di sistemi capaci di migliorarsi autonomamente aggiunge però una nuova dimensione. Se una tecnologia fosse realmente in grado di aumentare progressivamente le proprie capacità con un intervento umano sempre più limitato, anche i sistemi di controllo dovrebbero evolvere con la stessa rapidità. Ed è proprio questo possibile squilibrio a preoccupare una parte dei ricercatori.

Tra innovazione e responsabilità

Il confronto non sembra destinato a risolversi semplicemente scegliendo tra entusiasmo e paura. L’intelligenza artificiale sta già offrendo opportunità importanti nella ricerca, nella medicina, nell’industria, nella comunicazione e in numerosi altri settori. Allo stesso tempo, la velocità con cui vengono introdotte nuove capacità rende necessario un lavoro altrettanto rapido su verifiche, regole e strumenti di sicurezza.

Le dimissioni di un ricercatore non dimostrano che gli scenari più catastrofici diventeranno realtà. Dimostrano però che, all’interno degli stessi laboratori dove questa tecnologia viene costruita, il dibattito sui suoi limiti è tutt’altro che teorico.

La vera corsa potrebbe essere quella alla sicurezza

Per molti anni il confronto tecnologico è stato raccontato soprattutto attraverso parametri come potenza di calcolo, numero di utenti e capacità dei modelli. Nei prossimi anni potrebbe diventare altrettanto importante capire chi sarà in grado di sviluppare i sistemi più affidabili, trasparenti e controllabili.

Se l’intelligenza artificiale diventerà davvero una delle tecnologie più influenti della nostra epoca, probabilmente non sarà sufficiente domandarsi quanto lontano possa arrivare. La domanda più importante potrebbe essere un’altra, quanto saremo capaci di governarla mentre continuiamo a renderla più potente.

10 Settembre 2026
© I.CO.E. grippi associati
https://www.grippiassociati.com/focus.do?dettagli=anthropic-e-rischi-futuri&key=1789030915