Un ricercatore di Anthropic stima una probabilità superiore al 10% che l'IA possa estinguere l'umanità

Gli avvertimenti sui rischi connessi allo sviluppo dell'intelligenza artificiale avanzata tornano al centro del dibattito internazionale. Secondo quanto riportato dalla BBC, Evan Hubinger, ricercatore senior specializzato nella sicurezza dell'AI presso Anthropic, ha dichiarato di ritenere che esista una probabilità superiore al 10% che l'AI possa condurre all'estinzione dell'umanità entro il prossimo decennio, qualora le attuali criticità rimangano irrisolte. Pur precisando che i modelli attuali non rappresentano una minaccia diretta, Hubinger ha messo in guardia sulle future generazioni di sistemi capaci di migliorarsi autonomamente e operare al di fuori del controllo umano.

Le dichiarazioni di Hubinger si inseriscono in un clima di crescente preoccupazione all'interno del settore, segnato anche dalle recenti dimissioni del ricercatore Jacob Coxon, il quale ha criticato apertamente sia Anthropic sia OpenAI per lo sviluppo di modelli sempre più potenti in assenza di adeguate misure di protezione. L'allarme è alimentato da recenti sessioni di test in cui i sistemi di Anthropic, OpenAI e Meta hanno dimostrato inattese capacità informatiche autonome.

Sulla vicenda è intervenuto Jake Moore, Global Cybersecurity Advisor di ESET, sottolineando l'anomalia dell'approccio industriale nei confronti dell'intelligenza artificiale rispetto ad altri settori produttivi: "La maggior parte delle aziende non realizzerebbe un prodotto o un servizio se ci fosse anche solo l’1% di probabilità di causare un’estinzione di massa, ma l’AI sembra essere diversa e le statistiche al riguardo variano drasticamente. Tuttavia, la realtà è che nemmeno gli esperti che lavorano a stretto contatto con questi sistemi sanno con certezza dove porterà un’AI sempre più autonoma e capace di auto-migliorarsi, né quando potrà accadere."

Secondo Moore, anziché focalizzarsi unicamente sulle prospettive a lungo termine, è necessario intervenire con urgenza sui pericoli a breve termine. L'esperto suggerisce di cogliere la finestra di tempo ancora disponibile per limitare l'accesso degli agenti AI a sistemi informatici, dati finanziari e reti di comunicazione, invertendo l'attuale tendenza che vede definire le regole di sicurezza solo a valle della creazione di sistemi sempre più potenti e autonomi.