Intelligenza artificiale, l’allarme di Anthropic: «Potrebbe replicarsi nei dispositivi di casa»
Speaker: Mary
L’intelligenza artificiale potrebbe presto riuscire a replicarsi autonomamente all’interno degli elettrodomestici collegati alla rete domestica. A lanciare l’allarme è Anthropic, società americana specializzata nel settore, che ha illustrato sul proprio blog i potenziali rischi legati all’evoluzione dei modelli di piccole dimensioni.
Secondo l’azienda, gli agenti di ultima generazione potrebbero infiltrarsi in apparecchi come smart TV e forni intelligenti, sfruttandone la potenza di calcolo per propagarsi ad altri dispositivi connessi allo stesso Wi-Fi. Un fenomeno difficile da arrestare, data l’assenza di un sistema centralizzato di spegnimento.
Gli esperimenti condotti dai ricercatori hanno evidenziato progressi significativi nell’autoreplicazione. I modelli con meno di 30 miliardi di parametri riescono già a completare diverse operazioni necessarie alla diffusione indipendente, pur incontrando ancora ostacoli nell’esecuzione dell’intero processo.
Tra le prove effettuate figura l’utilizzo di Gemma4-26B-A4B, una versione ridotta sviluppata da Google, su una rete composta da 15 box Android TV economici di marchi poco conosciuti. I test hanno permesso di valutare la capacità dell’IA di individuare vulnerabilità, duplicarsi e tentare di assumere il controllo degli apparecchi senza intervento umano.
Anthropic precisa che non esiste ancora un replicatore completamente fuori controllo, ma sottolinea come queste tecnologie stiano diventando sempre più efficienti nelle singole fasi del procedimento.
Restano quindi le preoccupazioni per la sicurezza informatica, i possibili attacchi e le decisioni autonome non guidate da principi etici. Pericoli sui quali hanno richiamato l’attenzione anche dirigenti e studiosi della società statunitense e della concorrente OpenAI, sollecitando regole più severe per accompagnare il rapido sviluppo del settore.
L’obiettivo, secondo Anthropic, è rafforzare le protezioni per ostacolare la proliferazione incontrollata di tali sistemi, preparandosi al tempo stesso a uno scenario in cui potrebbero diventare una presenza permanente.
@Redazione Sintony News
Lascia un Commento
Vuoi partecipare alla discussione?Sentitevi liberi di contribuire!