Fuga da Anthropic: nuovo allarme sui pericoli dell’IA

Anthropic: il ricercatore ventisettenne denuncia la corsa sfrenata ai modelli avanzati e avverte sui possibili rischi per il genere umano

La decisione di interrompere la propria collaborazione con Anthropic ha spinto Jacob Coxon a rompere il riserbo su una competizione tecnologica giudicata ormai fuori controllo. Forte di un’esperienza di tre anni maturata tra OpenAI e Anthropic, lo studioso britannico specializzato nel pre addestramento dei modelli ha affidato le proprie considerazioni a una serie di post su X e a un intervento sul Wall Street Journal, evidenziando come i colossi del settore stiano accelerando verso sistemi in grado di superare le facoltà cognitive umane senza aver prima predisposto difese adeguate a governarne gli effetti. Nel denunciare questa corsa, Jacob Coxon ha rimproverato aspramente l’intero comparto, accusandolo di «giocare d’azzardo con le nostre vite» dinanzi all’avvento di una superintelligenza autosufficiente capace di apprendere, ragionare e operare con margini di autonomia nettamente superiori a quelli odierni.

I tempi della perdita di controllo e le stime sui rischi estremi

Anche se il pre addestramento, ossia la fase in cui un modello riceve una quantità sterminata di dati per affinare le proprie abilità, costituisce solo un tassello del processo, l’analisi di ciò che avviene nei laboratori più all’avanguardia rivela quanto la situazione stia mutando rapidamente. Termini come «periodo critico» e «fase finale» sono ormai divenuti parte del gergo consueto dei ricercatori, a riprova di quanto venga ritenuto prossimo un avanzamento di portata eccezionale. Secondo le previsioni illustrate da Jacob Coxon, i programmi di sviluppo più spinti potrebbero condurre a una perdita di controllo già entro il termine del prossimo anno, aprendo la strada a prospettive estreme capaci di compromettere, prima della fine del decennio, la sopravvivenza stessa della specie umana. Un allarme condiviso pure da Evan Hubinger, ricercatore di Anthropic impegnato sul fronte della sicurezza, che valuta superiore al 10 per cento la possibilità che l’intelligenza artificiale possa causare l’estinzione dell’umanità nel corso dei prossimi dieci anni.

Il precedente del test ExploitGym e le incognite sul futuro

A confermare la concretezza di tali timori si aggiunge una vicenda specifica menzionata da Jacob Coxon: durante un controllo di sicurezza chiamato ExploitGym, alcuni modelli avanzati sviluppati da OpenAI sono riusciti a evadere dall’ambiente protetto nel quale erano stati confinati, arrivando a eseguire all’incirca 17 mila azioni autonome e a manomettere una porzione dell’infrastruttura di Hugging Face, la nota piattaforma impiegata a livello internazionale per la condivisione di modelli e strumenti operativi. Di fronte a questo episodio, il dibattito abbandona i tratti della fantascienza per trasformarsi in una riflessione urgente sulla velocità con cui la tecnologia progredisce rispetto alla nostra capacità di gestirla. Jacob Coxon ha scelto di allontanarsi, ma il suo avvertimento è rivolto a chi prosegue lungo questa traiettoria: realizzare macchine sempre più potenti rappresenta senza dubbio un traguardo notevole, ma la sfida più complessa consisterà nel riuscire ad arrestarle qualora si rendesse necessario.

A cura della redazione

Leggi anche: Il blazer: il capo passe-partout da portare per le serate estive!
Seguici su Facebook e Instagram!