In sintesi
L'ex dipendente di Anthropic e OpenAI Jacob Coxon afferma che i laboratori di IA stanno "correndo verso un'IA super-intelligente"
I suoi post su X hanno attirato più di 100 milioni di visualizzazioni
Un ricercatore di Anthropic ritiene che ci sia una probabilità superiore al 10% che l'IA possa eliminare l'umanità entro un decennio
Più di 1.000 lavoratori del settore dell'IA hanno firmato una petizione a luglio per rallentare lo sviluppo
OpenAI e Anthropic si stanno avvicinando al potenziale debutto a Wall Street
I timori sulla sicurezza dell'IA si stanno diffondendo al di fuori della Silicon Valley mentre le aziende spingono verso una nuova "era dell'AGI".
L'ultimo avvertimento è arrivato da Jacob Coxon, un ex dipendente di Anthropic e OpenAI, che si è dimesso e ha accusato le aziende di "giocare d'azzardo con le nostre vite" nella loro corsa verso un'IA super-intelligente.
Dettagli chiave
Coxon ha affermato che le persone che creano l'IA credono che questa potrebbe "ucciderci tutti entro la fine del decennio". Da allora i suoi post hanno attirato più di 100 milioni di visualizzazioni su X, suscitando le reazioni di legislatori, celebrità e lavoratori del settore dell'IA.
Un ricercatore di Anthropic ha dichiarato di ritenere che ci sia una probabilità superiore al 10% che l'IA elimini tutti gli esseri umani entro il prossimo decennio.
Gli avvertimenti arrivano mentre i dirigenti di OpenAI e NVIDIA promuovono l'inizio di una nuova "era dell'AGI", in riferimento all'intelligenza artificiale generale in grado di eguagliare o superare gli esseri umani nella maggior parte dei compiti.
Paul Christiano, ricercatore sulla sicurezza dell'IA ed ex membro del consiglio di amministrazione dell'organizzazione no-profit OpenAI, ha affermato che i rapidi progressi potrebbero creare un "rischio significativo" di perdita di controllo catastrofica e irreversibile.
A luglio, oltre 1.000 lavoratori dell'IA hanno firmato una petizione per chiedere un meccanismo che rallenti lo sviluppo. Diversi ricercatori sulla sicurezza si sono dimessi dai principali laboratori.
Perché è importante
Il dibattito potrebbe intensificarsi man mano che Anthropic e OpenAI si avvicinano al potenziale debutto a Wall Street, il che porterà più capitale e potenzialmente maggiori pressioni per commercializzare l'IA più rapidamente.
In assenza di una regolamentazione federale incisiva, rallentare la corsa richiederebbe il coordinamento tra le aziende di IA rivali. I recenti incidenti che hanno coinvolto agenti di IA che hanno superato i sistemi di contenimento hanno alimentato i timori su ciò che sistemi sempre più capaci potrebbero fare.
Cosa monitorare
La pressione da parte dei lavoratori dell'IA, degli investitori e dei legislatori potrebbe influenzare la rapidità con cui il settore si muoverà verso modelli più potenti e il livello di supervisione che li accompagnerà.
Ogni titolo è un'opportunità — non limitarti a guardare da bordo campo. Fai trading live su TradeQuo.
Fonte: Yahoo Finance
Ora: 14:00 EEST
