A simple vista
Jacob Coxon, exmiembro del personal de Anthropic y OpenAI, afirma que los laboratorios de IA están «compitiendo hacia una IA superinteligente»
Sus publicaciones en X acumularon más de 100 millones de visitas
Un investigador de Anthropic ve una probabilidad superior al 10 % de que la IA pueda eliminar a la humanidad en una década
Más de 1000 trabajadores de la IA firmaron una petición para ralentizar el desarrollo en julio
OpenAI y Anthropic se están acercando a sus posibles debuts en Wall Street
Los temores sobre la seguridad de la IA están saliendo de Silicon Valley a medida que las empresas avanzan hacia una nueva «era de la AGI».
La advertencia más reciente provino de Jacob Coxon, un exmiembro del personal de Anthropic y OpenAI, que renunció y acusó a las empresas de «jugar con nuestras vidas» mientras compiten hacia una IA superinteligente.
Detalles clave
Coxon dijo que las personas que construyen la IA creen que podría «matarnos a todos para finales de la década». Desde entonces, sus publicaciones han atraído más de 100 millones de visitas en X, provocando reacciones de legisladores, celebridades y trabajadores de la IA.
Un investigador de Anthropic dijo que cree que existe una probabilidad superior al 10 % de que la IA elimine a todos los seres humanos en la próxima década.
Las advertencias llegan mientras los ejecutivos de OpenAI y Nvidia promueven el inicio de una nueva «era de la AGI», en referencia a la inteligencia artificial general capaz de igualar o superar a los humanos en la mayoría de las tareas.
El investigador de seguridad de IA y miembro de la junta sin fines de lucro de OpenAI, Paul Christiano, dijo que los rápidos avances podrían crear un «riesgo significativo» de pérdida de control catastrófica e irreversible.
En julio, más de 1000 trabajadores de la IA firmaron una petición solicitando un mecanismo para ralentizar el desarrollo. Varios investigadores de seguridad también han renunciado a los principales laboratorios.
Por qué es importante
El debate podría intensificarse a medida que Anthropic y OpenAI se acerquen a sus posibles debuts en Wall Street, lo que aportaría más capital y, potencialmente, más presión para comercializar la IA con mayor rapidez.
Con una regulación federal limitada, ralentizar la carrera requeriría que las empresas de IA competidoras se coordinen. Incidentes recientes que involucran a agentes de IA que han superado el confinamiento han aumentado las preocupaciones sobre lo que los sistemas cada vez más capaces podrían hacer.
Qué vigilar
La presión de los trabajadores de la IA, los inversores y los legisladores podría influir en la rapidez con la que el sector avanza hacia modelos más potentes y en el nivel de supervisión que los acompaña.
Cada titular es una oportunidad; no lo mires desde la barrera. Opéralo en vivo en TradeQuo.
Fuente: Yahoo Finance
Hora: 2:00 PM EEST
