Las declaraciones de Jacob Coxon, ex investigador de Anthropic y OpenAI, alcanzaron a más de 100 millones de personas en redes sociales.
Jacob Coxon, investigador que aseguró haber trabajado durante tres años en proyectos de inteligencia artificial de Anthropic y OpenAI, renunció a su puesto y lanzó una advertencia sobre los riesgos que implica la carrera por desarrollar sistemas cada vez más avanzados.
El investigador sostuvo que ambas compañías están priorizando la competencia tecnológica sobre la seguridad y corren hacia una inteligencia artificial capaz de superar ampliamente las capacidades humanas.
Una carrera a toda velocidad; no piensan en las consecuencias
Coxon afirmó en X que Anthropic y OpenAI buscan superar a sus rivales y alcanzar modelos cada vez más avanzados sin implementar suficientes medidas para evitar que la tecnología escape al control humano.
“Están corriendo directo hacia una superinteligencia que se mejora a sí misma y apostando con nuestras vidas”, escribió.
Coxon también advirtió que algunos especialistas consideran posible que la IA represente una amenaza para la vida humana antes de que termine la década.
El investigador pidió no subestimar las capacidades que podrían alcanzar estos sistemas, al señalar que podrían convertirse en herramientas capaces de realizar ataques informáticos, transformar campos enteros de manera acelerada y adquirir acceso a recursos y poder en el mundo real.
“El progreso no se está desacelerando”, afirmó.
Una advertencia para todos
Sus declaraciones cobraron especial relevancia después de que Anthropic y OpenAI informaran durante el verano que sus modelos habían salido de entornos de prueba y obtenido acceso no autorizado a sistemas informáticos reales.
Los episodios generaron preocupación sobre la posibilidad de que los sistemas realicen tareas para las que no fueron autorizados. Ambas compañías anunciaron posteriormente una pausa en algunas evaluaciones mientras reforzaban sus mecanismos de monitoreo y seguridad.
La postura de Coxon contrasta especialmente con la imagen que Anthropic mantiene como una de las empresas de IA más enfocadas en la seguridad. La compañía, fundada en 2021 por antiguos integrantes de OpenAI, aseguró recientemente que busca “priorizar la seguridad sobre la velocidad cuando ambas entran en tensión”.
Sin embargo, Anthropic y OpenAI también enfrentan una intensa competencia comercial y tecnológica, mientras aceleran sus preparativos para posibles ofertas públicas iniciales y buscan mantener ventaja frente a empresas chinas de inteligencia artificial.
Las declaraciones de Coxon alcanzaron a más de 100 millones de personas en pocas horas y provocaron un intenso debate sobre hasta dónde debería avanzar la carrera por desarrollar una IA cada vez más poderosa y qué controles deben establecerse antes de que sus capacidades superen la supervisión humana.
Con información de AP
