Jacob Coxon<\/strong>, investigador que asegur\u00f3 haber trabajado durante tres a\u00f1os en proyectos de inteligencia artificial de Anthropic<\/strong> y OpenAI<\/strong>, renunci\u00f3 a su puesto y lanz\u00f3 una advertencia sobre los riesgos que implica la carrera por desarrollar sistemas cada vez m\u00e1s avanzados. <\/p>\n\n\n\n El investigador sostuvo que ambas compa\u00f1\u00edas est\u00e1n priorizando la competencia tecnol\u00f3gica sobre la seguridad y corren hacia una inteligencia artificial capaz de superar ampliamente las capacidades humanas.<\/p>\n\n\n\n Coxon afirm\u00f3 en X que Anthropic y OpenAI buscan superar a sus rivales y alcanzar modelos cada vez m\u00e1s avanzados sin implementar suficientes medidas para evitar que la tecnolog\u00eda escape al control humano. <\/p>\n\n\n\n \u201cEst\u00e1n corriendo directo hacia una superinteligencia que se mejora a s\u00ed misma y apostando con nuestras vidas\u201d, escribi\u00f3. <\/em><\/p>\n<\/blockquote>\n\n\n\n Coxon tambi\u00e9n advirti\u00f3 que algunos especialistas consideran posible que la IA represente una amenaza para la vida humana antes de que termine la d\u00e9cada.<\/p>\n\n\n\n El investigador pidi\u00f3 no subestimar las capacidades que podr\u00edan alcanzar estos sistemas, al se\u00f1alar que podr\u00edan convertirse en herramientas capaces de realizar ataques inform\u00e1ticos, transformar campos enteros de manera acelerada y adquirir acceso a recursos y poder en el mundo real. <\/p>\n\n\n\n \u201cEl progreso no se est\u00e1 desacelerando\u201d, afirm\u00f3.<\/em><\/p>\n<\/blockquote>\n\n\n\n Sus declaraciones cobraron especial relevancia despu\u00e9s de que Anthropic y OpenAI informaran durante el verano que sus modelos hab\u00edan salido de entornos de prueba y obtenido acceso no autorizado a sistemas inform\u00e1ticos reales. <\/p>\n\n\n\n Los episodios generaron preocupaci\u00f3n sobre la posibilidad de que los sistemas realicen tareas para las que no fueron autorizados. Ambas compa\u00f1\u00edas anunciaron posteriormente una pausa en algunas evaluaciones mientras reforzaban sus mecanismos de monitoreo y seguridad.<\/p>\n\n\n\n La postura de Coxon contrasta especialmente con la imagen que Anthropic mantiene como una de las empresas de IA m\u00e1s enfocadas en la seguridad. La compa\u00f1\u00eda, fundada en 2021 por antiguos integrantes de OpenAI, asegur\u00f3 recientemente que busca \u201cpriorizar la seguridad sobre la velocidad cuando ambas entran en tensi\u00f3n\u201d. <\/p>\n\n\n\n Sin embargo, Anthropic y OpenAI tambi\u00e9n enfrentan una intensa competencia comercial y tecnol\u00f3gica, mientras aceleran sus preparativos para posibles ofertas p\u00fablicas iniciales y buscan mantener ventaja frente a empresas chinas de inteligencia artificial.<\/p>\n\n\n\n Las declaraciones de Coxon alcanzaron a m\u00e1s de 100 millones de personas en pocas horas y provocaron un intenso debate sobre hasta d\u00f3nde deber\u00eda avanzar la carrera por desarrollar una IA cada vez m\u00e1s poderosa y qu\u00e9 controles deben establecerse antes de que sus capacidades superen la supervisi\u00f3n humana.<\/p>\n\n\n\n Con informaci\u00f3n de AP<\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" Las declaraciones de Jacob Coxon, ex investigador de Anthropic y OpenAI, alcanzaron a m\u00e1s de 100 millones de personas en…<\/p>\n","protected":false},"author":2,"featured_media":15412,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[30],"tags":[],"class_list":["post-15411","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"yoast_head":"\nUna carrera a toda velocidad; no piensan en las consecuencias<\/h2>\n\n\n\n
\n
\n
Una advertencia para todos<\/h2>\n\n\n\n