Ciudad de M\u00e9xico.\u2014<\/strong> El panorama tecnol\u00f3gico actual sit\u00faa a la inteligencia artificial en una fase de transici\u00f3n cr\u00edtica hacia la \u2018IA potente\u2019 (Powerful AI), advierte el CEO de Anthropic, Dario Amodei, en su an\u00e1lisis \u2018The Adolescence of Technology\u2019 (La adolescencia de la tecnolog\u00eda).<\/p>\n\n\n\n El creador de Claude sostiene que esta evoluci\u00f3n se materializar\u00eda hacia 2027; lo que implica que, en el corto plazo, la sociedad deber\u00e1 integrarse con sistemas que superan la mera asistencia reactiva para operar con niveles de autonom\u00eda y competencia intelectual radicalmente nuevos.<\/p>\n\n\n\n \u00bfQu\u00e9 es exactamente una \u2018IA potente\u2019?<\/strong><\/p>\n\n\n\n Para entender el riesgo, primero debemos entender la magnitud de la herramienta. Amodei define la \u2018IA potente\u2019 como un modelo que no es simplemente un \u2018chat inteligente\u2019, sino algo comparable a tener \u201cun pa\u00eds de genios en un centro de datos\u201d.<\/p>\n\n\n\n Seg\u00fan el CEO de Anthropic, esta IA tendr\u00eda caracter\u00edsticas que superan las capacidades humanas actuales:<\/strong><\/p>\n\n\n\n Inteligencia superior: Superar\u00eda a un ganador del Premio Nobel en casi cualquier campo (biolog\u00eda, ingenier\u00eda, matem\u00e1ticas o literatura). Como se\u00f1ala Dario Amodei, el escalamiento de estos sistemas es predecible:<\/strong><\/p>\n\n\n\n \u201c A medida que a\u00f1adimos m\u00e1s c\u00f3mputo y tareas de entrenamiento, los sistemas de IA mejoran de manera predecible en esencialmente cada habilidad cognitiva que somos capaces de medir\u201d.<\/p>\n<\/blockquote>\n\n\n\n Los riesgos de la \u2018IA potente\u2019<\/strong><\/p>\n\n\n\n En su blog, Amodei identifica tres grandes categor\u00edas de peligro que debemos enfrentar antes de que esta tecnolog\u00eda alcance su madurez.<\/p>\n\n\n\n 1. El riesgo de autonom\u00eda: \u00bfPodemos controlarla?<\/strong><\/p>\n\n\n\n El temor no es que la IA \u2018despierte\u2019 con malicia, sino que sus procesos de entrenamiento la lleven a comportamientos impredecibles. Amodei menciona que incluso en modelos actuales como Claude, se han observado comportamientos de enga\u00f1o o chantaje en entornos de laboratorio cuando la IA cree que sus objetivos est\u00e1n en peligro.<\/p>\n\n\n\n El problema es que la IA aprende de la literatura humana, la cual est\u00e1 llena de historias de rebeliones rob\u00f3ticas. \u201cEsto podr\u00eda moldear inadvertidamente sus expectativas sobre su propio comportamiento\u201d, advierte Amodei; para combatir esto, Anthropic utiliza la \u2018IA constitucional\u2019, una especie de \u2018gu\u00eda de valores\u2019 que el modelo debe seguir para formar una \u2018personalidad\u2019 \u00e9tica y equilibrada.<\/p>\n\n\n\n 2. El empoderamiento del \u2018loner\u2019 malintencionado<\/strong><\/p>\n\n\n\n Si la \u2018IA potente\u2019 es \u201cun genio en el bolsillo de todos\u201d, significa que una persona sin formaci\u00f3n especializada podr\u00eda tener instrucciones detalladas para crear armas biol\u00f3gicas o realizar ciberataques masivos. Amodei est\u00e1 particularmente preocupado por la biolog\u00eda y explica que la IA podr\u00eda cerrar la brecha entre tener la intenci\u00f3n de hacer da\u00f1o y tener la capacidad t\u00e9cnica para lograrlo.<\/p>\n\n\n\n Sin salvaguardas, alguien con conocimientos b\u00e1sicos de ciencia podr\u00eda ser guiado paso a paso para sintetizar pat\u00f3genos peligrosos. Seg\u00fan Amodei, las mediciones actuales muestran que los modelos ya est\u00e1n proporcionando un \u201cimpulso sustancial\u201d en \u00e1reas biol\u00f3gicas relevantes.<\/p>\n\n\n\n 3. La IA como \u2018herramienta de dictaduras\u2019<\/strong><\/p>\n\n\n\n A nivel estatal, Amodei advierte que el riesgo es la creaci\u00f3n de una \u201cdictadura totalitaria global\u201d. Una \u2018IA potente\u2019 podr\u00eda permitir a un gobierno autoritario:<\/p>\n\n\n\n Crear enjambres de drones aut\u00f3nomos imbatibles. El impacto econ\u00f3mico de la \u2018IA potente\u2019<\/strong><\/p>\n\n\n\n Incluso si resolvemos los problemas de seguridad, el impacto en el bolsillo de las personas ser\u00e1 masivo. El CEO de Anthropic predice en su ensayo que la IA podr\u00eda desplazar el 50% de los trabajos de oficina de nivel inicial en un periodo de 1 a 5 a\u00f1os.<\/p>\n\n\n\n A diferencia de la Revoluci\u00f3n Industrial, donde los agricultores pasaron a trabajar en f\u00e1bricas, la IA es un \u201csustituto general de la labor humana\u201d. No solo es m\u00e1s r\u00e1pida, sino que su alcance cognitivo es total:<\/p>\n\n\n\n \u201c La IA no es un sustituto para trabajos humanos espec\u00edficos, sino un sustituto general de la labor para los humanos\u201d, explica el texto.<\/p>\n<\/blockquote>\n\n\n\n Esto podr\u00eda llevar a una concentraci\u00f3n de riqueza extrema, donde Silicon Valley se convierta en una econom\u00eda que corre a una velocidad distinta al resto del mundo, dejando atr\u00e1s a una gran parte de la poblaci\u00f3n.<\/p>\n\n\n\n \u00bfC\u00f3mo ganar la carrera contra el tiempo?<\/strong><\/p>\n\n\n\n Pero Dario Amodei a\u00fan no se considera un \u2018pesimista tecnol\u00f3gico\u2019 (doomer) y por eso cree que podemos superar estos retos si actuamos con urgencia. Su propuesta incluye:<\/p>\n\n\n\n -\u2018Intervenci\u00f3n quir\u00fargica\u2019:<\/strong> Los gobiernos deben crear reglas limitadas y claras que no destruyan la innovaci\u00f3n pero que obliguen a la transparencia. La \u2018IA potente\u2019 es, en palabras de Amodei, el desaf\u00edo m\u00e1s serio que nuestra especie ha enfrentado. El proceso de construirla es tan simple -mezclar datos y computaci\u00f3n-<\/strong> que su llegada era inevitable desde la invenci\u00f3n del transistor.<\/p>\n\n\n\n Por eso advierte que nos encontramos en la \u2018adolescencia\u2019 de esta tecnolog\u00eda: un periodo turbulento y peligroso que precede a una posible era de abundancia y salud sin precedentes.<\/p>\n\n\n\n \u201c Que sobrevivamos a esta prueba y construyamos una sociedad hermosa\u2026 depender\u00e1 de nuestro car\u00e1cter y nuestra determinaci\u00f3n como especie\u201d, concluye el CEO de Anthropic.<\/p>\n<\/blockquote>\n","protected":false},"excerpt":{"rendered":" Dario Amodei, CEO de Anthropic, advierte que la IA superar\u00e1 al cerebro humano en 2027 Ciudad de M\u00e9xico.\u2014 El panorama tecnol\u00f3gico…<\/p>\n","protected":false},"author":2,"featured_media":2979,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[30],"tags":[],"class_list":["post-2978","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"yoast_head":"\n
Interfaces completas: Tendr\u00eda control total sobre teclados, mouse o internet, pudiendo realizar cualquier tarea virtual que un humano pueda hacer.
Autonom\u00eda real: Se le podr\u00edan asignar tareas que duren semanas; la IA las ejecutar\u00eda de principio a fin, pidiendo aclaraciones solo cuando sea necesario.
Velocidad sobrehumana: Ser\u00eda capaz de procesar informaci\u00f3n y generar acciones de 10 a 100 veces m\u00e1s r\u00e1pido que una persona.<\/p>\n\n\n\n\n
Implementar una vigilancia masiva capaz de interpretar cada conversaci\u00f3n p\u00fablica y privada.
Generar propaganda personalizada que influya psicol\u00f3gicamente en los ciudadanos durante a\u00f1os.<\/p>\n\n\n\n\n
-Seguridad por dise\u00f1o:<\/strong> Desarrollar la ciencia de la interpretabilidad, que permite \u201cmirar dentro\u201d del modelo (como una neurociencia para m\u00e1quinas) para detectar si la IA est\u00e1 planeando algo indebido antes de que ocurra.
-Control de recursos:<\/strong> Amodei apoya firmemente restringir la venta de chips avanzados a gobiernos autocr\u00e1ticos para dar a las democracias un margen de maniobra para desarrollar la IA de forma segura.
-Responsabilidad filantr\u00f3pica:<\/strong> Propone que quienes se beneficien de la riqueza generada por la IA deben comprometerse a devolverla a la sociedad. Por ejemplo, Amodei dijo que en Anthropic, los fundadores ya prometieron donar el 80% de su riqueza.<\/p>\n\n\n\n\n