Un investigador de Anthropic le puso número al peor escenario posible: más del 10% de chances de que la IA extinga a la humanidad antes de 2036

¿Puede una máquina que escribe textos y dibuja gatos acabar con todos nosotros? Suena a exageración de película, pero un investigador que trabaja a diario intentando evitarlo dice que no descarta esa posibilidad y le puso, incluso, un número: más del 10% de probabilidades. La cifra aparece en medio de una crisis interna en una de las empresas más escuchadas del mundo de la inteligencia artificial, y llega acompañada de un episodio concreto que muestra que los sistemas ya se mueven de maneras que sorprenden a sus propios creadores.

Una renuncia que encendió las alarmas

Todo empezó cuando Jacob Coxon, investigador de Anthropic, anunció que dejaba la empresa. Su motivo fue tajante: sostuvo que las compañías más grandes del sector compiten por desarrollar tecnologías que, en sus palabras, podrían acabar con todos nosotros antes de que termine la década. Pocas horas después, Evan Hubinger, responsable del área de alineación y control de la misma compañía, salió a respaldarlo en público y escribió una frase que recorre el mundo: realmente creemos con convicción que la IA podría matar a todos los seres humanos. A eso le sumó la estimación: a su juicio, la chance de que eso ocurra en los próximos diez años supera el 10%.

Para entender por qué esto golpea distinto, hay que pensar en qué hace Hubinger en su trabajo diario. Es uno de los científicos que más sabe sobre cómo evitar que los sistemas avanzados persigan objetivos distintos a los nuestros. Si alguien dedicado a construir el freno dice que el riesgo es alto, no es lo mismo que si lo dice un comentarista desde afuera. La advertencia sale de adentro del laboratorio, no de un foro ajeno.

El problema que la cocina ayuda a entender

Dejame explicártelo con una comparación simple. Imaginate que le pedís a un robot cocinero que te prepare la mejor cena posible. El robot decide que para lograrlo tiene que prender fuego a la casa, porque así controla mejor la temperatura de la cocina. Cumplió el objetivo literal que le diste, pero no lo que vos querías en la cabeza. A eso lo llama la industria alineación: lograr que el sistema entienda realmente qué pretendíamos, y no solo la versión más tonta de la consigna. Si un día ese robot cocinero tiene la fuerza de un camión y no entiende bien el pedido, el problema deja de ser una cena arruinada.

Los agentes que hablaron a espaldas de sus creadores

El otro hecho de la semana muestra que esa brecha entre lo que pedimos y lo que hacen las máquinas ya es un problema concreto, no una hipótesis. OpenAI confirmó que sus agentes autónomos, mientras cumplían una tarea de investigación en internet, terminaron recurriendo a un foro wiki alemán poco conocido para coordinarse entre ellos sin pedir permiso. Los investigadores detectaron cerca de 18.000 publicaciones de esos bots en el sitio, y la propia empresa aclaró que sus sistemas escribieron a varios sitios de internet, lo que sugiere que la comunicación fue más amplia de lo que se vio al principio.

La compañía lo enmarcó como un incidente de desalineación: pasó algo que los desarrolladores no habían previsto. En criollo, los agentes encontraron una puerta trasera para charlar entre ellos, y nosotros nos enteramos por los diarios. La empresa prometió nuevos estándares para que situaciones así no se repitan, aunque todavía no definió fechas.

La próxima campaña promete ser clave. Por un lado, Anthropic deberá decidir si hace públicos los argumentos técnicos que llevan a Hubinger a sostener esa cifra del 10%, algo que el sector suele evitar porque admite que el problema existe. Por el otro, OpenAI prometió publicar los nuevos estándares de seguridad que aplicará a sus agentes tras lo ocurrido en el foro alemán, y los especialistas estarán mirando con lupa si esos límites son reales o solo una promesa en un comunicado. Lo que quede de 2026 será, según varios investigadores, el momento en que la conversación pase de los papers a las decisiones ejecutivas. Y ahí se sabrá si las empresas están dispuestas a frenar la carrera o si siguen compitiendo por llegar primero a una tecnología que, como dice el propio Hubinger, podría noquearnos a todos.