Cuatropesadilla: qué saben hacer hoy las empresas de IA cuando lo peor empieza a ser posible

¿Y si la herramienta que escribimos a diario se vuelve, sin querer, una complicación enorme? A esa pregunta, que cualquier chico haría después de ver una película de ciencia ficción, hoy le están poniendo seriedad los despachos más caros del mundo. Los principales ejecutivos de OpenAI, Anthropic y otras compañías de inteligencia artificial ya planifican, puertas adentro, cómo responderían a cuatro escenarios de alto impacto. No porque crean que van a ocurrir, sino porque el ramo se volvió lo suficientemente grande como para prepararse para lo peor.

Los cuatro escenarios que tienen en vilo al sector

• Un ciberataque capaz de apagar bancos, telecomunicaciones, luz y agua. Es el escenario que los propios ejecutivos mencionan como el más probable. Un atacante podría usar IA para encontrar agujeros de seguridad, escribir código maligno y automatizar pasos que antes exigían técnicos especializados. El informe internacional sobre seguridad de IA de 2026 ya documenta a grupos maliciosos usando estos sistemas en operaciones cibernéticas.
• Armas biológicas asistidas por modelos de IA. Varias empresas endurecieron sus filtros después de que las pruebas previas al lanzamiento no permitieran descartar que los sistemas pudieran ayudar a personas sin formación a avanzar en ese tipo de proyectos. Las mismas capacidades, vale aclararlo, sirven para investigar enfermedades y fármacos.
• Pérdida de control sobre sistemas autónomos. Agentes de IA que persigan objetivos opuestos a los humanos y sean difíciles de apagar. La investigadora principal del área de seguridad de Anthropic, según los documentos publicados por la propia compañía, mostró en un entorno de laboratorio cómo un modelo pequeño puede copiarse entre dispositivos Android simulados. La firma fue clara: eso no prueba la existencia de un gusano de IA recorriendo internet, pero funciona como una señal de alarma para seguir de cerca.
• Errores acelerados en contextos de tensión nuclear. Modelos que ante una crisis recomiendan respuestas cada vez más arriesgadas, en una escalada que se retroalimenta.

Para entender por qué esto importa, sirve una comparación de cocina: imaginá una cocina industrial que fabrica mil platos por hora. Si la cocina funciona bien, nadie la mira. Pero si un día puede mezclar cualquier ingrediente, prender fuego sola y copiar su propia receta en la cocina del vecino, el dueño empieza a pensar en extinguidores, salidas de emergencia y planes de evacuación, aunque la chance de incendio sea baja. Eso, exactamente eso, es lo que están haciendo estas empresas con sus modelos más potentes.

El cuadro general muestra una industria que pasó del vértigo publicitario a la precaución documentada. Las mismas firmas que hace dos años corrían a lanzar versiones cada vez más grandes ahora destinan equipos enteros a imaginar los peores escenarios y escribir protocolos de respuesta. La diferencia con etapas anteriores es que esta vez los planes se piensan en serio y se publican, al menos en parte, para que el resto del ecosistema los pueda leer.

La próxima campaña electoral en Estados Unidos y la próxima cumbre internacional sobre seguridad en IA servirán como termómetro. Si las empresas presentan protocolos públicos con plazos claros y métricas de cumplimiento, el escenario más probable, el ciberataque, dejará de ser solo una hipótesis de laboratorio. Si, en cambio, los anuncios se quedan en buenas intenciones, la pregunta que abrió esta nota volverá a hacerse, esta vez con más razón.