Sam Altman dibuja los dos fantasmas de la inteligencia artificial: la pérdida de control y el monopolio del poder

¿Puede una máquina llegar a ser tan inteligente que nosotros ya no sepamos qué hacer con ella? Es la pregunta de la que partió Sam Altman, el director ejecutivo de OpenAI, la empresa detrás de ChatGPT, para alertar sobre los dos riesgos que, según su mirada, sobrevuelan el avance de la inteligencia artificial.

En una serie de declaraciones recientes, Altman identificó dos escenarios críticos. El primero es que la humanidad pierda el control sobre sistemas cada vez más capaces. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", sostuvo.

Los dos peligros según el CEO de OpenAI

• Pérdida de control: que los sistemas avanzados superen la capacidad humana de supervisarlos y orientarlos.
• Concentración de poder: que una persona, una empresa o un país acumule una influencia desproporcionada gracias a una IA extraordinariamente poderosa.
• La necesidad de transitar un "angosto camino intermedio" para evitar ambos riesgos a la vez.

Para graficarlo de manera simple, pensemos en una cocina: si la cocina se pone a cocinar sola, más rápido y con fuegos que nosotros no sabemos regular, lo primero que se quema es el menú que teníamos pensado. Y si además las recetas las escribe un solo cocinero para todo el barrio, nadie más puede decidir qué se come. Eso, llevado a la tecnología, es lo que preocupa a Altman.

Sobre el primer punto, el CEO planteó que las técnicas de alineación y seguridad deben avanzar al mismo ritmo que las capacidades de los modelos, o incluso por delante. Es decir, que haya trabajen en mantener la IA bajo control humano al menos tan rápido como se la hace más poderosa.

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman, CEO de OpenAI

En lo regulatorio, Altman respaldó la creación de un marco federal en Estados Unidos que establezca requisitos de seguridad comunes para los modelos de frontera, es decir, aquellos que operan en el límite actual de las capacidades tecnológicas. Propuso además la incorporación de auditores independientes en los mecanismos de supervisión, como si fueran inspectores gastronómicos que revisen la cocina antes de que salga a la calle.

Aclaró, eso sí, que las empresas no deberían esperar nuevas leyes para comenzar a aplicar medidas de seguridad por cuenta propia. Y agregó que la pulseada tecnológica entre países no es excusa para tomar riesgos innecesarios: "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia", afirmó. Para el directivo, la coordinación internacional será uno de los terrenos donde los gobiernos deberán acompañar con políticas activas.

Lo que se sabrá en la próxima campaña es si el marco federal que pide Altman avanza en el Congreso de ese país, cómo se incorporan los auditores independientes al esquema de control y si los principales laboratorios logran acordar estándares comunes de seguridad antes de que salgan a la luz los próximos modelos de frontera.