El asistente de Meta arma fichas sobre tu pareja, tu familia y hasta tu plomero: qué hay detrás de esa memoria

¿Cómo hace un asistente de inteligencia artificial para acordarse de que a tu pareja le gustan las gardenias y no los tulipanes, o para identificar al plomero que te pasó un presupuesto el mes pasado? Eso fue, precisamente, lo que me llevó a seguir de cerca el hallazgo que hizo público Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial, sobre Muse, el agente de Meta. La respuesta tiene menos de mágico y más de cocina de fondo: el sistema va armando, en una especie de despensa virtual, fichas con datos de cada persona que aparece en tu vida digital.

Un recetario que se actualiza solo, cada hora

Para entenderlo mejor, pensalo como una cocina: el asistente tiene una alacena donde guarda ingredientes sueltos —preferencias, fechas, recuerdos de conversaciones— y, cada vez que aparece una persona en tu diálogo con él, prepara un plato nuevo con esos datos. Lo inquietante es la periodicidad. Joshi consiguió que el propio Muse le mostrara sus archivos de instrucciones mediante una consulta dentro de la conversación habitual. Ahí descubrió una rutina que se ejecuta cada sesenta minutos y que ordena al sistema actualizar perfiles de familiares, parejas, amistades, colegas e incluso cuentas que simplemente seguís en redes sociales.

Las instrucciones le piden al agente que trabaje con evidencia y que no rellene los perfiles con datos inventados. En la práctica, esos registros van incorporando progresivamente los antecedentes del vínculo, los intereses en común, los asuntos pendientes y hasta los desacuerdos anteriores. También pueden terminar guardando cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro compartidos y presupuestos pendientes, siempre y cuando haya información previa que respalde cada ítem en tus conversaciones o en tus conexiones.

Qué dice Meta y por qué los aludidos no tienen control

“Ese contexto ayuda al asistente a cumplir los objetivos de quien lo usa. La información procede de contenidos públicos y de lo que el usuario comparte.”Daniel Roberts, vocero de Meta

Roberts señaló que cada persona que usa Muse dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes. La empresa asegura, además, que existe un registro de auditoría para revisar la actividad del asistente, que se puede cortar la conexión con servicios externos y que el sistema pide confirmación antes de mandar un correo o hacer una compra. También afirma que el usuario puede borrar la memoria guardada.

• Las fichas se actualizan automáticamente cada hora con datos del entorno del usuario.
• Incluyen vínculos personales, intereses en común, pendientes y datos sensibles como fechas y ahorros.
• Meta afirma que los datos provienen de contenido público y de lo que comparte la persona usuaria.
• Solo quien instaló Muse puede revisar, modificar o borrar la memoria.
• Las personas registradas en esos perfiles no tienen acceso a controles sobre la información que el sistema guarda sobre ellas.

Qué se viene: a dónde apunta el debate regulatorio

El hallazgo de Joshi vuelve a poner sobre la mesa un debate que en la próxima campaña electoral y en los próximos períodos legislativos probablemente se discuta con más fuerza: quién es dueño de los datos que un modelo de inteligencia artificial infiere sobre terceros a partir de la actividad de una sola persona. Por ahora, la pelota está del lado de Meta y de cada usuario. Lo que sabremos en los próximos meses es si la empresa abre esos registros a quienes aparecen mencionados, si los reguladores europeos o norteamericanos exigen cambios y si los propios asistentes empiezan a advertir, de manera visible, que están armando un perfil de alguien que no pidió ser fichado.