¿Por qué una IA le preguntó a una madre quién era el chico que viajaba con ella en el auto?

¿Puede una inteligencia artificial sacarse sola una pregunta sobre tu hijo mientras mirás un video? Sí, le pasó a una usuaria de Instagram y la respuesta de Meta fue tajante: no debería haber ocurrido. La empresa reconoció el error y salió a ajustar su chatbot para que no vuelva a convertir un posteo cotidiano en un interrogatorio sobre la vida familiar.

El video que destapó todo

Todo empezó con una escena simple: una mujer cantando con su hijo dentro del auto, filmada con el celular y subida a Instagram. Debajo de la publicación, el asistente de inteligencia artificial de Meta le ofreció como sugerencia automática la pregunta "¿Quién es el niño pasajero?". Al tocarla, el sistema empezó a devolver información sobre sus hijas, con datos sobre la edad y el lugar donde vive la familia, y hasta mostró fotos ya publicadas en la plataforma, incluida una que la usuaria asegura haber borrado hacía años.

Para entender lo que pasó hay que pensar en cómo funciona este asistente: es como un cocinero muy rápido que tiene todos los ingredientes de la heladera a la vista y los mezcla en tiempo de servido. La idea original era buena: ayudar a quien está mirando una publicación a entender mejor qué tiene enfrente. El problema fue que el cocinero agarró ingredientes que eran personales, los revolvió sin pedir permiso y sirvió un plato que nadie había pedido.

Dina El-Kassaby, portavoz de Meta, fue la encargada de admitir el traspié. "Nos equivocamos. Esa función nunca debería haber sugerido ese tipo de preguntas al usuario", reconoció ante la prensa. Y aclaró un punto clave para entender el alcance del fallo: la IA no entró a ningún contenido privado al que la persona que consulta no pudiera acceder. Solo usó información que ya estaba visible para ella.

O sea, no se trató de un hackeo ni de una filtración: el material con el que se armaron las respuestas ya estaba ahí, al alcance de la cuenta que preguntó. Lo que falló fue el criterio con el que el sistema decidió qué cosas tenía sentido unir y qué cosas era mejor dejar en paz. Por eso Meta aseguró que el foco del arreglo no está en bloquear datos, sino en poner filtros para que la herramienta no cruce información personal ni familiar a la hora de proponer preguntas.

Un historial que pesa

El episodio se suma a otros roces recientes entre Meta y sus funciones de inteligencia artificial. En julio pasado, la compañía retiró una herramienta que permitía generar imágenes falsas de otros usuarios de Instagram tras recibir críticas por el mal uso que se hacía de ella. El patrón se repite: productos lanzados con ambición de innovación que después piden disculpas cuando la práctica choca con la vida cotidiana de la gente.

La próxima campaña de actualizaciones de Meta debería mostrar si los cambios anunciados alcanzan para que el asistente mantenga su utilidad a la hora de explorar publicaciones, pero sin volver a meterse donde no lo llaman. Por ahora, la empresa se compromete a que la sugerencia automática de preguntas derive en interrogatorios sobre hijos, edades o direcciones. La usuaria, en tanto, sigue esperando que la próxima vez que suba un video con su hijo la IA se limite a mirarlo en silencio.