La IA de Meta se obsesionó con el nene del auto y la empresa tuvo que pedir perdón

A esta altura uno ya se había acostumbrado a que la tecnología nos arruine la vida en formas creativas. Pero la última de Meta amerita un párrafo aparte: el chatbot de inteligencia artificial integrado en Facebook e Instagram se mandó una sugerencias bastante creepy sobre los hijos de una usuaria a partir de un video familiar cualquiera.

Lo que pasó, en criollo

La usuaria publicó en Instagram un video cantando con su hijo adentro del auto. Hasta ahí, una escena tan cotidiana como un asado de domingo. El problema fue cuando el asistente de Meta, solito y sin que nadie le pidiera nada, sugirió automáticamente la pregunta: ¿quién es el niño pasajero?. Al picar ahí, el chatbot arrancó a escupir información sobre sus hijas, con edad y lugar de residencia incluidos.

Para sumar miga al asunto, la herramienta le mostró fotos de las pibas que la mujer aseguraba haber borrado hacía años. Según su testimonio, el sistema cruzó publicaciones propias con las de familiares para armar el álbum no solicitado.

“Nos equivocamos. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

Qué dice Meta y qué dice el sentido común

Acá la empresa aclara algo importante, o al menos lo intenta: según Meta, la IA no entró en contenido privado al que la usuaria no tuviera acceso. Es decir, no hackeó nada: se movió sobre información que ella misma ya podía ver en la plataforma. El problema no fue el acceso a datos prohibidos, sino cómo el sistema los leyó, los conectó y los transformó en preguntas íntimas.

• Meta sostiene que el asistente solo opera sobre información que el usuario ya puede ver en Facebook o Instagram.
• La función estaba pensada para dar contexto sobre publicaciones ajenas, no para radiografiar la vida familiar del consultante.
• El error fue aplicar esa lógica sobre datos personales sin los filtros adecuados.
• La empresa afirma que ya corrigió el comportamiento y trabaja para que las sugerencias no se desvíen hacia lo privado.

En julio pasado, Meta ya había retirado una función que permitía fabricar imágenes falsas de otros usuarios de Instagram, después de que la lapidaran en las redes. O sea, no es la primera vez que la compañía mete la pata con una herramienta de IA y tiene que salir a recoger los pedaços. Una se ríe, pero la verdad es que da algo de fiaca: uno sube una foto del cumple del nene y la IA te lo devuelve convertido en tema de debate periodístico.

El consejo de siempre, ahora con más razón

Mientras las big tech se ocupan de corregir estas metidas de pata, lo único que queda es extremar los cuidados con lo que se publica. Revisá la configuración de privacidad de tus cuentas, borrá lo que no quieras visible y pensá dos veces antes de aceptar que un asistente te tire sugerencias sobre tu familia. Si una IA te pregunta algo que vos no le preguntaste, lo más sensato es no responderle y reportar el comportamiento. La tecnología está buena cuando sirve; cuando se vuelve entrometida, no hay botón de mejor relación calidad-precio que la apague.