Meta AI sugirió a una usuaria de Instagram que preguntara quién era la niña que aparecía en su propio vídeo, y después reconstruyó un perfil de sus dos hijas con años de publicaciones familiares. Meta dice que ya lo ha arreglado y que la función "nunca debería haber planteado esas preguntas", según recogió Quartz.
Puntos clave
- Kalie Robins, usuaria de Instagram en Utah, publicó un vídeo en coche con una de sus hijas y lo cruzó a Facebook.
- Al volver a la publicación, Meta AI le ofrecía una sugerencia de pregunta: "¿Quién es la niña pasajera?".
- El sistema identificó a la hija del vídeo y también a una segunda hija que no aparecía.
- Lo hizo agregando años de contenido publicado en plataformas de Meta, buena parte subido por familiares, abuelos incluidos.
- También sugirió preguntar por la edad de las niñas y por dónde vive la familia.
- La portavoz Dina El-Kassaby reconoció que Meta "no dio en el clavo" y dice que el fallo está corregido.
Lo que falló no fue el reconocimiento facial
Conviene separar dos cosas, porque se están mezclando en la cobertura.
La capacidad de cruzar una cara con años de fotos familiares no es un fallo. Es el producto. Meta lleva desde 2010 construyendo un grafo social con esa información, y buena parte la subieron los propios familiares sin pensar en esto.
Lo que falló es el criterio de la sugerencia. El sistema decidió, por su cuenta, que "identificar a la menor que aparece en la foto" era una pregunta útil que ofrecer sin que nadie la pidiera. Esa es la diferencia entre una capacidad y una invitación.
Y la segunda hija es el dato que hace la historia. No estaba en el vídeo. El modelo la trajo del histórico.
La respuesta de Meta
La portavoz Dina El-Kassaby lo resumió en tres palabras: "missed the mark". Dice que la función nunca debería haber planteado preguntas así y que la empresa ha corregido el problema que hacía que Meta AI sugiriese temas personales.
El arreglo es sobre las sugerencias, no sobre la capacidad. Si un usuario pregunta directamente, el sistema sigue teniendo el mismo grafo detrás.
El papel de los abuelos en esta historia
Hay un detalle que se pasa por alto y que es el más incómodo para cualquier padre.
Robins no había publicado a sus hijas de forma masiva. Buena parte del material con el que Meta AI montó el perfil lo subieron familiares, abuelos incluidos, a lo largo de años. Gente que compartía fotos de sus nietas en su propio muro sin pensar que estaban alimentando un índice.
Eso rompe el consejo habitual sobre privacidad de menores, que siempre va dirigido a los padres. Puedes no publicar una sola foto de tus hijos y que el sistema los conozca igual, porque el resto de la familia sí publicó.
Y no hay forma práctica de auditarlo. Nadie puede revisar quince años de publicaciones de sus tíos y sus abuelos para ver qué información sobre sus hijos hay ahí dentro.
Una semana mala para Meta en Europa
El episodio llega mientras Europa abre otro frente sobre las gafas inteligentes de Meta y su capacidad de grabar a terceros sin aviso claro, un debate que France 24 tituló esta semana con la palabra "pervert".
Y llega también dos días después de que Meta alcanzara el número dos de la App Store con Muse, su nueva app de IA. El producto crece rápido y los controles no van al mismo ritmo.
La reseña de The Verge sobre Muse esta semana iba por ahí: la herramienta funciona bien y precisamente por eso incomoda.
Por qué importa
Si tu empresa despliega IA sobre datos de clientes, este caso vale más que un curso de cumplimiento normativo.
El fallo no fue de acceso. Meta tenía derecho a esos datos, los usuarios los subieron a sus plataformas. El fallo fue de iniciativa: el sistema propuso un uso que nadie había pedido y que a cualquier persona le parece mal en cuanto lo ve.
Eso es lo que hay que revisar en un despliegue propio. No solo qué datos puede tocar el modelo, sino qué está autorizado a sugerir por su cuenta. Un asistente interno con acceso al CRM puede tener permiso técnico para cruzar el historial de un cliente con su actividad en redes, y seguir siendo una idea pésima ofrecerlo como sugerencia.
La pregunta de control no es "¿puede?". Es "¿lo ha pedido alguien?".
Fuente original: qz.com
Relacionado
