Meta ha encontrado una forma nueva de colar material de abuso infantil en sus plataformas, y no pasa por subir el contenido: pasa por los anuncios. La compañía anunció el 7 de octubre que ha desplegado nuevas herramientas de IA para detectar anuncios que parecen inofensivos pero llevan a material de abuso sexual infantil alojado fuera de Facebook e Instagram. Lo adelantó TechCrunch.
El anuncio viene con una cifra que da escalofríos: 33,2 millones de piezas de explotación sexual infantil retiradas en seis meses.
Puntos clave
- Volumen: entre enero y junio de 2026, Meta actuó sobre 33,2 millones de piezas de explotación sexual infantil en Facebook e Instagram. Más del 97% las encontraron sus sistemas antes de que nadie las denunciara.
- India, aparte: 5,3 millones de piezas en el mismo periodo, con más del 98% detectadas de forma proactiva. El comunicado sale del newsroom de Meta India, y por eso da el desglose.
- La táctica nueva: anuncios que no contienen nada ilegal, pero funcionan como señal o puerta hacia webs externas con ese material. Meta lo llama "signposting".
- La respuesta: un sistema basado en un modelo de lenguaje grande (LLM) para detectar esos anuncios, y una revisión que mira adónde lleva el anuncio, no solo lo que enseña.
¿Qué es el signposting en los anuncios de Meta?
Es un anuncio que, visto solo, no tiene nada raro. Ni imágenes ilegales ni texto explícito. Su trabajo es otro: señalar el camino hacia material de abuso que vive en otra web, fuera del alcance de los filtros de Meta.
Meta lo describe como contenido "aparentemente benigno" del que hay fuertes sospechas de que dirige de forma encubierta a contenido ilegal o actividad dañina. Y dice que es una táctica que ha visto crecer hace poco, a medida que los depredadores cambian de método para esquivar la detección.
El problema para un sistema de moderación clásico es evidente. Si el filtro solo analiza la imagen y el texto del anuncio, este pasa limpio. La parte ilegal está a un clic, en un dominio que el filtro nunca abre.
Qué ha cambiado en la revisión de anuncios
Según el comunicado, Meta empezó por los anuncios que le denunciaron. Cuando entendió cómo estaba montado el esquema, amplió la investigación para buscar actividad relacionada en todas sus plataformas, desactivó las cuentas detrás y bloqueó los enlaces externos implicados.
Después desplegó cinco medidas:
1. Detección con un LLM del signposting de material de explotación sexual infantil. 2. Entender adónde lleva cada anuncio, no solo lo que muestra. Con eso puede bloquear destinos que incumplen sus normas y actuar contra las cuentas responsables. 3. Barridos adicionales con IA sobre el contenido de los anuncios para sacar material que los sistemas anteriores no pillaron. Meta dice que irá añadiendo señales según avance la investigación. 4. Un agente de IA de red-teaming que ataca las defensas de la propia Meta para encontrar huecos antes que los delincuentes. Red-teaming es el término de seguridad para "ponte en el papel del atacante y rompe el sistema". 5. Mejor detección de reincidentes, la gente que vuelve con una cuenta nueva después de que les borren la anterior.
Lo del agente de red-teaming es lo más interesante desde el punto de vista técnico. Es IA usada para buscar los fallos de otra IA, en un terreno donde el adversario cambia de táctica cada pocas semanas. Meta no da detalles de cómo funciona ni de qué ha encontrado hasta ahora.
La tecnología que ya había
Nada de esto sustituye a lo que Meta ya usaba. El comunicado repasa las capas que llevan años funcionando:
- PhotoDNA y otras tecnologías de coincidencia de imagen y vídeo, en todas las apps de Meta desde 2011. Detectan copias idénticas o casi idénticas de material de abuso ya conocido. Meta mantiene una de las mayores bases de datos de huellas (hashes) del sector y las comparte con otras empresas a través del programa Lantern de la Tech Coalition.
- Señales de comportamiento: combinaciones de metadatos y patrones de uso que delatan cuentas sospechosas.
- Bloqueo de enlaces: cuando una web externa queda bloqueada, Meta busca y borra los anuncios, posts y comentarios que la enlazan, y los anuncios nuevos con ese enlace se rechazan al subirlos. Aplica a Facebook, Instagram y Threads.
- Reglas heurísticas que mezclan clasificadores automáticos, modelos de IA y otras señales para cazar patrones nuevos a escala.
Todo el material que detectan estas herramientas se denuncia a las autoridades con ayuda del National Center for Missing & Exploited Children (NCMEC), el centro estadounidense que canaliza estos casos. En septiembre, Meta empezó además a reportar casos directamente al portal nacional de ciberdelitos de India.
El contexto: Meta, bajo presión por los menores
El anuncio no llega en el vacío. Meta lleva meses acumulando demandas y críticas por cómo protege a los menores en sus apps. TechCrunch recuerda que en agosto la compañía acordó pagar hasta 18.000 millones de dólares para cerrar una demanda de seguridad infantil de 29 estados de EE. UU.
Ese mismo mes, un jurado de Nuevo México condenó a Meta a pagar otros 567 millones y le obligó a cambiar funciones de Instagram para menores. Y en julio la empresa anunció que avisaría a los padres si un adolescente habla de autolesiones con Meta AI.
Este año también han llegado controles parentales para Meta AI, cuentas para preadolescentes en WhatsApp y, en septiembre, más controles para que los padres limiten cómo usan sus hijos los Canales y los grupos de WhatsApp.
Conviene leer las cifras con algo de distancia. Que el 97% se detecte antes de cualquier denuncia dice mucho de los sistemas automáticos, pero no dice cuánto material no se detecta nunca. Ese número, por definición, no aparece en ningún informe.
Por qué importa
Para cualquiera que use Instagram o Facebook, el cambio es invisible. Para una empresa que invierte en anuncios de Meta, puede que no tanto.
Si la revisión de anuncios empieza a analizar en serio adónde lleva cada enlace, la landing pasa a formar parte del anuncio. Meta no ha dicho nada de falsos positivos ni de retrasos en la aprobación, pero cualquier sistema que añade un filtro con IA acaba rechazando por error algún anuncio legítimo. Si gestionas campañas, merece la pena vigilar en las próximas semanas si sube la tasa de rechazos o el tiempo de revisión, y tener a mano la vía de apelación.
Y hay una lección de fondo que vale para cualquier empresa que modere contenido, aunque sean reseñas o comentarios: revisar solo lo que se ve ya no basta. El contenido peligroso aprendió a esconderse detrás de un enlace. Meta ha tardado en verlo, y su respuesta es poner un modelo de lenguaje a seguir ese enlace.
Fuente original: Meta
Relacionado
