Meta lanza nuevas herramientas de IA para detectar anuncios que dirigen secretamente a material ilegal de abuso infantil
Meta anunció el miércoles que tomó medidas contra 33.2 millones de elementos de material de explotación sexual infantil en Facebook e Instagram durante la primera mitad del año 2026. Esta acción forma parte de una estrategia más amplia para combatir contenido ilegal en sus plataformas, especialmente aquel que se oculta detrás de anuncios aparentemente inocuos.
La empresa indicó que más del 97 % del contenido detectado fue identificado por sus sistemas antes de que los usuarios lo reportaran. En la India, Meta actuó contra 5.3 millones de casos similares durante el mismo periodo, con un índice de detección previa superior al 98 %. Estos datos reflejan el creciente uso de tecnologías avanzadas para prevenir y eliminar contenido dañino.
En paralelo, Meta está implementando nuevas herramientas basadas en inteligencia artificial para localizar anuncios y cuentas que podrían estar siendo utilizadas para dirigir a usuarios hacia material ilegal fuera de sus plataformas. Este tipo de conducta representa una evolución en las tácticas de los malos actores, quienes buscan evitar la detección mediante métodos más sutiles.
Una de las principales novedades es el uso de un nuevo modelo de lenguaje grande (LLM) para detectar lo que la compañía denomina «señalización» o «signposting». Se trata de anuncios que parecen normales pero que están diseñados para redirigir a usuarios hacia sitios web hostales de contenido ilegal. Aunque los anuncios en sí no contengan material prohibido, su función es servir como puerta de entrada a otras plataformas donde sí se encuentra este tipo de contenido.
Para abordar esta problemática, Meta ahora evalúa no solo el contenido de los anuncios, sino también a dónde estos los llevan. Esta nueva metodología permite bloquear sitios web y otras direcciones que violan las políticas de la empresa, además de tomar acciones contra las cuentas responsables de publicar dichos anuncios.
Además, Meta ha desarrollado escaneos adicionales impulsados por IA para encontrar material de explotación infantil que anteriormente pudo haber pasado desapercibido. La compañía reconoce que debe seguir mejorando sus sistemas a medida que comprende mejor cómo operan estas redes ilegales y cómo se adaptan a las nuevas medidas de seguridad.
Otra innovación clave es el uso de un «agente de IA de prueba roja» (red-teaming AI agent), que simula comportamientos de usuarios malintencionados para identificar debilidades en los mecanismos de protección de Meta. Esta herramienta ayuda a anticipar nuevas formas de abuso antes de que se vuelvan comunes, fortaleciendo así la capacidad de respuesta ante amenazas emergentes.
Estas nuevas medidas llegan en medio de una creciente presión sobre Meta por la seguridad de los menores en sus plataformas. La empresa ha enfrentado múltiples demandas legales y críticas por parte de legisladores, quienes expresan preocupación por los riesgos asociados al uso de redes sociales por parte de niños y adolescentes.
En agosto, Meta acordó pagar hasta 18 mil millones de dólares para resolver una demanda relacionada con la protección de menores en línea, involucrando a 29 estados de Estados Unidos. Esta solución refleja el compromiso de la empresa con mejorar la seguridad digital de los usuarios jóvenes.
Este año, Meta ha introducido varias funciones enfocadas en la protección infantil, entre ellas controles parentales para Meta AI, cuentas específicas para preadolescentes en WhatsApp, y alertas para padres cuando sus hijos buscan contenido relacionado con automutilación en Instagram. En septiembre, WhatsApp añadió nuevas herramientas para padres, permitiéndoles restringir el uso de canales por parte de adolescentes, controlar quién puede ver sus actualizaciones de estado y decidir quién puede agregar a sus hijos a grupos.
Traducción y adaptación por Tecnología 365.
Fuente original: TechCrunch