Avances en la Detección y Prevención de Estafas con IA
Google ha implementado una estrategia agresiva para combatir la proliferación de anuncios fraudulentos y estafas, utilizando Inteligencia Artificial (IA) para bloquear más de 5,100 millones de anuncios que violaban sus políticas en 2024. Este avance representa un esfuerzo significativo para proteger a los usuarios y mantener la integridad de su plataforma publicitaria.
El Ads Safety Report 2024 de Google revela que los Modelos de Lenguaje Grande (LLMs) han revolucionado la forma en que se detectan y previenen los anuncios maliciosos. Estos modelos avanzados permiten a Google identificar patrones de abuso, distinguir negocios legítimos de estafas y optimizar la revisión del contenido con una eficiencia sin precedentes.
Alex Rodríguez, gerente general de Ads Safety de Google, explicó que los nuevos LLMs requieren “solo una fracción de la información que requerían modelos anteriores para reconocer amenazas, identificar patrones de abuso y distinguir negocios legítimos de estafas”. Esta mejora en la eficiencia permite a los equipos humanos enfocarse en problemas más complejos y garantizar una revisión más profunda de las amenazas emergentes.
Las mejoras impulsadas por la IA no solo optimizaron la revisión de contenido, sino que también permitieron a los equipos humanos enfocarse en problemas más complejos. Un ejemplo fue la aplicación de IA en la moderación de publicadores, asegurando una mayor eficiencia y precisión en la identificación de contenido inapropiado.
“Nuestros modelos impulsados por IA contribuyeron a la detección y aplicación de políticas en el 97% de las páginas en las que tomamos acción el año pasado”, dijo Rodríguez. Esto resultó en la restricción de anuncios en 1,300 millones de páginas y acciones a nivel de sitio en más de 220,000 sitios web.
El Auge de los Deepfakes y la Respuesta de Google
Un desafío particular en 2024 fue el auge de anuncios que utilizaban deepfakes para personificar a figuras públicas y promocionar estafas. “Vimos un aumento significativo en anuncios que usaban imágenes o audio generados por IA para implicar respaldos de celebridades”, dijo Rodríguez. Este tipo de fraude se ha vuelto cada vez más sofisticado y difícil de detectar.
Google respondió con un equipo dedicado de más de 100 expertos y actualizó su política de tergiversación para suspender a los infractores. Estas medidas llevaron a la suspensión permanente de 700,000 cuentas y una reducción del 90% en informes de este tipo de estafas.
La compañía también bloqueó o eliminó 415 millones de anuncios y suspendió más de 5 millones de cuentas por violaciones relacionadas con estafas. Rodríguez enfatizó la importancia de la colaboración internacional:
“Los estafadores comparten tácticas entre sí, por eso lanzamos el Global Signal Exchange con la Global Anti-Scam Alliance para intercambiar inteligencia y combatir el fraude de manera coordinada”, dijo.
Garantizando la Transparencia en las Elecciones
Con más de 50% de la población mundial participando en elecciones durante 2024, Google reforzó sus medidas para garantizar la transparencia en la publicidad política. La compañía se ha convertido en pionera al exigir divulgaciones para contenido generado por IA en anuncios electorales, asegurando que los usuarios sepan si un anuncio fue creado con herramientas de inteligencia artificial.
“Fuimos la primera compañía en exigir divulgaciones para contenido generado por IA en anuncios electorales”, dijo Rodríguez.
La plataforma verificó a más de 8,900 nuevos anunciantes políticos y eliminó 10.7 millones de anuncios no verificados. También aplicó políticas contra afirmaciones falsas en campañas, asegurando que los usuarios sepan si un anuncio es legítimo.
Preguntas y Respuestas Clave
- ¿Cuántos anuncios bloqueó Google en 2024? Más de 5,100 millones.
- ¿Qué tipo de tecnología se utilizó? Modelos de Lenguaje Grande (LLMs) impulsados por Inteligencia Artificial.
- ¿Cuál fue el principal desafío detectado? El uso de deepfakes para promocionar estafas y falsificar respaldos de celebridades.
- ¿Cuántas cuentas fueron suspendidas? Más de 5 millones.
- ¿Qué medidas se tomaron contra los deepfakes? Se bloquearon o eliminaron 415 millones de anuncios y se suspendieron más de 5 millones de cuentas.
- ¿Qué tipo de colaboración se está llevando a cabo? Se utiliza el Global Signal Exchange con la Global Anti-Scam Alliance para intercambiar inteligencia y combatir el fraude de manera coordinada.
