McAfee presenta una herramienta impulsada por IA para detectar 'deepfakes' de audio

La firma de ciberseguridad ha recordado que las herramientas de IA generativa son «cada vez más sofisticadas y accesibles», motivo por el que los ciberdelincuentes han desarrollado «estafas muy convincentes», según una nota de prensa.

Uno de los engaños más habituales en la actualidad es el 'deepfake' de audio, un formato que permite a los actores maliciosos manipular voces y sonidos para hacerlos pasar como reales y engañar tanto a personas como a algoritmos del sistema.

Esto preocupa a la gran mayoría de los usuarios de internet (un 84 por ciento en el caso de los estadounidenses, según datos de una encuesta realizada por McAfee). De hecho, más de un tercio aseguran que ellos o alguien que conocen habían visto o experimentado una estafa de este tipo, donde el objetivo principal son los jóvenes de entre 18 y 34 años.

Con el objetivo de mermar las campañas de 'deepfake' y su impacto, el equipo de desarrollo de McAfee Labs ha creado Proyecto Mockingbird, una herramienta de detección impulsada por IA que permitirá a los usuarios «discernir entre lo que es real y lo que es falso».

Este sistema, que tiene una tasa de precisión del 90 por ciento, emplea una combinación de modelos de detección contextuales, conductuales y categóricos para identificar si el audio del vídeo es obra de la IA generativa.

McAfee ha apuntado que gracias a esta herramienta, por ejemplo, los usuarios podrán asegurarse de que no están ante estafas «falsas y baratas» en las que se emplea la imagen de una persona famosa, o ante discursos fraudulentos de candidatos presidenciales.

Por último, ha insicado que las primeras demostraciones públicas de Proyecto Mockingbird se están llevando a cabo en el marco del CES 2024, que se celebra estos días en Las Vegas (Estados Unidos).