Meta combate los deepfakes con reconocimiento facial de celebridades

Meta ha lanzado una innovadora herramienta de reconocimiento facial para detectar anuncios fraudulentos que utilizan imágenes de celebridades en el Reino Unido, la Unión Europea y Corea del Sur. Esta medida busca proteger a los usuarios de estafas que emplean deepfakes para engañar y robar información personal.

Cuando una celebridad habilita la nueva función de Meta, la herramienta escanea su foto de perfil y la compara con rostros que aparezcan en anuncios sospechosos. Si se confirma el uso indebido, el anuncio es bloqueado automáticamente. Esta tecnología también se utilizará para ayudar a los usuarios a recuperar sus cuentas comprometidas mediante la verificación de identidad con un video selfie.

En enero de este año, una mujer francesa perdió todos sus ahorros tras ser engañada por un «Brad Pitt falso» creado con inteligencia artificial. Los estafadores la convencieron de que mantenía una relación amorosa virtual con la estrella de Hollywood. En otro caso, un hombre en Shanghai perdió más de 27,000 dólares tras ser engañado por una novia falsa generada por IA.

Los deepfakes son una amenaza creciente en el mundo digital. Una investigación de iProov reveló que solo el 0.1% de los participantes pudo distinguir con precisión el contenido real del falso en todos los estímulos presentados. Las generaciones mayores son las más vulnerables a caer en estas estafas, y las plataformas de redes sociales como Meta y TikTok son los lugares donde más se encuentran deepfakes en línea.

Meta también integrará el reconocimiento facial en sus herramientas de recuperación de cuentas. Los usuarios podrán verificar su identidad grabando un breve video si su cuenta está bloqueada. La empresa asegura que los datos faciales solo se usarán para este proceso de verificación y se eliminarán inmediatamente después.