Los deepfakes se están utilizando para una variedad de propósitos nefastos, desde campañas de desinformación hasta insertar personas en la pornografía, y las imágenes manipuladas son cada vez más difíciles de detectar .
Una nueva herramienta de inteligencia artificial proporciona una forma sorprendentemente sencilla de detectarlos: mirar la luz reflejada en los ojos.
El sistema fue creado por científicos informáticos de la Universidad de Buffalo. En pruebas con fotos de estilo retrato, la herramienta fue 94% efectiva en la detección de imágenes Deepfake.
El sistema expone las falsificaciones analizando las córneas, que tienen una superficie similar a un espejo que genera patrones reflectantes cuando se iluminan con luz.
En una foto de un rostro real tomada con una cámara, el reflejo en los dos ojos será similar porque están viendo lo mismo. Pero las imágenes Deepfake sintetizadas por GAN generalmente no logran capturar con precisión esta semejanza.
En cambio, a menudo exhiben inconsistencias, como diferentes formas geométricas o ubicaciones no coincidentes de los reflejos.
Las córneas tienen diferencias mucho mayores en la imagen de Deepfake (derecha), probablemente porque se generan al combinar muchas fotos.
El sistema de inteligencia artificial busca estas discrepancias trazando un rostro y analizando la luz reflejada en cada globo ocular.
Genera una puntuación que sirve como métrica de similitud. Cuanto menor sea la puntuación, más probable es que el rostro sea un Deepfake.
El sistema demostró ser muy eficaz para detectar Deepfakes extraídos de This Person Does Not Exist , un repositorio de imágenes creadas con la arquitectura StyleGAN2 . Sin embargo, los autores del estudio reconocen que tiene varias limitaciones.
El defecto más obvio de la herramienta es que se basa en una fuente de luz reflejada en ambos ojos. Las inconsistencias en estos patrones se pueden corregir con el posprocesamiento manual, y si un ojo no es visible en la imagen, el método no funcionará.
Además, solo se ha demostrado su eficacia en imágenes de retrato. Si el rostro de la imagen no está mirando a la cámara, es probable que el sistema produzca falsos positivos.
Los investigadores planean investigar estos problemas para mejorar la efectividad de su método. En su forma actual, no detectará los Deepfakes más sofisticados, pero aún podría detectar muchos de los más crudos.
Puede leer el documento de estudio aquí en el servidor de preimpresión arXiv.