Esta IA puede detectar los deepfakes analizando los ojos

Científicos informáticos de la Universidad de Buffalo han desarrollado una herramienta de inteligencia artificial que utiliza una interesante dinámica para detectar deepfakes.

Esta herramienta ha logrado gran precisión en fotos de estilo retrato siguiendo un solo patrón: analizar la luz reflejada en los ojos.



Tal como mencionan los informáticos en el documento que comparten, esta herramienta analiza el reflejo en las córneas para buscar patrones similares en los dos ojos. Cuando tomamos una foto en un plano corto, el reflejo captado en los ojos es similar ya que están enfocados en una misma escena, pero el caso de los retratos generados por GAN (Redes Generativas Antagónicas) hay grandes discrepancias.

Nuestro método extrae y alinea automáticamente los reflejos especulares de la córnea de dos ojos y compara su similitud. Nuestros experimentos muestran que existe una clara separación entre la distribución de las puntuaciones de similitud de las caras real y sintetizada por GAN, que se puede utilizar como una característica cuantitativa para diferenciarlas.

Si damos un vistazo a las imágenes que se comparten en el documento, veremos que los rostros generados por GAN no logran crear el mismo patrón de reflejos en los dos ojos. Una deficiencia que puede deberse a que necesita combinar múltiples fotografías para generar un nuevo rostro, así que el reflejo no puede representar el mismo escenario

Una razón fundamental de la existencia de tales artefactos globales y semánticos en los rostros sintetizados por GAN se debe a su falta de comprensión de la anatomía del rostro humano

Así que esta herramienta de inteligencia artificial se concentra en buscar estas inconsistencias en las fotos de estilo de retrato y le asigna una puntuación. Más baja es la puntuación, más probabilidades de que se trate de un deepfake.

Si bien esta herramienta logró una alta efectividad en fotos de retrato, aún tiene algunas limitaciones y varios desafíos por superar. Sin embargo, sus creadores seguirán trabajando en este IA para perfeccionar su sistema y mejorar su efectividad teniendo en cuenta diferentes contextos.

Fuente: Link