El mayor experto del mundo en identificar deepfakes tiene un gran problema. Ya no es capaz de identificarlos

Se llama Hany Farid y es considerado como uno de los mayores expertos en vídeos falsos (deefakes) del mundo. Este experto forense digital era capaz de destapar por ejemplo vídeos manipulados por los gobiernos, pero ahora ha decidido abandonar Silicon Valley por una sencilla razón: ya no es capaz de diferenciar los reales de los que se están generando con herramientas de IA. Y no nos extraña.

Deepfakes indistinguibles de la realidad. En las últimas dos décadas Farid, de 60 años, se ha especializado en esa identificación de vídeos falsos. Este catedrático de la Universidad de California en Berkeley ha confesado que los avances en IA generativa ha hecho que los métodos tradicionales de detección ya no sirvan de nada. Sus conclusiones confirman la sensación que llevamos teniendo desde hace tiempo con este tipo de contenidos: la IA ha avanzado tanto que el problema ya no solo son los deepfakes: es que desconfiamos incluso de las fotos reales.

La reputación de Farid le precede. Su padre trabajó durante 50 años como químico en Eastman Kodak, y Farid creció visitando a menudo la sala oscura, viendo cómo las fotos se convertían en fotos al ir pasando por los distintos líquidos. Acabó diseñando un sistema de «huellas digitales» que permitió detectar casos de pornografía infantil escondida en internet. De hecho, su tecnología ha hecho que se denuncien 30 millones de casos de potencial abuso cada año, además de llevar a cientos de arrestos y varios rescates. 

Me rindo. Ante la avalancha de deepfakes perfectos generados con IA, Farid ha decidido abandonar su trabajo para refugiarse en una granja en Vermont. Su rendición es la última demostración de una cruda realidad: ya no podemos fiarnos de lo que vemos en redes. Ahora se dedica a trabajar con la madera, y se ha apartado de las redes y la tecnología.

El misil que cambió todo. El punto de inflexión que demuestra esta crisis de esa tarea forense digital ocurrió tras la difusión viral de un vídeo en el que se mostraba el supuesto impacto de un misil estadounidense en una escuela de Irán. Farid dedicó un día entero a desglosar la secuencia fotograma a fotograma: analizó la geometría de las sombras, la tasa de retraso del sonido de la explosión según las leyes de la física o la longitud en píxeles del proyectil. 

Imposible decidir si es falso o no. No halló nada que pudiera probar que el vídeo era falso, y a otros especialistas les ocurrió lo mismo. Ninguno pudo emitir un veredicto claro de autenticidad, y eso dejó claro que la generación de vídeo con IA es actualmente tan avanzada que un contenido real es indistinguible de un deepfake generado con esos modelos de última generación.

Verificar es demasiado complicado. Hay otro problema aquí: generar un vídeo falso, sea tóxico o no, con voces clonadas que están perfectamente sincronizadas con el interlocutor es fácil, ràpido y barato. Realizar una investigación forense para tratar de detectar si el vídeo es real o no lleva horas de análisis computacional y directo por parte de los especialistas. Dado que los deepfakes logran viralizarse en apenas 20 minutos si tienen éxitos, los métodos para contener esa difusión no sirven por una sencilla razón: llegan tarde.

El cazador cazado. El propio investigador fue víctima de esta realidad: unos cibercriminales clonaron su número de teléfono y utilizaron una IA para generar su voz y así suplantar su identidad. Con ese clon, llamaron a un contacto cercano que estaba involucrado en un caso judicial y lograron extraer información confidencial. Farid y su esposa, investigadora del sentido de la visión en Berkeley, tuvieron que crear una palabra de seguridad secreta al inicio de cada llamada familiar para certificar que cada interlocutor era quien decía ser. La situación genera una paranoia y una desconfianza inquietantes.

«Me estoy quedando ciego». En el reportaje de The New York Times, Farid explicaba que sus estudios demuestran que la mayoría de la gente ya no puede diferenciar una foto real de una creada digitalmente. «Siento que me estoy quedando ciego», indicaba mostrando su preocupación por una IA que está logrando oscurecer la verdad y distorsionar la realidad. 

Marcas de agua como solución. Frente a esa avalancha de imágenes y vídeos generados por IA indistinguibles de la realidad, una de las potenciales formas de mitigar el problema sigue ganando fuerza. Se trata, cómo no, de las marcas de agua, totalmente invisibles y que forman parte de los metadatos de esos archivos. 

Dos iniciativas prometedoras. Hay varias iniciativas en este sentido, aunque la más destacable es la de la coalición C2PA en la que están por ejemplo Google y OpenAI. Las herramientas de IA deberían añadir esas marcas de agua identificando esos contenidos («Este vídeo ha sido generado con tal aplicación de IA, esta imagen ha sido generada o editada con esta otra»), pero de momento ese tipo de opción no se aplica por defecto. Otro proyecto importante en este sentido es SynthID, la tecnología de Google para «marcar» esos contenidos como creados con IA. 

Imagen | Bild (CC0)

En Xataka | Qué fue de Technicolor: evolución y muerte de la empresa que cambió el cine y fue arrollada por su ambición

–
La noticia

El mayor experto del mundo en identificar deepfakes tiene un gran problema. Ya no es capaz de identificarlos

fue publicada originalmente en

Xataka

por

Javier Pastor

.