Bashayer Al-Salami, investigadora emiratí especializada en ciberseguridad, ha desarrollado una plataforma que utiliza inteligencia artificial para detectar la manipulación digital en imágenes, vídeos y audios, ante los crecientes riesgos de las tecnologías "deepfakes" y su uso cada vez mayor en la producción de contenido difícil de verificar en plataformas digitales y redes sociales.
La investigadora Bashayer Al-Salami diseñó una plataforma llamada "Deepy" como parte de un proyecto de investigación que realizó durante sus estudios de maestría en la Universidad Zayed.
El proyecto se centró en las amenazas digitales modernas y el rápido desarrollo de herramientas de manipulación de contenido basadas en inteligencia artificial, en un momento en que las tecnologías modernas son capaces de producir imágenes, videos y clips de audio tan realistas que pueden superar la capacidad de detección del usuario promedio.
Al-Salami declaró a Emirates Today que el desarrollo de la inteligencia artificial ha creado nuevos desafíos digitales, sobre todo los "deepfakes", que permiten modificar imágenes, videos y audios de forma imperceptible para el espectador, lo que dificulta cada vez más distinguir entre contenido real y alterado digitalmente.
La investigadora explicó que la plataforma Deepy funciona analizando los archivos subidos por los usuarios y emitiendo una evaluación de la fiabilidad del contenido, señalando la posibilidad de que se utilicen herramientas de inteligencia artificial para manipular el material digital.
Bashayer añadió que la plataforma se basa en algoritmos avanzados para analizar imágenes, vídeos y clips de audio, examinando indicadores técnicos dentro del propio archivo digital. Estos indicadores incluyen patrones de píxeles, variaciones de iluminación y distorsiones relacionadas con el movimiento o el sonido; detalles que pueden no ser evidentes durante la visualización o escucha normales.
Asimismo, señaló que el proceso de detección no se basa en un único indicador, sino en un conjunto de marcadores técnicos precisos, que incluyen inconsistencias en los movimientos de los labios o las expresiones faciales, variaciones antinaturales en las sombras y la iluminación, y distorsiones sutiles a nivel de fotograma o píxel, además de las "huellas digitales" que dejan los algoritmos de generación de contenido de imagen y audio.
Al-Salami explicó que la plataforma se basa en modelos de "aprendizaje profundo" entrenados con miles de muestras de contenido real y manipulado, lo que le permite reconocer y detectar patrones de manipulación digital en etapas tempranas.
Al-Salami, declaró que la plataforma “Deepy" está dirigida a diversas entidades y sectores cuyo trabajo depende de la verificación de la autenticidad del contenido digital, incluyendo agencias gubernamentales y de seguridad, medios de comunicación y periodistas, así como empresas y entidades relacionadas con la seguridad digital y las redes sociales.
Asimismo, reveló que se está trabajando en el desarrollo de versiones personalizadas para usuarios individuales, que permitirán a cualquier persona verificar imágenes o videos antes de compartirlos o difundirlos, un paso que busca ampliar el uso de herramientas de verificación digital más allá de las instituciones especializadas.