• A pesar del aumento de contenido manipulado digitalmente, la región carece de marcos legales efectivos y tecnologías suficientemente difundidas para enfrentar los riesgos democráticos, financieros y sociales de los deepfakes.
• El Dr. Francisco José Adán Castaño, docente de la Maestría Oficial en Derecho Digital y de la Ciberseguridad de la Universidad Internacional de Valencia - VIU, perteneciente a la red internacional de educación superior Planeta Formación y Universidades, analiza el panorama ante la persistente amenaza de los deepfakes en la región.

La preocupación por los deepfakes crece en América Latina. Según un reciente informe de la plataforma Kapwing, Argentina lidera el interés regional en esta tecnología, seguido por Chile, Perú y Colombia, con 481, 337 y 141 búsquedas mensuales respectivamente relacionadas con deepfakes.

Hay una conciencia sobre el uso malicioso de esta herramienta digital, que se basa en inteligencia artificial para crear videos o audios falsos que simulan ser reales. No obstante, la acción regulatoria y técnica avanza a un ritmo mucho más lento, afectando a diferentes sectores de la sociedad, según explica el Dr. Francisco José Adán Castaño, abogado y docente de la Maestría Oficial en Derecho Digital y de la Ciberseguridad de la Universidad Internacional de Valencia - VIU, perteneciente a la red internacional de educación superior Planeta Formación y Universidades.

«Los políticos son probablemente los más perjudicados en este tema. Videos falsos de candidatos diciendo cosas que nunca dijeron justo antes de unas elecciones… Es una pesadilla para la democracia», alerta el experto de VIU. «En el sector empresarial y financiero también están teniendo problemas serios. No son extraños los casos de estafadores que usan deepfakes de voz para hacerse pasar por CEOs y autorizar transferencias millonarias».

Una legislación digital que va rezagada

El avance tecnológico de los deepfakes contrasta con la lentitud de los marcos regulatorios en América Latina. Los sistemas judiciales deben improvisar con normativas de difamación o fraude, que no siempre resultan eficaces. Además, la transnacionalidad del entorno digital complica aún más la aplicabilidad legal.

«Las leyes van muy lentas comparado con la tecnología», anota el Dr. Francisco Adán Cataño, quien también es experto en IA y Propiedad Intelectual. «Muchos países ni siquiera tienen leyes específicas para los deepfakes. Internet no tiene fronteras. ¿Qué ley se aplica, la de dónde se hizo, dónde se subió, o dónde se vio?”.

A esta debilidad normativa se suma la falta de formación técnica en las autoridades responsables. Los policías o jueces muchas veces no están suficientemente capacitados para asuntos tecnológicos habituales, y a lahora de entender y descifrar el tema de las deepfakes,la falta de capacitación técnica queda en evidencia.

La tecnología vs. la tecnología

El avance de los deepfakes ha dado origen a una verdadera carrera armamentística entre creadores y detectores, donde el machine learning se erige como centro. Se entrenan con miles de videos reales y falsos para sofisticar la capacidad de detección.

Es, como indica el experto en Propiedad Intelectual, Privacidad y Nuevas Tecnologías, un juego del gato y el ratón, donde con cada mejora de los detectores se sofistican más los deepfakes.

Hoy existen algoritmos de detección que identifican anomalías invisibles al ojo humano, como patrones de parpadeo o distorsiones en la luz facial. El machine learning es clave en esta tarea, entrenando sistemas con miles de videos reales y falsos para distinguir patrones.

La autenticación blockchain es otra línea prometedora que permitiría que, al crearse un video, quede registrado de tal manera que sea inalterable, para que cualquier tipo de modificación quede en evidencia. Y si se habla de audio, el análisis podrá basarse en los patrones vocales, pausas y respiración.

Soluciones compartidas para combatir los deepfakes

• El problema de los deepfakes no tiene una solución única. Requiere una acción coordinada entre gobiernos, empresas tecnológicas, desarrolladores, plataformas y sociedad civil.

• «Los gobiernos necesitan hacer leyes que tengan sentido y que se puedan aplicar en la realidad, no solo en el papel», recalca el experto. «También necesitan capacitar a su gente y cooperar internacionalmente porque esto trasciende fronteras».

• El vocero de VIU también enfatiza el papel de las plataformas digitales. Redes como Facebook, TikTok, YouTube necesitan hacer una inversión para detectar y eliminar deepfakes maliciosos, dejando a un lado la neutralidad. Y la responsabilidad de los usuarios de dichas redes también entraría a aportar en este panorama.

• «La sociedad civil tiene un papel importante», señala. «Los medios de verificación de hechos están haciendo un buen trabajo, pero necesitamos más. También necesitamos que las universidades investiguen más sobre detección y que haya más programas educativos sobre alfabetización digital».

La tecnología que dio origen al problema también puede ser parte de la solución. Pero sin marcos legales adecuados y una conciencia crítica extendida en la región, América Latina podría quedar expuesta a un futuro en el que ya no se pueda distinguir lo verdadero de lo falso.