El avance de los deepfakes en América Latina plantea un riesgo creciente para la democracia, la seguridad financiera y la confianza social. Mientras la tecnología detrás de los contenidos falsificados por inteligencia artificial evoluciona velozmente, la región aún carece de marcos legales robustos y estrategias efectivas para combatir su mal uso.
Según un informe de Kapwing, Argentina, Chile, Perú y Colombia lideran el interés regional por esta tecnología, con cientos de búsquedas mensuales. Sin embargo, la creciente curiosidad también refleja una preocupación: la amenaza silenciosa de los videos y audios manipulados que imitan con precisión rostros y voces reales.
“El impacto de los deepfakes es devastador cuando se utilizan para desinformar o defraudar”, explica el Dr. Francisco José Adán Castaño, docente de la Maestría Oficial en Derecho Digital y Ciberseguridad de la Universidad Internacional de Valencia – VIU. “Hemos visto casos donde suplantan a políticos justo antes de elecciones o a ejecutivos para autorizar transferencias bancarias millonarias”.
Falta de regulación y preparación institucional
América Latina enfrenta este desafío sin herramientas legales adecuadas. Las leyes existentes, basadas en difamación o fraude, no siempre aplican a las nuevas formas de manipulación. Además, la naturaleza transnacional de internet dificulta la jurisdicción y el cumplimiento.
“Internet no conoce fronteras. ¿Cuál ley aplicamos: la del país donde se creó el contenido, donde se publicó o donde se visualizó?”, se pregunta el experto. A esto se suma la poca preparación técnica de jueces, fiscales y fuerzas del orden para identificar, comprender y actuar ante este tipo de delitos digitales.
Una carrera tecnológica contra los deepfakes
Mientras creadores de deepfakes perfeccionan sus técnicas, científicos desarrollan herramientas basadas en machine learning capaces de detectar distorsiones imperceptibles: parpadeos antinaturales, sombras inusuales o inconsistencias en la respiración y la voz.
El uso de tecnologías como la blockchain para certificar la autenticidad de los videos también emerge como solución. “Cada pieza audiovisual podría tener un sello digital inviolable. Si se altera, quedaría registrado”, añade Adán Castaño.
La solución no es solo técnica: exige cooperación
El especialista subraya que el combate a los deepfakes debe ser multidimensional: gobiernos que legislen con conocimiento técnico, plataformas digitales que inviertan en moderación activa y ciudadanos educados en alfabetización digital.
“Necesitamos leyes aplicables, cooperación internacional y un esfuerzo conjunto entre universidades, medios de verificación y desarrolladores”, enfatiza.
En definitiva, el mismo poder que dio origen al problema —la inteligencia artificial— puede ayudar a solucionarlo. Pero sin marcos legales sólidos y una cultura digital crítica, América Latina podría ser el escenario ideal para que la mentira digital tome el control del discurso público.
Discussion about this post