¿Lo dijo de verdad o lo inventó la IA? El nuevo desafío de la política en la era de los deepfakes

Una imagen impactante, un audio comprometedor o un video de unos segundos pueden recorrer las redes sociales a una velocidad imparable. El problema es que, cada vez más, aparecen casos que son falsos: fueron creados con inteligencia artificial.

Los llamados «deepfakes» ya dejaron de ser una curiosidad tecnológica para convertirse en una herramienta capaz de alterar todo tipo de situaciones y también, el debate político. Con programas cada vez más sofisticados, hoy es posible generar videos en los que un dirigente parece decir frases que nunca pronunció o imágenes que muestran situaciones que jamás ocurrieron.

La facilidad para producir este tipo de contenido preocupa a especialistas en desinformación, que advierten que el mayor riesgo no es solo el engaño, sino la rapidez con la que estas publicaciones se viralizan. En muchos casos, cuando llega la desmentida, el contenido «fake» ya fue visto y compartido por millones de personas. No distingue ideologías ni países. Oficialismos, oposiciones, militantes y usuarios anónimos pueden utilizar estas herramientas para atacar, instalar rumores o desacreditar figuras públicas. Esto plantea un desafío, ¿cómo proteger el debate público sin limitar la libertad de expresión?

Las plataformas digitales y distintos gobiernos comenzaron a implementar mecanismos para identificar contenidos generados con IA, aunque todavía existe un debate sobre si esas medidas son suficientes frente al avance de una tecnología que evoluciona a un ritmo acelerado.

En este contexto, verificar la información antes de compartirla se vuelve más importante que nunca. La inteligencia artificial ofrece enormes oportunidades, pero también plantea una pregunta cada vez más difícil de responder: cuando vemos un video en redes sociales, ¿estamos viendo un hecho real o una creación digital diseñada para influir en nuestra opinión?

Por, Aileen Goldin.