La denuncia de las estudiantes de la Universidad Nacional de Asunción sobre violencia digital vuelve a poner sobre la mesa una cuestión que va más allá del avance tecnológico: ¿qué controles hacen falta para proteger la identidad, la intimidad y la imagen de las personas frente al uso malintencionado de la Inteligencia Artificial (IA)?
Según indicaron las víctimas, muchas de estas imágenes fueron tomadas de sus cuentas personales de redes sociales para luego subirlas a la web, otras fueron de contenido íntimo y en muchos otros casos, se llegaron a hacer montajes explícitos con IA, que luego se viralizaron a través de grupos de WhatsApp, Telegram e incluso Google Drive.
¿Qué son los deepfakes?
Estas imágenes explícitas generadas con IA se denominan deepfakes. Son contenidos digitales, ya sean fotografías, videos o audios, creados con inteligencia artificial para imitar a una persona real.
Esto se torna bastante grave ya que cada vez resulta más difícil distinguir lo real de lo que no es, y no es un caso que solo afecta a un grupo reducido de personas, sino que trae al tapete un problema real con el que debemos poder lidiar.
Una imagen generada artificialmente puede ser falsa, pero la vulneración de la intimidad, el miedo, el acoso y el daño que causa a la reputación son reales.
Debemos comprender que el problema no es la existencia de la tecnología, sino el uso que hacemos de ella. Analizar los alcances de nuestras decisiones y plantearnos qué mecanismos podemos utilizar para que no vuelva a suceder. ¿Cuáles son los controles que las instituciones deben realizar y qué alcances tienen para impedir que esto se repita?
La tecnología puede ser desarrollada por una empresa y supervisada por una autoridad, pero utilizarla con responsabilidad es parte del desafío de cada uno y nuestras instituciones también deben hacer parte de este proceso.