La inteligencia artificial no solo permite crear imágenes, videos o perfiles falsos. También comienza a utilizarse para detectar ese tipo de contenido y ayudar a proteger la identidad y la reputación de las personas en internet. El objetivo del nuevo sistema credo por la empresa suiza especializada en ciberseguridad Umanitek, es identificar una suplantación, reunir pruebas y gestionar la eliminación de aquello que no pertenece al usuario.
Cristian Cieplik, quien traabaja con Umanitek desde Paraguay, explicó en entrevista con La Tribu 650 que la empresa trabaja con un sistema que rastrea información sobre una persona en redes sociales y foros de internet. Los hallazgos se concentran en un panel para identificar posibles amenazas digitales.
Borra automáticamente perfiles falsos
Entre los casos que puede detectar aparecen perfiles que se hacen pasar por otra persona, imágenes utilizadas sin autorización, publicaciones falsas y contenido generado o manipulado mediante inteligencia artificial. El proceso comienza con la detección de una cuenta o publicación sospechosa y continúa con la recopilación de pruebas.
Con esa evidencia se gestiona la baja ante la plataforma. La particularidad es que el procedimiento puede realizarse sin que una persona tenga que revisar manualmente cada caso. Según Cieplik, esto permite actuar con mayor rapidez ante contenidos que afectan la reputación de un usuario.
Como ejemplo, mencionó el caso del futbolista brasileño Neymar. Según el entrevistado, en un período de dos semanas fueron dadas de baja 500 cuentas falsas relacionadas con el deportista mediante este sistema, sin intervención humana. La herramienta incorpora la información obtenida en cada caso para mejorar la detección posterior.
Ya se comenzó a utilizar en Paraguay
El servicio, explicó, no está pensado únicamente para figuras públicas. Existen distintos niveles de monitoreo según cada usuario y, en Paraguay, afirmó que ya comenzaron a utilizar estas herramientas figuras públicas, candidatos y representantes de otros sectores.
Cieplik recordó que antes una persona podía depender de denuncias de otros usuarios para intentar cerrar una cuenta falsa. Ahora, sostuvo, los sistemas automatizados buscan aportar pruebas concretas sobre la suplantación y acelerar la respuesta de las plataformas.
El proceso contempla cuatro etapas: detección, recopilación de evidencia, gestión de la baja y aprendizaje a partir de cada caso. De esta manera, la misma tecnología que facilita la creación de contenido falso también comienza a emplearse para identificarlo, documentarlo y ayudar a retirarlo de circulación.