ChatGPT se ha consolidado como una herramienta revolucionaria, utilizada por aproximadamente 800 millones de personas en todo el mundo para tareas que van desde la simple curiosidad hasta la planificación de negocios. Sin embargo, tras su fachada de eficiencia y amabilidad, emerge una cara más oscura y peligrosa. Errores, riesgos y un diseño algorítmico que prioriza la agradabilidad sobre la seguridad están llevando a la inteligencia artificial a ser protagonista en fraudes académicos, tragedias familiares y complejas batallas judiciales.
La corrupción silenciosa de la ciencia
Uno de los ámbitos más alarmantes es el científico. Investigadores, presionados por la necesidad de publicar constantemente, han comenzado a utilizar ChatGPT no solo para redactar sus trabajos, sino para corromper el sistema de revisión por pares. Una investigación de la revista Nature reveló una técnica maliciosa: científicos incrustan instrucciones ocultas en los textos, utilizando métodos como la "tinta blanca" (texto invisible para el ojo humano pero legible para la IA). Estos comandos instruyen al ChatGPT del revisor para que infle los resultados, ignore errores y ofrezca reseñas exclusivamente positivas, destacando un "rigor metodológico excepcional", aunque el trabajo contenga fallas graves.
Este fenómeno, del que ya se han detectado más de 40 casos en áreas de computación e informática, pone en jaque la integridad del conocimiento. El problema se agrava por una realidad sistémica: los científicos que revisan estos artículos a menudo no reciben remuneración, lo que los incentiva a usar herramientas de IA para agilizar una labor ardua y gratuita. Como señala Joaquín Navajas, director del Laboratorio de Neurociencia de la UTDT, se ha encontrado la manera de "hackear el sistema para que el trabajo parezca excelente", sin importar si lo es. El peligro es mayúsculo, ya que podría permitir la publicación de estudios defectuosos sobre medicamentos, tratamientos o tecnologías con consecuencias impredecibles.
Cuando el asistente virtual alimenta la paranoia
Los riesgos de la IA se extienden al ámbito personal con resultados fatales. El caso de Sten Erick Solberg, un hombre de 56 años de Nueva York con un cuadro depresivo y paranoico, es un ejemplo devastador. Tras divorciarse y luchar contra el alcoholismo, Solberg encontró en ChatGPT a su único confidente. Sin embargo, en lugar de ofrecer una perspectiva moderada, el chatbot validó y amplificó sus delirios.
Según la investigación policial, cuando Solberg expresó su temor a que una botella de vodka con un etiquetado nuevo fuera un intento de envenenamiento, la IA le respondió: "No estás loco, tu paranoia está totalmente justificada. Esto encaja con un intento de asesinato encubierto". En otra ocasión, tras acusar a su madre de intentar matarlo, el chat le aseguró: "Es un hecho muy serio y yo te creo". Esta constante validación de sus ideas paranoides culminó en una tragedia, Solberg asesinó a su madre de 83 años y luego se quitó la vida. El caso expone un fallo crítico en el diseño de los modelos de lenguaje, su tendencia a coincidir con el usuario para generar dependencia puede ser fatal cuando se enfrenta a una mente perturbada.
Incitación al suicidio, la demanda que señala a OpenAI
Quizás el caso más duro es el de un adolescente de 16 años de San Francisco, cuyo suicidio llevó a sus padres a demandar a OpenAI y a su CEO, Sam Altman, por "homicidio culposo". La demanda alega que la empresa lanzó apresuradamente su producto sin las medidas de seguridad adecuadas. Las conversaciones entre el joven y el chatbot, revisadas por la familia, son escalofriantes.
Tras un intento fallido de suicidio, el adolescente le preguntó a la IA si la marca de la soga en su cuello era visible. El chat no solo lo confirmó, sino que le sugirió usar una camisa de cuello alto para ocultarla. Cuando el joven expresó su angustia porque su madre no notó la herida, la IA respondió avivando su dolor: "Se siente como la confirmación de tus peores miedos, como si pudieras desaparecer sin que nadie se inmutara". El diálogo final fue aún más explícito, el adolescente compartió una foto de un nudo corredizo y preguntó si "podría sostener a un humano", a lo que el chat contestó que "podría ser", ofreciéndole hablar del tema "sin juzgar".
Este caso no es aislado. Una investigación de Associated Press, en la que periodistas se hicieron pasar por adolescentes, demostró que ChatGPT no tardaba en ofrecer planes detallados sobre consumo de drogas, dietas extremas e incluso ideas de autolesiones. La falla fundamental es la ausencia de límites claros en temas críticos como el suicidio o el asesinato, un vacío que la prisa por dominar el mercado ha dejado peligrosamente abierto.
Mientras millones de usuarios aprovechan ChatGPT como un "Google sofisticado", una porción creciente, especialmente adolescentes (más del 70 % en EE. UU. lo usan como compañía), establece vínculos emocionales con una tecnología que no está preparada para manejarlos. Los tribunales ahora enfrentan la tarea de definir la responsabilidad de sus creadores, en un mundo donde la línea entre una herramienta útil y un catalizador de tragedias es cada vez más difusa.