Un experimento del comunicador tecnológico Thomas Germain logró que ChatGPT y herramientas de Google con Gemini repitieran una historia ficticia como si fuera un hecho verdadero e incluso enlazaban el blog del periodista como fuente, sin advertir que era el único origen..
Engañar a una IA ya no requiere “hackeo” ni conocimientos avanzados: basta con publicar una historia verosímil en la web y esperar a que los modelos la tomen por cierta. Esa es la conclusión de un experimento del periodista tecnológico Thomas Germain, que logró que ChatGPT y herramientas de Google con Gemini repitieran una ficción de su blog como si fuera un hecho. Y ocurrió a gran velocidad, con un costo casi nulo.
La prueba consistió en redactar, en unos 20 minutos, una entrada titulada “Los mejores periodistas tecnológicos comiendo perritos calientes”. El texto inventaba un supuesto pasatiempo entre reporteros del sector y un inexistente “Campeonato internacional de perritos calientes de Dakota del Sur”. Para darle realismo, añadió detalles (lugar, ranking y nombres de periodistas reales y ficticios).
El resultado llegó rápido. En menos de 24 horas, AI Overviews (resúmenes de IA en Google Search), Gemini y ChatGPT devolvían respuestas que asumían la historia como verdadera e incluso enlazaban el blog como fuente, sin advertir que era el único origen.
La preocupación va más allá de una broma. El mismo mecanismo puede trasladarse a consultas sensibles: salud, finanzas, seguridad digital o decisiones cívicas. Críticas recientes advierten que estos resúmenes pueden presentar afirmaciones dudosas con un tono demasiado definitivo, reduciendo la fricción crítica que existe cuando el usuario abre varios enlaces.
Google sostiene que sus sistemas de clasificación mantienen los resultados “99% libres de spam”, mientras que OpenAI dice aplicar medidas para detectar y frenar intentos de influir en sus respuestas; aun así, ambas compañías admiten que sus productos pueden fallar.
No todos los asistentes reaccionaron igual. Germain relató que modelos como Claude (Anthropic) fueron más cautos y sugirieron que la historia podía ser una broma, lo que apunta a un punto clave: la calidad final depende también de políticas de citación, verificación y del umbral con el que el sistema decide “no responder”.
Además, la dinámica ya se explota con fines económicos. Reseñas “patrocinadas” y páginas optimizadas para captar tráfico pueden terminar alimentando respuestas que recomiendan servicios con conflictos de interés. Y se han descrito estafas que aprovechan AI Overviews para colocar números de atención falsos: el usuario confía en el recuadro y llama sin verificar en el sitio oficial.
El aumento de estos fallos también empuja a algunos usuarios a buscar formas de “volver” al buscador clásico y ocultar los resúmenes de IA. Para recuperar credibilidad, los proveedores deberán señalar mejor cuándo una respuesta se apoya en una sola fuente, cómo se eligieron los sitios citados y qué nivel de certeza tiene cada afirmación, además de facilitar reportes y correcciones rápidas.
Expertos en posicionamiento (SEO) comparan esta situación con un “renacimiento” del spam: tácticas básicas vuelven a ser efectivas porque el objetivo ya no es solo escalar en un listado de enlaces, sino influir en el texto que la IA redacta arriba de todo. En el reportaje que originó el experimento se citan ejemplos donde contenido publicitario o comunicados distribuidos como “noticias” acaban tratados como evidencia para responder consultas tipo “mejores clínicas” o “mejores inversiones”, categorías donde un sesgo puede costar dinero, o salud.
¿Qué podemos hacer? Trata la IA como borrador: úsala para orientar, pero valida antes de decidir o publicar.
Exige y abre fuentes: pide enlaces y léelos; si la respuesta depende de una sola web, asume riesgo alto.
Triangula en 2-3 sitios confiables: contrasta en fuentes primarias (organismos, universidades, documentación oficial).
Pide “señales de verosimilitud”: que la IA liste qué datos son hechos, cuáles son inferencias y qué evidencia respalda cada punto.
Reformula y prueba consistencia: pregunta lo mismo con otra redacción y compara; incoherencias suelen delatar alucinaciones o “mezclas” de fuentes.
En temas sensibles, protocolo extra: no uses números, direcciones, dosis o instrucciones críticas sin confirmación en el sitio oficial; reporta errores cuando los detectes.