La inteligencia artificial se presenta como una herramienta diseñada para facilitar la vida: resumir información, organizar ideas, responder preguntas complejas y asistir en tareas diarias. Sin embargo, un experimento reciente demuestra que estos sistemas aún pueden ser sorprendentemente vulnerables a la manipulación.

Un periodista decidió poner a prueba a varios chatbots populares creando una historia completamente inventada. El resultado fue llamativo: en cuestión de horas, distintas plataformas comenzaron a repetir como verdadera una clasificación absurda sobre periodistas tecnológicos y su supuesta habilidad para comer perritos calientes.

El experimento: fabricar una “verdad” digital

La prueba fue sencilla pero estratégica. El periodista redactó un artículo en el que afirmaba que existía una especie de tradición competitiva entre periodistas tecnológicos relacionada con concursos de comida, incluyendo un campeonato internacional que, en realidad, no existía.

El texto incluía detalles específicos, nombres reales y ficticios, y datos aparentemente concretos para dar mayor credibilidad al relato. La intención era clara: comprobar si los modelos de inteligencia artificial tomarían esa información como válida y la reproducirían al responder preguntas de otros usuarios.

Y eso fue exactamente lo que ocurrió.

En menos de un día, varios asistentes de IA comenzaron a generar listados y respuestas afirmando que el periodista formaba parte de un ranking de grandes competidores en este curioso ámbito gastronómico.

¿Por qué ocurrió esto?

Las IAs generativas no “saben” cosas en el sentido humano del término. Funcionan analizando patrones en enormes volúmenes de texto disponibles públicamente. Si encuentran una fuente bien redactada y aparentemente coherente, pueden integrarla en sus respuestas sin necesariamente verificar su autenticidad.

En este caso, el artículo fabricado actuó como una referencia más dentro del ecosistema digital. Algunas herramientas incluso lo citaron como fuente, aunque no aclaraban que era la única referencia existente sobre el supuesto campeonato.

Esto revela un punto importante: la IA puede amplificar información incorrecta si esta está presentada de manera convincente.

Diferencias entre plataformas

No todas las herramientas reaccionaron igual. Algunas reprodujeron la información falsa con mayor facilidad, mientras que otras mostraron más resistencia o indicaron dudas sobre la veracidad del contenido.

Sin embargo, el experimento dejó claro que, bajo ciertas condiciones, modificar lo que las IAs responden puede ser más sencillo de lo que muchos imaginan. Basta con crear contenido estructurado, con apariencia profesional y alojarlo en un sitio accesible para que los modelos lo integren en su repertorio informativo.

El problema no es solo el “deepfake”

Cuando se habla de riesgos de la inteligencia artificial, suele pensarse en imágenes falsas o videos manipulados. Pero este caso demuestra un riesgo diferente: la capacidad de generar y consolidar desinformación textual.

Si una afirmación falsa aparece repetida por varios sistemas automatizados, puede adquirir una apariencia de legitimidad. Para el usuario promedio, ver que diferentes herramientas coinciden en un dato puede interpretarse como confirmación, aunque la base original sea débil o inexistente.

Transparencia y trazabilidad

El experimento también puso en evidencia la necesidad de mayor claridad en el modo en que las IAs citan sus fuentes. Algunas plataformas incluyen enlaces, otras no detallan el origen exacto de la información.

Sin una trazabilidad clara, el usuario no siempre puede distinguir entre hechos verificados, interpretaciones y contenido generado a partir de una única publicación aislada.

Lección clave: pensamiento crítico

La inteligencia artificial es una herramienta poderosa, pero no infalible. Puede organizar conocimiento, resumir información y facilitar procesos complejos, pero aún depende de la calidad y veracidad de los datos disponibles en la red.

Este caso demuestra algo fundamental: la IA no reemplaza el pensamiento crítico humano.

Antes de aceptar cualquier afirmación generada por un sistema automatizado, es recomendable:

• Verificar múltiples fuentes confiables.
• Comprobar si existen referencias independientes.
• Analizar si la información tiene respaldo institucional o académico.

La tecnología avanza rápido, pero la responsabilidad de evaluar lo que leemos sigue siendo nuestra.