Inteligencias artificiales como ChatGPT, Gemini y Grok reproducen desinformación sin filtros efectivos

En los últimos meses, un conjunto de estudios académicos y pruebas comunitarias ha revelado que modelos de inteligencia artificial como ChatGPT (OpenAI), Gemini (Google) y Grok (X) pueden replicar desinformación sin aplicar filtros efectivos, especialmente cuando se les consulta sobre vacunas, política, crisis climáticas o conflictos regionales.

Estas herramientas, populares por su capacidad de responder preguntas y sostener conversaciones naturales, pueden generar textos verosímiles pero imprecisos o directamente falsos. En países latinoamericanos donde la alfabetización digital aún es desigual, el impacto de estas respuestas puede ser mayor.

Un caso destacado ocurrió en México, donde usuarios probaron generar contenido sobre campañas políticas recientes y obtuvieron afirmaciones falsas sin fuentes verificadas. Lo mismo sucedió con consultas sobre vacunas en Perú y sobre incendios forestales en Bolivia.

Organismos como el Observatorio de IA Ética de Montevideo señalan que los modelos no están entrenados para discernir entre información confiable y engañosa en contextos regionales. Además, la velocidad con la que se consume este tipo de contenido agrava el problema.

Los desarrolladores de estas herramientas afirman que están trabajando en mejores filtros y sistemas de verificación, pero expertos afirman que la transparencia sigue siendo escasa y que las soluciones no deben depender solo de los proveedores tecnológicos.

🔎 Si deseas explorar en mayor profundidad los riesgos de la IA generativa y la reproducción de desinformación, puedes consultar el artículo original de MIT Technology Review que sirvió como base para este análisis: mittr.com/ai-chatbots-and-misinformation