El experimento de la enfermedad falsa revela vulnerabilidades de la IA en el procesamiento científico
Un investigador médico de la Universidad de Gotemburgo inventó una enfermedad ficticia llamada "biksonomia" y publicó artículos falsos en Preprints.org. Pronto, grandes modelos lingüísticos como ChatGPT y Google Gemini comenzaron a tratar esta información como verdadera, propagando afirmaciones médicas incorrectas.
Cómo la IA confundió la invención con la realidad
El experimento comenzó en 2024 con la publicación de dos artículos ficticios que describían síntomas como irritación ocular y oscurecimiento de la piel alrededor de los párpados, supuestamente causados por la luz azul de las pantallas. Los documentos presentaban señales evidentes de falsificación: autores inexistentes, instituciones inventadas e incluso referencias a obras de ciencia ficción. A pesar de estas alertas, los sistemas de inteligencia artificial indexaron el contenido y empezaron a citarlo.
Para la primavera de 2024:
- Microsoft Copilot describió la biksonomia como una afección rara;
- Google Gemini recomendó consultar a un oftalmólogo;
- Perplexity citó estadísticas falsas;
- ChatGPT ayudó a diagnosticar síntomas.
Esta reacción pone de manifiesto debilidades algorítmicas en la verificación de fuentes, ya que la IA depende en gran medida de bases de datos externas sin realizar comprobaciones profundas.
Consecuencias para la comunidad científica
Los artículos falsos se infiltraron en la literatura académica real: uno fue citado en la revista Cureus como una forma de melanosis periorbitaria. Posteriormente, la revista retiró la referencia, y Preprints.org eliminó los materiales el 10 de abril de 2026, calificándolos como falsos.
Estos incidentes ilustran los riesgos dentro del flujo del conocimiento: desde servidores de prepublicaciones hasta modelos de IA y publicaciones revisadas por pares. Las causas fundamentales radican en la indexación automatizada, donde el formato suele prevalecer sobre el contenido, y en la falta de moderación rigurosa en las primeras etapas.
Conclusiones clave
- Los modelos de IA integran fácilmente textos científicos falsos sin evaluación crítica;
- Artículos falsificados con errores evidentes aún se difunden a través de chatbots;
- El problema afecta no solo a la IA, sino también a los procesos de revisión por pares;
- Existe riesgo de explotación comercial, como promover productos de salud dudosos;
- Se necesita con urgencia mejorar la verificación de fuentes tanto en modelos de IA como en plataformas de publicación.
Impacto en las industrias de IA y medicina
Este caso ha acelerado el debate sobre la fiabilidad de la IA en el ámbito sanitario. Entre las consecuencias está el riesgo de desorientar a usuarios que confían en los bots para automedicarse. En el sector crece la demanda de validación multinivel —que combine moderación por expertos, algoritmos de detección de contenido falso y etiquetado transparente de fuentes.
En contexto más amplio, la IA se entrena con datos de acceso abierto, donde las prepublicaciones han aumentado exponencialmente desde la década de 2010. Sin filtros adecuados, esto crea terreno fértil para la desinformación. Empresas como OpenAI y Google ya están implementando actualizaciones para hacer que sus modelos sean más escépticos ante fuentes ambiguas.
El experimento subraya la necesidad de equilibrar velocidad y precisión en el procesamiento de información, especialmente en áreas críticas como la medicina.
— Editorial Team
Aún no hay comentarios.