Los investigadores evaluaron varios modelos de inteligencia artificial y encontraron que hasta un 40% de las respuestas contenían imprecisiones o carecían de contexto clínico necesario.
Un estudio reciente reveló que los chatbots de inteligencia artificial presentan fallas frecuentes al proporcionar información médica, con respuestas que pueden ser inexactas, incompletas o potencialmente problemáticas, según una investigación difundida por DW.
Resultados del estudio
El análisis evaluó distintos sistemas de IA generativa en temas como cáncer, vacunación, nutrición y rendimiento deportivo, encontrando que una proporción significativa de las respuestas presentaba errores o deficiencias.
De acuerdo con los resultados, cerca del 50% de las respuestas fueron clasificadas como problemáticas, incluyendo un 30% con fallas moderadas y un 20% con errores graves, lo que podría afectar la toma de decisiones de los usuarios.
Problemas en la calidad de la información
Los investigadores detectaron que los chatbots pueden ofrecer información incompleta o presentar datos con un falso equilibrio, combinando afirmaciones con base científica junto a otras sin respaldo sólido.
También se identificaron limitaciones en la calidad de las referencias y en la claridad del lenguaje, ya que muchas respuestas resultaron difíciles de comprender para el público general.
Influencia del tipo de preguntas
El estudio señaló que el tipo de consulta influye en la calidad de las respuestas, ya que las preguntas abiertas generaron más errores, mientras que las cerradas tendieron a ajustarse mejor al consenso científico.
Esto sugiere que la forma en que los usuarios interactúan con los sistemas puede afectar directamente la precisión de la información obtenida.
Riesgos para los usuarios
Los especialistas advirtieron que estos errores pueden llevar a que las personas sigan tratamientos inadecuados o retrasen la atención médica, especialmente cuando no cuentan con conocimientos especializados.
Además, señalaron que los chatbots no razonan ni evalúan evidencia como un profesional de la salud, sino que generan respuestas basadas en patrones de datos, lo que limita su capacidad para emitir juicios clínicos confiables.
Limitaciones y advertencias
Los autores del estudio indicaron que los resultados se basan en un número limitado de plataformas y que la tecnología evoluciona rápidamente, por lo que los hallazgos podrían cambiar con el tiempo.
Sin embargo, subrayaron la necesidad de revisar el uso de estos sistemas en temas de salud y de establecer mecanismos que garanticen información más precisa para el público.
Con información de DW.
