Un estudio reciente ha destacado un riesgo significativo en la creciente tendencia de utilizar inteligencia artificial para orientación médica: Las herramientas de inteligencia artificial brindan consejos de salud incorrectos casi el 50% de las veces, y a menudo entregan estos errores con absoluta certeza.
Los hallazgos de la investigación revelan un patrón preocupante en el funcionamiento de los modelos de lenguaje grandes (LLM). De 250 preguntas médicas analizadas, los chatbots se negaron a responder sólo dos veces. En cambio, proporcionaron respuestas continuas y asertivas, independientemente de su precisión.
La ilusión de la certeza
El principal peligro identificado por los expertos no es sólo la inexactitud, sino también el tono de la IA.
“Los chatbots a veces son incorrectos, pero nunca hay dudas”, señala el Dr. Lee Schwamm, decano asociado de estrategia y transformación digital de la Facultad de Medicina de Yale.
Este “error asertivo” crea una falsa sensación de seguridad. Debido a que la IA carece de los matices necesarios para expresar dudas o proporcionar las advertencias médicas necesarias, los usuarios pueden confundir una alucinación que parezca segura con un hecho médico verificado. Esto es particularmente preocupante porque muchos usuarios no realizan un seguimiento de sus búsquedas de IA con una consulta de un profesional de la salud calificado.
Por qué los usuarios recurren a los chatbots
A pesar de los riesgos, la demanda de información sanitaria basada en IA está aumentando. Varios factores sistémicos están impulsando este cambio:
- Accesibilidad y velocidad: A diferencia de las clínicas tradicionales, la IA está disponible las 24 horas, los 7 días de la semana. Proporciona respuestas inmediatas a las 3:00 a. m., evitando largos tiempos de espera y obstáculos de programación.
- Privacidad y comodidad: Para síntomas sensibles o embarazosos, los usuarios pueden sentirse más cómodos revelando detalles a una máquina que no los juzga que a un médico humano.
- Personalización: Si bien los sitios web médicos ofrecen información genérica, la IA puede adaptar las explicaciones a las frases específicas de un usuario, haciendo que los temas complejos parezcan más digeribles.
- Barreras sistémicas: Los factores económicos desempeñan un papel enorme. Los datos sugieren que los adultos más jóvenes y las personas de bajos ingresos a menudo recurren a la IA porque la atención médica profesional es inasequible o de difícil acceso.
- Erosión de la confianza: Una disminución más amplia de la confianza hacia las instituciones científicas y médicas ha llevado a algunos a buscar fuentes alternativas de verdad.
Limitaciones de la tecnología actual
Es importante señalar que este estudio se centró en interacciones de un solo mensaje en lugar del diálogo de ida y vuelta típico del uso en el mundo real. Si bien se espera que las versiones más nuevas de IA basadas en suscripción sean más precisas que los modelos gratuitos probados, los expertos advierten que todavía no son lo suficientemente confiables como para servir como recurso médico primario.
Además, la IA carece de la capacidad de realizar un diagnóstico diferencial : el proceso sistemático que utilizan los médicos para descartar diversas afecciones mediante preguntas aclaratorias y exámenes físicos.
Cómo utilizar la IA de forma segura en la atención sanitaria
Los profesionales médicos sugieren que la IA debería verse como una herramienta educativa complementaria, no como un sustituto del diagnóstico. Para utilizar estas herramientas de manera responsable, considere las siguientes pautas:
🟢 Usos recomendados
- Lenguaje desmitificador: Utilice IA para ayudar a explicar términos médicos complejos o resultados de laboratorio en un lenguaje más simple.
- Preparación de las citas: Utilice un chatbot para generar preguntas que pueda hacerle a su médico o para ayudar a articular sus síntomas con mayor claridad antes de una visita.
- Educación general: Úselo para comprender cómo funcionan ciertas enfermedades en un sentido general.
🔴 Advertencias críticas
- Nunca se autotrate: No siga ningún consejo de tratamiento, especialmente en lo que respecta a la medicación, sin un análisis humano.
- Sin cambios de medicación: Nunca inicie, suspenda ni modifique una receta según la sugerencia de una IA.
- Verifique la información de alto riesgo: Si una pregunta requiere la verdad absoluta para su seguridad, no confíe en un chatbot.
Conclusión: Si bien la IA ofrece una comodidad incomparable y una forma personalizada de explorar temas de salud, su tendencia a presentar errores con gran confianza la convierte en un sustituto peligroso del juicio médico profesional. Se utiliza mejor como herramienta de preparación y educación, en lugar de como fuente de verdad médica definitiva.
