Estudio de Oxford advierte sobre riesgos de usar chatbots para diagnósticos médicos

Chatbots en salud: ¿Aliados o amenazas para la toma de decisiones médicas?

Con listas de espera interminables y sistemas de salud saturados, 1 de cada 6 adultos estadounidenses ya utiliza chatbots de IA como ChatGPT para asesoramiento médico mensual, según estudios recientes. Sin embargo, un estudio liderado por la Universidad de Oxford revela riesgos críticos en esta práctica.

Hallazgos clave de la investigación

• Participantes: 1,300 personas en Reino Unido
• Modelos analizados: GPT-4o (ChatGPT), Command R+ de Cohere y Llama 3 de Meta
• Resultados: Los usuarios de chatbots identificaron menos condiciones médicas relevantes y subestimaron la gravedad de los diagnósticos

«Los sistemas de IA deben probarse en el mundo real antes de implementarse, como los ensayos clínicos para medicamentos»
– Adam Mahdi, coautor del estudio de Oxford

Problemas detectados

La investigación identificó una doble falla comunicativa:

1. Los usuarios omitían detalles cruciales al consultar a los chatbots
2. Las respuestas combinaban recomendaciones buenas y peligrosas en mismo mensaje

El dilema tecnológico

Mientras gigantes como Apple, Amazon y Microsoft desarrollan herramientas de IA para salud:

• La Asociación Médica Estadounidense desaconseja su uso clínico
• OpenAI y otras empresas advierten contra diagnósticos basados en sus chatbots

«Recomendamos confiar en fuentes médicas certificadas para decisiones de salud», concluye Mahdi.