Las funciones de salud de ChatGPT no detectan emergencias de alto riesgo.
Tampoco cuando las personas necesitan atención inmediata según un nuevo estudio.
ChatGPT Health se ha diseñado específicamente para ayudar a las personas con su bienestar y la compañía afirma que decenas de millones de personas ya la utilizan.
Pese a esto un nuevo estudio sugiere que el sistema podría pasar por alto emergencias importantes.
No se puede confiar en lo que diga con seguridad a alguien que necesita atención médica de manera inmediata.
“Los grandes modelos de lenguaje se han convertido en la primera opción de consulta médica para los pacientes, pero en 2026 son menos seguros en los extremos clínicos, donde el criterio distingue entre emergencias pasadas por alto y alarmas innecesarias”, afirman expertos de Harvard.
Advirtiendo del riesgo de que las personas ocupen esto como algo para reemplazar la ayuda profesional.
“Cuando millones de personas utilizan un sistema de IA para decidir si necesitan atención de emergencia, hay mucho en juego. La evaluación independiente debería ser rutinaria, no opcional”, aseguraron.
