Errores en resúmenes médicos de Google generan preocupación

Google enfrenta cuestionamientos tras detectarse errores en sus resúmenes de información médica, generando preocupación sobre la fiabilidad de su tecnología y el posible impacto negativo en la salud de los usuarios que confían en sus respuestas automatizadas.

Controversia en torno a los resúmenes médicos de IA de Google

La confianza en las soluciones de inteligencia artificial aplicadas a la salud vuelve a tambalearse tras una reciente investigación llevada a cabo por el diario The Guardian. Diversos usuarios y expertos han señalado que los conocidos AI Overviews, esos resúmenes automáticos generados por Google, han presentado información sanitaria inexacta e incluso potencialmente peligrosa. Baste mencionar el caso de una búsqueda relacionada con análisis hepáticos: la respuesta omitía variables fundamentales como la edad o el grupo étnico del paciente.

Voces expertas en alerta ante las imprecisiones

Las reacciones desde el ámbito sanitario no se han hecho esperar. Para Anna Jewell, responsable de apoyo en Pancreatic Cancer UK, algunos consejos difundidos sobre el tratamiento del cáncer de páncreas eran “completamente incorrectos” y capaces de poner “en serio riesgo la vida” de quienes los siguieran. Otros ejemplos detectados incluyen confusiones graves entre pruebas para el cáncer vaginal y cervical o recomendaciones desacertadas respecto a trastornos alimentarios.

Ajustes discretos y respuestas limitadas de Google

Ante este escenario, Google ha procedido a retirar discretamente algunos de estos resúmenes cuestionados, aunque su intervención no ha sido exhaustiva ni acompañada de explicaciones detalladas. Actualmente, determinadas búsquedas —como las referentes a valores normales en análisis hepáticos— ya no generan un resumen automatizado. Sin embargo, persisten casos donde los AI Overviews subsisten, aunque corregidos, sin que ello garantice una calidad intachable. Consultada al respecto, la compañía únicamente ha recordado sus esfuerzos continuos por mejorar la fiabilidad del sistema y adecuarse a sus propias normas.

Promesas y dudas abiertas sobre la medicina digital

Pese a estas incidencias visibles, resulta innegable que el potencial de la IA médica sigue siendo motivo de debate tanto en entornos clínicos como tecnológicos. Mientras algunos destacan los peligros inherentes a una mala información difundida por motores como el de Google, otros señalan oportunidades para complementar diagnósticos profesionales o encauzar mejor al paciente. Varios elementos explican esta incertidumbre:

• Evolución constante de las plataformas como OpenAI y Google.
• Dificultad para supervisar exhaustivamente cada contenido automatizado.
• Ausencia aún de consensos sobre responsabilidad informativa en IA.

En este contexto tan dinámico, queda abierta una cuestión crucial: ¿resulta sensato confiar decisiones sanitarias importantes al criterio todavía imperfecto —y frecuentemente opaco— de una inteligencia artificial? Por ahora, las respuestas distan mucho de ser unánimes.