Google retira resúmenes de IA en búsquedas médicas tras investigación

Google actúa tras revelaciones sobre resúmenes de IA en salud

Tras una investigación de The Guardian que encontró que los AI Overviews de Google ofrecían información engañosa en respuesta a ciertas consultas relacionadas con la salud, la compañía ha eliminado estos resúmenes generados por inteligencia artificial para algunas de esas búsquedas.

Detalles de la investigación

El medio informó inicialmente que cuando los usuarios preguntaban “what is the normal range for liver blood tests” (cuál es el rango normal para análisis de sangre hepáticos), se les presentaban números que no tenían en cuenta factores como la nacionalidad, el sexo, la etnia o la edad. Esto podría llevar a los usuarios a pensar que sus resultados eran saludables cuando no lo eran.

Eliminación selectiva de resúmenes

Ahora, The Guardian señala que los AI Overviews han sido removidos de los resultados para consultas específicas como las mencionadas. Sin embargo, encontró que variaciones de esas consultas, como “lft reference range” o “lft test reference range”, aún podían generar resúmenes con IA.

Al intentar estas consultas horas después de la publicación del artículo, no se observaron AI Overviews, aunque Google aún ofrecía la opción de preguntar en AI Mode. En varios casos, el primer resultado fue el propio artículo de The Guardian sobre la eliminación.

Respuesta de Google

Un portavoz de Google dijo al Guardian que la compañía no

“comenta sobre eliminaciones individuales dentro de Search”

, pero que trabaja para

“hacer mejoras generales”

. El portavoz también mencionó que un equipo interno de clínicos revisó las consultas destacadas por el medio y encontró que

“en muchos casos, la información no era inexacta y también estaba respaldada por sitios web de alta calidad”

.

Preocupaciones más amplias

Vanessa Hebditch, directora de comunicaciones y políticas del British Liver Trust, comentó que la eliminación es

“excelentes noticias”

, pero añadió:

“Nuestra mayor preocupación con todo esto es que se trata de buscar un solo resultado de búsqueda y Google puede simplemente apagar los AI Overviews para eso, pero no está abordando el problema más grande de los AI Overviews para la salud”

.

Implicaciones y futuro de la IA en búsquedas médicas

Este incidente resalta los desafíos de implementar inteligencia artificial en dominios críticos como la salud. Google había anunciado el año pasado nuevas funciones para mejorar la Búsqueda en casos de uso de atención médica, incluyendo resúmenes mejorados y modelos de IA enfocados en salud.

La eliminación de estos resúmenes subraya la necesidad de precisión y contextualización en la información médica en línea, especialmente cuando se automatiza mediante IA.