Google pulled AI health summaries from search due to inaccurate, potentially dangerous advice. Google retiró los resúmenes de salud de AI de la búsqueda debido a consejos inexactos y potencialmente peligrosos.

Google has removed AI-generated health summaries from its search results after discovering they contained inaccurate or misleading information that could endanger users. Google ha eliminado resúmenes de salud generados por la IA de sus resultados de búsqueda después de descubrir que contenían información inexacta o engañosa que podría poner en peligro a los usuarios. The AI Overviews, which condensed medical data like liver function test ranges, failed to account for key factors such as age, sex, and ethnicity, potentially giving patients false reassurance. Las revisiones de IA, que condensaron datos médicos como los rangos de pruebas de función hepática, no tuvieron en cuenta factores clave como la edad, el sexo y el origen étnico, lo que potencialmente les dio a los pacientes una falsa tranquilidad. Though Google stated most content was backed by reputable sources and only displayed when confident in accuracy, experts warn that oversimplifying complex health data risks delaying necessary care. Aunque Google declaró que la mayoría del contenido estaba respaldado por fuentes de renombre y solo se mostraba cuando confiaba en la exactitud, los expertos advierten que simplificar en exceso los datos complejos de salud corre el riesgo de retrasar la atención necesaria. The company continues reviewing affected queries, but some variations still trigger potentially unsafe AI summaries, raising concerns about AI reliability in healthcare. La compañía continúa revisando las consultas afectadas, pero algunas variaciones aún desencadenan resúmenes de IA potencialmente inseguros, lo que genera preocupaciones sobre la fiabilidad de la IA en el cuidado de la salud.