An AI medical tool failed to reliably interpret patient data, sparking safety concerns and calls for stricter oversight. Una herramienta médica de IA no pudo interpretar de manera confiable los datos de los pacientes, lo que provocó preocupaciones de seguridad y llamadas a una supervisión más estricta.

An AI system designed to assist in medical diagnosis and treatment has shown significant limitations in real-world patient care, raising concerns about its reliability and safety. Un sistema de IA diseñado para ayudar en el diagnóstico y tratamiento médico ha demostrado limitaciones significativas en la atención al paciente en el mundo real, lo que genera preocupaciones sobre su fiabilidad y seguridad. Despite advancements in artificial intelligence, the tool has failed to consistently interpret complex medical data, leading to inaccurate recommendations and potential risks for patients. A pesar de los avances en la inteligencia artificial, la herramienta no ha podido interpretar de manera consistente datos médicos complejos, lo que ha llevado a recomendaciones inexactas y riesgos potenciales para los pacientes. Experts emphasize that AI should not replace human doctors, especially in critical decision-making. Los expertos hacen hincapié en que la IA no debería reemplazar a los médicos humanos, especialmente en la toma de decisiones críticas. The findings highlight the need for stricter oversight and more rigorous testing before AI is used in clinical settings. Los hallazgos subrayan la necesidad de una supervisión más estricta y pruebas más rigurosas antes de que la IA se use en entornos clínicos.