A patient nearly harmed by AI medical advice underscores risks of unverified AI use in healthcare. Un paciente casi dañado por el asesoramiento médico de la IA subraya los riesgos del uso no verificado de la IA en la atención médica.

A doctor warns of dangers posed by AI-generated medical advice after a patient followed unsafe recommendations from an AI tool that ignored their health history, risking their treatment. Un médico advierte de los peligros planteados por los consejos médicos generados por la IA después de que un paciente siguiera las recomendaciones inseguras de una herramienta de IA que ignoró su historial de salud, arriesgando su tratamiento. The incident highlights risks like AI hallucinations, inconsistent responses, and harmful suggestions, especially in sensitive areas like addiction care. El incidente pone de relieve riesgos como alucinaciones de IA, respuestas inconsistentes y sugerencias dañinas, especialmente en áreas sensibles como la atención de adicciones. With patients increasingly turning to AI due to access or cost barriers, physicians are urged to proactively engage by asking patients to share AI advice so it can be reviewed together. Dado que los pacientes recurren cada vez más a la IA debido a las barreras de acceso o costo, se insta a los médicos a participar de manera proactiva pidiéndoles a los pacientes que compartan los consejos de la IA para que puedan ser revisados juntos. This collaborative approach helps correct misinformation, builds trust, and ensures decisions remain personalized and safe. Este enfoque colaborativo ayuda a corregir la información errónea, genera confianza y garantiza que las decisiones sigan siendo personalizadas y seguras. While systemic safeguards are needed, doctors can currently play a key role in guiding patients to use AI responsibly and effectively. Si bien se necesitan salvaguardas sistémicas, los médicos pueden desempeñar actualmente un papel clave para guiar a los pacientes a usar la IA de manera responsable y efectiva.