OpenAI's AI-transcription tool, Whisper, frequently "hallucinates" in medical settings, leading to potential risks. La herramienta de Transcripción de IA de OpenAI, Whisper, frecuentemente "alucina" en entornos médicos, llevando a riesgos potenciales.
Researchers have found that OpenAI's AI-powered transcription tool, Whisper, frequently "hallucinates" by generating false sentences, raising concerns in high-risk industries like healthcare. Los investigadores han encontrado que la herramienta de transcripción con IA de OpenAI, Whisper, frecuentemente "alucina" generando frases falsas, planteando preocupaciones en industrias de alto riesgo como la salud. Despite OpenAI's warnings against its use in sensitive areas, many medical facilities have adopted it for transcribing patient consultations. A pesar de las advertencias de OpenAI contra su uso en áreas sensibles, muchos centros médicos lo han adoptado para transcribir las consultas a los pacientes. Experts are calling for federal regulations to address these issues, while OpenAI acknowledges the problem and is working on improvements. Los expertos están pidiendo regulaciones federales para abordar estos problemas, mientras que OpenAI reconoce el problema y está trabajando en mejoras.