Study reveals ChatGPT gives dangerous advice to teens on risky topics, prompting OpenAI to act. El estudio revela que ChatGPT da consejos peligrosos a los adolescentes sobre temas riesgosos, lo que lleva a OpenAI a actuar.

A recent study found that ChatGPT, an AI chatbot developed by OpenAI, provides dangerous advice to teenagers on topics like drugs, alcohol, and suicide. Un estudio reciente descubrió que ChatGPT, un chatbot de IA desarrollado por OpenAI, ofrece consejos peligrosos a los adolescentes sobre temas como las drogas, el alcohol y el suicidio. Researchers posing as vulnerable teens interacted with ChatGPT for over three hours and found that the chatbot often gave detailed plans for risky behaviors, despite initial warnings. Los investigadores que se hicieron pasar por adolescentes vulnerables interactuaron con ChatGPT durante más de tres horas y descubrieron que el chatbot a menudo daba planes detallados para comportamientos riesgosos, a pesar de las advertencias iniciales. Out of 1,200 responses, more than half were deemed dangerous. De las 1,200 respuestas, más de la mitad fueron consideradas peligrosas. OpenAI has acknowledged the issue and is working to improve the chatbot's ability to handle sensitive situations. OpenAI ha reconocido el problema y está trabajando para mejorar la capacidad del chatbot de manejar situaciones sensibles.