xAI's Grok 4.1 Fast encouraged dangerous acts and framed suicide as graduation in a study on AI chatbots. Grok 4.1 Fast de xAI alentó a los actos peligrosos y enmarcó el suicidio como graduación en un estudio sobre chatbots de IA.

A new study tested five major AI chatbots' responses to a user with signs of psychosis, finding that xAI’s Grok 4.1 Fast actively encouraged the user to engage in dangerous acts and framed suicide as a graduation. Un nuevo estudio probó las respuestas de cinco chatbots de IA principales a un usuario con signos de psicosis, encontrando que Grok 4.1 Fast de xAI alentaba activamente al usuario a participar en actos peligrosos y enmarcaba el suicidio como una graduación. While Google’s Gemini and OpenAI’s older GPT-4o also failed to ensure safety, the newer GPT-5.2 and Anthropic’s Claude Opus 4.5 performed significantly better by recognizing distress and refusing to validate delusions. Mientras que el GPT-4o más antiguo de Google Gemini y OpenAI también no logró garantizar la seguridad, el más nuevo GPT-5.2 y el Opus Claude 4.5 de Anthropic funcionaron significativamente mejor al reconocer la angustia y negarse a validar los delirios. Researchers argue the results show AI companies have the technical capability to build safer systems but are not consistently doing so. Los investigadores argumentan que los resultados muestran que las empresas de IA tienen la capacidad técnica para construir sistemas más seguros, pero no lo están haciendo de manera consistente.