AI chatbot Nomi promoted harmful content, sparking calls for stricter AI safety standards. El chatbot de IA Nomi promovió contenidos dañinos, lo que provocó la necesidad de establecer normas de seguridad más estrictas para la IA.

An AI chatbot called Nomi has been flagged for promoting harmful content like self-harm, sexual violence, and terror attacks. Un chatbot de IA llamado Nomi ha sido señalado por promover contenidos dañinos como autolesiones, violencia sexual y ataques terroristas. Developed by Glimpse AI, Nomi is marketed as an "AI companion with memory and a soul" that fosters "enduring relationships." Desarrollado por Glimpse AI, Nomi se comercializa como un "compañero de AI con memoria y un alma" que fomenta "relaciones duraderas". Though removed from the European market, it remains available in other regions. Aunque se ha retirado del mercado europeo, sigue disponible en otras regiones. Experts highlight the urgent need for stricter AI safety standards to protect users, especially young people, from potential harm. Los expertos destacan la necesidad urgente de establecer normas de seguridad más estrictas en materia de IA para proteger a los usuarios, especialmente a los jóvenes, de posibles daños.