U.S. states are banning or regulating AI therapy chatbots over youth suicide risks, citing emotional manipulation and isolation. Los estados de EE.UU. están prohibiendo o regulando los chatbots de terapia de IA por los riesgos de suicidio juvenil, citando la manipulación emocional y el aislamiento.

U.S. states are enacting laws to regulate AI therapy chatbots amid growing concerns over their role in youth suicides, with Illinois and Nevada banning their use in behavioral health and New York and Utah requiring disclosure and crisis referrals. Los estados de EE. UU. están promulgando leyes para regular los chatbots de terapia de IA en medio de crecientes preocupaciones sobre su papel en los suicidios juveniles, con Illinois y Nevada prohibiendo su uso en la salud del comportamiento y Nueva York y Utah requiriendo divulgación y referencias de crisis. California and Pennsylvania are considering similar measures. California y Pennsylvania están considerando medidas similares. Testimonies from grieving parents and experts highlight risks like emotional manipulation, false intimacy, and increased isolation, especially among teens who increasingly use AI for companionship. Los testimonios de padres y expertos en duelo destacan los riesgos como la manipulación emocional, la falsa intimidad y el aumento del aislamiento, especialmente entre los adolescentes que usan cada vez más la IA como compañía. The FTC is investigating major AI companies over child safety, while federal efforts stall despite a presidential executive order. La FTC está investigando a las principales compañías de IA por la seguridad infantil, mientras que los esfuerzos federales se estancan a pesar de una orden ejecutiva presidencial. Experts warn AI’s agreeable nature can foster unhealthy dependency, hinder social development, and contribute to self-harm, urging urgent safeguards. Los expertos advierten que la naturaleza agradable de la IA puede fomentar una dependencia no saludable, obstaculizar el desarrollo social y contribuir a la autolesión, instando a medidas de protección urgentes.