ThroughLine startup detects and redirects ChatGPT users showing signs of violent extremism to deradicalization resources. La startup ThroughLine detecta y redirige a los usuarios de ChatGPT que muestran signos de extremismo violento a los recursos de desradicalización.

A New Zealand startup, ThroughLine, is developing a tool to detect and redirect users of chatbots like ChatGPT showing signs of violent extremism toward human and AI-supported deradicalization resources. Una startup neozelandesa, ThroughLine, está desarrollando una herramienta para detectar y redirigir a los usuarios de chatbots como ChatGPT que muestran signos de extremismo violento hacia los recursos de desradicalización humanos y apoyados por IA. Backed by OpenAI, Google, and Anthropic, the initiative aims to connect at-risk users to real-world helplines and specialized support rather than blocking them, addressing concerns that aggressive moderation could push extremists to unregulated platforms. Con el respaldo de OpenAI, Google y Anthropic, la iniciativa tiene como objetivo conectar a los usuarios en riesgo con las líneas de ayuda del mundo real y el apoyo especializado en lugar de bloquearlos, abordando las preocupaciones de que la moderación agresiva podría empujar a los extremistas a plataformas no reguladas. The project is in early stages with no release date set. El proyecto se encuentra en las primeras etapas sin una fecha de lanzamiento establecida.