São Paulo’s AI surveillance system arrested nearly 4,000 people by 2025, including many wrongly, sparking privacy and bias concerns. El sistema de vigilancia de IA de São Paulo arrestó a casi 4.000 personas para 2025, incluidas muchas erróneamente, lo que generó preocupaciones sobre la privacidad y el sesgo.

São Paulo’s Smart Sampa AI surveillance system, launched in 2024, uses facial recognition across 40,000 cameras to identify fugitives and suspects, claiming to have captured 3,000 fugitives and arrested nearly 4,000 people, contributing to a nearly 15% drop in robberies by 2025. El sistema de vigilancia de inteligencia artificial Smart Sampa de São Paulo, lanzado en 2024, utiliza el reconocimiento facial a través de 40,000 cámaras para identificar a fugitivos y sospechosos, y afirma haber capturado a 3,000 fugitivos y arrestado a casi 4,000 personas, lo que contribuye a una caída de casi el 15% en los robos para 2025. However, over 8% of those arrested were later released due to errors, including an 80-year-old man and psychiatric patients wrongly detained. Sin embargo, más del 8% de los arrestados fueron liberados posteriormente debido a errores, incluido un hombre de 80 años y pacientes psiquiátricos detenidos erróneamente. At least 141 arrests involved outdated warrants, and many targeted individuals faced civil offenses like unpaid child support, raising concerns about the system’s use for civil enforcement. Al menos 141 arrestos involucraron órdenes de arresto obsoletas, y muchas de las personas afectadas se enfrentaron a delitos civiles como la manutención infantil no pagada, lo que genera preocupaciones sobre el uso del sistema para la aplicación civil. Critics highlight a lack of racial data, making algorithmic bias impossible to assess, and note the system disproportionately affects poorer, peripheral neighborhoods and migrants. Los críticos destacan la falta de datos raciales, lo que hace que el sesgo algorítmico sea imposible de evaluar, y señalan que el sistema afecta desproporcionadamente a los barrios más pobres y periféricos y a los migrantes. While officials deny bias and emphasize public safety, civil rights advocates warn of privacy violations and systemic inequities. Mientras que los funcionarios niegan la parcialidad y hacen hincapié en la seguridad pública, los defensores de los derechos civiles advierten de violaciones de la privacidad y las inequidades sistémicas.