AI misidentified chips as gun, triggering police response; teen unharmed, system paused. La IA identificó erróneamente los chips como armas, lo que desencadenó la respuesta de la policía; el adolescente no resultó herido, el sistema se detuvo.

Baltimore police released body camera footage of a teenage individual detained after an AI system incorrectly identified a bag of potato chips as a firearm. La policía de Baltimore publicó imágenes de una cámara corporal de un adolescente detenido después de que un sistema de IA identificara incorrectamente una bolsa de papas fritas como un arma de fuego. The misidentification triggered an escalation, with officers drawing weapons before realizing the error. La identificación errónea provocó una escalada, con los oficiales sacando armas antes de darse cuenta del error. The AI tool was still in testing and not fully approved for use. La herramienta de IA todavía estaba en pruebas y no estaba completamente aprobada para su uso. Though the teen was unharmed and released, the incident has intensified concerns about AI reliability, bias, and oversight in policing. Aunque el adolescente no resultó herido y fue liberado, el incidente ha intensificado las preocupaciones sobre la fiabilidad de la IA, el sesgo y la supervisión en la policía. The department has paused the system’s deployment and launched a review. El departamento ha puesto en pausa el despliegue del sistema y ha iniciado una revisión.