A UK AI system flags elderly pensioners for fraud at nearly 50 times the rate of younger people, raising concerns about fairness and harm. Un sistema de inteligencia artificial del Reino Unido señala a los pensionistas de edad avanzada por fraude en casi 50 veces la tasa de personas más jóvenes, lo que genera preocupaciones sobre la equidad y el daño.

A UK government AI system is flagging pensioners for benefit fraud at nearly 50 times the rate of younger claimants, according to a National Audit Office report, sparking concerns about unfair targeting and harm to vulnerable groups. Un sistema de inteligencia artificial del gobierno del Reino Unido está señalando a los pensionistas por fraude de beneficios en casi 50 veces la tasa de solicitantes más jóvenes, según un informe de la Oficina Nacional de Auditoría, lo que genera preocupaciones sobre la focalización injusta y el daño a los grupos vulnerables. While the tool has saved £4.4 million and is seen as more effective than traditional methods, critics warn it risks misidentifying elderly and disadvantaged people due to flawed data and lack of oversight. Si bien la herramienta ha ahorrado £4.4 millones y se considera más efectiva que los métodos tradicionales, los críticos advierten que corre el riesgo de identificar erróneamente a las personas mayores y desfavorecidas debido a datos erróneos y a la falta de supervisión. The Labour government is pushing a major anti-fraud campaign with £6.7 billion in funding and new powers to access bank data, aiming to save £9.6 billion by 2030. El gobierno laborista está impulsando una importante campaña contra el fraude con 6,7 mil millones de libras esterlinas en fondos y nuevos poderes para acceder a datos bancarios, con el objetivo de ahorrar 9,6 mil millones de libras esterlinas para 2030. However, human rights groups caution that automated systems could wrongly cut benefits, deepen poverty, and erode trust in social security, urging a focus on systemic reform over punitive measures. Sin embargo, los grupos de derechos humanos advierten que los sistemas automatizados podrían recortar erróneamente los beneficios, profundizar la pobreza y erosionar la confianza en la seguridad social, instando a centrarse en la reforma sistémica en lugar de las medidas punitivas.