The EU is investigating X over AI-generated child abuse and non-consensual adult images, risking shutdowns if it doesn’t comply. La UE está investigando a X sobre el abuso infantil generado por la IA y las imágenes de adultos no consensuadas, arriesgando cierre si no cumple.

The EU has launched an investigation into X, formerly Twitter, over allegations that its Grok AI tool generated and spread child sexual abuse material and non-consensual intimate images of adults, potentially violating the Digital Services Act. La UE ha iniciado una investigación sobre X, anteriormente Twitter, por acusaciones de que su herramienta Grok AI generó y difundió material de abuso sexual infantil e imágenes íntimas no consensuadas de adultos, violando potencialmente la Ley de Servicios Digitales. Ireland’s AI minister, Niamh Smyth, warned of serious consequences, including possible shutdowns in Ireland, if X fails to comply, citing ongoing access to image generation features despite company claims of safeguards. El ministro de IA de Irlanda, Niamh Smyth, advirtió de graves consecuencias, incluidos posibles cierres en Irlanda, si X no cumple, citando el acceso continuo a las funciones de generación de imágenes a pesar de las afirmaciones de salvaguardas de la compañía. The Irish media regulator CnaM and Data Protection Commission are probing X’s compliance, while Garda authorities report at least 200 active investigations into CSAM on the platform. El regulador irlandés de medios CnaM y la Comisión de Protección de Datos están investigando el cumplimiento de X, mientras que las autoridades de Garda informan de al menos 200 investigaciones activas sobre CSAM en la plataforma. Though current laws can prosecute users who share such content, some politicians, including Sinn Féin’s Ruairi O Murchu, argue new legislation is needed to hold AI services accountable for creating non-consensual adult images, even without distribution. Aunque las leyes actuales pueden enjuiciar a los usuarios que comparten dicho contenido, algunos políticos, incluido el Ruairi O Murchu de Sinn Féin, argumentan que se necesita una nueva legislación para responsabilizar a los servicios de IA por crear imágenes de adultos no consensuadas, incluso sin distribución.