Sora AI, now top iPhone app, spreads synthetic media, raising fears of deepfake misuse despite safety measures. Sora AI, ahora la mejor aplicación de iPhone, difunde medios sintéticos, aumentando los temores de un uso indebido de deepfake a pesar de las medidas de seguridad.

OpenAI’s Sora AI video generator, now the top downloaded iPhone app, is rapidly spreading synthetic media by making high-quality deepfakes easy to create and share, experts warn. El generador de video Sora AI de OpenAI, ahora la aplicación de iPhone más descargada, está difundiendo rápidamente los medios sintéticos al hacer que los deepfakes de alta calidad sean fáciles de crear y compartir, advierten los expertos. Despite safety measures like content moderation and watermarks, users are bypassing controls, raising concerns about misuse for disinformation, propaganda, and non-consensual content. A pesar de las medidas de seguridad como la moderación de contenido y marcas de agua, los usuarios están eludiendo los controles, lo que genera preocupaciones sobre el uso indebido para la desinformación, la propaganda y el contenido no consensuado. The tool’s integration with social media algorithms amplifies its reach, blurring reality and fiction, while industry competition may weaken safeguards. La integración de la herramienta con los algoritmos de los medios sociales amplifica su alcance, difuminando la realidad y la ficción, mientras que la competencia de la industria puede debilitar las salvaguardas. Although OpenAI promises greater control for rights holders and revenue sharing, experts fear the damage to public trust may already be irreversible. Aunque OpenAI promete un mayor control para los titulares de derechos y el reparto de ingresos, los expertos temen que el daño a la confianza pública ya pueda ser irreversible.