Researchers warn that increasing AI-generated content may lead to model collapse in AI systems. Los investigadores advierten que el aumento del contenido generado por IA puede provocar el colapso del modelo en los sistemas de IA.
Researchers have warned that AI systems could collapse into nonsense as the internet becomes increasingly filled with content generated by artificial intelligence. Los investigadores han advertido que los sistemas de IA podrían convertirse en un sinsentido a medida que Internet se llena cada vez más de contenido generado por inteligencia artificial. This "model collapse" occurs when AI models, trained on data created by other models, produce gibberish and nonsensical responses. Este "colapso del modelo" ocurre cuando los modelos de IA, entrenados con datos creados por otros modelos, producen respuestas incoherentes y sin sentido. The risk of model collapse increases as more AI-generated content is published, and the data used to train these systems becomes polluted, potentially hindering the progress of large language models. El riesgo de colapso del modelo aumenta a medida que se publica más contenido generado por IA y los datos utilizados para entrenar estos sistemas se contaminan, lo que potencialmente obstaculiza el progreso de modelos de lenguaje grandes.