Study reveals AI systems lack training in empathy and ethics, proposing a new method to align AI with societal values. Un estudio revela que los sistemas de IA carecen de capacitación en empatía y ética, proponiendo un nuevo método para alinear IA con los valores sociales.

Researchers from Purdue University found that AI systems are trained primarily on information and utility values, often overlooking prosocial, well-being, and civic values. Investigadores de la Universidad de Purdue encontraron que los sistemas de IA están entrenados principalmente en información y valores de utilidad, a menudo pasando por alto los valores prosociales, de bienestar y cívicos. The study examined three datasets used by major AI companies and found a lack of training on empathy, justice, and human rights. El estudio examinó tres conjuntos de datos utilizados por las principales empresas de IA y encontró una falta de capacitación sobre empatía, justicia y derechos humanos. The team introduced a method called reinforcement learning from human feedback to help AI systems align with societal values, using curated datasets to ensure ethical behavior and better serve community values. El equipo introdujo un método llamado fortalecimiento del aprendizaje de la retroalimentación humana para ayudar a los sistemas de IA a alinearse con los valores sociales, utilizando conjuntos de datos curados para asegurar el comportamiento ético y servir mejor a los valores comunitarios.