India's Supreme Court warns against AI misuse in legal filings after a petition cited fake cases. La Corte Suprema de la India advierte contra el uso indebido de la IA en documentos legales después de que una petición citara casos falsos.

India’s Supreme Court has flagged the misuse of AI in legal filings after a case submission contained numerous fabricated court cases and distorted precedents. La Corte Suprema de la India ha señalado el mal uso de la IA en las presentaciones legales después de que una presentación de casos contenía numerosos casos judiciales fabricados y precedentes distorsionados. The error, linked to a petition by Gstaad Hotels, prompted the court to proceed with the case on its merits despite the inaccuracies. El error, vinculado a una petición de Gstaad Hotels, impulsó al tribunal a proceder con el caso en su fondo a pesar de las inexactitudes. Senior advocates criticized the use of AI-generated false citations, calling it a breach of professional duty. Los principales defensores criticaron el uso de citas falsas generadas por la IA, calificándolo de incumplimiento del deber profesional. The court emphasized that technology must not compromise truth or due process, highlighting growing concerns over AI hallucinations in legal work. El tribunal hizo hincapié en que la tecnología no debe comprometer la verdad o el debido proceso, destacando las crecientes preocupaciones sobre las alucinaciones de IA en el trabajo legal.