Адвокат из Нью-Мексико получил дисциплинарное взыскание за использование ChatGPT

Суд штата Нью-Мексико вынес решение о дисциплинарном наказании в отношении адвоката, который использовал ChatGPT для подготовки судебных документов. Юрист включил в ходатайство показания вымышленных свидетелей, сгенерированные нейросетью, что привело к искажению материалов дела об убийстве.

Согласно официальным документам, адвокат не проверил достоверность предоставленной информации, доверившись ответам модели. В ходе разбирательства выяснилось, что ссылки на свидетельские показания, представленные в суде, не имели под собой реальной основы, так как указанные лица никогда не давали подобных комментариев по делу Оскара Сандовала.

Инцидент стал частью более широкого процесса по делу об убийстве в Месилье, где обвиняемый был приговорен к пожизненному заключению плюс 4,5 годам. Использование недостоверных данных поставило под угрозу процессуальную чистоту дела и привело к санкциям против защиты.

Юрист признал, что не был осведомлен о способности языковых моделей к «галлюцинациям» — генерации фактов, которые выглядят убедительно, но не соответствуют действительности. Данный случай подчеркивает риски автоматизации юридической работы без должного контроля со стороны человека.

Судебная система продолжает сталкиваться с вызовами, связанными с внедрением генеративных технологий. Решение по этому делу создает прецедент ответственности за проверку контента, созданного с помощью AI, в рамках профессиональной юридической деятельности.