В судебных документах были использованы неподтверждённые «галлюцинации» ChatGPT.

Федеральный судья сделал выговор адвокатам престижной фирмы, представляющей интересы тюремной системы Алабамы, за использование ChatGPT для подготовки судебных документов с «полностью вымышленными» ссылками на дела.

Окружной судья США Анна Манаско публично выразила недовольство трем юристам из компании Butler Snow, нанятой для защиты Алабамы и других регионов в судебных разбирательствах, касающихся тюрем. «Подделка юридических документов — это серьезное нарушение, требующее строгих мер», — отметила Манаско в своем постановлении о санкциях, опубликованном в среду.

Судья отстранила всех троих от участия в деле, в котором были представлены ложные документы, и обязала их уведомить клиентов, адвокатов противоположной стороны и судей по всем другим делам о вынесенных санкциях.

Она также передала дело в Коллегию адвокатов штата Алабама для возможного дисциплинарного разбирательства.

Адвокаты Butler Snow неоднократно извинялись на предыдущем слушании у Манаско.

Они объяснили, что один из юристов использовал искусственный интеллект для изучения судебной практики, но не проверил информацию перед тем, как включить её в два документа, поданных в федеральный суд.

Эти ссылки оказались «галлюцинациями» — то есть ошибочными цитатами — системы искусственного интеллекта. «Проще говоря, ссылки были полностью выдуманы», — написала Манаско.

Она добавила, что использование непроверенных цитат было «крайне безответственным».