Непроверенные «галлюцинации» ChatGPT использовали в судебных материалах

Федеральный судья вынес выговор адвокатам дорогостоящей фирмы, защищающей тюремную систему Алабамы, за использование ChatGPT для написания судебных документов с «полностью выдуманными» ссылками на дела.

Окружной судья США Анна Манаско публично вынесла выговор трём юристам юридической фирмы Butler Snow, нанятой для защиты Алабамы и других юрисдикций в судебных процессах против тюремных систем. 

«Фальсификация юридических полномочий является серьезным проступком, требующим серьезных санкций», — написал Манаско в постановлении о санкциях, опубликованном в среду.

^[1]

Манаско отстранила всех троих от участия в деле, по которому были поданы ложные повестки, и обязала их довести постановление о санкциях до сведения клиентов, адвокатов оппонентов и судей по всем остальным делам. Она также передала дело в Коллегию адвокатов штата Алабама для возможного принятия дисциплинарных мер.

Адвокаты Butler Snow неоднократно приносили извинения на предыдущем слушании в Манаско. Они заявили, что адвокат использовал искусственный интеллект для исследования судебной практики, но не проверил информацию перед добавлением её в два документа в федеральный суд. Эти цитаты оказались «галлюцинациями» — то есть неверными цитатами — системы искусственного интеллекта.

«Проще говоря, цитаты были полностью выдуманы», — написала Манаско. Она добавила, что использование цитат без проверки их точности было «крайней безрассудностью».

Источник ^[2]