Юридическая профессия столкнулась с растущей проблемой: всё более частые ошибки, совершаемые искусственным интеллектом (ИИ), в частности, фальсификация ссылок на судебные прецеденты, в документах, подаваемых в суд. Растёт сеть юристов, выступающих в роли «юридических самодеятельных расследователей», чтобы выявлять и документировать эти случаи «ИИ-смеси», что вызывает опасения по поводу целостности судебной системы и репутации юридического сообщества.
Проблема фальсифицированных ссылок
Вопрос начал приобретать известность в начале этого года, когда юрист в деле о банкротстве в Техасе процитировал несуществующий судебный прецедент под названием Brasher v. Stewart. Судья, критикуя юриста за ошибку, обязал его пройти шесть часов обучения по работе с ИИ и направил к дисциплинарной комиссии штата. Этот инцидент подчеркнул тревожную тенденцию: чат-боты всё чаще генерируют неточную информацию, включая полностью сфабрикованные ссылки на судебные прецеденты, которые затем включаются в юридические документы.
Расцвет юридических самодеятельных расследователей
В ответ на это группа юристов начала отслеживать и документировать эти ошибки. Роберт Фройнд, юрист из Лос-Анджелеса, и Дамьен Шарлотен, юрист и исследователь из Франции, возглавляют усилия по созданию общедоступных баз данных, демонстрирующих эти случаи. Они и другие используют юридические инструменты, такие как LexisNexis, и ключевые слова, такие как «искусственный интеллект», «сфабрикованные дела» и «несуществующие дела», чтобы выявлять и помечать эти промахи, часто обнаруживаемые благодаря публикациям судей, публично отчитывающих юристов. На сегодняшний день они задокументировали более 500 случаев использования ИИ.
Почему это важно
Стивен Гиллерс, профессор этики в юридической школе Нью-Йоркского университета, считает, что эти ошибки наносят ущерб репутации юридического сообщества, добавляя, что юристы должны стыдиться действий своих коллег. Широкое распространение чат-ботов – инструментов, с которыми экспериментируют многие компании – наряду с общепринятой необходимостью юристов обеспечивать точность своих документов, создают сложную ситуацию.
Оборотный нож: помощь ИИ и человеческая ошибка
Хотя чат-боты могут быть полезными инструментами, помогая юристам и даже представителям, действующим без адвоката (pro se ), эффективно формулировать юридические аргументы, потенциал для ошибок значителен. Джесси Шеффер, юрист из Северной Каролины, отмечает, что чат-боты могут помочь людям «говорить на языке, который поймут судьи», даже несмотря на их недостатки.
Однако всё чаще проблема заключается в том, что юристы полагаются на ИИ без достаточной проверки. Последствия могут быть серьёзными, как видно на примере Тирона Блэкберна, юриста из Нью-Йорка, которому был назначен штраф в размере 5000 долларов за включение многочисленных галлюцинаций и фальсификаций в юридические документы, созданные ИИ. Его клиент впоследствии уволил его и подал жалобу в юридическое сообщество.
Ограниченное влияние текущих санкций
Несмотря на растущую проблему, судебные наказания пока не оказывают существенного сдерживающего эффекта. Роберт Фройнд считает, что продолжающееся возникновение этих ошибок демонстрирует, что текущие последствия недостаточны. Юридические самодеятельные расследователи надеются, что открытость, обеспечиваемая общественными каталогами, повысит ответственность и поощрит большую осторожность при использовании ИИ.
Будущее ИИ и юридической практики
Питер Хендерсон, профессор компьютерных наук Принстонского университета, работает над методами непосредственного выявления поддельных ссылок, выходящими за рамки использования поиска по ключевым словам. В конечном счёте, он и другие надеются, что повышение осведомленности и технологические достижения помогут смягчить проблему «ИИ-смеси» и сохранить целостность судебной системы.
«Мне нравится делиться с моими читателями такими маленькими историями», — сказал И Eugene Volokh, профессор права Калифорнийского университета в Лос-Анджелесе. «истории о человеческой нерациональности».
В заключение, распространение ошибок, сгенерированных ИИ, в юридических документах представляет собой значительный вызов для юридической профессии. Появление юридических самодеятельных расследователей, в сочетании с продолжающимися исследованиями методов обнаружения, указывает на растущую приверженность решению этой проблемы и обеспечению точности и надёжности судебных разбирательств. Юридическому сообществу необходимо активно работать над пониманием ограничений этих инструментов и уделять приоритетное внимание человеческому контролю, чтобы предотвратить эти дорогостоящие и наносящие ущерб ошибки.
