Професія юристів стикається зі зростаючою проблемою: дедалі частішими є помилки штучного інтелекту (ШІ), зокрема фальсифікація цитат із правових прецедентів у документах, поданих до суду. Існує зростаюча мережа юристів, які діють як «юридичні розслідувачі своїми руками» для виявлення та документування цих випадків штучного інтелекту, що викликає занепокоєння щодо чесності судової системи та репутації юридичної спільноти.
Проблема фейкових посилань
Проблема почала набувати популярності на початку цього року, коли юрист у справі про банкрутство в Техасі процитував неіснуючу прецедентну практику під назвою Brasher v. Stewart. Суддя, розкритикувавши адвоката за помилку, зобов’язав його пройти шестигодинний тренінг по роботі з ШІ та направив його до державної дисциплінарної комісії. Інцидент підкреслив тривожну тенденцію: чат-боти все частіше генерують недостовірну інформацію, включаючи повністю сфабриковані посилання на правові прецеденти, які потім включаються в юридичні документи.
Зростання правових слідчих-аматорів
У відповідь команда юристів почала відстежувати та документувати ці помилки. Роберт Фройнд, юрист із Лос-Анджелеса, та Дем’єн Шарлотен, юрист і дослідник із Франції, очолюють зусилля зі створення загальнодоступних баз даних, що демонструють ці справи. Вони та інші використовують такі юридичні інструменти, як LexisNexis, і ключові слова на кшталт «штучний інтелект», «сфабриковані справи» та «неіснуючі справи», щоб виявити та позначити ці помилки, які часто виявляються в публікаціях суддів, які публічно карають адвокатів. На сьогоднішній день вони задокументували понад 500 випадків використання ШІ.
Чому це важливо?
Стівен Гіллерс, професор етики на Школі права Нью-Йоркського університету, сказав, що ці помилки завдають шкоди репутації юридичної спільноти, додавши, що юристам має бути соромно за дії своїх колег. Широке використання чат-ботів — інструментів, з якими експериментують багато фірм, — разом із загальною потребою юристів забезпечувати точність своїх документів створює складну ситуацію.
Зворотний ніж: допомога ШІ та людська помилка
Хоча чат-боти можуть бути корисними інструментами, які допомагають юристам і навіть представникам професіоналів ефективно формулювати юридичні аргументи, потенціал помилок є значним. Джессі Шеффер, юрист із Північної Кароліни, зазначає, що чат-боти можуть допомогти людям «розмовляти мовою, яку зрозуміють судді», навіть незважаючи на їхні недоліки.
Проте все частіше проблема полягає в тому, що юристи покладаються на штучний інтелект без достатньої перевірки. Наслідки можуть бути серйозними, як це видно у випадку з Тайроном Блекберном, нью-йоркським юристом, якого оштрафували на 5000 доларів за включення численних галюцинацій і фальсифікацій у юридичні документи, створені ШІ. Згодом його клієнт звільнив його та подав скаргу до юридичної спільноти.
Обмежений вплив поточних санкцій
Незважаючи на зростаючу проблему, судові покарання ще не мають значного стримувального ефекту. Роберт Фройнд вважає, що постійне виникнення цих помилок свідчить про недостатність поточних наслідків. Судові розслідувачі «Зроби сам» сподіваються, що відкритість, яку забезпечують публічні каталоги, підвищить підзвітність і спонукатиме до більшої обережності у використанні ШІ.
Майбутнє ШІ та юридичної практики
Пітер Хендерсон, професор комп’ютерних наук Прінстонського університету, працює над методами прямої ідентифікації фальшивих посилань, які виходять за рамки пошуку за ключовими словами. Зрештою, він та інші сподіваються, що підвищення обізнаності та технологічний прогрес допоможуть пом’якшити проблему штучного інтелекту та зберегти цілісність системи правосуддя.
«Мені подобається ділитися такими маленькими історіями зі своїми читачами», — сказав Yi Юджин Волох, професор права Каліфорнійського університету в Лос-Анджелесі. «історії людської ірраціональності».
Підсумовуючи, слід зазначити, що поширення помилок, створених штучним інтелектом, у юридичних документах створює серйозну проблему для юридичної професії. Поява юридичних слідчих-любителів у поєднанні з постійними дослідженнями методів виявлення вказує на зростаючу прихильність до вирішення цієї проблеми та забезпечення точності та надійності судових процесів. Юридичне співтовариство має активно працювати над тим, щоб зрозуміти обмеження цих інструментів і визначити пріоритет людського контролю, щоб запобігти цим дорогим і шкідливим помилкам.
