Ошибки ИИ в юриспруденции: пределы доверия к технологиям

Судьи по всему миру сталкиваются с растущей проблемой: юридические документы, созданные с помощью искусственного интеллекта, содержат ошибки, включая ссылки на несуществующие дела. Юристы и судебные документы подтверждают эту тенденцию, которая служит предостережением для тех, кто осваивает ИИ на работе.

Многие работодатели стремятся нанимать сотрудников, способных использовать технологии для исследований и составления отчетов. Пока учителя, бухгалтеры и маркетологи начинают использовать ИИ-чат-боты и ассистентов для генерации идей и повышения продуктивности, они также обнаруживают, что программы могут допускать ошибки.

Французский дата-саентист и юрист Дамьен Шарлотен зафиксировал по меньшей мере 490 судебных исков за последние шесть месяцев, содержащих "галлюцинации" — ложные или вводящие в заблуждение ответы ИИ. По его словам, темпы растут по мере увеличения числа пользователей ИИ.

"Даже самый искушенный пользователь может столкнуться с проблемой", — сказал Шарлотен. "ИИ может быть благом. Он замечателен, но существуют и эти подводные камни".

Шарлотен, старший научный сотрудник бизнес-школы HEC Paris, создал базу данных для отслеживания дел, в которых судьи постановили, что генеративный ИИ создал вымышленные данные, такие как сфабрикованное прецедентное право и ложные цитаты. Большинство таких решений приходится на дела в США, где истцы представляли себя сами без адвоката. Хотя большинство судей выносили предупреждения об ошибках, некоторые налагали штрафы.

Однако даже известные компании подавали проблематичные юридические документы. Федеральный судья в Колорадо постановил, что адвокат компании MyPillow Inc. подал иск, содержащий почти 30 дефектных цитат, в рамках дела о клевете против компании и ее основателя Майкла Линделла.

Юридическая профессия — не единственная, кто борется с недостатками ИИ. Обзоры, которые появляются вверху страниц результатов веб-поиска, часто содержат ошибки.

ИИ-инструменты также вызывают опасения по поводу конфиденциальности. Работникам всех отраслей следует проявлять осторожность при загрузке или вводе данных в запросы, чтобы обеспечить защиту конфиденциальной информации работодателей и клиентов.

Думайте об ИИ как об ассистенте

Не доверяйте ИИ принятие важных решений. Некоторые пользователи ИИ рассматривают инструмент как стажера, которому вы поручаете задачи и чью выполненную работу вы ожидаете проверить.

"Думайте об ИИ как о дополнении вашего рабочего процесса", — сказала Мария Флинн, генеральный директор некоммерческой организации Jobs for the Future, занимающейся развитием рабочей силы. ИИ может выступать в качестве помощника для таких задач, как составление электронного письма или исследование маршрута путешествия, но не следует рассматривать его как замену, способную выполнить всю работу, добавила она.

Готовясь к встрече, Флинн экспериментировала с внутренним ИИ-инструментом, прося его предложить вопросы для обсуждения на основе статьи, которую она предоставила команде. "Некоторые из предложенных им вопросов не совсем соответствовали контексту нашей организации, поэтому я смогла дать ему обратную связь... и он вернул пять очень продуманных вопросов", — сказала она.

Проверяйте точность

Флинн также обнаружила проблемы с результатами работы ИИ-инструмента, который все еще находится на стадии пилотирования. Однажды она попросила его собрать информацию о работе, которую ее организация проделала в различных штатах. Но ИИ-инструмент рассматривал завершенные работы и предложения по финансированию как одно и то же. "В этом случае наш ИИ-инструмент не смог определить разницу между чем-то, что было предложено, и чем-то, что было завершено", — сказала Флинн.

К счастью, у нее были институциональные знания, чтобы распознать ошибки. "Если вы новичок в организации, спросите коллег, выглядят ли результаты точными для них", — посоветовала Флинн.

Хотя ИИ может помочь в мозговом штурме, полагаться на него для получения фактической информации рискованно. Потратьте время на проверку точности того, что генерирует ИИ, даже если заманчиво пропустить этот шаг.

"Люди делают предположение, потому что это звучит очень правдоподобно, что это правильно, и это удобно", — сказал Джастин Дэниелс, юрист из Атланты и партнер юридической фирмы Baker Donelson. "Возвращаться и проверять все ссылки, или когда я смотрю на контракт, который ИИ резюмировал, мне приходится возвращаться и читать, что говорит контракт, — это немного неудобно и требует времени, но это то, что вы должны делать. Как бы вы ни думали, что ИИ может заменить это, он не может".

Будьте осторожны с записями

Может быть заманчиво использовать ИИ для записи и ведения заметок во время встреч. Некоторые инструменты генерируют полезные резюме и намечают шаги на основе сказанного.

Однако многие юрисдикции требуют согласия участников перед записью разговоров. Прежде чем использовать ИИ для ведения заметок, остановитесь и подумайте, следует ли сохранять конфиденциальность разговора, сказала Даниэль Кейс, партнер чикагской юридической фирмы Fisher Phillips. Проконсультируйтесь с коллегами из юридического или отдела кадров, прежде чем использовать ИИ для заметок в ситуациях высокого риска, таких как расследования, оценка производительности или обсуждение юридической стратегии, посоветовала она. "Люди утверждают, что при использовании ИИ должны быть различные уровни согласия, и это то, что работает через суды", — сказала Кейс. "Это вопрос, за которым, я бы сказала, компаниям следует продолжать следить по мере его рассмотрения в суде".

Защита конфиденциальной информации

Если вы используете бесплатные ИИ-инструменты для составления меморандума или маркетинговой кампании, не сообщайте им идентифицирующую информацию или корпоративные секреты. Как только вы загрузили эту информацию, возможно, что другие, использующие тот же инструмент, найдут ее.

Это потому, что когда другие люди задают вопросы ИИ-инструменту, он будет искать доступную информацию, включая раскрытые вами детали, при построении своего ответа, сказала Флинн. "Он не различает, является ли что-то публичным или частным", — добавила она.

Ищите обучение

Если ваш работодатель не предлагает обучение по ИИ, попробуйте поэкспериментировать с бесплатными инструментами, такими как ChatGPT или Microsoft Copilot. Некоторые университеты и технологические компании предлагают курсы, которые могут помочь вам развить понимание того, как работает ИИ, и способы его полезного применения.

Курс, обучающий людей, как создавать лучшие ИИ-запросы, или практические курсы, предоставляющие возможности для практики, очень ценны, сказала Флинн. Несмотря на потенциальные проблемы с инструментами, изучение их работы может быть полезным в то время, когда они вездесущи.

"Самая большая потенциальная ловушка в обучении использованию ИИ — это не учиться использовать его вовсе", — сказала Флинн. "Всем нам нужно будет владеть ИИ, и первые шаги по развитию вашей осведомленности, вашей грамотности, вашего комфорта с инструментом будут критически важны".