ChatGPT в суде: риски и ответственность юристов

Недавний случай в суде Южной Африки привлек внимание из-за недопустимых ошибок. Юридическая команда в деле Mavundla vs. MEC: Department of Co-Operative Government and Traditional Affairs KwaZulu-Natal and Others опиралась на несуществующие судебные прецеденты, сгенерированные искусственным интеллектом ChatGPT.

Лишь два из девяти представленных в Высокий суд авторитетных источника оказались подлинными. Остальные были ложными данными, созданными ИИ. Суд назвал такое поведение «безответственным и непрофессиональным» и передал дело на рассмотрение в Южноафриканский юридический совет.

Это не первый случай, когда южноафриканские суды сталкиваются с подобными инцидентами. Дело Parker vs. Forsyth 2023 года также касалось поддельных судебных прецедентов, созданных ChatGPT. Однако тогда судья был более снисходителен, не усмотрев умысла ввести в заблуждение. Решение по делу Mavundla знаменует собой переломный момент: суды теряют терпение к юристам, безответственно использующим ИИ.

Мы, юристы-исследователи, изучаем растущее применение ИИ, особенно генеративного, в юридических исследованиях и образовании. Несмотря на то, что эти технологии предлагают мощные инструменты для повышения эффективности, их безответственное использование сопряжено с серьезными рисками.

Начинающие юристы, злоупотребляющие инструментами ИИ без должного руководства или этических принципов, рискуют столкнуться с серьезными профессиональными последствиями еще до начала карьеры. Юридические вузы должны вооружить студентов навыками и суждениями для ответственного использования ИИ. Однако большинство учебных заведений не готовы к стремительному внедрению ИИ.

Лишь немногие университеты имеют формальные политики или программы обучения по ИИ. Студенты остаются без наставления в этой быстро меняющейся сфере. Наша работа призывает к проактивному и структурированному подходу к обучению ИИ в юридических школах.

Когда технология становится обузой

Адвокат по делу Mavundla признал, что не проверил цитаты и полагался на исследование младшего коллеги. Этот стажер-юрист утверждал, что получил материал из онлайн-инструмента для исследований. Хотя она отрицала использование ChatGPT, схема совпадала с аналогичными мировыми инцидентами, когда юристы неосознанно подавали сгенерированные ИИ решения.

В американском деле Park vs. Kim 2024 года адвокат ссылался на несуществующие прецеденты в своей ответной жалобе, признав, что они были сгенерированы с помощью ChatGPT. В канадском деле Zhang vs. Chen 2024 года юрист подал ходатайство, содержащее два несуществующих судебных прецедента, сфабрикованных ChatGPT.

Суд по делу Mavundla был категоричен: независимо от того, насколько продвинутыми становятся технологии, юристы несут ответственность за точность всех представленных ими источников. Давление на работе или незнание рисков ИИ не являются оправданием.

Судья также раскритиковал старшего адвоката за то, что он не проверил документы перед их подачей. Этот эпизод подчеркнул более широкий этический принцип: старшие юристы должны должным образом обучать и контролировать младших коллег.

Этот урок выходит далеко за рамки одной юридической фирмы. Целостность, точность и критическое мышление — это не дополнительные опции в юридической профессии. Это основные ценности, которые необходимо прививать и практиковать с самого начала, во время юридического образования.

Классная комната — первый зал суда

Дело Mavundla должно послужить предостережением для университетов. Если опытные юристы могут попасть в ловушки ИИ, касающиеся законодательства, то студенты, еще осваивающие методы исследования и рассуждения, могут сделать то же самое.

Генеративные инструменты ИИ, такие как ChatGPT, могут быть мощными союзниками — они могут обобщать дела, составлять аргументы и анализировать сложные тексты за считанные секунды. Но они также могут уверенно фабриковать информацию. Поскольку модели ИИ не всегда «знают», когда они ошибаются, они производят текст, который выглядит авторитетно, но может быть совершенно ложным.

Для студентов опасности двояки. Во-первых, чрезмерная зависимость от ИИ может затормозить развитие критических исследовательских навыков. Во-вторых, это может привести к серьезным академическим или профессиональным проступкам. Студент, представивший сфабрикованный контент ИИ, может столкнуться с дисциплинарными взысканиями в университете и репутационным ущербом, который будет преследовать его на протяжении всей юридической карьеры.

В нашей статье мы утверждаем, что вместо полного запрета инструментов ИИ юридические школы должны обучать студентов их ответственному использованию. Это означает развитие «ИИ-грамотности»: способности ставить под сомнение, проверять и контекстуализировать информацию, сгенерированную ИИ. Студенты должны научиться относиться к системам ИИ как к помощникам, а не как к авторитетам.

В южноафриканской юридической практике авторитет традиционно относится к признанным источникам, таким как законодательство, судебная практика и академические комментарии, которые юристы цитируют для поддержки своих аргументов. Доступ к этим источникам осуществляется через устоявшиеся юридические базы данных и отчеты, процесс, который, хотя и трудоемкий, обеспечивает точность, подотчетность и соблюдение верховенства закона.

От юридических факультетов до залов суда

Юридические преподаватели могут интегрировать ИИ-грамотность в существующие курсы по методологии исследований, профессиональной этике и юридическому письму. Упражнения могут включать проверку резюме, сгенерированных ИИ, по реальным решениям или анализ этических последствий опоры на аргументы, созданные машиной.

Обучение ответственному использованию ИИ — это не просто избежание неловкости в суде. Это защита самой целостности системы правосудия. Как показал случай Mavundla, некритическое использование ИИ одним стажером-юристом привело к профессиональному расследованию, общественному вниманию и репутационному ущербу для фирмы.

Финансовые риски также реальны. Суды могут обязать юристов оплачивать судебные издержки из своего кармана при совершении серьезных профессиональных проступков. В цифровую эпоху, когда судебные решения и сообщения СМИ мгновенно распространяются в Интернете, репутация юриста может рухнуть в одночасье, если он будет уличен в использовании поддельных или непроверенных материалов ИИ. Было бы также полезно обучить суды распознавать поддельные случаи, сгенерированные ИИ.

Путь вперед

Наше исследование приходит к выводу, что ИИ останется с нами, как и его применение в юриспруденции. Задача не в том, использовать ли ИИ в юридической профессии, а в том, как это делать. Юридические школы имеют критическую возможность и этический долг подготовить будущих практиков к миру, в котором технологии и человеческое суждение должны работать бок о бок.

Скорость и удобство никогда не смогут заменить точность и добросовестность. Поскольку ИИ становится рутинной частью юридических исследований, юристы завтрашнего дня должны быть обучены не только формулировать запросы, но и мыслить.