Генеративный ИИ в юриспруденции: рост кейсов и риски

Новый отчет Центра будущего юридической профессии (CFLP) при UNSW Law & Justice проливает свет на растущее влияние генеративного искусственного интеллекта (GenAI) в правовой сфере. Отчет под названием "GenAI, фейковое право и последствия: обзор злоупотреблений генеративным искусственным интеллектом в судебных процессах" анализирует ситуацию на основе данных за период с января 2023 по сентябрь 2025 года.

Исследование выявило более 520 случаев, в которых было замечено или подтверждено злоупотребление GenAI. Начавшись с незначительного числа, такие инциденты превратились в устойчивый поток, особенно в судах США, за которыми следует Австралия. База данных случаев GenAI была сформирована из официальных судебных документов и юридических баз данных, охватывающих десять юрисдикций: Австралия, Канада, Гонконг, Индия, Ирландия, Новая Зеландия, Сингапур, Южная Африка, Великобритания и США.

Отчет демонстрирует ключевые тенденции: преобладание случаев, связанных с самопредставительством сторон в суде, и концентрация инцидентов в комиссиях, трибуналах и судах низших инстанций, где самопредставительство встречается чаще. Среди других повторяющихся тем и паттернов риска, связанных со злоупотреблением GenAI, можно выделить:

Создание поддельных или некорректных ссылок на дела и резюме.
Необоснованные юридические выводы.
Неправильное оформление документов.
Избыточность и "наводнение" документами.

Примеры из недавних австралийских дел, связанных с GenAI, иллюстрируют, к чему может привести некорректное использование этой технологии как юристами, так и сторонами, выступающими без адвоката. Также представлены различные судебные реакции и выводы.

Рекомендации по лучшим практикам

В отчете представлены практические советы для юристов и лиц, представляющих себя в суде, по безопасному и ответственному использованию GenAI при подготовке к судебным заседаниям. GenAI действительно способен улучшить юридические услуги, но для реализации этого потенциала необходимо понимать его ограничения и риски, а также внедрять соответствующие меры предосторожности.

Профессор Майкл Легг, директор CFLP, отметил: "GenAI открывает реальные возможности для улучшения юридических услуг, но также несет риски, которые суды, юристы и политики должны понимать и контролировать. Исследование CFLP призвано помочь юридическому сообществу найти правильный баланс".

Основные статистические данные из набора данных CFLP по случаям GenAI:

Период анализа судебной практики: 1 января 2023 г. – 30 сентября 2025 г.
Рассмотренные юрисдикции: 10 (Австралия, Канада, Гонконг, Индия, Ирландия, Новая Зеландия, Сингапур, Южная Африка, Великобритания, США).
Общее количество случаев GenAI в наборе данных: 520.
Австралийские случаи GenAI в наборе данных: 87.
Австралийские случаи по типу пользователя: Юридические профессионалы – 10; Лица, представляющие себя сами (SRLs) – 68; Другие – 9 (78% SRLs).
Представленные австралийские суды/трибуналы/комиссии: 23.