Два способа провалить редактирование
Юридические команды сталкиваются с двумя режимами ошибок. Оба создают реальную ответственность.
Недостаточное редактирование раскрывает привилегированные данные или персональную информацию, которая должна оставаться скрытой.
Чрезмерное редактирование скрывает факты, которые противоположная сторона имеет право увидеть. Суды расценивают это как противодействие правосудию — нарушение раскрытия доказательств, влекущее санкции.
ИИ-инструменты, ориентированные на полноту в ущерб точности, вызывают вторую проблему по замыслу. Система, закрывающая 80% документа, ничего не пропустит. Но результат бесполезен и может повлечь санкции суда.
Дело Schnitzer Steel (2024)
В деле Athletics Investment Group v. Schnitzer Steel 2024 года одна сторона предоставила документы с широкими пометками. Противоположная сторона оспорила. Суд изучил материалы и установил: пометки вышли за пределы допустимого законом.
Результат: санкции по Federal Rule of Civil Procedure 37. Производящая сторона заплатила за неправильный процесс.
Это дело показывает: с распространением ИИ-помощи при проверке документов проверяли ли юридические команды точность своих инструментов до использования в производстве?
Три признака защищаемой системы
Суды рассматривают оспариваемые элементы по одному. Они задают узкий вопрос: каково основание для этого конкретного элемента в этом конкретном документе?
Большинство ИИ-инструментов не могут на него ответить. Три функции делают это возможным:
Оценки уверенности для каждой сущности. Каждый закрытый элемент должен иметь числовую оценку уверенности и тип обнаружения. Без этого нет ответа на оспаривание.
Журнал аудита уровня документа. Должна существовать запись о том, что было обнаружено, когда и каким методом для каждого документа.
Настраиваемые пороги. Если адвокат устанавливает порог в 0,85, система должна записывать это решение. «Алгоритм решил» недостаточно.
Точность 22,7% — реальная проблема
Исследование Alvaro et al. (2024) протестировало Microsoft Presidio на бизнес-файлах. Точность для имён: 22,7%. Из 100 элементов, помеченных как имена людей, менее 23 действительно являлись ими.
Инструмент с такой точностью производит огромное количество «закрытых» элементов, которые не должны быть закрыты. При оспаривании судом каждый нуждается в объяснении. Без записей — объяснения нет.
anonym.legal использует гибридный конвейер: regex + spaCy + трансформеры + словари. Каждая обнаруженная сущность имеет тип, уровень уверенности и метод обнаружения. Эти записи поддерживают защитный журнал аудита.
Подробнее — на нашей странице соответствия и в руководстве по соответствию HIPAA.