Назад к блогуТехнические

FOIA: редактирование от недель до часов

Федеральное правительство в 2024 году потратило по оценкам 500 миллионов долларов на обработку запросов FOIA, в основном на ручное редактирование.

May 28, 20268 мин чтения
FOIA automationgovernment AIARPA-HDSARpublic records redaction

FOIA: ИИ сокращает редактирование с недель до часов

Обновлено для 2026 года.

Федеральное правительство в 2024 году потратило по оценкам 500 миллионов долларов на обработку запросов FOIA. Большая часть этих расходов пришлась на ручное редактирование. Отставание DOJ превысило 100 000 открытых запросов.

ARPA-H в 2025 году объявило закупку программного обеспечения для редактирования на основе ИИ. HHS установило, что его подразделению CMS необходимы инструменты на основе ИИ. Ручная работа создала отставания, которые сотрудники не могли разгрести.

Вопрос изменился. Речь больше не о том, нужно ли автоматизировать. Речь о том, как сделать это так, чтобы выдержать проверку в суде.

Проблема федерального отставания

Согласно 5 U.S.C. §552 агентства должны ответить в течение 20 рабочих дней. На практике многим требуются месяцы. Некоторым – годы.

Отставание DOJ в 100 000+ запросов равно примерно 2 миллиардам минут ручной проверки. Это при допущении всего 20 минут на запрос. При государственных почасовых ставках затраты труда исчисляются миллиардами.

Большая часть этого времени уходит на одну задачу. Сотрудники просматривают страницы в поисках имён, адресов и телефонных номеров. Для этого не требуется юридическая оценка. Требуется поиск по шаблонам. Алгоритм делает это за секунды.

Что требовали ARPA-H и HHS

ARPA-H искало программное обеспечение для редактирования на основе ИИ для обработки документов FOIA. Заявленные требования:

  • Автоматическое выявление персональных данных по исключениям Exemption 6 и 7(C).
  • Пакетная обработка больших наборов документов.
  • Поддержка смешанных форматов: PDF, Word и электронная почта.
  • Документирование аудиторского следа.
  • Защищаемый результат для ответа по FOIA.

HHS/CMS пришли к тому же выводу. Растущие объёмы и неизменная численность персонала сделали ручную проверку непосильной. Эти агентства не гнались за новой технологией. Они решали кризис соответствия требованиям.

Штаты и местный уровень: меньше ресурсов, те же правила

У федеральных агентств есть специальные офисы FOIA и юридические бюджеты. Штаты и местные власти имеют те же правовые обязанности при гораздо меньших ресурсах.

CPRA в Калифорнии требует ответа в течение 10 календарных дней. Округ с юридической командой из трёх человек не может обработать 2 000 документов за этот срок. Варианты ограничены:

  1. Отказать или отложить – что создаёт юридический риск.
  2. Нанять временный персонал – дорого и медленно.
  3. Автоматизировать механический этап редактирования.

Вариант 3 теперь доступен. Та же пакетная обработка, которую используют федеральные агентства, доступна юридическим отделам округов. Длительные сроки закупок не требуются. В нашем обзоре соответствия требованиям показано, как правила о публичных записях применяются в разных юрисдикциях.

DSAR в ЕС: та же проблема

Запросы субъектов данных на доступ (DSAR) по статье 15 GDPR создают параллельную задачу для организаций в ЕС. В отличие от FOIA, обязанности по DSAR распространяются на все организации, обрабатывающие персональные данные. Небольшая SaaS-компания может получать столько же DSAR, сколько крупный банк.

Практическая задача аналогична FOIA. Организация должна предоставить все данные, которые она хранит о конкретном человеке. Персональные данные третьих лиц необходимо удалить из ответа. Срок – 30 дней.

Каждый DSAR, затрагивающий архивы электронной почты, обращения в поддержку и записи о заказах, может означать сотни документов для проверки. Для организаций, обрабатывающих 20–50 DSAR в месяц, ручная проверка требует одного или нескольких сотрудников на полную ставку. Пакетная автоматизация сводит это к работе на неполную ставку.

Десктопная обработка для чувствительных записей

Некоторые агентства не могут использовать веб-инструменты. Данные, которые должны оставаться внутри систем агентства, требуют локальной обработки.

Десктопное приложение anonym.legal создано для этого сценария:

  • Десктопное приложение читает файлы на собственном оборудовании агентства; обнаружение выполняется через API, размещённый в ЕС, – единственный разрешённый обмен.
  • Соединение работает через интернет и ограничено одним лишь anonym.legal – необходимо активное подключение.
  • Пакетные запуски обрабатывают от 1 до 5 000 файлов за раз.
  • Поддерживаемые форматы: PDF, DOCX, XLSX, TXT, CSV, JSON, XML.
  • Обработанные файлы упаковываются в ZIP-архив.
  • Включён экспорт в CSV и JSON с метаданными по каждому файлу.

Для агентств со строгими правилами о местонахождении данных, но с разрешённым внешним подключением это подходящее решение: десктопное приложение использует ту же модель обнаружения – XLM-RoBERTa с 273 типами сущностей – что и веб-платформа. Для агентств с по-настоящему изолированной сетью и без какого-либо внешнего подключения десктопное приложение не подходит; наш родственный продукт anonym.plus вместо этого выполняет обнаружение полностью на устройстве.

Подробности настройки смотрите в нашей документации десктопного приложения.

Примечания по внедрению

Аудиторские следы. Государственные рабочие процессы требуют записей о том, что было отредактировано, на каком основании и кем. Метаданные пакетной обработки охватывают первые два пункта. Направление документов с исключениями на проверку сотрудниками охватывает остальное.

Согласованность. Ответ по FOIA, в котором имя удалено в одном документе, но пропущено в другом, создаёт юридические риски. Фиксированная автоматическая конфигурация устраняет эту несогласованность.

Материалы SBU. Многие правительственные документы чувствительны, но не засекречены. Локальная обработка обрабатывает файлы SBU без использования сети. Веб-обработка с надлежащими соглашениями DPA охватывает файлы, не являющиеся SBU.

Формат результата. Метод Redact использует замену чёрной полосой. Это соответствует виду стандартных редактирований FOIA и подходит для представления в суде. Подход с токенами – например, [REDACTED - Exemption 6] – добавляет явную ссылку на исключение для более подробных записей.

Итог

FOIA – это юридическая обязанность. Срок в 20 рабочих дней – не цель. Когда объём запросов превышает возможности персонала, следуют сбои.

Пакетное редактирование на основе ИИ не заменяет юридическую оценку. Оно устраняет механический этап – поиск и маркировку стандартных персональных данных в тысячах документов. Этот этап занимает 70–80 % времени проверки. Тогда сотрудники могут сосредоточиться на 10–20 % документов, где важен контекст.

И ARPA-H, и HHS/CMS это увидели. Штаты, местные власти и организации в ЕС с обязанностями по DSAR сталкиваются с тем же вызовом. В нашем обзоре безопасности и соответствия требованиям показано, как устроены защищаемые процессы редактирования.

Когда у этого подхода есть пределы

Автоматизация механического этапа редактирования – верное разделение труда: время сотрудников принадлежит оценкам, а не просмотру страниц в поисках имён. Но действуют три ограничения.

Локальная обработка контролирует хранение, а не качество обнаружения. Для агентств с разрешённым внешним подключением десктопное приложение держит файлы на оборудовании агентства, пока обнаружение выполняется на серверах anonym.legal – это решает вопрос местонахождения данных, но не делает редактирование точнее. Для агентств с по-настоящему нулевой связью anonym.plus вместо этого выполняет модель того же класса полностью на устройстве. В любом случае пропущенное имя остаётся пропущенным, покидал файл здание или нет. Контроль местонахождения и качество обнаружения – это отдельные гарантии, а отношение к локальной обработке так, будто она подтверждает полноту, – категориальная ошибка, которую стоит назвать прямо.

Встроенная офлайн-модель устаревает без намеренных обновлений. anonym.plus замораживает свою модель обнаружения на устройстве на той версии, которая была установлена; новые форматы идентификаторов, специфичные для агентства коды дел и меняющиеся макеты документов не будут распознаваться, пока кто-то намеренно не обновит пакет, а в изолированной сети автоматического обновления нет. Размещённое обнаружение anonym.legal – используемое десктопным приложением и веб-платформой там, где есть активное подключение, – вместо этого обновляется автоматически. Планируйте и тестируйте обновления модели как операционную задачу для офлайн-случая и после каждого проводите повторную валидацию на актуальных образцах документов, иначе точность незаметно снижается, пока конвейер выглядит работающим точно так же, как прежде.

Стандарт защищаемости требует человеческой оценки, а не результата работы инструмента. Чистый отчёт о пакетной обработке и журнал аудита поддерживают ответ по FOIA или DSAR, но не являются им. Выбор между Exemption 6 и 7(C), различение должностных и частных лиц и вопросы привилегий – это юридические определения. На тысячах документов систематическая ошибка в конфигурации воспроизводится тысячи раз, поэтому масштаб пакетной обработки усиливает единичную ошибку, а не усредняет её. Механический этап можно автоматизировать; обязанность проявлять разумную осмотрительность остаётся за проверяющим юристом, а очередь исключений должна быть соответствующим образом обеспечена персоналом.

Источники

Готовы защитить ваши данные?

Начните анонимизацию PII с 273 типов сущностей на 48 языках.