Требования нужно закладывать в архитектуру, а не прикручивать после

Обработка персональных данных в AI-системе подчиняется тем же требованиям, что и любая другая обработка, но с несколькими особенностями. Первая — автоматизированное принятие решений: если система принимает решение, порождающее юридические последствия для человека, субъект должен быть проинформирован о таком решении и иметь возможность возразить. Вторая — минимизация: в модель не следует передавать данные, не нужные для решения задачи.

Третья особенность — локализация. При использовании внешних сервисов необходимо убедиться, что база данных, в которой хранятся персональные данные граждан Российской Федерации, находится на территории страны, а трансграничная передача оформлена в соответствии с требованиями. На практике это чаще всего означает локальный контур или российское облако, особенно для задач, связанных с оценкой людей: подбор персонала, скоринг клиентов, оценка качества работы сотрудников.

Важно, что требования касаются не только явных персональных данных. Обезличенный набор записей может оставаться персональными данными, если человека можно определить по совокупности признаков: должности, подразделения, графика работы. Поэтому мы всегда начинаем с вопроса, для чего именно эти данные нужны модели, и стараемся сократить их состав до необходимого минимума.

Выбор между локальным контуром и внешним сервисом — это компромисс между стоимостью и контролем. Внешний сервис даёт быстрый старт, высокое качество моделей и оплату по фактическому использованию, но данные покидают ваш периметр, а стоимость растёт линейно вместе с объёмом операций.

Локальный контур требует вложений в оборудование и компетенции, зато даёт фиксированную стоимость, полный контроль над данными и независимость от изменений тарифов и условий поставщика. Экономика зависит от объёма: при небольшом числе операций выгоднее внешний сервис, при больших объёмах собственные мощности окупаются за год-полтора.

Наиболее практичный вариант для многих компаний — гибридная схема. Чувствительные задачи, связанные с персональными данными и коммерческой тайной, обрабатываются локально; общие задачи вроде генерации текста или суммирования публичных документов идут через внешние сервисы. Такая схема позволяет получить экономию, не создавая правовых рисков. Мы всегда считаем экономику обоих вариантов на ваших объёмах, а не рекомендуем один подход всем.

Объяснимость нужна не для отчётности, а для разбора спорных ситуаций. Когда система принимает решение о человеке — отказывает в кредите, не пропускает кандидата, снижает рейтинг подрядчика, — должна существовать возможность объяснить, на чём основано решение, в терминах, понятных и специалисту, и самому человеку.

Технически это реализуется двумя способами. Первый — выбор моделей, объяснимых по своей природе: для табличных задач это градиентный бустинг с оценкой вклада признаков, для правил — явные условия. Второй — интерпретация сложных моделей: анализ вклада признаков в конкретное предсказание, выделение фрагментов документа, повлиявших на ответ языковой модели.

Контроль предвзятости начинается с исключения признаков, не связанных с задачей, включая косвенные. Далее проводится проверка распределения решений между группами при сопоставимых исходных данных: если для одной группы доля отказов устойчиво выше, это повод пересмотреть признаки или постановку задачи. Важно понимать, что полное устранение смещений недостижимо: цель в том, чтобы смещения были обнаружены, измерены и осознанно приняты либо устранены.