3

WebTech

Личный кабинет

Проекты, коммерческие предложения, документы и отчёты — в одном месте.

Войти Зарегистрироваться Забыли пароль?
Оценка готовности данных

Данные — это то, что ограничивает проект, а не модель

Проверяем данные по шести группам вопросов: есть ли история, полна ли она, какого качества, есть ли разметка, можно ли получить доступ и что говорит закон. Занимает одну-две недели и отвечает на главный вопрос — реализуема ли задача на том, что у вас есть.

Или сразу: +7 (962) 368-39-51 Telegram

история
глубина и частота записей
полнота
пропуски и разрывы
разметка
целевая переменная
право
152-ФЗ и локализация
Задачи

Что выясняется слишком поздно

Проблемы с данными, которые обнаруживаются через два месяца после старта проекта и меняют его судьбу.

История короче, чем нужно

Для задач прогноза нужна история, покрывающая хотя бы один полный сезонный цикл. Если система начала фиксировать нужные события полгода назад, сезонность построить невозможно, и модель будет систематически ошибаться в пиковые периоды.

Целевая переменная не фиксируется

Чтобы обучить модель, нужно знать, что произошло в прошлом. Если результат операции нигде не сохраняется — был ли дефект, оплатил ли клиент, подтвердилась ли гипотеза — обучать не на чем. Восстановить это задним числом почти невозможно.

Расхождения между системами

В учётной системе одна сумма, в операционной другая, в CRM третья. Эти расхождения обычно объясняются особенностями процессов, но для модели они означают шум в обучающих данных и непредсказуемое качество.

Доступ согласуется месяцами

Технически данные есть, но получить выгрузку невозможно: нужен запрос в другой департамент, разрешение от службы безопасности, а иногда и согласие внешнего подрядчика. Проект простаивает не из-за технологий, а из-за процедур.

Персональные данные без основания

Иногда выясняется, что данные содержат персональную информацию, которую нельзя передавать во внешний сервис без правового основания и согласия субъектов. Это меняет архитектуру и стоимость проекта, причём на этапе, когда менять что-то дорого.

Стоимость подготовки не оценена

Разметка десятков тысяч примеров силами профильных специалистов может стоить дороже самой разработки. Если это не посчитано заранее, бюджет проекта оказывается вдвое больше ожидаемого.

Решения

Что проверяем

Четыре группы критериев, по которым оценивается пригодность данных для конкретной задачи.

Объём и глубина истории

Достаточно ли записей и покрывают ли они все режимы работы процесса, включая сезонные пики и особые периоды.

  • Количество наблюдений и его достаточность для выбранного метода
  • Глубина истории в сравнении с периодом сезонности процесса
  • Частота записей: достаточно ли детально фиксируются события
  • Наличие данных по редким, но важным случаям

Качество и согласованность

Проверяем данные не по отчётам, а по исходным записям: именно там видны реальные проблемы.

  • Доля пропусков и характер их появления: случайные или систематические
  • Дубли записей и расхождения между системами по одним и тем же операциям
  • Аномальные значения и артефакты ручного ввода
  • Стабильность справочников: менялись ли классификаторы за проверяемый период

Разметка и целевая переменная

Отвечаем на вопрос, есть ли в данных то, чему модель должна научиться, и сколько будет стоить получить это в нужном объёме.

  • Наличие целевой переменной и её определенность для разных периодов
  • Объём существующей разметки и её качество: проверка согласия между разметчиками
  • Оценка стоимости и срока разметки недостающего объёма
  • Возможность использовать слабый контроль вместо полной разметки

Доступ и правовые ограничения

Определяем, можно ли данные получить, хранить и обрабатывать — и в каком контуре это допустимо.

  • Технические способы выгрузки: API, реплика базы, файловый обмен
  • Организационные процедуры: кто согласует доступ и сколько это занимает
  • Наличие персональных данных и основание для их обработки
  • Требования к локализации и допустимость внешних сервисов
Процесс

Как проходит оценка

Одна-две недели работы, по итогам которых появляется отчёт с вердиктом по каждой группе критериев.

  1. 01 2–3 дня

    Формализация задачи

    Определяем, что именно должна предсказывать или извлекать модель, и какие данные для этого нужны в идеале.

  2. 02 3–5 дней

    Инвентаризация источников

    Находим все системы, где фиксируются нужные события, описываем способ выгрузки и объём, оцениваем сроки доступа.

  3. 03 3–5 дней

    Профилирование данных

    Смотрим фактические записи: полноту, пропуски, дубли, расхождения, стабильность признаков во времени.

  4. 04 2–3 дня

    Отчёт и план подготовки

    Формируем вердикт по каждой группе критериев, оцениваем стоимость и срок подготовки данных, даём рекомендацию.

Чек-лист готовности данных

Оценка начинается с вопроса об объёме. Сколько наблюдений доступно и покрывают ли они все режимы процесса: будни и выходные, высокий и низкий сезон, будничную работу и аварийные ситуации. Для задач прогноза критично, чтобы история покрывала хотя бы один полный цикл сезонности, иначе модель не сможет отличить устойчивую закономерность от разового всплеска.

Второй блок — качество. Здесь важно смотреть исходные записи, а не сводные отчёты: пропуски, дубли, расхождения между системами, следы ручных правок. Отдельно проверяется стабильность справочников: если классификатор категорий менялся посреди исторического периода, данные до и после изменения несопоставимы без дополнительной работы по приведению.

Третий блок — целевая переменная. Модель учится на том, что произошло в прошлом, поэтому нужно, чтобы результат операции где-то фиксировался. Часто выясняется, что фиксируется только положительный результат: успешные сделки есть, а отказы нет; подтверждённые дефекты есть, а пропущенные нет. Это искажает обучение и требует дополнительной работы с данными.

Четвёртый блок — доступ. Данные могут существовать технически, но быть недоступными организационно. Мы всегда выясняем не только способ выгрузки, но и процедуру согласования, потому что именно она определяет реальный срок старта проекта.

Сколько данных нужно для разных типов задач

Требования сильно различаются по типу задачи. Для классификации с учителем, где нужно различать несколько классов, обычно требуется от нескольких сотен до нескольких тысяч размеченных примеров на класс, причём редкие классы нуждаются в отдельном внимании. Для задач прогноза числовых величин важнее не количество, а охват периодов: тысяча наблюдений внутри одного месяца менее полезна, чем триста наблюдений, равномерно распределённых по году.

Для поиска аномалий разметка в классическом смысле не нужна: модель учится на нормальном поведении и отмечает отклонения. Но требуется достаточно длинная история нормальной работы, чтобы модель понимала, как выглядит норма в разных условиях. Для систем на языковых моделях с поиском по документам нужен не объём, а полнота корпуса: отсутствие ключевых документов в индексе означает, что система не сможет ответить на часть вопросов.

Отдельный случай — дообучение существующей модели под вашу терминологию. Здесь хватает нескольких сотен качественных примеров, потому что модель уже обладает общими знаниями, и задача сводится к адаптации стиля и словаря. Это самый экономный по данным вариант, и мы часто начинаем именно с него.

Правовые ограничения при работе с данными

Если данные содержат персональную информацию, у обработки должно быть правовое основание, а субъект должен быть проинформирован. Для AI-проектов это означает несколько практических требований: минимизировать состав передаваемых данных, не передавать в модель то, что для задачи не нужно, и обеспечить возможность объяснить решение, если оно затрагивает права человека.

Второй аспект — локализация. Если обработка персональных данных ведётся с использованием внешних сервисов, необходимо убедиться, что требования законодательства соблюдены: база данных должна находиться на территории Российской Федерации, а трансграничная передача оформлена надлежащим образом. На практике это чаще всего означает выбор локального контура или российского облака.

Третий аспект — сроки хранения и доступ. Данные, собранные для проекта, не должны храниться бессрочно «на всякий случай»; нужен регламент удаления. Доступ к ним ограничивается ролями, а действия фиксируются в журнале. Эти требования кажутся бюрократическими, но именно они позволяют проекту пройти внутренний аудит без переделок на финальной стадии.

Частые вопросы

От недели до двух, в зависимости от числа источников и объёма данных. Основное время уходит не на анализ, а на получение доступа и выгрузок. Если данные находятся в одной системе и доступ организован, оценку можно провести за три-четыре дня. Если источников пять и каждый требует отдельного согласования, срок растёт соответственно.

Вариантов несколько. Можно начать собирать недостающие данные и вернуться к проекту позже — иногда это единственный честный путь. Можно сузить задачу до той части, для которой данных достаточно: например, вместо прогноза спроса на все товары делать его только по стабильным позициям. Можно применить подходы, менее требовательные к данным: правила, поиск отклонений от нормы, дообучение существующей модели.

Не всегда. Задачи прогноза, поиска аномалий и поиска по документам обходятся без классической разметки: в первом случае целевая переменная берётся из истории, во втором модель учится на нормальном поведении, в третьем достаточно корпуса документов. Разметка нужна там, где требуется различать классы, которые нигде явно не зафиксированы, — например, типы дефектов на изображениях или категории обращений.

Зависит от содержания данных и условий сервиса. Для обезличенной статистики ограничений обычно нет. Если в данных есть персональная информация, требуется правовое основание и соблюдение требований по локализации, а также проверка условий договора с поставщиком сервиса. Мы всегда выясняем этот вопрос на этапе оценки, потому что ответ определяет архитектуру: локальный контур или внешний сервис.

Материалы об AI: другие направления

Смежные задачи, которые обычно решаются в одном проекте с этой.

Стоит ли начинать проект на ваших данных?

Покажите, какие события фиксируются и в каких системах, — за неделю скажем, хватает ли данных и что нужно подготовить.