Прямой доступ к базе вместо операций
Соблазн дать модели SQL-доступ велик, но одно неверно составленное условие — и удалены реальные записи. Модель не понимает последствий своих запросов.
Выберите тему — соберём контекст
Описываем операции ваших систем как инструменты и отдаём их языковой модели через MCP или function calling. Каждый вызов проходит проверку прав, опасные действия требуют подтверждения человека, а весь диалог с системой сохраняется в журнале.
Или сразу: +7 (962) 368-39-51 Telegram
Модель, получившая доступ к системам, ошибается не как калькулятор, а как стажёр с правами администратора.
Соблазн дать модели SQL-доступ велик, но одно неверно составленное условие — и удалены реальные записи. Модель не понимает последствий своих запросов.
Инструменты выдаются «на всякий случай» всем: модель может выставить счёт, изменить цену или закрыть заявку клиента. Разграничение по ролям появляется только после инцидента.
Агент вызывает инструмент, получает ошибку, пробует снова и повторяет это до исчерпания бюджета. Счёт за токены приходит раньше, чем понимание проблемы.
Пользователь видит результат, но не видит, какие операции выполнила модель. Разобрать инцидент и доказать, что данные не утекли, невозможно.
Если описание операции допускает разные трактовки, модель будет вызывать её не там, где нужно. Качество описания инструментов влияет на результат сильнее, чем выбор модели.
В контекст модели попадают фрагменты договоров и персональные данные клиентов. Без фильтрации на входе и выхода такая интеграция создаёт правовые риски.
MCP-сервер как тонкий контролируемый слой между моделью и вашими системами.
Определяем, какие операции действительно нужны модели, и описываем их как инструменты с чёткими схемами входных параметров.
Реализуем сервер, который предоставляет инструменты, ресурсы и подсказки по протоколу MCP и работает как с локальными, так и с веб-клиентами.
Собираем цепочки шагов, где модель планирует действия, вызывает инструменты и проверяет результат, а критические операции остаются за человеком.
Фильтруем вход и выход, ограничиваем доступ к данным и обеспечиваем полную трассировку для разбора инцидентов.
Начинаем с одного сценария и набора инструментов, расширение — только после того, как первый работает надёжно.
Определяем задачу, где модель экономит время сотрудника, и перечисляем операции, которые ей действительно нужны.
Описываем инструменты, согласуем матрицу прав, определяем список действий, требующих подтверждения человеком.
Реализуем сервер, подключаем клиента, запускаем сценарий на ограниченной группе пользователей с полным журналированием.
Добавляем инструменты, настраиваем наблюдаемость и стоимость, документируем контракты и передаём команде.
Model Context Protocol — открытый протокол, который описывает, как приложение-клиент передаёт языковой модели доступные инструменты и ресурсы, а модель запрашивает их вызов. До его появления каждая интеграция реализовывалась отдельно под конкретный продукт, и результат нельзя было переиспользовать.
Практическая выгода в том, что один MCP-сервер может работать с несколькими клиентами: средой разработки, внутренним чат-ботом, десктопным приложением сотрудника. Логика доступа к системе описана один раз, права и журналирование настраиваются в одном месте, а не размножаются по интеграциям.
Function calling — механизм, при котором модель не выполняет действие сама, а формирует запрос на вызов функции с определёнными аргументами. Исполняет вызов ваш код, а значит, все проверки остаются на стороне приложения: соответствие роли пользователя, допустимость операции, лимиты.
Это принципиальное разделение. Модель отвечает за выбор подходящего инструмента и формирование параметров, приложение — за право выполнить операцию и за её последствия. Как только модель получает возможность обходить проверки, система становится неуправляемой, независимо от качества самой модели.
Ограничения проектируются на трёх уровнях. Первый — перечень доступных инструментов: если операции нет в списке, модель её не вызовет. Второй — валидация аргументов и прав перед выполнением, включая проверку, что пользователь, от имени которого работает агент, действительно имеет доступ к объекту. Третий — фильтрация ответа: перед возвратом пользователю результат проверяется на наличие служебных данных и персональной информации.
Дополнительно ограничивается бюджет сценария: число шагов, общее время выполнения, суммарная стоимость запросов. Это защищает не от злонамеренных действий, а от зацикливаний, которые в агентных системах случаются регулярно и обходятся дорого.
REST API описывает методы для программ, MCP-сервер — операции для языковой модели: у каждого инструмента есть семантическое описание, схема параметров и правила использования, понятные модели. Дополнительно протокол умеет передавать не только инструменты, но и ресурсы — например, содержимое документа, — а также готовые подсказки. Технически MCP-сервер может внутри обращаться к вашему REST API, добавляя слой контроля и описания.
Опасные операции не выдаются модели напрямую. Схема такая: инструмент формирует предложение действия, система показывает его человеку с понятным описанием последствий, и только после подтверждения выполняется реальная операция. Для массовых действий добавляются ограничения объёма — например, не более двадцати записей за один вызов. Такой подход сохраняет удобство и исключает необратимые потери из-за ошибки модели.
Да. MCP-сервер и модель могут работать полностью внутри вашей инфраструктуры: сервер подключается к внутренним системам по локальной сети, а языковая модель разворачивается на вашем оборудовании. Внешние запросы при этом не выполняются вообще, что снимает вопросы о передаче данных третьим лицам. Ограничение — требования к железу: локальные модели уступают облачным в сложных рассуждениях, поэтому набор сценариев подбирается под их возможности.
Стоимость складывается из запросов к модели и вызовов внутренних систем. Мы считаем цену одного типового сценария: сколько шагов он занимает, сколько токенов расходует, сколько раз обращается к базе. На основе этих цифр настраиваются лимиты на пользователя и на сценарий. Для экономии применяются кэширование повторяющихся запросов, компактные модели для простых шагов и передача сложных случаев более крупной модели.
Смежные задачи, которые обычно решаются в одном проекте с этой.
Опишите задачу и системы, к которым нужен доступ, — предложим набор инструментов, схему прав и точки, где потребуется подтверждение человека.
Cookie и аналитика
Мы используем необходимые cookie для работы сайта и форм. Аналитические cookie (Яндекс.Метрика, включая запись сессий) подключаем только с вашего согласия — от него можно отказаться. Подробнее: Политика использования cookie и обработка персональных данных.