Безопасность данных при внедрении ИИ начинается с карты передач: какие поля получает модель, где они обрабатываются и кто имеет доступ. Разберём ограничения прав, хранение журналов, условия провайдера и проверку до запуска.
Что проверить в первую очередь
До запуска нужно ответить на три вопроса: какие данные уходят за пределы компании, где они физически оказываются и кто внутри команды может их увидеть. Если подрядчик отвечает «всё безопасно, мы используем надёжные технологии», проверка не пройдена - это не ответ.
Два термина, без которых дальше не обойтись. Промпт - это то, что вы отправляете модели: вопрос плюс все данные, приложенные к вопросу. ИИ-агент - надстройка, которая сама дёргает ваши системы: читает CRM, смотрит прайс, пишет клиенту. Чем агент самостоятельнее, тем больше данных через него проходит.
ИИ сам по себе ничего не «крадёт». Утечки происходят на стыках: кто-то приложил к запросу выгрузку из базы, разработчик вписал пароль в код, доступ выдали всему отделу. Как устроен агент, разобрано в материале про ИИ-агента для бизнеса.
Какие данные уходят и куда
Выбор способа работы - это и есть основное решение по безопасности, а не галочки в настройках.
| Вариант | Где данные | Риск | Когда разумно |
|---|---|---|---|
| Публичный чат-сервис, сотрудники пользуются сами | В чужом облаке, часто за границей | Высокий: нет учёта, кто что отправил | Задачи без данных клиентов: тексты, идеи, черновики |
| Модель по API (программному интерфейсу обмена) из вашей системы | У провайдера модели; состав и хранение журналов нужно настроить | Зависит от состава запроса, доступов и условий провайдера | Большинство задач, если данные обезличены |
| Модель на своём сервере | В вашем контуре, если нет внешних вызовов и телеметрии с содержимым | Зависит от защиты сервера, обновлений и прав доступа | Медицина, финансы, закрытые документы |
Сравнивайте варианты на одной нагрузке: аренда оборудования, настройка, обновления и поддержка локального решения против платы внешнему провайдеру, интеграции и контроля передач. Свой сервер выбирают также из-за ограничений на данные, даже если он дороже. Размещение само по себе не подтверждает безопасность.
Отдельно прочитайте условия конкретного тарифа: используются ли запросы для обучения, сколько сохраняются содержимое и служебные журналы, кто имеет к ним доступ и как удалить данные. Запрет на обучение не означает отсутствие хранения.
Какие вопросы по данным согласовать до запуска
Если сведения позволяют определить человека, перед выбором модели разберите цель, основание и состав обработки. Внешний сервис добавляет получателя данных, поэтому одной технической настройки недостаточно.
- Передача данных внешнему сервису описывается в документах: на каком основании, какой объём, на какой срок.
- Согласие клиента и политика на сайте должны покрывать то, что вы делаете фактически, а не то, что было два года назад.
- Отдельно проверьте применимые требования к локализации и трансграничной передаче: страна сервера сама по себе не даёт ответа о допустимости сценария.
- Уберите поля, которые не нужны модели. В условном примере имя и телефон заменены кодом «Клиент_17», а таблица соответствий остаётся внутри компании. Это уменьшает раскрытие, но не доказывает обезличивание: по сумме, обстоятельствам и другим сведениям человек всё ещё может определяться. Покажите юристу полный пример запроса, а не только список удалённых полей.
Доступы: где реально ломается всё
Один из существенных рисков - избыточные права агента в рабочих системах. CRM - система учёта клиентов и сделок. Агент с правами администратора CRM - это сотрудник, который никогда не спит и выполняет то, что ему написали в сообщении.
- Отдельная учётная запись для агента, а не общий аккаунт директора или интегратора.
- Только нужные права: читать сделки в своей воронке - да, удалять и выгружать базу - нет.
- Операции с деньгами и необратимые действия закрыты: скидки, возвраты, удаление, отправка документов подтверждаются человеком.
- Журнал: что агент прочитал, что изменил, что ответил. Без него вы не разберёте ни одну жалобу.
- Кнопка «стоп», которой умеет пользоваться не только разработчик.
Второе место - ключи доступа: токены и пароли лежат в настройках сервера, а не в коде или общей таблице отдела, и меняются при увольнении того, кто настраивал интеграцию. Как агента связывают с базой клиентов - в материале про интеграцию сайта и CRM.
Третье место - сотрудники: менеджер выгружает список клиентов и просит публичный чат-сервис «написать всем письма». Никто не взламывал, а база ушла. Лечится инструкцией на одну страницу: какими сервисами можно пользоваться и что в них нельзя вставлять.
Где ИИ не справится и чем это грозит
Есть сценарии, где внедрение лучше не делать вовсе или делать только с человеком в середине.
- Модель уверенно выдумывает. Если агент говорит клиентам про цены и сроки, он обязан брать их из вашего прайса, а не формулировать сам. Иначе вы получите обещания, которых не давали.
- Текст в данных может стать командой. Клиент напишет в чат инструкцию, и неаккуратно собранный агент её выполнит - покажет чужую переписку или отправит то, что не должен. Отсюда жёсткий список разрешённых действий.
- Чувствительные темы агенту не отдают: медицинские диагнозы, юридические заключения, разбор претензий, переговоры о цене.
- Если процесс не описан людьми, автоматизировать нечего: ИИ ускоряет и порядок, и беспорядок с одинаковой скоростью.
Худший сценарий - не взлом, а тихая потеря доверия: агент месяц отвечал неверные сроки, выборку никто не смотрел, а к моменту выяснения уже есть отказы и отзывы. Поэтому в первые недели ответы читают руками. Что считать удачным обращением, разобрано в материале про валидную заявку.
Что записать в договор с подрядчиком
Формулировки, из-за отсутствия которых потом спорят. Проверяйте до оплаты - после подписания договориться сложнее.
- Какие данные передаются наружу и в каком виде: полные карточки или обезличенные фрагменты.
- Какой сервис и модель используются, в какой стране серверы, и что замена модели согласовывается с вами.
- Для каких целей подрядчик обрабатывает данные, каких субподрядчиков и провайдеров привлекает и как согласовывается изменение их списка.
- Какие аккаунты контролируете вы, какие настройки можно выгрузить и какие права передаются по договору. Лицензия стороннего сервиса не становится вашей собственностью.
- Сколько хранятся логи, кто у подрядчика их видит и за какое время вас уведомляют при инциденте.
Проверка перед запуском
Ответы подрядчика проверьте по настройкам, договору и результатам теста. Запускаться стоит, когда закрыты все пункты.
- Прочитайте целиком три реальных запроса, которые агент будет отправлять. Вас не должно смущать ни одно поле.
- Под учётной записью агента попробуйте сделать то, чего он делать не должен. Не получилось - хорошо.
- Откройте журнал за тестовый день: по нему должно быть видно, что агент прочитал и что ответил.
- Сверьте политику обработки данных и текст согласия с тем, что происходит фактически.
- Назначьте по именам, кто месяц выборочно читает ответы, и убедитесь, что агента можно выключить без остановки процесса.
Начинать разумно с узкого сценария: один канал, одна задача, минимум данных. Как выбрать первый участок, разобрано в материале про начало внедрения ИИ в компании. Расширять доступы стоит только тогда, когда по узкому участку есть понятный результат и чистый журнал.
Проверьте восстановление после сбоя: отключите модель на тестовом стенде и убедитесь, что заявки остаются в очереди, а сотрудник видит причину остановки. После восстановления повторная отправка не должна создавать дубликаты. В журнале сохраняйте идентификатор обращения и результат действия; полные тексты с данными клиентов нужны далеко не для каждого события.
Наши работы
Сайты, которые студия уже запустила
Четыре проекта N3MIROFF, которые можно открыть прямо сейчас и посмотреть, как они работают.
Агротех с ИИ
SkyFarm ↗
Редизайн сайта систем выращивания: первый экран с контейнерной фермой, схема работы из трёх шагов, карусель продуктов и экран приложения.
Сайт салона
ayvazzovsky.com ↗
Салон сложного окрашивания в Москве: онлайн-запись, видео работ, портфолио и команда. Переехал с Тильды на свой хостинг.
Онлайн-академия
ayvazzovsky.academy ↗
Видеоуроки колористики: каталог, посадочные страницы уроков, личный кабинет и промокоды.
Event-агентство
navsegda-event.ru ↗
НАВСЕГДА: корпоративы и конференции - услуги, кейсы, этапы работы и расчёт мероприятия.
Витрина магазина
Monkey Market ↗
Премиальная витрина магазина кроссовок с заказом в Telegram.
Услуги студии по теме: разработка сайтов под ключ и SEO-продвижение статьями.
Нужен сайт, который принимает заявки, а не просто существует?
Сделаем премиальный сайт на React за 1-2 недели от материалов, с заявками в Telegram или CRM.
Частые вопросы
Можно ли вообще использовать ИИ, если у нас персональные данные клиентов?
Допустимость зависит от данных, цели, основания обработки и условий сервиса. Сокращение состава запроса и локальное размещение - возможные меры, но ни одна сама по себе не заменяет проверку всей схемы. Не отправляйте рабочие данные до согласования получателей и доступов.
Данные, которые мы отправляем в модель, попадут в её обучение?
Зависит от условий конкретного сервиса и тарифа. Отдельно проверьте обучение, сроки хранения и доступ к журналам: запрет на обучение не означает, что запросы нигде не сохраняются.
Что опаснее: ошибка модели или утечка?
Универсального соотношения нет: последствия зависят от данных и действий системы. Ошибка в платеже может стоить дороже отдельного раскрытого сообщения. Контролируйте и передачу данных, и полномочия агента.
Нужен ли свой сервер с моделью небольшой компании?
Решение принимают по требованиям к данным и полной стоимости владения. Сравните оборудование, сопровождение и обновления с внешним сервисом на вашем потоке. Небольшой объём не отменяет требований к конфиденциальности.
Как понять, что подрядчик относится к безопасности серьёзно?
Он сам, до вопросов, говорит, какие поля уходят в запрос, какие права получает агент и что подтверждает человек. Второй признак - готовность показать журнал запросов и отдать доступы по окончании работ. Общие слова про надёжные технологии - это тоже ответ.
Разберём ваш сценарий до запуска
Скажем, какие данные в вашей задаче можно не отдавать наружу вообще и во что это обойдётся.
Получить целевые заявки → Telegram