Данные и безопасность в ИИ-проектах: что остаётся у вас, а что уходит наружу — Nadvan
Данные и безопасность в ИИ-проектах: что остаётся у вас, а что уходит наружу
Почему этот вопрос возникает первым
Почти любой разговор о внедрении ИИ начинается с вопроса: «А наши данные не утекут?» Вопрос правильный, но ответ зависит не от «ИИ вообще», а от того, какие именно данные, куда и на каких условиях попадают. Ниже порядок, в котором мы разбираем это в начале проекта.
Какие данные бывают у компании
- Открытые. Содержимое сайта, прайс, публичные материалы. Их можно передавать модели без ограничений.
- Внутренние. Регламенты, инструкции, внутренняя переписка. Обычно их можно передавать после проверки, что в них нет лишнего.
- Персональные. ФИО, телефоны, ИИН, адреса, история обращений клиентов и сотрудников. Здесь действуют отдельные правила закона и договора.
- Коммерческая тайна. Условия договоров, себестоимость, финансовая отчётность, исходный код. Эти данные чаще всего не должны покидать компанию.
На старте проекта мы собираем эти типы в три группы: что можно передавать модели, что нужно обезличить до передачи и что не покидает компанию. От этого зависят выбор модели и схема размещения. Решение по проекту мы фиксируем письменно.
Три способа запустить модель
- Облачная модель по API. Запросы уходят на серверы поставщика: ChatGPT, Claude, Gemini, Qwen и другие. Это самый быстрый и недорогой старт. Условия хранения и использования данных у каждого поставщика свои; для платного доступа через API они обычно описаны отдельно от бесплатных чатов, но точные условия мы читаем на момент старта проекта.
- Облачная модель в вашей учётной записи. Договор с поставщиком или облаком заключает ваша компания, ключи и настройки принадлежат ей, расходы видны вам. Мы настраиваем работу в этой схеме.
- Открытая модель на вашем сервере. Такую модель, например Qwen, можно развернуть на сервере заказчика: запросы не покидают ваш контур. Взамен нужны сервер, мощности и поддержка, а по качеству и скорости такая модель может уступать крупным облачным. Какие данные в какой вариант подходят
| Тип данных | Облако по API | Облако в вашей учётной записи | Открытая модель на вашем сервере |
|---|---|---|---|
| Открытые | Подходит | Подходит | Подходит, но может быть избыточно |
| Внутренние | После проверки содержимого | Подходит | Подходит |
| Персональные | Только после обезличивания [проверить у юриста] | Зависит от договора и требований [проверить у юриста] | Подходит |
| Коммерческая тайна | Не передаём | Только по решению компании, письменно | Подходит |
| Таблица даёт ориентир, а не юридическое заключение: окончательное решение принимаем на старте проекта вместе с вами. |
Обезличивание: что можно убрать до отправки модели Перед отправкой запроса фамилии, телефоны, ИИН, адреса и номера договоров можно заменить метками вроде «Клиент 1», сохранив смысл вопроса. У метода есть границы. Данные могут встретиться в свободном тексте, где автоматическая замена их не заметит. А если сам вопрос о конкретном человеке, обезличивать нечего. В таких случаях выбираем между открытой моделью на вашем сервере и решением, в котором ИИ не участвует.
Права доступа: кто что видит в ответах Ассистент, который отвечает по документам компании, не должен показывать сотруднику то, к чему у него нет доступа. Поэтому разграничение прав закладывается в проект с самого начала [подтвердить, как именно мы его реализуем]. Если в самих документах права не наведены, их стоит привести в порядок до запуска: ИИ не создаёт беспорядок, но делает его видимым.
Переписки с клиентами в мессенджерах Бот в WhatsApp или Telegram работает через платформу, а история диалогов хранится у платформы и в вашей CRM . До старта выясняем, где лежат переписки, как долго они хранятся, кто имеет к ним доступ и можно ли удалить их по запросу клиента. У платформы и у самого мессенджера есть свои правила, и мы читаем их до начала работ.
Как мы защищаем сами продукты Проекты собираем с учётом OWASP Top 10: это общий для всех наших проектов подход. Подробнее о проверках рассказывает статья «Безопасность и скорость сайта» [ссылка]. Мы не обещаем «абсолютную безопасность»: ни один подрядчик не может её гарантировать, и мы говорим о конкретных мерах и проверках.
Что говорит закон о персональных данных В Казахстане действует закон о персональных данных и их защите. Он задаёт правила сбора, хранения и передачи таких данных, в том числе требования к тому, где находятся базы . Мы не заменяем юриста: если в проекте есть персональные данные, схему размещения и формулировки согласуем с вашим юристом.
Вопросы подрядчику перед стартом Какие данные вы просите передать и в каком виде? Куда они попадают: какой поставщик, в какой стране, на каких условиях? Использует ли поставщик запросы и ответы для обучения своих моделей? Где хранятся запросы и ответы и как долго? Кто из сотрудников подрядчика имеет доступ к вашим данным? Как обезличиваются персональные данные до отправки? Что происходит с данными и доступами после окончания проекта? Фиксируются ли решения по данным письменно?