Распространение больших языковых моделей породило парадокс для современных предприятий. С одной стороны, инструменты ИИ обеспечивают колоссальный рост производительности — составляют письма за секунды, суммируют сложные документы, переводят между языками. С другой — каждое взаимодействие с публичным ИИ-сервисом является потенциальной утечкой данных. Неудобная правда? Ваши сотрудники уже используют ИИ. Вопрос в том, знаете ли вы об этом.
Рост теневого ИИ
«Теневой ИИ» — это несанкционированное использование ИИ-инструментов сотрудниками: без одобрения IT-отдела, без проверки безопасности и без какого-либо управления данными. Разработчик вставляет в ChatGPT проприетарный код для отладки. Менеджер по продажам загружает финансовые данные клиента в ИИ-ассистента для составления предложения. Юрист загружает конфиденциальный договор, чтобы получить быстрое резюме. Никто из них не намерен причинить вред. Но все они только что создали утечку данных.
По данным недавних отраслевых исследований, более 70% работников интеллектуального труда использовали инструменты генеративного ИИ на работе, и около половины из них делали это без ведома или разрешения работодателя. Передаваемые данные включают исходный код, внутренние стратегические документы, информацию о клиентах, финансовые прогнозы и юридическую переписку.
Масштаб проблемы поражает. В типичном предприятии с 1000 сотрудников сотни конфиденциальных документов обрабатываются сторонними ИИ-сервисами каждую неделю — сервисами, которые могут обучаться на вводимых данных, сохранять журналы разговоров или хранить данные в юрисдикциях с другими законами о конфиденциальности.
Почему блокировка ИИ не работает
Столкнувшись с проблемой теневого ИИ, организации, как правило, реагируют одним из двух способов:
Тотальный запрет. Заблокировать все URL, связанные с ИИ, на уровне брандмауэра. Запретить использование ChatGPT, Claude, Gemini и аналогичных инструментов. Рассылать общекорпоративные меморандумы с угрозами дисциплинарных мер. Этот подход проваливается по предсказуемой причине: сотрудники находят обходные пути. Они используют личные устройства, мобильный интернет или VPN-сервисы. Выгоды от ИИ слишком значительны, чтобы люди от них отказались только потому, что IT-отдел так решил. Запрещать ИИ — всё равно что запрещать интернет в 2005 году: это сигнализирует о том, что ваша организация не понимает инструменты, формирующие будущее труда.
Подход «только политика». Разработать политику допустимого использования, провести обучающую сессию и надеяться на лучшее. Это немного лучше, чем запрет, но полностью зависит от соблюдения человеком установленных правил. Политики не мешают рассеянному сотруднику случайно вставить личные данные клиента в промпт. Они не останавливают человека, загружающего конфиденциальную таблицу под давлением дедлайна. Политики описывают намерения. Архитектура их обеспечивает.
Защищённая оболочка: Третий путь
Наиболее эффективный подход — не запрещать ИИ и не полагаться только на политику. Это внедрение инструментов, действующих как защищённая оболочка — контролируемый пайплайн между сотрудниками и необходимыми им ИИ-моделями. Это означает:
Контролируемый доступ. ИИ доступен через одобренный канал, встроенный в инструменты, которые сотрудники уже используют, что устраняет соблазн искать несанкционированные альтернативы.
Управление данными по умолчанию. Пайплайн определяет, какие данные могут и не могут достигать ИИ-модели, применяя правила редактирования, фильтрации или классификации перед отправкой любого промпта.
Журнал аудита. Каждое взаимодействие логируется — не сам контент, а метаданные: кто использовал инструмент, когда, какой тип действия выполнялся. Это удовлетворяет требованиям соответствия без создания культуры слежки.
Архитектура нулевого хранения. Самый критичный компонент. Никакой контент писем, никакие промпты, никакие ответы ИИ не хранятся после завершения взаимодействия. Данные проходят через систему, генерируют результат и исчезают.
Аргумент в пользу нулевого хранения контента
Именно здесь архитектура Kerna принципиально отличается от большинства ИИ-инструментов на рынке. Мы работаем по принципу нулевого хранения контента. Вот что это означает на практике:
Никакой контент писем не хранится. Когда Kerna обрабатывает письмо — переводит, суммирует, генерирует ответ — контент проходит через наш пайплайн и немедленно удаляется после доставки ответа. Мы не логируем его. Не кешируем. Не используем для обучения.
Никакие промпты не сохраняются. Инструкции, отправляемые ИИ-модели, формируются в реальном времени и уничтожаются после выполнения. Не существует базы данных «что сотрудники спрашивали у ИИ».
Никакие выходные данные ИИ не хранятся. Переводы, резюме и черновики ответов, сгенерированные моделью, доставляются в Gmail пользователя и никогда не сохраняются на наших серверах.
Stripe обрабатывает все финансовые данные. Мы никогда не видим, не передаём и не храним номера кредитных карт, платёжные адреса или коды безопасности. Stripe обрабатывает всё. Мы сохраняем только токенизированную ссылку на статус вашей подписки.
То, что мы храним, минимально и операционно: ваш адрес электронной почты (для аутентификации), ваш тарифный план, языковые предпочтения и агрегированные счётчики использования (всего потреблено токенов). Это всё. Никакого контента. Никаких разговоров. Никаких обучающих данных.
Измерение GDPR
Для европейских предприятий теневой ИИ — это не только проблема безопасности, но и регуляторная. В соответствии с GDPR каждая передача персональных данных стороннему обработчику должна быть задокументирована, обоснована и защищена. Когда сотрудник вставляет письмо клиента в ChatGPT, организация потенциально:
- Передала персональные данные обработчику без Соглашения об обработке данных
- Отправила данные на серверы за пределами ЕС без надлежащих гарантий
- Не вела записи деятельности по обработке данных
- Нарушила принцип минимизации данных
Штрафы за нарушения GDPR могут достигать 20 миллионов евро или 4% годового мирового оборота — в зависимости от того, что больше. Теневой ИИ превращает каждого сотрудника в непреднамеренный риск соответствия.
Kerna решает это напрямую. Наша инфраструктура полностью размещена в ЕС (Google Cloud, регион europe-west1). Обработка данных осуществляется в европейской юрисдикции. И поскольку мы не храним никакого контента, воздействие персональных данных минимально даже в наихудшем сценарии.
Как выглядит безопасный рабочий процесс ИИ-почты
Рассмотрим разницу между незащищённым и защищённым рабочим процессом:
Без защищённой оболочки: Сотрудник получает письмо на немецком языке. Он копирует всё письмо — включая личные данные отправителя, вложения и конфиденциальную деловую информацию — и вставляет его в ChatGPT. Просит перевести. ChatGPT обрабатывает его, потенциально сохраняет и может использовать для улучшения будущих моделей. Сотрудник затем копирует перевод обратно в Gmail. В ни один момент это взаимодействие не было зарегистрировано, одобрено или защищено.
С Kerna: Сотрудник нажимает «Анализировать» на боковой панели Gmail. Kerna считывает контент письма напрямую через авторизованный API Google, отправляет его в OpenAI для перевода с инструкциями нулевого хранения, получает результат, отображает его на боковой панели и удаляет весь контент из памяти. Весь процесс происходит внутри Gmail. Ничего не копируется во внешнюю вкладку браузера. Ничего не хранится. Взаимодействие учитывается в аналитике использования (выполнен один перевод), но сам контент исчезает.
Производительность одинакова. Уровень безопасности принципиально иной.
Формирование культуры безопасного внедрения ИИ
Одна лишь технология не решает проблему теневого ИИ. Организациям необходима культурная трансформация, которая рассматривает ИИ как инфраструктуру, а не угрозу. Это означает:
Сделать безопасный вариант простым. Если одобренный ИИ-инструмент требует пяти кликов, а несанкционированный — двух, сотрудники будут каждый раз выбирать несанкционированный. Kerna встроена непосредственно в боковую панель Gmail — ничего не нужно устанавливать, никаких вкладок для переключения, никаких учётных данных для запоминания.
Быть прозрачными в том, что отслеживается. Сотрудники должны знать, что метрики использования отслеживаются, но контент — нет. Доверие строится через прозрачность, а не слежку.
Инвестировать в обучение. Не обучение «не используйте ИИ», а обучение «вот как эффективно и безопасно использовать ИИ». Покажите сотрудникам одобренные инструменты, продемонстрируйте рабочий процесс и объясните, почему архитектура безопасности важна.
Руководить сверху. Когда руководство открыто использует одобренные ИИ-инструменты, их принятие происходит естественным образом. Теневой ИИ процветает в организациях, где руководство игнорирует или запрещает ИИ, тогда как среднее звено тихо от него зависит.
Итог
Кризис теневого ИИ никуда не денется. По мере того как ИИ-модели становятся всё более мощными, соблазн их использовать — вне зависимости от корпоративной политики — будет только расти. Организации, реагирующие запретами, отстанут. Организации, реагирующие только политиками, останутся уязвимыми.
Предприятия, которые будут процветать, — это те, кто принимает ИИ, одновременно встраивая безопасность непосредственно в пайплайн. Нулевое хранение контента — это не маркетинговое заявление: это архитектурное решение, устраняющее целую категорию рисков.
Ваши сотрудники будут использовать ИИ. Дайте им возможность делать это безопасно.
---
*Kerna — это дополнение для Gmail, которое предоставляет ИИ-помощь прямо в ваш почтовый ящик. Построено на архитектуре нулевого хранения контента, инфраструктуре в ЕС и соответствии GDPR по умолчанию.