Теневой ИИ — это ваша настоящая утечка

Спросите компанию, в чём её главный риск ИИ, и услышите про модель — предвзятость, галлюцинации, взбунтовавшийся агент. Реальный инцидент, тот, что уже происходит в большинстве организаций, куда обыденнее: ваши же сотрудники скармливают конфиденциальную информацию ИИ-инструментам, которые IT никогда не одобрял и не видит. Это называется теневой ИИ, и цифры не тонкие.

71% работников пользовались несогласованными ИИ-инструментами на работе, 57% активно скрывают, что делают это, и примерно 98% организаций сообщают о каком-то несанкционированном использовании ИИ. И это не только стажёры: 90% специалистов по безопасности признают, что пользуются несогласованными ИИ-инструментами, а уверенное большинство руководителей открыто ставят скорость выше приватности данных. Тем временем у каждой пятой компании уже была утечка, напрямую связанная с теневым ИИ, в среднем на $670 000 дополнительной стоимости за инцидент. Вот утечка, на которую большинство компаний не смотрят, потому что заняты слежкой за моделью.

Это теневой IT, и динамика идентична

В форме это не ново. Мы видели это раньше: люди не могли получить нужный инструмент по официальным каналам, поэтому использовали Dropbox, или личную почту, или непроверенное SaaS-приложение — теневой IT. Теневой ИИ — та же история с более быстрым, способным и жадным до данных инструментом и с той же коренной причиной: люди обходят трение. Они не пытаются слить данные. Они пытаются сделать свою работу, согласованный путь медленный или его нет — у 63% организаций вообще нет политики использования ИИ, — так что они тянутся за быстрым неофициальным и помалкивают об этом.

Это переосмысление важно, потому что говорит: проблема в первую очередь не про безопасность. Это проблема продукта и процесса, которая становится проблемой безопасности. Ваши люди хотят пользоваться ИИ больше, чем вы дали им безопасный способ, и теневой ИИ — это размер этого разрыва.

Запрет — худший ход

Инстинкт, когда руководство видит эти цифры, — закрутить гайки: заблокировать инструменты, запретить использование, отменить директивой. Это ровно тот ход, что создал проблему. Запрет не убирает спрос; он убирает вашу видимость его. Продуктивность реальна, и люди от неё не откажутся, так что тотальный запрет загоняет использование в подполье, где вы не можете мониторить, ставить границы и даже знать, какие данные куда ушли. Вы меняете управляемый риск, который видите, на неуправляемый, которого не видите.

Данные подтверждают прямо: запреты обходят, но когда компании дают одобренные инструменты, несанкционированное использование падает на 89%. Рычаг — не запрет. Это согласованный путь, достаточно хороший, чтобы теневой никому не был нужен.

Что реально работает

Ответ на теневой ИИ тот же, что и на теневой IT: сделайте безопасный путь лёгким. Конкретно:

• Дайте согласованный, быстрый, безопасный вариант. Самый эффективный ход. Если ваш одобренный ИИ так же хорош и быстр, как ChatGPT, причина идти в обход испаряется. Бо́льшая часть теневого ИИ — люди тянутся за возможностью, которую вы не предложили.
• Задайте чёткие границы данных, а не расплывчатый страх. Люди скрывают использование отчасти потому, что правила не записаны. Скажите им прямо, что можно и нельзя класть в ИИ — данные клиентов, секреты, исходный код, — чтобы осторожное большинство могло соблюдать, а не гадать.
• Коучите в реальном времени; не только жёстко блокируйте. Предупреждение в момент, когда кто-то вставляет чувствительное («это похоже на запись клиента — вот одобренный инструмент»), меняет поведение, не ломая работу. Жёсткие блоки просто отправляют их в телефон.
• Держите живой инвентарь и аудит. Нельзя управлять тем, чего не видите. Узнать, какой ИИ реально в ходу, — шаг первый, и это движущаяся мишень, так что это постоянно, а не разовое сканирование.

Это тот же урок, что и более крупная мысль про безопасность: опасная часть ИИ обычно не модель, а система и человеческий процесс вокруг неё — здесь разрыв между согласованным и фактическим использованием.

Суть

Утечка ИИ, которой стоит бояться больше всего, — не sci-fi, где модель сходит с ума. Это глубоко обыденная, уже происходящая: благонамеренный сотрудник под дедлайном вставляет то, что не должен, в инструмент, который вы не контролируете, и вам не говорит. Это повсеместно, спрятано и дорого — и существует, потому что спрос на ИИ на работе обогнал безопасное предложение.

Так что перестаньте относиться к теневому ИИ как к проблеме дисциплины и начните как к проблеме предложения. Не запрещайте то, что людям очевидно нужно; дайте версию, безопасную и быструю настолько, что идти в обход перестаёт иметь смысл, ясно проведите линии данных и следите за остальным. Закройте разрыв между тем, как сильно ваши люди хотят пользоваться ИИ, и тем, как безопасно они могут, — потому что прямо сейчас этот разрыв нараспашку, и из него течёт.