Почти треть сотрудников российских компаний за последние полгода отправляли нейросетям логины, пароли и ключи от рабочих папок. Одновременно выясняется, что ChatGPT не просто обрабатывает запросы, но и накапливает персональные данные пользователей, формируя на каждого цифровое досье. В совокупности эти два фактора создают новую, недооценённую плоскость корпоративных рисков.
Что именно уходит в нейросети
В ходе анонимного опроса 1,3 тыс. сотрудников российских компаний, использующих ИИ в работе, а также почти 500 руководителей и специалистов из сфер безопасности, IT, HR и права, были получены показательные данные. Пароли и доступы оказались самой частой категорией конфиденциальной информации, попадающей в чат-боты, — но далеко не единственной. За полгода в нейросети загружали:
- коммерческие предложения — 25% опрошенных;
- финансовые расчёты и отчёты — 22%;
- рабочую переписку — 21%;
- договоры — 16%;
- клиентские базы, в том числе с персональными данными, — 12%.
Мотивы в подавляющем большинстве случаев не связаны со злым умыслом. Около 20% респондентов стремились быстрее закрыть рутинную задачу. Остальные просили нейросеть разобраться в большом объёме информации, подготовить или отредактировать документ. При этом каждый пятый не понимал, какие рабочие данные вообще допустимо передавать ИИ-сервисам, а часть сотрудников даже не осознавала, что загружает что-то конфиденциальное.
Институциональный пробел
Ключевая проблема — отсутствие формализованных правил. Нейросети уже стали частью повседневных рабочих процессов, однако понятных регламентов, определяющих, что можно и что нельзя отправлять в чат-боты, у сотрудников нет. Компаниям необходимо не только прописать такие политики, но и сделать их удобными в применении — иначе они останутся на бумаге.
Отдельного внимания заслуживает то, что отправленный нейросети документ не исчезает после закрытия чата. Сервис может его запомнить — и это уже не гипотетический риск.
ChatGPT и цифровые портреты пользователей
Профильные подразделения по борьбе с киберпреступностью прямо предупреждают: ChatGPT запоминает, о чём с ним говорят, и постепенно собирает на человека цифровое досье. Пользователи делятся с ботом личными переживаниями, загружают рабочие документы, спрашивают о деньгах и здоровье — и часть этих сведений сохраняется в памяти модели, чтобы «узнавать» собеседника в следующих сессиях.
Академические исследования фиксируют масштаб явления: примерно 95% записей в памяти формируются без явного разрешения человека, а у 91% аккаунтов в памяти хранятся сведения, относящиеся к персональным данным. Из накопленного массива выстраиваются цифровые портреты.
Специалисты выделяют две угрозы. Первая — по накопленным данным человека можно деанонимизировать, даже если он общается под псевдонимом. Вторая — памятью нейросети можно управлять извне: достаточно внедрить ложные инструкции в документ, который пользователь сам отправит боту на обработку.
Базовые меры защиты
- проверять настройки памяти и персонализации в ИИ-сервисах;
- не загружать в чат рабочие документы и иную закрытую информацию;
- убирать из запросов реальные имена, адреса и прочие идентифицирующие детали;
- обсуждать личные вопросы только во временных чатах;
- регулярно проверять, что нейросеть запомнила.
Расчёты, договоры и клиентские базы, отправленные в публичную нейросеть, больше нельзя считать внутренними документами. Их дальнейшая судьба зависит от настроек сервиса, в которые заглядывает меньшинство пользователей.
Анализ Cryptalist: Кейс демонстрирует системный разрыв между скоростью внедрения генеративного ИИ и зрелостью корпоративных политик безопасности — утечка данных происходит не через взлом, а через добросовестное использование инструментов. Для рынка это сигнал о растущем спросе на решения класса DLP и приватные корпоративные ИИ-контуры, а также о вероятном ужесточении регуляторных требований к обработке персональных данных в чат-ботах. Компаниям, откладывающим формализацию правил работы с нейросетями, стоит рассматривать это как прямое предупреждение о репутационных и юридических издержках.