И дома, и на работе ИИ-помощники стали для многих неотъемлемой частью жизни: они пишут тексты, ставят напоминания, готовят проекты, анализируют данные. Это быстро, удобно и кажется безопасным. Но так ли это на самом деле? Разбираемся с Надеждой Максимовой, главным экспертом Корпоративного центра информационной безопасности.
Когда вы отправляете запрос в нейросеть, информация проходит несколько этапов обработки — и на каждом есть риск утечки конфиденциальных данных:
- Большинство публичных ИИ-сервисов сохраняют запросы и загруженные файлы на своих серверах, даже если вы удалили диалог.
- Многие сервисы используют введенные данные для обучения своих моделей. Это значит, что ваш документ может стать частью знаний нейросети, а его фрагменты — «всплыть» в ответе другому пользователю при похожем запросе. Такой риск признают сами разработчики: к примеру, в документе с правилами конфиденциальности OpenAI открыто говорится, что полученные данные применяют, чтобы совершенствовать сервис, развивать технологии и вести исследовательскую работу.
- Данные передаются третьим лицам — облачным провайдерам, обеспечивающим работу сервиса, подрядчикам для технического обслуживания или аналитическим компаниям для анонимного исследования качества ответов.
- Современные ИИ-системы способны восстанавливать личности даже из фрагментов информации, которая формально считалась обезличенной. Поэтому просто удалить Ф. И. О. или паспортные данные — не гарантия анонимности. Известен эксперимент, когда языковые модели анализировали разрозненные анонимные публикации в соцсетях для идентификации их авторов. В одном из тестов модель смогла установить личности 9 из 125 участников обезличенных интервью.
- Даже если компания — владелец сервиса гарантирует защиту данных, серверы могут взломать злоумышленники. Утечка из облачной инфраструктуры — один из самых опасных сценариев.
Запрещено загружать в публичные нейросети:
- исходный код цифровых продуктов компании, скрипты, алгоритмы и другие аналогичные сведения;
- персональные данные (Ф. И. О., паспортные данные, телефоны, email-адреса);
- информацию, составляющую коммерческую тайну;
- внутренние документы с конфиденциальной или критической информацией.
Ответственность за загруженную рабочую информацию лежит на сотруднике. А цена ошибки — нарушение локальных нормативных актов компании и российских законов. Если в запросе присутствуют персональные данные контрагентов или работников, это нарушение ФЗ № 152 «О персональных данных». Если речь идет о коммерческой тайне или данных о критической информационной инфраструктуре (КИИ), последствия могут быть уже уголовными.
Искусственный интеллект — мощный инструмент, который требует осторожного обращения. Поэтому важно исключить риски утечки информации.