Скрытый искусственный интеллект: это не просто проблема безопасности, но и юридический вопрос в соответствии с законодательством ЕС.

Самый серьезный инцидент в сфере кибербезопасности, с которым ваша организация может столкнуться в этом году и который связан с искусственным интеллектом , вряд ли будет вызван внешними злоумышленниками, использующими сложные новые модели. Скорее всего, все начнется с сотрудника, который вставляет клиентский договор, финансовый прогноз или набор кадровых документов в инструмент на основе ИИ, потому что это упрощает ему работу, без объяснения кому-либо, почему это важно.

Теневой ИИ становится все большей проблемой, и наше исследование показало, что почти половина сотрудников крупных компаний регулярно вводят конфиденциальные корпоративные данные в инструменты ИИ, которые не были одобрены или контролируются их ИТ-отделами.

Ещё более тревожно то, что 85% сотрудников продолжают такое поведение даже при наличии одобренных компанией инструментов, что указывает на сбой в управлении, затрагивающий высшее руководство. Благодаря скрытому ИИ конфиденциальные данные могут незаметно передаваться по каналам, которые большинство систем безопасности не предназначены для перехвата.

Помимо рисков для безопасности, связанных с этим неконтролируемым потоком данных, принятие Закона ЕС об искусственном интеллекте также означает, что организации теперь сталкиваются с конкретными юридическими требованиями по управлению использованием ИИ. Возможность обеспечить всестороннее управление развертыванием, управлением и мониторингом ИИ стала критически важным нормативным и охранным императивом.

Почему закон ЕС об искусственном интеллекте рассматривает этот вопрос на уровне совета директоров?

Теневой ИИ представляет собой серьезную угрозу безопасности: по оценкам отчета IBM «Стоимость утечки данных в 2026 году», несанкционированные инструменты стали причиной 43% утечек данных в прошлом году. Теперь же закон ЕС об ИИ добавляет к этим рискам значительные нормативные требования.

Юридические обязательства внедрялись поэтапно; совсем недавно, с 2 августа 2026 года, организации, классифицируемые как публичные пользователи искусственного интеллекта, были обязаны соблюдать новые требования, касающиеся инвентаризации, управления данными, регистрации аудита и прозрачности.

Другие сроки были отложены: контроль за использованием высокорискованного искусственного интеллекта, охватывающий такие области, как подбор персонала, кредитный рейтинг и биометрическая оценка, теперь должен вступить в силу со 2 декабря 2027 года. ИИ, встроенный в регулируемые продукты, будет подпадать под действие правил с 2 августа 2028 года.

Теперь любая организация, сотрудники которой используют системы искусственного интеллекта, обязана соблюдать требования законодательства в качестве разработчика таких систем, независимо от того, были ли эти системы официально авторизованы.

Все организации, использующие искусственный интеллект, должны знать, что обязательство по повышению осведомленности об ИИ, предусмотренное статьей 4, действует с февраля 2025 года, а это означает, что организации несут ответственность за обеспечение того, чтобы их сотрудники были осведомлены о безопасном и разрешенном использовании ИИ.

Правила использования высокорискованного искусственного интеллекта не будут ограничиваться тем, что может показаться на первый взгляд, а будут включать более широкие операции, такие как использование сотрудником неутвержденного потребительского инструмента (например, приложений ИИ ) в таких задачах, как проверка резюме, оценка кредитоспособности или оценка производительности труда.

Это типичные задачи, которые могут повлечь за собой применение всех полномочий по контролю в соответствии с законом в отношении системы, о развертывании которой ИТ-отдел даже не знал.

Штрафы за нарушения, представляющие высокий риск, могут достигать 15 миллионов евро или 3% от годового мирового дохода, поэтому многие организации берут на себя больше рисков, чем им кажется.

Почему ваша текущая система безопасности этого не видит?

Проблема скрытого искусственного интеллекта заключается в том, что он использует «слепые зоны» между традиционными уровнями безопасности, проникая через пробелы, которые большинство инструментов не предназначены для устранения.

Например, решения CASB и защищенные веб-шлюзы не могут расшифровать данные диалогов, передаваемые в легитимные домены LLM по протоколу HTTPS. С точки зрения сети, маршрутизатор, содержащий полную базу данных клиентов, неотличим от любой другой зашифрованной веб-сессии. Кроме того, расширения для браузеров ограничены управляемыми конечными точками и не работают с персональными устройствами и искусственным интеллектом, встроенным в легитимные SaaS-приложения.

Аналогичным образом, API-шлюзы обычно строятся на основе утвержденных корпоративных развертываний, то есть они регистрируют активность ИИ, уже одобренную организациями, игнорируя при этом ориентированные на потребителя инструменты ИИ, представляющие наибольший риск.

Эти «слепые зоны» усугубляют друг друга, поэтому организация, управляющая всеми тремя уровнями, может по-прежнему не иметь полной информации об активности ИИ на значительной части своих активов и не располагать средствами для создания журналов взаимодействия или доказательств соблюдения политик, требуемых законом.

Как выглядит процесс создания эффективного искусственного интеллекта?

Как правило, потоки данных, обрабатываемых ИИ, контролируются сотрудниками, выполняющими свои обязанности без злого умысла. Однако это очень похоже на защиту от внешней угрозы, которая может тайно получить доступ к вашим данным.

Логика обнаружения должна соответствовать этой реальности. Аутентичная система обнаружения на конечных точках перехватывает конфиденциальные данные в точке их перемещения, прежде чем они достигнут внешней системы ИИ, и обеспечивает соблюдение политик на уровне маршрутизатора для управляемых и неуправляемых браузеров, персональных устройств и функций ИИ, встроенных в инструменты SaaS. Она работает там, где происходит активность, а не пытается обнаружить её на более поздних этапах.

Учитывая потенциальные размеры штрафов, возможность доказать соблюдение требований так же важна, как и предотвращение нарушений безопасности.

Непрерывное обнаружение всех активов, включая любые несанкционированные инструменты, предоставляет организациям перечень систем искусственного интеллекта, требуемый законом.

Подробные журналы взаимодействия, показывающие, кто что использовал, когда и какие данные были задействованы, соответствуют требованиям к документации, изложенным в статьях 12 и 13, что избавляет команды от необходимости лихорадочно пытаться восстановить события после их совершения. Эти же журналы также точно выявляют пробелы в знаниях об ИИ, что делает соответствие статье 4 доказуемым, а не просто утверждаемым.

Практические шаги для обеспечения соответствия требованиям

Группы специалистов по безопасности и соблюдению нормативных требований, стремящиеся соответствовать законодательству ЕС в области ИИ, находят четкий путь, которому они могут следовать.

Отправной точкой является создание исчерпывающей карты всех ресурсов ИИ. Раскрытие информации должно выходить за рамки инструментов, одобренных ИТ-отделом, и включать неуправляемые конечные устройства, персональные устройства, подключенные к корпоративным сетям, и ИИ, встроенный в решения «программное обеспечение как услуга» (SaaS).

Управление данными должно перейти на периферию сети. Политики, запрещающие передачу конфиденциальных данных несанкционированным инструментам, не являются техническими средствами контроля, и к тому моменту, когда эти политики внедряются на периферии сети, данные уже покидают её.

Важно помнить, что информация, передаваемая внешней системе ИИ, может храниться в журналах запросов, включаться в обучающие данные модели или храниться на серверах в юрисдикциях, к которым организация не имеет доступа. В тот момент, когда данные превышают этот порог, организация полностью теряет над ними контроль, и ни один документ, содержащий политику компании, не может их восстановить. Это повышает риск кибератак со стороны ИИ.

Поскольку статья 12 требует предоставления записей о взаимодействии регулирующим органам по запросу, организациям необходимо будет проводить постоянные автоматизированные проверки как мероприятий, так и процедур обеспечения безопасности.

Наконец, программы повышения осведомленности об ИИ, направленные на улучшение понимания пользователями этой технологии, должны основываться на поведенческих данных, а не на общих программах обучения. Журналы активности, выявляющие сбои в управлении — как на самом высоком уровне руководства, так и в других областях — предоставляют как диагностику проблемы, так и доказательства, которые регулирующие органы захотят увидеть.