Искусственному интеллекту нужны правила и рамки: почему управление должно выходить за рамки политики.
В статье обсуждается необходимость перехода от политики управления ИИ к конкретным правилам и рамочной основе для обеспечения ответственного и надежного развития.
Самое важное, что вам нужно знать
- Скрытый искусственный интеллект и автономные агенты меняют подходы к традиционному управлению, поскольку они могут действовать от имени сотрудников и наследовать полномочия, расширяя возможности для атак на организации.
- Для оценки рисков, связанных с искусственным интеллектом, необходимо понимать контекст его применения и его способность получать доступ к конфиденциальной информации или принимать оперативные решения, а не просто рассматривать систему в отрыве от контекста.
- Эффективное управление ИИ выходит за рамки политик и соблюдения нормативных требований и включает в себя интеграцию механизмов контроля в повседневную деятельность, управление идентификационными данными и полномочиями ИИ, а также постоянную адаптацию к технологическому прогрессу.
Безопасность на автомагистралях не зависит от того, насколько водители соблюдают правила дорожного движения. Безопасность обеспечивается скоростными ограничениями, разметкой полос и ограждениями, которые поддерживают бесперебойное движение транспорта и помогают предотвратить превращение ошибок в серьезные аварии.

Управление ИИ работает аналогичным образом. Политики устанавливают правила, но оперативный контроль позволяет организациям оставаться на правильном пути по мере изменения технологий, пользователей и рисков.
По мере того как организации ускоряют внедрение искусственного интеллекта, многие сосредоточились на разработке политик, рамок управления и руководящих принципов допустимого использования. Это необходимые первые шаги. Однако одних только политик недостаточно, чтобы предотвратить доступ систем ИИ к некорректным данным, взаимодействие с неподходящими приложениями или создание непредвиденных операционных рисков.
Европейский закон об искусственном интеллекте (Закон ЕС об ИИ) сделал управление ИИ вопросом на уровне совета директоров, требуя от организаций, использующих или разрабатывающих ИИ, выявлять, управлять и документировать риски, особенно для систем с высоким уровнем риска.
Это привело к новым ожиданиям в отношении надзора, документации, управления данными и прозрачности. Однако одного регулирования недостаточно для решения самой большой практической проблемы: внедрение ИИ происходит быстрее, чем регулирование.
Сотрудники используют универсальные инструменты ИИ, разработчики полагаются на помощников по программированию, а бизнес-команды внедряют возможности ИИ на существующих платформах. Во многих случаях эти технологии внедряются до того, как команды по безопасности, соблюдению нормативных требований и управлению рисками полностью понимают, к чему они имеют доступ, на какие системы они влияют и как они изменяют общий профиль рисков организации.
Это разрыв между амбициями организации и операционной реальностью. У организаций могут быть сценарии использования ИИ и утвержденные системы управления, но зачастую они управляют лишь частью ИИ, который фактически функционирует в рамках бизнеса.
Преодоление этого разрыва начинается с рассмотрения искусственного интеллекта как оперативной задачи, а не просто как процедуры соблюдения нормативных требований. На практике, чтобы выйти за рамки политики, необходимо понимать, как используется ИИ, применять меры контроля в соответствии с бизнес-рисками и адаптировать управление к развивающимся возможностям ИИ.
Скрытый искусственный интеллект меняет подход к управлению.
Традиционное управление предполагает, что организации знают технологии, которые используются во всех сферах бизнеса. Искусственный интеллект изменил эту реальность. Скрытый ИИ больше не ограничивается сотрудниками, экспериментирующими с общедоступными инструментами.
Это также включает в себя встроенные возможности ИИ, предоставляемые посредством регулярных обновлений программного обеспечения, рабочие процессы на основе ИИ, созданные бизнес-пользователями, и независимых агентов, работающих в корпоративных системах без рассмотрения в качестве формальных проектов ИИ. Эти возможности часто внедряются быстрее, чем процессы управления могут их выявить, оценить и контролировать.
Сегодня искусственный интеллект не только поддерживает сотрудников, но и действует от их имени. Агенты ИИ могут получать информацию, запускать рабочие процессы, взаимодействовать с корпоративными системами и принимать оперативные решения, используя права доступа, унаследованные от людей или систем, которые они представляют.
По этой причине ландшафт атак в организациях кардинально изменился. Команды безопасности теперь защищают не только людей, устройства и приложения, но и автономные системы, способные ориентироваться в среде, получать доступ к конфиденциальной информации, взаимодействовать с критически важными рабочими процессами и принимать решения самостоятельно.
Каждый новый агент ИИ представляет собой еще один потенциальный путь для случайного неправомерного использования или злонамеренной деятельности, если им не управлять должным образом.
Организация устанавливает правила. Контекст прокладывает пути.
Законодательство ЕС в области ИИ уделяет большое внимание подотчетности, надзору и управлению рисками на протяжении всего жизненного цикла ИИ. Но для выполнения этих требований требуется гораздо больше, чем просто документация.
Нормативные акты определяют результаты, которых должны достичь организации; сложность заключается в том, чтобы перевести эти требования в оперативное управление в условиях постоянного развития искусственного интеллекта.
Начинается это с понимания искусственного интеллекта в контексте. Риск нельзя оценить, рассматривая систему ИИ изолированно. Искусственный интеллект, выполняющий функцию обобщения внутренних документов, может казаться относительно низкорискованным, пока не получит доступ к коммерчески важной информации.
Аналогично, агент ИИ, автоматизирующий закупки, может безопасно работать в обычных условиях, но его профиль риска резко меняется, если он может одобрять финансовые транзакции, наследовать привилегированные учетные данные или инициировать действия в критически важных бизнес-системах.
Определение риска выходит за рамки самого искусственного интеллекта и охватывает связанные с ним идентификаторы, приложения, инфраструктуру, данные и бизнес-процессы. По мере того как ИИ становится все более взаимосвязанным в этих системах, он все больше переплетается с кибербезопасностью.
Инновациям нужны правила и основы.
Искусственный интеллект будет и дальше трансформировать то, как организации работают, внедряют инновации и конкурируют. Но организации, которые смогут в полной мере реализовать потенциал ИИ, будут не теми, у кого самые длинные программные документы.
Именно они будут интегрировать управление в повседневную деятельность, управлять идентификационными данными и полномочиями ИИ с той же дисциплиной, что и любым другим критически важным активом, и постоянно адаптировать механизмы контроля по мере развития технологий.
Закон ЕС об искусственном интеллекте повысил ожидания в отношении подотчетности, но институты, которые выходят за рамки простой политики и соблюдения требований, будут лучше всего подготовлены к раскрытию всего потенциала искусственного интеллекта.
В эпоху автономного искусственного интеллекта управление — это уже не просто установление правил, а создание механизмов защиты, позволяющих организациям уверенно внедрять инновации, не ставя под угрозу безопасность, доверие или устойчивость.
Мы рассмотрели лучшие конструкторы сайтов на основе искусственного интеллекта.
Комментарии закрыты.