Преодоление главного препятствия, мешающего внедрению искусственного интеллекта.

Попытки интегрировать недетерминированные объекты в эти модели отнимают у инженеров время, которого у них нет, и создают риски, с которыми ни одна организация не может справиться. Реальная опасность кроется именно в этом пробеле.

Ева Концевой

Генеральный директор Teleport.

Многие проекты застопорились из-за опасений по поводу развертывания без надежной основы безопасности, и на то есть веские причины. Мы уже видели, как вредоносная программа удалила всю базу данных производительности компании вместе с резервными копиями за девять секунд. От команд безопасности требуют предотвращения подобных сценариев с помощью инструментов, разработанных для мира, где действуют всего два субъекта. Начинают появляться трещины. Что-то должно измениться, иначе инновации застопорятся под собственным давлением. Риски кибербезопасности растут по мере увеличения зависимости от искусственного интеллекта.

Агентам искусственного интеллекта необходима новая модель идентификации.

Давление на производственные и инженерные команды с целью ускорения разработки реально и широко распространено. Поэтому они часто возвращаются к старым привычкам, таким как предоставление агентам широких привилегий и обращение с ними как с любым другим микросервисом.

Но агенты искусственного интеллекта сильно отличаются от машин; они, как и люди, подвержены ошибкам и непредсказуемы. Тем не менее, они работают со скоростью машин, круглосуточно. Агент может удалить целые базы данных производительности за девять секунд. Много ли вы знаете людей, способных на это?

Это подводит меня к сути проблемы. Системы идентификации были созданы для мира с двумя типами участников — людьми и машинами, — но теперь их стало три. Попытка интегрировать прокси-ИИ в устаревшие системы превращает каждый прокси в потенциальный источник вторжения, способный выполнять тысячи действий по всей инфраструктуре за считанные секунды.

Однако именно это и требуется от инженеров: предотвращать катастрофические сценарии, возникающие при использовании устаревших инструментов управления идентификацией и доступом (IAM), которые начинают давать сбои. Трещины начинают появляться.

Почему старая модель рушится?

Исторически сложилось так, что инженеры, работающие с кластерами Kubernetes, облачными платформами, оркестрацией контейнеров, конвейерами CI/CD, базами данных и т. д., сталкивались с проблемой фрагментации идентичности.

Что касается человеческого труда, то здесь все было вполне управляемо. За людьми можно было следить; они отмечали время прихода и ухода. Они работали достаточно медленно, поэтому пробелы в отслеживании редко приводили к немедленным несчастным случаям.

С появлением прокси-серверов на основе ИИ скорость работы резко возросла. Внезапно команды оказываются завалены тысячами журналов активности и теряют возможность эффективно контролировать прокси-сервер до того, как он внесет несанкционированные изменения.

Попытка обеспечить надежную аутентификацию и краткосрочные привилегии потребует создания отдельных интеграций для каждого инструмента в стеке. Это затрудняет масштабирование ИИ, когда каждый инструмент использует свой собственный протокол интеграции.

Вместо того чтобы сосредоточиться на инновациях с использованием прокси-ИИ, инженеры вынуждены вручную связывать управление идентификацией и доступом (IAM), инфраструктуру и секреты, без согласованной идентификации, без прозрачности действий прокси-сервера, и с тем, что каждая команда создает свой собственный рабочий процесс для контейнеров или виртуальных машин с нуля.

Но создание нового инструмента для обработки третьего типа идентификации — это наихудшее из возможных решений для отрасли. Это удвоит работу инженеров, которым придется заново создавать политику идентификации и обеспечивать еще большую анонимность. Новая система идентификации будет анонимной для других изолированных систем, что еще больше затруднит выявление злоумышленников.

Это приводит нас к вопросу о том, как организации контролируют поведение агентов. Решение заключается не просто в добавлении «плюса» к технологическому стеку или внедрении инструментов «плюса»; речь идет об изменении наших моделей идентификации для полного устранения анонимности.

Контроль над искусственным интеллектом подразумевает полную анонимность.

Для устранения анонимности в инфраструктуре организации должны предоставлять каждому участнику — будь то человек, машина, рабочая нагрузка или агент ИИ — первоклассные идентификаторы, криптографически защищенные физическим корнем доверия. В настоящее время крайне необходима фундаментальная переоценка стратегии развития инфраструктуры.

Полностью исключите постоянные учетные данные. Удаление ключей API и паролей предотвращает распространение учетных данных, приводящее к утечкам, а также исключает угрозу кражи секретной информации или ее передачи злоумышленникам. Поскольку идентификация основана на реальных факторах, злоумышленники не смогут выдать себя за доверенную машину и обманом заставить агента получить доступ к базе данных.

Но одной лишь надежной аутентификации недостаточно. Агенты ИИ, как и все другие участники процесса, должны придерживаться принципов нулевого доверия. Это возможно только в том случае, если изолированные системы будут заменены инфраструктурным уровнем, где агенты будут иметь точно такой же тип идентификации, как и машины, которыми они управляют, и люди, которые их авторизуют.

Агенты должны работать с краткосрочными привилегиями, непосредственно привязанными к конкретным действиям, разрешенным пользователем-человеком. Привилегия привязана к действию, а не к исполнителю. Например, агент, генерирующий код, должен наследовать свои полномочия от владельца-человека с аналогичными правами, ограничивая привилегии только конкретными электронными таблицами, необходимыми для выполнения этой задачи.

Недетерминированные субъекты также нуждаются в безопасной и надежной среде выполнения, прежде чем взаимодействовать с производственной инфраструктурой.

При отсутствии привилегий по умолчанию масштабы вреда крайне ограничены. Но этого можно достичь только в том случае, если единая политика устанавливается единой системой для всех учетных записей.

Политика идентификации также может быть введена в качестве уровня контроля между агентом и его конечной точкой вывода, чтобы поведение контролировалось до выполнения инструкций.

При наличии единой архитектуры идентификация становится уровнем управления искусственным интеллектом.

ИИ-агенты открывают огромные возможности в корпоративных средах, особенно при развертывании в работающей инфраструктуре, где они приносят наибольшую пользу. От управления рутинными изменениями до улучшений развертывания в режиме реального времени — возможности безграничны. Успех в использовании ИИ в таких критически важных бизнес-процессах требует строгого контроля над поведением.