Руководство по ускорению внедрения ИИ: безопасность без лишних рисков.

За последние 18 месяцев наши команды перешли от простого обсуждения целесообразности использования ИИ к вопросу о том, как быстро мы можем его внедрить. Более сложный вопрос заключается в том, как обеспечить командам возможность действовать достаточно быстро, чтобы максимизировать преимущества ИИ, не допуская при этом роста рисков компании быстрее, чем она сможет ими управлять и контролировать.

Джейсон Тейлор

Технический директор (CTO) и директор по информационной безопасности (CISO) в компании Entrata.

Эта дилемма хорошо знакома руководителям в сфере технологий и кибербезопасности, поскольку искусственный интеллект предъявляет два, казалось бы, противоречащих друг другу требования. С одной стороны, ИТ-подразделение организации стремится к экспериментам, доступности, скорости и потенциальному повышению производительности. С другой стороны, подразделению безопасности необходимы контроль, подотчетность, ограничения доступа к данным и уверенность в том, что новый рабочий процесс не приведет к предотвратимым рискам.

Оба подхода допустимы, поэтому компаниям сложно рассматривать ИИ либо как чисто инновационный проект, либо как чисто вопрос безопасности. Это смена парадигмы, и организации, которые эффективно с ней справляются, — это те, кто создает достаточную инфраструктуру и надежные инструменты, позволяющие командам уверенно двигаться вперед, а не заставлять их выбирать между скоростью и контролем.

Начните с работы, а не с инструмента.

Многие компании начинают внедрение ИИ так же, как и запуск стандартной программной программы. Они выбирают поставщика, распространяют лицензии, публикуют некоторые рекомендации и предполагают, что использование ИИ естественным образом приведет к трансформации. Такой подход может вызвать активность, но редко приводит к долгосрочным изменениям в работе.

Настоящее внедрение начинается тогда, когда руководители понимают, как на самом деле выполнить эту работу. Финансовая команда, команда разработчиков продукта, команда маркетологов, команда поддержки и команда инженеров будут использовать инструменты ИИ по-разному, поскольку у каждой группы разные потребности в знаниях, разнообразные источники данных, различные пороги риска и уникальная экспертиза. Каждой из этих команд потребуется разработать навыки и инструменты, специфичные для ИИ.

Руководителям следует начать с того, чтобы задать себе вопросы: чего стремится достичь каждая задача, какие знания необходимы для принятия более эффективных решений, какие навыки требуются для ответственного использования искусственного интеллекта и какие инструменты или источники данных необходимы для получения надежного результата.

Когда искусственный интеллект связан с этими возможностями, он становится неотъемлемой частью функционирования организации ; когда же он внедряется в несвязанные процессы, он, как правило, увеличивает объем выпускаемой продукции, не обязательно приводя к лучшим результатам.

Рассмотрение доступа к данным как риска, связанного с проектированием.

Доступ к данным — одна из наиболее значимых областей, где ИИ меняет операционную модель. Для того чтобы ИИ действительно приносил пользу, командам часто необходим доступ к информации, которую они ранее напрямую не использовали.

Команде маркетинга может потребоваться документация по продукту и информация о клиентах, команде финансового отдела — структурированные операционные данные, а команде поддержки — инсайдерская информация и исторический контекст, а также умение понимать закономерности в различных системах.

Тенденция к открытию доступа к данным понятна; искусственный интеллект приобретает ценность в более широком контексте. И наоборот, тенденция к ограничению доступа также понятна, поскольку более широкий доступ может вызывать опасения по поводу конфиденциальности, соблюдения нормативных требований и безопасности. Решение заключается не в том, чтобы отдавать предпочтение одному варианту перед другим, а в создании более систематической модели для определения того, какие данные могут быть использованы, кем и для каких целей.

Например, в одном из проектов по внедрению корпоративных решений практическим решением оказалось не предоставление каждой команде доступа ко всему или ограничение использования ИИ исключительно технической функцией. Вместо этого, было решено отделить менее важные оперативные данные от более конфиденциальной информации, а затем предоставить командам достаточный доступ для работы по-другому, минимизируя при этом потенциальный ущерб в случае неожиданного поведения рабочего процесса.

Один из полезных способов осмысления этого вопроса — концепция «воздействия данных». Не каждый набор данных несет одинаковый уровень риска, и не каждый вариант использования ИИ требует одинакового уровня ограничений. Доступ к некоторой информации может быть более ограничен, поскольку потенциальный вред в случае возникновения проблем невелик, в то время как другая информация, особенно персональные данные или конфиденциальная информация о клиентах, требует гораздо более строгого контроля.

Такой подход позволяет командам экспериментировать в областях с меньшими рисками, сохраняя при этом более строгое управление там, где это действительно необходимо бизнесу. Цель состоит не в ослаблении безопасности, а в ее повышении точности, что позволяет компании быстрее развиваться, не теряя контроля над наиболее важными средами, данными и рабочими процессами.

Интеграция проверки в рабочий процесс

Проверка достоверности — это ключевой момент, определяющий, станут ли стратегии использования ИИ масштабируемыми или потерпят неудачу. Системы ИИ могут создавать результаты, которые кажутся отполированными, но на самом деле могут быть неполными, неточными, несоответствующими фирменному стилю или стандартам. Хотя человеческая проверка может частично компенсировать эти риски на начальных этапах, она неэффективно масштабируется после интеграции ИИ в повседневную деятельность.

Я очень хорошо это видел в технических командах, где ИИ может ускорить разработку программного обеспечения только при наличии надежного способа оценки качества, безопасности и точности создаваемого продукта. Без этого уровня проверки команды могут казаться быстрыми в краткосрочной перспективе, но на более поздних этапах они незаметно создают дополнительную нагрузку на проверку, больше доработок и большие риски.

Компаниям необходимы модели проверки, разработанные как неотъемлемая часть самого рабочего процесса. Это может включать автоматизированные проверки, контроль качества данных, пути утверждения, ведение журналов, наблюдаемость и четкие правила эскалации для результатов, которым нельзя доверять без дополнительной проверки.

Руководителям не следует рассматривать эти механизмы как дополнительную, запоздалую рутину. Напротив, именно они позволяют ИИ превратиться из простого инструмента повышения индивидуальной производительности в комплексную, общекорпоративную возможность, поскольку команды могут масштабировать его внедрение только тогда, когда у них есть регулярный способ проверки точности, соответствия и безопасности выполняемой работы.

Внедрение искусственного интеллекта стало обязанностью руководства.

Внедрение искусственного интеллекта нельзя делегировать одной инновационной команде или менеджеру по ИИ, в то время как остальная часть руководящей команды наблюдает издалека. Каждый руководитель подразделения должен понимать, как ИИ изменит характер работы его команды, как сотрудники будут взаимодействовать с агентами и моделями, и где могут возникнуть риски.

Это не означает, что каждый руководитель должен стать специалистом по машинному обучению, но это значит, что лидерам необходима достаточная квалификация, чтобы направлять принятие решений, устанавливать ожидания и демонстрировать поведение, которое они ожидают от своих команд. Сотрудники вряд ли изменят свои рабочие методы, если руководители будут относиться к ИИ как к чему-то, что должны внедрить все остальные.

Важное значение имеет и культурное восприятие, поскольку если сотрудники услышат о внедрении ИИ как об эвфемизме для сокращения рабочих мест, они будут цепляться за свою нынешнюю должность, а не рассматривать, какой она может стать в будущем. Руководители должны четко давать понять, что роли изменятся, некоторые рабочие процессы исчезнут, а новые обязанности появятся, подчеркивая при этом, что непосредственная цель состоит в том, чтобы помочь людям работать лучше и эффективнее, обеспечивая тем самым отдачу от инвестиций.

Во многих случаях работа смещается от выполнения каждой задачи вручную к координации систем, которые помогают ее выполнить. Это требует готовности к работе в условиях неопределенности, что становится все более важным по мере развития возможностей искусственного интеллекта.

Компании, успешно внедряющие искусственный интеллект, — это не те, кто ставит инновации выше безопасности, и не те, кто ждет, пока устранят все потенциальные риски заранее. Скорее, это те, кто закладывает прочные основы для управления, проверки и дисциплины в обработке данных, вселяя в свои команды уверенность в дальнейшем развитии. В корпоративной среде ИИ контроль является краеугольным камнем достижения устойчивой скорости, подчеркивая важность осторожности на каждом этапе, особенно при работе с конфиденциальными компонентами корпоративного ИИ.

Мы провели обзор лучших программ для защиты конечных точек.

Данная статья подготовлена ​​в рамках канала TechRadar Pro Perspectives , посвященного лучшим и самым талантливым умам в современной технологической индустрии.

Выраженные здесь мнения принадлежат автору и не обязательно отражают точку зрения TechRadarPro или Future plc. Если вы заинтересованы в участии, вы можете узнать больше здесь: https://www.techradar.com/pro/perspectives-how-to-submit