Угроза устойчивости: растущая зависимость от поставщиков решений в области искусственного интеллекта.

Теперь, когда искусственный интеллект быстро стал неотъемлемой частью глобальных бизнес-операций, он потенциально может влиять на все: от анализа данных до принятия решений и даже безопасности.

Однако большинство дискуссий сосредоточено на возможностях, мощности, производительности и точности искусственного интеллекта, игнорируя один ключевой вопрос.

В то время как все сосредоточены на том, что произойдет при применении искусственного интеллекта, очень немногие задумываются о том, что случится, когда доступ к возможностям ИИ внезапно исчезнет.

Ярким примером этого является полемика вокруг попытки компании Anthropic восстановить доступ к своим моделям искусственного интеллекта Fable и Mythos, которая в основном касалась сроков соблюдения нормативных требований и механизмов экспортного контроля.

Однако мало кто задавался вопросом, почему так много организаций обнаружили, что одно-единственное внешнее решение, не зависящее от них, в одночасье привело к потере жизненно важной бизнес-возможности. Короче говоря, сбои в доступе к ИИ являются симптомом гораздо более масштабной проблемы, касающейся операционной устойчивости, и выявляют пробел в управлении, связанный с зависимостью.

По мере того, как организации все глубже интегрируют искусственный интеллект в свою деятельность, им необходимо переключить внимание с изучения вопроса о том, достаточно ли безопасен ИИ в настоящее время, на вопрос о том, смогут ли их организации продолжать работу, если или когда эти сервисы ИИ станут недоступны.

Безопасность не равнозначна гибкости.

Эти редко обсуждаемые темы поднимают важный вопрос: безопасность и устойчивость — не синонимы.

Безопасность предотвращает и защищает системы от вторжений. Это блокирует доступ злоумышленников, уменьшает количество уязвимостей и защищает от вредоносных действий — все это важнейшие элементы обеспечения безопасности. Устойчивость, с другой стороны, — это способность продолжать бизнес-операции, когда системы, сервисы или данные становятся недоступными, независимо от причины.

Мы склонны ассоциировать устойчивость с такими ситуациями, как кибератаки или сбои в ИТ-инфраструктуре. Искусственный интеллект (ИИ) изменил ландшафт угроз для организаций, способы их взаимодействия с ИИ и методы защиты от него. Теперь организациям все чаще приходится планировать действия на случай сбоев в доступе к критически важным инструментам ИИ и основным функциям, вызванных геополитическими решениями, изменениями в законодательстве или изменениями, внедряемыми самими поставщиками технологий.

Качество предоставляемых услуг не должно снижаться до такой степени, что они становятся недоступными. Политическое решение на другом конце света может иметь те же оперативные последствия. Мы ясно увидели это на примере компании Anthropic.

С учетом этого, устойчивость должна быть заложена в саму структуру организации, включая любую новую инфраструктуру искусственного интеллекта, чтобы обеспечить непрерывность бизнеса даже в условиях политического вмешательства.

Искусственный интеллект создает новый вид зависимости от поставщиков.

В то время как традиционные программные зависимости обычно связаны с одним или несколькими поставщиками, корпоративный ИИ часто опирается на взаимосвязанную экосистему, которой организация не владеет и которую не контролирует. Каждый дополнительный уровень в экосистеме ИИ представляет собой зависимость, а следовательно, потенциальную точку отказа.

Это создает четыре фактора риска, о которых водители должны знать:

Суверенитет данных : Корпоративные данные могут обрабатываться в юрисдикциях, не контролируемых предприятием, с ограниченной прозрачностью в отношении того, кто имеет к ним доступ и используются ли они для обучения будущих моделей.

Превосходство модели : Зачастую организации практически не контролируют доступность модели, функциональные возможности и изменения, а также решения о доступе, что делает их уязвимыми, если поставщик внезапно решит ограничить доступ или отозвать определенные возможности.

Зависимость от инфраструктуры : Значительная часть современной корпоративной экосистемы ИИ зависит от небольшого числа поставщиков облачных услуг, работающих в рамках конкретных национальных юрисдикций.

Риски для цепочки поставок ИИ : Взаимосвязанная система базовых моделей, облачных вычислительных платформ и поставщиков программного обеспечения указывает на то, что любой сбой на одном уровне может быстро распространиться по всей технологической цепочке.

Эти факторы все больше зависят от геополитики, а не от самих технологий.

Управление ИИ: вопрос, включенный в повестку дня совета директоров.

В действительности, один лишь договор с поставщиком не может гарантировать бесперебойный доступ к инструментам и платформам, в которые организация инвестировала. Однако системы управления по-настоящему не развивались для решения этой проблемы. Только новые системы, такие как NIS2 и DORA, признают, что устойчивость должна выходить за рамки простого смягчения угроз кибербезопасности.

Наилучшей практикой для организаций при работе с договорами с поставщиками и системами управления ими является понимание того, на каких поставщиков они полагаются, и разработка планов действий в чрезвычайных ситуациях, позволяющих им бесперебойно работать в периоды сбоев.

Независимо от того, используется ли платформа искусственного интеллекта , решение ITSM, система CRM или любая другая критически важная для бизнеса технология, организации должны оценить, как они смогут продолжать работу, если доступ к ней изменится в одночасье. Искусственный интеллект должен подвергаться такому же тщательному анализу, как и любой другой критически важный сторонний ресурс.

Начните внедрять системы обеспечения устойчивости до следующего сбоя.

Кроме того, советам директоров следует с осторожностью относиться к заявлениям о возможностях ИИ, принимая их за чистую монету. Организации должны требовать доказательств того, что заявления поставщиков дают измеримые результаты.

Хотя искусственный интеллект способен быстро выявлять огромное количество потенциальных уязвимостей, простое обнаружение не повышает устойчивость. Экспертиза человека по-прежнему необходима для проверки результатов, определения приоритетов в устранении уязвимостей на основе их непосредственного влияния на бизнес и обеспечения сосредоточения ресурсов там, где кроется реальный риск.

Главный урок, извлеченный из недавних изменений в сфере ИИ, заключается в том, насколько недооценивают многие организации зависимость от технологий, над которыми они не имеют полного контроля. В свете возобновившихся разговоров американских законодателей о потенциальном «аварийном отключении» ИИ, это должно стать первоочередной задачей.

Руководители предприятий должны понимать, что с каждой новой возможностью, которую открывает ИИ, риск зависимости от поставщиков остается неизменным. Если бы вы сегодня были техническим директором крупной организации, вы бы позаботились о том, чтобы команды во всех технологических и отделах безопасности понимали, откуда берутся критически важные возможности ИИ, какие существуют зависимости в цепочке поставок и как можно сохранить гибкость операций, если доступ к ресурсам изменится в одночасье.

В конечном итоге, будущее успешного использования искусственного интеллекта в организациях будет определяться тем, насколько организации смогут интегрировать стратегии управления и обеспечения устойчивости в свои бизнес-планы, чтобы бизнес продолжал безопасно функционировать в обычном режиме во время коммерческих, политических и операционных сбоев.

Наш рейтинг лучших платформ облачного резервного копирования.