Большинство инструментов искусственного интеллекта не регулируются: компании подвергаются риску.

Новое исследование предупреждает, что внедрение инструментов искусственного интеллекта без контроля представляет собой угрозу безопасности и ставит под угрозу данные.

В отчете Reco использовалась информация, полученная из публично раскрытых уязвимостей, анализ 500 серверов протокола контекста модели (MCP) и телеметрические данные с платформы Reco. В отчете выявлено, что четыре из пяти инструментов ИИ (80%) работают без контроля со стороны ИТ-специалистов.

Масштабы использования приложений ИИ вызывают особую обеспокоенность. В малых предприятиях на 1000 сотрудников приходится 414 инструментов ИИ, не одобренных ИТ-отделом, и эти инструменты, по всей видимости, представляют собой сочетание расширений для браузеров и рабочих процессов, которые обходят обычный процесс проверки и утверждения.

Риски, связанные с неконтролируемым искусственным интеллектом, для данных.

Оснащение сотрудников инструментами искусственного интеллекта может повысить производительность, но их использование должно регулироваться. Это главный вывод из отчета , в котором освещаются некоторые тревожные цифры в области кибербезопасности. Например, в отчете была проведена оценка 500 инструментов прокси-сервера, и было обнаружено, что «62% из них могут считывать локальные данные и получать доступ к интернету». Это создает возможность для утечки данных. Эти риски требуют рассмотрения механизмов контроля, таких как механизм аварийного завершения работы , который разрабатывает OpenAI.

В этом же контексте в отчете было выявлено 637 уязвимостей безопасности, связанных с агентами искусственного интеллекта.

Внедрение ИИ выходит за рамки простого использования конкретного SaaS-приложения или посещения ChatGPT. Компания Reco обнаружила, что агенты ИИ работают в рамках других инструментов, наследуя права пользователей. Последствия этого очевидны. Для более глубокого понимания того, как предоставляются эти инструменты, рассмотрите концепцию ИИ как услуги.

операционные риски

Анализ телеметрических данных, собранных у 62 крупных компаний из финансового сектора, здравоохранения, розничной торговли и телекоммуникаций в период с 1 января по 1 августа 2026 года, выявляет небрежное отношение к внедрению ИИ. Хотя у компаний могут быть разработаны политики, процедуры и процессы для оценки, проверки и утверждения новых инструментов ИИ, их часто игнорируют, когда речь идет о приложениях низкого уровня.

Эти правила касаются контроля за приобретением SaaS-решений, но не распространяются на расширения для браузеров, в результате чего возникают «операционные риски».

Генеральный директор Reco Овер Кляйн прокомментировал: «Агенты ИИ перешли из экспериментальной стадии в повседневную работу компаний, но наши результаты показывают, что в настоящее время только 20% инструментов ИИ в корпоративной среде находятся под управлением ИТ-специалистов».

Он добавил: «Это делает организации уязвимыми для нового класса операционных рисков. Агенты, встроенные в приложения, могут работать через существующие разрешения, предоставлять доступ по протоколу OAuth и управлять рабочими процессами, создавая опасные комбинации, которые ставят под угрозу данные и запускают действия, выходящие за рамки того, на что был согласен какой-либо владелец».

Организации обязаны предоставить своим ИТ-командам ресурсы для управления и ограничения использования несанкционированных инструментов искусственного интеллекта. Невыполнение этого требования открывает путь к утечкам данных.