Предупреждение от OpenAI и более чем 100 компаний: кибератаки на системы искусственного интеллекта участились.

OpenAI , Anthropic, Google, Microsoft и более 100 других компаний и организаций предупреждают, что кибератаки с использованием искусственного интеллекта могут стать гораздо более распространенными и изощренными в течение нескольких месяцев.

Эта группа призывает к согласованным глобальным усилиям в области киберзащиты, учитывая растущие возможности моделей искусственного интеллекта , которые способствуют автоматизации атак и затрудняют их сдерживание. Они предупреждают, что к системам, подверженным наибольшему риску, относятся больницы, водоочистные сооружения и интернет-инфраструктура, если средства защиты не будут достаточно быстро усовершенствованы.

Это предупреждение имеет дополнительный вес, поскольку оно исходит не только от одного сегмента технологического сектора. Разработчики ИИ , компании, занимающиеся кибербезопасностью, и инфраструктурные компании — все они повторяют одно и то же ключевое сообщение: защитникам необходимо действовать немедленно.

Почему это предупреждение носит необычно широкий характер?

Компании-участники работают в различных областях, связанных с проблемой кибербезопасности. Некоторые разрабатывают все более мощные системы искусственного интеллекта , в то время как другие занимаются защитой сетей от атак.

Это затрудняет игнорирование предупреждения как простого продвижения компанией своей предпочтительной политики. Этот альянс объединяет организации с совершенно разными деловыми интересами, но все они согласны с необходимостью улучшения существующих средств защиты, прежде чем искусственный интеллект предоставит злоумышленникам еще одно преимущество.

В числе рекомендаций – усиление основных стандартов безопасности и расширение доступа к средствам защиты на основе искусственного интеллекта, особенно для организаций с ограниченными бюджетами на кибербезопасность. Особое внимание уделяется критической инфраструктуре, поскольку любые сбои могут быстро привести к последствиям, выходящим далеко за рамки одной организации.

Что должны делать защитники

Коалиция призывает правительства и организации расширить доступ к инструментам искусственного интеллекта, способным обнаруживать уязвимости и ускорять их устранение. Особую обеспокоенность вызывают небольшие организации, поскольку им может не хватать персонала или финансовых ресурсов для быстрого реагирования по мере того, как атаки становятся все более автоматизированными.

Разработка программного обеспечения представляет собой еще одну уязвимость. Альянс призывает к ужесточению стандартов безопасности в отношении кода, генерируемого ИИ, особенно с учетом того, что ИИ облегчает злоумышленникам сканирование систем на наличие слабых мест, что подчеркивает важность серьезного отношения к агентам ИИ в тестировании кибербезопасности.

Основная стратегия заключается в том, чтобы оснастить специалистов по защите более мощными инструментами до того, как наступательный ИИ получит достаточно широкое распространение, чтобы усилить давление на и без того перегруженные команды безопасности.

Почему времени может не хватать?

Искусственному интеллекту не нужно изобретать совершенно новые кибератаки, чтобы усугубить ситуацию. Простое содействие злоумышленникам в более быстром обнаружении существующих уязвимостей может привести к тому, что привычные сбои в системе безопасности обойдутся гораздо дороже.

Это не превращает каждую атаку в сверхмощное оружие, управляемое искусственным интеллектом. Неустановленное программное обеспечение и нехватка кадров в службах безопасности остаются распространенными проблемами, но автоматизация может сделать их использование более быстрым и простым для воспроизведения.

Альянс призывает организации усилить защиту уже сейчас, до того, как атаки с использованием ИИ станут обычным явлением. Для тех, кто и так испытывает трудности с поддержанием систем в актуальном и безопасном состоянии, ожидание, пока злоумышленники получат более совершенную автоматизацию, оставляет меньше возможностей для восстановления.