Использование искусственного интеллекта для запуска масштабных кибератак

В центре внимания крупные чат-боты, такие как ChatGPT-5 от OpenAI, Gemini от Google и другие.
Клод обычно попадает в заголовки новостей благодаря своим последним новостям. Но эта неделя была особенной.

Во-первых, OpenAI подвергается резкой критике из-за проблем с безопасностью , а теперь новый отчет Anthropic раскрывает, что хакер использовал ИИ-помощника для написания кода , автоматизирующего почти каждый шаг в серии крупномасштабных киберпреступлений, и это было названо «беспрецедентным».

Операция затронула по меньшей мере 17 организаций здравоохранения, правительства, служб экстренной помощи и даже религиозных учреждений.

Используя Claude Code, инструмент написания кода на базе искусственного интеллекта от Anthropic, злоумышленник выполнил все: от сканирования уязвимостей до написания программ-вымогателей, расчета сумм выкупа и даже составления тщательно продуманных сообщений с целью вымогательства.

Как хакер это сделал?

В отчёте Anthropic указано, что злоумышленник, известный как GTG-5004, использовал облако для аутсорсинга всей атаки. Задачи, которые раньше требовали глубоких технических навыков, теперь выполняются искусственным интеллектом за считанные минуты.

Вот что сделал хакер:

• Опрос: Помогите Клоду обнаружить уязвимые системы и уязвимые точки входа.
• Создание вредоносного ПО: Искусственный интеллект создал вредоносный код и упаковал его в наборы программ-вымогателей.
• Схема шантажа: Он составлял сообщения с требованием выкупа и управлял счетами с криптовалютными платежами.
• Автоматизация в больших масштабах: Система упрощает проведение атак по нескольким целям одновременно.

В Anthropic подтвердили, что в какой-то момент требования о выкупе превысили 500,000 XNUMX долларов.

Что особенного в этом инциденте?

Киберпреступники уже много лет используют автоматизацию, но этот случай демонстрирует, как ИИ снижает барьеры для изощрённых атак. Для проведения масштабных взломов больше не нужны элитные хакерские навыки; даже навыки программирования не нужны, если у вас есть подходящий инструмент ИИ.

Это также означает, что фишинговые письма , требования выкупа и мошеннические схемы, поступающие в ваш почтовый ящик, становятся все более изощренными, сложными и труднообнаружимыми. Даже поддельные письма

Сгенерированные искусственным интеллектом данные могут выглядеть точно так же, как в вашем банке, на работе или даже у доверенного члена семьи.

Что делает Anthropic по этому поводу?

Компания Anthropic заявила, что закрыла соответствующие учётные записи и внедрила новые меры безопасности для предотвращения подобных злоупотреблений в будущем. Компания также выпустила инструменты обнаружения и предоставила органам кибербезопасности индикаторы компрометации.

Но многие в отрасли предупреждают, что это может быть только начало. По мере того, как передовые инструменты ИИ становятся всё более совершенными и доступными, мы, несомненно, будем сталкиваться с большим количеством подобных инцидентов; они будут происходить быстрее, масштабироваться и их будет гораздо сложнее предотвратить.

Как себя обезопасить?

Хотя в данном случае основной целью являются предприятия, вам следует принять дополнительные меры предосторожности:

• Относитесь скептически к электронным письмам и ссылкам, особенно к тем, которые запрашивают личную информацию или платежи.
• Используйте надежные, уникальные пароли и по возможности включайте двухфакторную аутентификацию.
• Регулярно обновляйте свои устройства для устранения уязвимостей безопасности.
• Остерегайтесь предложений, которые «кажутся слишком хорошими, чтобы быть правдой», или неожиданных запросов на вход в систему, поскольку многие из них являются мошенничеством, сгенерированным искусственным интеллектом.

Искусственный интеллект повышает продуктивность хакеров.

Эта атака подчёркивает новую реальность: ИИ не только помогает нам работать умнее, но и хакерам стать умнее. То, что Anthropic сегодня назвал «беспрецедентным» инцидентом, вскоре может стать нормой, поскольку всё больше киберпреступников обращаются к ИИ для скорости и масштабирования.