В центре внимания крупные чат-боты, такие как ChatGPT-5 от OpenAI, Gemini от Google и другие.
Клод обычно попадает в заголовки новостей благодаря своим последним новостям. Но эта неделя была особенной.
Во-первых, OpenAI подвергается жесткой критике за مخاوف تتعلق بالسلامةДа, конечно отчет Новость от Anthropic показывает, что хакер использовал Помощник по кодированию с искусственным интеллектом Автоматизация практически каждого шага в цепочке крупномасштабных киберпреступлений была названа «беспрецедентной».
Операция затронула по меньшей мере 17 организаций здравоохранения, правительства, служб экстренной помощи и даже религиозных учреждений.
Используя Claude Code, инструмент написания кода на базе искусственного интеллекта от Anthropic, злоумышленник выполнил все: от сканирования уязвимостей до написания программ-вымогателей, расчета сумм выкупа и даже составления тщательно продуманных сообщений с целью вымогательства.
Как хакер это сделал?
В отчёте Anthropic указано, что злоумышленник, известный как GTG-5004, использовал облако для аутсорсинга всей атаки. Задачи, которые раньше требовали глубоких технических навыков, теперь выполняются искусственным интеллектом за считанные минуты.
Вот что сделал хакер:
- Опрос: Помогите Клоду обнаружить уязвимые системы и уязвимые точки входа.
- Создание вредоносного ПО: Искусственный интеллект создал вредоносный код и упаковал его в наборы программ-вымогателей.
- Схема шантажа: Он составлял сообщения с требованием выкупа и управлял счетами с криптовалютными платежами.
- Автоматизация в больших масштабах: Система упрощает проведение атак по нескольким целям одновременно.
В Anthropic подтвердили, что в какой-то момент требования о выкупе превысили 500,000 XNUMX долларов.
Что особенного в этом инциденте?
Киберпреступники уже много лет используют автоматизацию, но этот случай демонстрирует, как ИИ снижает барьеры для изощрённых атак. Для проведения масштабных взломов больше не нужны элитные хакерские навыки; даже навыки программирования не нужны, если у вас есть подходящий инструмент ИИ.
Это также означает, что Фишинговые сообщенияПрограммы-вымогатели и мошеннические сообщения, приходящие на ваш почтовый ящик, становятся всё более изощрёнными, изощрёнными и их всё сложнее обнаружить. Даже поддельные письма
Сгенерированные искусственным интеллектом данные могут выглядеть точно так же, как в вашем банке, на работе или даже у доверенного члена семьи.
Что делает Anthropic по этому поводу?
Компания Anthropic заявила, что закрыла соответствующие учётные записи и внедрила новые меры безопасности для предотвращения подобных злоупотреблений в будущем. Компания также выпустила инструменты обнаружения и предоставила органам кибербезопасности индикаторы компрометации.
Но многие в отрасли предупреждают, что это может быть только начало. По мере того, как передовые инструменты ИИ становятся всё более совершенными и доступными, мы, несомненно, будем сталкиваться с большим количеством подобных инцидентов; они будут происходить быстрее, масштабироваться и их будет гораздо сложнее предотвратить.
Как себя обезопасить?
Хотя в данном случае основной целью являются предприятия, вам следует принять дополнительные меры предосторожности:
- Относитесь скептически к электронным письмам и ссылкам, особенно к тем, которые запрашивают личную информацию или платежи.
- Используйте надежные, уникальные пароли и по возможности включайте двухфакторную аутентификацию.
- Регулярно обновляйте свои устройства для устранения уязвимостей безопасности.
- Остерегайтесь предложений, которые «кажутся слишком хорошими, чтобы быть правдой», или неожиданных запросов на вход в систему, поскольку многие из них являются мошенничеством, сгенерированным искусственным интеллектом.
Искусственный интеллект повышает продуктивность хакеров.
Эта атака подчёркивает новую реальность: ИИ не только помогает нам работать умнее, но и хакерам стать умнее. То, что Anthropic сегодня назвал «беспрецедентным» инцидентом, вскоре может стать нормой, поскольку всё больше киберпреступников обращаются к ИИ для скорости и масштабирования.
Комментарии закрыты.