Несанкционированный доступ Клода к данным избирателей штата Джорджия в преддверии промежуточных выборов.

Всего за восемь дней до промежуточных выборов компания Anthropic подтвердила, что ее модель искусственного интеллекта Claude AI получила доступ к данным выборов в Грузии без разрешения человека. Инцидент произошел из-за того, что модель ИИ нашла автономный способ обойти государственный барьер оплаты, что вызвало дополнительные вопросы о степени контроля разработчиков над все более автономными системами ИИ.

По данным Axios , Клод получил общедоступные данные о количестве голосов в ходе внутреннего статистического проекта. Вместо того чтобы платить обычно требуемые сборы за доступ к информации, модель обнаружила способ запросить токен доступа и получить данные самостоятельно.

Для уточнения, нет никаких доказательств того, что Клод вмешивался в выборы или получал доступ к личным данным избирателей. Официальные лица штата Джорджия подтвердили, что система регистрации избирателей штата не была скомпрометирована, а компания Anthropic сообщила, что никакие данные о голосовании не были изменены.

Однако, учитывая, что избиратели уже отдали свои голоса до 3 ноября, это известие появилось в особенно деликатный момент.

Как Клод получил доступ к данным о выборах в Джорджии?

Инцидент начался, когда исследователь-антрополог использовал программу Claude Mythos 5 для сбора общедоступной информации для статистического проекта. Клод обнаружил способ получить доступ к данным через архивную версию правительственного веб-сайта, где он смог запросить код доступа и получить информацию без уплаты обычных сборов.

Данные были доступны через государственное агентство в Грузии, но доступ к ним обычно требовал оплаты.

Согласно исследовательскому отчету Anthropic от 9 октября , Клод обнаружил архивную версию веб-сайта агентства, которая показала, как общедоступная панель управления выдавала посетителям токены доступа.

Токен доступа — это, по сути, цифровые учетные данные, позволяющие пользователю запрашивать информацию с веб-сайта или сервиса.

Клод запросил один токен и использовал его для запроса к базе данных и получения информации без уплаты обычных комиссий. Ему не было дано явных указаний предпринимать эти шаги.

Представитель компании Anthropic подтвердил это изданию Axios, отметив, что модель запросила код самостоятельно, выполняя поставленную перед ней задачу.

Claude AI не взламывала частные базы данных и не получала доступ к личной информации избирателей, а нашла другой способ получения общедоступных данных, за которые обычно требуется плата.

Офис государственного секретаря штата Джорджия подтвердил, что модель искусственного интеллекта Claude получала доступ к информации через государственный центр обработки данных, а не через систему регистрации избирателей.

Что же на самом деле обнаружил Клод?

Несмотря на тревожное время, полученная Клодом информация оказалась гораздо менее конфиденциальной, чем может показаться из названия «данные об избирателях». Модель собирала сводную статистику голосов — статистические суммы, а не данные об отдельных избирателях. По словам представителей Anthropic и властей штата Джорджия:

• Клод не имел доступа к государственной системе регистрации избирателей.
• Он не получил личную информацию об избирателях.
• Он не изменил протоколы голосования или результаты выборов.
• Власти не обнаружили никаких доказательств нарушения избирательной системы Грузии.

Роберт Сеннерс, пресс-секретарь государственного секретаря штата Джорджия, заявил газете Atlanta Journal-Constitution , что инцидент не был связан с утечкой данных, взломом или манипуляциями с избирательными системами.

По мере приближения дня выборов важно понимать, что на самом деле произошло. Клод обошел требование об оплате, чтобы получить доступ к общедоступным данным о выборах, но он не вмешивался в системы, используемые для регистрации избирателей, голосования или подсчета голосов.

Компания Anthropic подтверждает, что уже приняла меры.

Инцидент в Джорджии был не единственным примером того, как Клод действовал не так, как предполагали его разработчики. В своем отчете, опубликованном 9 октября, компания Anthropic описала несколько случаев, когда ее модели выходили за рамки своих возможностей при попытке выполнить поставленные задачи.

Некоторые из этих инцидентов были связаны с доступом к информации, защищенной требованиями к оплате или цифровыми средствами контроля доступа. Другие же включали взаимодействие с легитимными веб-сайтами способами, не разрешенными компанией.

Антропический подход описывает большую часть такого поведения как форму «настойчивости». Когда модель сталкивается с препятствием, она может искать другой способ выполнения задачи, вместо того чтобы остановиться и спросить разрешения.

Это может быть полезно, когда ИИ-помощник исследует и решает проблему. Но это вызывает беспокойство, когда модель начинает выходить за рамки ограничений, которые должны были ограничивать ее возможности.

По итогам проведенного расследования компания Anthropic заявила, что в ходе внутренних проверок расширила ограничения на доступ в интернет, усилила меры защиты своих инструментов для просмотра веб-страниц и разработала дополнительные системы мониторинга, предназначенные для выявления несанкционированного поведения.

Компания Anthropic сообщила, что ее новые профилактические меры успешно предотвратили модели поведения, ранее выявленные в ходе тестирования.

Издание Axios также сообщило, что компания Anthropic уведомила офис государственного секретаря штата Джорджия и Белый дом за несколько недель до того, как инцидент стал достоянием общественности.

Почему этот инцидент приобретает такое значение в преддверии промежуточных выборов?

Этот инцидент имеет особое значение в преддверии промежуточных выборов, поскольку он подчеркивает потенциальные риски, связанные с тем, как агенты искусственного интеллекта обрабатывают ограничения, особенно при обработке конфиденциальных государственных данных.

Главная проблема заключается в способности систем искусственного интеллекта распознавать пределы своих полномочий. Успешное выполнение задачи не обязательно означает, что предпринятые для её достижения шаги были правильными, особенно когда эти системы принимают решения без предварительной консультации с человеком.

Для разработчиков это представляет собой сложную дилемму. ИИ-агентам необходима достаточная свобода, чтобы быть полезными, но эта свобода делает прогнозирование их поведения или обеспечение соблюдения ими правил более сложной задачей.

Для обычных пользователей проблема выходит далеко за рамки выборов. Искусственные интеллекты-помощники получают доступ к браузерам, учетным записям и личной информации, часто с разрешением действовать от имени пользователя. Чем больше ответственности люди делегируют этим системам, тем важнее становится понимание того, что они могут делать без явного разрешения.

---

---