Искусственный интеллект: кризис безопасности, к которому мир оказался не готов.
Узнайте о серьезной проблеме безопасности ИИ, к которой никто не был готов. Раскройте скрытые проблемы и реальные риски, угрожающие нашему будущему.
Самое важное, что вам нужно знать
- Стандарты безопасности ИИ, установленные странами с высоким уровнем дохода, создают «слепые зоны» и серьезные риски при развертывании моделей в регионах с различными языками, культурами и обучающими данными, что приводит к серьезным ошибкам в таких чувствительных областях, как здравоохранение.
- Быстрое глобальное распространение искусственного интеллекта требует соответствующего расширения инфраструктуры безопасности, с акцентом на обеспечение того, чтобы чат-боты понимали язык пользователей и предоставляли точную и не вводящую в заблуждение информацию.
- Языковые различия создают новый пробел в безопасности ИИ: пользователи получают разный уровень защиты для одного и того же продукта, а вероятность создания фальсифицированных моделей для информации возрастает в языках с малым количеством обучающих данных.
Компании, занимающиеся искусственным интеллектом, тратят огромные ресурсы на то, чтобы разобраться, что произойдет по мере того, как их модели будут становиться все более совершенными. В прошлом месяце OpenAI даже предприняла необычный шаг, временно приостановив обучение одной из своих моделей из-за опасений по поводу безопасности, поскольку отрасль сталкивается с рисками, начиная от автономного поведения и заканчивая все более изощренными кибервозможностями.
Однако существует еще одна проблема безопасности ИИ, которая часто упускается из виду: встроенные в эти системы средства защиты не всегда одинаково эффективны для всех. В новом отчете организации Rest of World подчеркивается, что усилия по обеспечению безопасности ИИ по-прежнему в значительной степени сосредоточены на потребностях богатых англоязычных стран. Это может привести к тому, что население некоторых регионов Азии, Африки и других развивающихся стран столкнется с фундаментальными и потенциально серьезными проблемами, такими как неправильное понимание языка чат-ботами.
За пределами Силиконовой долины безопасность искусственного интеллекта выглядит совсем иначе.
Многие крупные компании, занимающиеся искусственным интеллектом, имеют большие команды, специализирующиеся на обеспечении доверия и безопасности, но стандарты, используемые для оценки моделей, в значительной степени формируются в странах с высоким уровнем дохода. Исследователи утверждают, что это создает «слепые зоны», когда одни и те же модели используются в местах с разными языками, инфраструктурой, законами и культурными особенностями. Особенно тревожный пример — сектор здравоохранения. Исследования систем искусственного интеллекта для обработки естественного языка, используемых в Африке, выявили ошибки перевода, связанные с медицинской терминологией. Например, на языке тигринья машинный перевод перепутал оспу с сифилисом и даже перевел «внутривенные антибиотики» как «внутривенные инсектициды».
Проблема выходит за рамки простого перевода. Исследования показали, что модели ИИ могут чаще фальсифицировать информацию на языках с относительно небольшим объемом обучающих данных. Средства контроля безопасности, предназначенные для обнаружения вредоносных запросов на английском языке, могут работать хуже или их будет легче обойти на других языках. Это особенно актуально, поскольку люди все чаще полагаются на чат-боты для получения информации о здоровье и принятия других важных решений. Это фактически создает новый разрыв в сфере ИИ: два человека могут использовать один и тот же продукт и получать совершенно разный уровень защиты просто потому, что они говорят на разных языках.
Внедрение искусственного интеллекта не предполагает ожидания, пока стандарты безопасности достигнут необходимого уровня.
Этот вопрос особенно важен сейчас, учитывая стремительный рост энтузиазма в отношении искусственного интеллекта на многих из этих рынков. Китай, пожалуй, является наиболее ярким примером. Мы уже видим, как внедрение ИИ распространилось далеко за пределы технологических компаний: самые разные организации, от школ до местных органов власти, осваивают эту технологию. Она даже достигла пекинских пельменных, где одна компания начала выдавать клиентам токены с поддержкой ИИ и разработала инструменты управления очередями на основе ИИ. Этот энтузиазм не обязательно является проблемой. Однако исследователи предупреждают, что инфраструктура безопасности должна расширяться такими же темпами.
Правительства начали реагировать. Безопасность ИИ занимает видное место во многих международных инициативах, включая Блетчлийскую декларацию и прошедший в этом году в Индии саммит по ИИ, а Китай также предложил механизмы управления рисками ИИ в развивающихся странах. Самая большая проблема заключается в обеспечении того, чтобы «безопасность ИИ» не сводилась просто к предотвращению выхода будущей модели за рамки своих возможностей или совершению кибератаки. Для миллионов людей, уже использующих эти инструменты, безопасность может быть гораздо проще: обеспечение того, чтобы чат-боты понимали их язык, распознавали срочные ситуации и не предоставляли им ложную и опасную информацию . По мере того, как ИИ становится все более распространенным в повседневной жизни, эти проблемы перестают быть чем-то исключительным. Они стали частью того, что значит по-настоящему сделать ИИ безопасным.
Комментарии закрыты.