Google снимает запрет на использование ИИ в оружии и наблюдении: тревожное будущее передовых технологий

Компания Google сняла давний запрет на использование искусственного интеллекта в оружии и системах наблюдения, что стало сигналом о серьезном изменении этической позиции компании в отношении разработки ИИ, которое, по словам бывших сотрудников и отраслевых экспертов, может изменить подход Кремниевой долины к безопасности ИИ.

Это изменение, незаметно внедренное на этой неделе, отменяет ключевые положения принципов Google в области искусственного интеллекта , которые прямо запрещали компании разрабатывать ИИ для оружия или наблюдения. Эти принципы, установленные в 2018 году , служили отраслевым эталоном ответственной разработки ИИ.

Трейси Пиццо-Фрай, которая пять лет занималась внедрением принципов искусственного интеллекта Google в качестве старшего директора по управлению исходящими продуктами, вовлечению и ответственному искусственному интеллекту в Google Cloud, написала в посте на Синее небо«Последний бастион пал. Google действительно был единственным, кто так ясно дал понять о своих обязательствах относительно того, что он будет строить».

Пересмотренные принципы исключают четыре конкретных запрета: технологии, которые потенциально могут причинить вред обществу; применение оружия; системы слежки; и технологии, нарушающие международное право и права человека. Вместо этого Google теперь заявляет, что будет работать над «смягчением непредвиденных или вредных последствий» и будет придерживаться «широко признанных принципов международного права и прав человека».

Смягчение компанией Google этических ограничений в отношении ИИ: что это означает для технологий наблюдения и военных приложений?

Этот сдвиг происходит в очень ответственное время, поскольку возможности ИИ стремительно развиваются, а дебаты о надлежащем контроле за этой технологией обостряются. Выбор момента вызвал вопросы о мотивах Google, хотя компания утверждает, что эти изменения разрабатывались в течение длительного времени.

«Мы находимся в ситуации, когда существует сильное недоверие к крупным технологическим компаниям, и каждый шаг, направленный на устранение контроля, порождает ещё большее недоверие», — заявила Безо-Фрай в интервью VentureBeat. Работая в Google, она подчеркнула, что чёткие этические границы имеют решающее значение для создания надёжных систем искусственного интеллекта.

Первоначальные принципы возникли в 2018 году на фоне протестов сотрудников против проекта Maven , контракта Пентагона, предусматривающего использование искусственного интеллекта для анализа видеоматериалов, полученных с беспилотников. Хотя Google в конечном итоге отказался продлевать этот контракт, новые изменения могут свидетельствовать об открытости к аналогичным военным партнерствам.

В обновлении сохранены некоторые элементы предыдущей этической концепции Google , но акцент смещается с запрета конкретных приложений на управление рисками. Такой подход больше соответствует отраслевым стандартам, таким как Рамочная программа управления рисками в области ИИ NIST , хотя критики утверждают, что он предусматривает менее строгие ограничения для потенциально опасных приложений.

«Этические соображения так же важны, как и создание хорошего ИИ, даже если точность не одинакова», — отметил Безо Фрай, подчеркнув, как этические соображения повышают эффективность и доступность продуктов ИИ.

От проекта Maven к трансформации политики: путь реформы этики ИИ от Google

Отраслевые обозреватели утверждают, что это изменение политики может повлиять на подход других технологических компаний к этике ИИ. Первоначальные принципы Google создали прецедент для корпоративного саморегулирования в области разработки ИИ, и многие компании обращаются к Google за рекомендациями по ответственному внедрению ИИ.

Поправка отражает более широкую напряженность в технологической отрасли между быстрыми инновациями и этическими ограничениями. По мере усиления конкуренции в сфере разработки искусственного интеллекта компании сталкиваются с необходимостью находить баланс между ответственной разработкой и требованиями рынка.

«Меня беспокоит, насколько быстро все это будет распространяться по миру, и будут ли сняты ограничения с Plus и Plus», — сказал Питсо Фрей, выразив обеспокоенность давлением конкуренции, вынуждающим быстро запускать продукты ИИ без адекватной оценки возможных последствий.

Большая дилемма этики в сфере технологий: установит ли изменение политики Google в отношении ИИ новый стандарт в отрасли?

В обзоре также поднимаются вопросы о внутренних процессах принятия решений в Google и о том, как сотрудники могут решать этические вопросы без явных запретов. За время работы в Google Безо-Фрай разработала процессы обзора, которые объединили различные точки зрения для оценки потенциального воздействия приложений ИИ.

Хотя Google сохраняет свою приверженность ответственной разработке ИИ, отмена определенных запретов представляет собой значительный отход от ее предыдущей лидирующей роли в установлении четких этических границ для приложений ИИ. Поскольку ИИ продолжает развиваться, специалисты отслеживают, как этот сдвиг может повлиять на более широкий ландшафт разработки и регулирования ИИ.