Искусственный интеллект превращает обычные, невинные фотографии детей в ужасающий материал для сексуальной эксплуатации: шокирующая правда.
Защитите своих детей: искусственный интеллект превращает их обычные фотографии в контент сексуального характера. Разберитесь в этом опасном явлении и узнайте, как немедленно с ним бороться.
Самое важное, что вам нужно знать
- В ходе расследования было выявлено 332 рекламных объявления в Facebook и Instagram, созданных с помощью искусственного интеллекта и содержащих материалы, связанные с сексуальной эксплуатацией детей, где обычные, реальные детские фотографии были обработаны и превращены в контент, содержащий насилие.
- Системы искусственного интеллекта Meta не смогли обнаружить сотни платных рекламных объявлений, содержащих злоупотребления, даже после заявленных улучшений, в то время как другие объявления продвигают почти 50 приложений для создания изображений, содержащих злоупотребления, доступных в магазинах приложений.
- Родителям не следует повторно публиковать созданные с помощью ИИ изображения своих детей, содержащие сцены насилия, а необходимо сообщать о них непосредственно на соответствующую платформу и собирать данные учетных записей. Для создания цифрового следа они могут использовать сервис NCMEC «Удалить».
Фотографии моих детей на пляже, моего сына, играющего в футбол, или даже всей моей семьи, улыбающейся перед домом — все это примеры фотографий, которыми я делилась в социальных сетях. Я знаю, что я не одинока в этом, учитывая, как часто я вижу подобные изображения, запечатлевшие детали нашей современной жизни.
Но искусственный интеллект создал новую и тревожную опасность, позволяя обычным, реальным изображениям детей, подобным тем, которые я только что упомянул, превращаться в изображения сексуальной эксплуатации без ведома ребенка или его родителей.
Давайте внесем ясность: это не теоретическая угроза.
Было передано 332 рекламных объявления с изображениями сексуальной эксплуатации детей, сгенерированными с помощью ИИ.
Новое расследование, проведенное организацией Tech Transparency Project (TTP), выявило сотни рекламных объявлений с материалами, содержащими сексуальную эксплуатацию детей (CSAM), созданных с помощью искусственного интеллекта и распространяемых в Facebook и Instagram. Как сообщает WIRED , исследователи идентифицировали четырех реальных детей, чьи обычные фотографии были отредактированы . Среди них были двое подростков-инфлюенсеров, ребенок младшего возраста, чье изображение появилось на сайте стоковых фотографий, и юный член европейской королевской семьи.
В общей сложности TTP обнаружила 332 рекламных объявления, содержащих созданные с помощью ИИ материалы, связанные с сексуальной эксплуатацией детей (сокращенно CSAM). В большинстве этих объявлений был изображен ребенок, чье изображение было изменено с помощью ИИ таким образом, чтобы создать впечатление, будто он совершает сексуальный акт.
Эти результаты служат тревожным напоминанием о том, как генеративный искусственный интеллект изменил риски, связанные с распространением детских изображений в интернете. Для создания убедительных поддельных изображений больше не требуется настоящая фотография; в качестве исходного материала можно использовать обычное изображение.
Как превратить обычные изображения в сгенерированный искусственным интеллектом оскорбительный контент
Инструменты искусственного интеллекта для генерации изображений могут брать существующее изображение и изменять его отдельные части, сохраняя при этом исходные, узнаваемые черты человека.
По словам исследователей, именно это произошло с несколькими детьми, фигурировавшими в рекламе на Metacritic.
Как сообщает WIRED, исследователям удалось отследить первоисточники изображений четырех несовершеннолетних. Двое из них — подростки-блогеры с публичными аккаунтами в социальных сетях. Еще один — подросток, чье изображение было размещено на сайте стоковых фотографий. Четвертый — молодой член европейской королевской семьи.
Ни одно из этих оригинальных изображений не обязательно должно было содержать материалы сексуального характера, чтобы быть использованным не по назначению.
Эмма Харди, директор по коммуникациям фонда Internet Watch Foundation, заявила изданию WIRED: «Приложения искусственного интеллекта значительно упрощают создание реалистичных, криминальных изображений сексуального насилия над детьми, создавая новый риск того, что обычные детские фотографии будут сделаны и превращены в контент сексуального характера».
Как только обычное изображение становится общедоступным, любой желающий может загрузить его и загрузить в инструмент на основе искусственного интеллекта, предназначенный для редактирования изображений.
Искусственный интеллект Meta не смог обнаружить сотни рекламных объявлений.
Масштаб недавнего расследования также показывает, насколько сложно остановить распространение подобного контента.
В августе исследователи TTP первоначально обнаружили 53 объявления, содержащих материалы о сексуальном насилии над детьми, на платформах Meta. Позже Meta заявила, что многие из этих объявлений появились до того, как компания внедрила новую технологию искусственного интеллекта, разработанную для улучшения ее способности обнаруживать неприемлемые объявления при загрузке.
Однако исследователи продолжали их находить. Фактически, TTP утверждает, что в конечном итоге выявила 332 объявления, содержащих созданные с помощью ИИ материалы о сексуальном насилии над детьми (CSAM), причем сотни из них появились после того, как Meta объявила об улучшенной технологии обнаружения, что вызвало вопросы об эффективности мониторинга с использованием ИИ.
Это особенно важно, потому что это были не просто публикации в Facebook или Instagram, которые остались незамеченными. Это была платная реклама.
Компания Meta утверждает, что объявления проходят проверку перед показом, и что автоматизированные системы играют ключевую роль в этом процессе.
Представитель Meta Трейси Клейтон сообщила WIRED, что компания абсолютно нетерпима к приложениям, позволяющим «обнажать» детей, или к эксплуатации детей, независимо от того, изображены ли на фотографиях реальные дети или они созданы с помощью ИИ. Meta заявила, что злоумышленники намеренно пытаются обойти системы обнаружения, и что некоторые видеоролики сложнее обнаружить, потому что изображения детей появляются лишь на короткое время или размыты.
Компания заявила, что многие из выявленных исследователями рекламных объявлений уже были удалены, что большинство из них имели менее 200 показов и что она получила менее 5000 долларов в виде выплат за эти объявления. Однако исследователи задокументировали случаи, когда охват рекламы увеличился после того, как на нее поступили жалобы.
TTP сообщило, что после сообщения в Meta один рекламный ролик, нацеленный на реального подростка, достиг четырех европейских аккаунтов. Несколько дней спустя, когда Meta удалила его, ролик достиг более чем 330 аккаунтов.
Расследование выявило широкое распространение этих инструментов.
Исследователи обнаружили рекламу, направляющую пользователей почти к 50 приложениям, доступным в Apple App Store и Google Play. По данным WIRED, примерно 300 из 350 рекламных объявлений, изученных в рамках более широкого расследования, продвигали генераторы изображений или видео на основе искусственного интеллекта.
Компания Apple сообщила изданию WIRED, что некоторые разработчики изначально предлагали версии своих приложений, соответствующие требованиям, а затем добавляли запрещенные функции удаления контента. Apple заявила, что удалила 17 из 20 приложений, выявленных исследователями, и приняла меры против оставшихся трех, а также против семи других приложений, обнаруженных WIRED.
Со своей стороны, Google заявила, что удалила все приложения, упомянутые в отчете, и приостановила работу сотен других приложений за нарушение своих правил.
Однако эти результаты выявляют проблему, которая выходит за рамки любой отдельной платформы, поскольку искусственный интеллект может использоваться для создания подобных оскорбительных изображений. Большинство инструментов ИИ не регулируются, что подвергает компании риску. Магазин приложений может распространять инструмент, используемый для их создания, а затем рекламная платформа может распространять рекламу, продвигающую эти изображения.
Каждый уровень этой системы может иметь свои собственные системы безопасности, но вредоносному контенту достаточно пройти через эти системы всего один раз, чтобы достичь пользователей.
Что бы вы сделали, если бы обнаружили изображение своего ребенка, созданное с помощью искусственного интеллекта?
Если вы обнаружили созданные с помощью ИИ изображения сексуального характера с участием вашего ребенка, не перепостите и не распространяйте их повсеместно, чтобы не предупреждать других.
Вместо этого сохраняйте информацию, которая может помочь определить, где появился этот материал, например, имя учетной записи, заголовок страницы и другие сопутствующие детали, и сообщайте о контенте непосредственно на платформу.
В Соединенных Штатах о предполагаемых случаях сексуальной эксплуатации детей также можно сообщать в Центр по розыску пропавших и подвергшихся эксплуатации детей (National Center for Missing & Exploited Children's CyberTipline).
Родители также могут воспользоваться сервисом NCMEC «Take It Down» , разработанным для предотвращения распространения в интернете фотографий или видео с изображением обнаженных, полуобнаженных или откровенно сексуальных людей младше 18 лет. Система создает цифровой отпечаток, или хеш, изображения, не требуя загрузки самого изображения.
Поскольку изображения, созданные с помощью ИИ, порождают новые и более сложные сценарии, родители, которые не уверены, соответствует ли обработанное изображение критериям для составления отчета, должны сообщать о своих наблюдениях, а не пытаться определить это самостоятельно.
Заключение
Родителей годами предупреждали об опасностях «совместного использования» информации и о цифровом следе их детей. «Совместное использование» (sharing), образованное путем слияния слов «sharing» и «parenting», относится к практике родителей, которые делятся фотографиями, видео и личной информацией о своих детях в социальных сетях.
Хотя родители не могут полностью исключить риск неправомерного использования ИИ фотографий или видео, которые они публикуют, сокращение количества общедоступных изображений своих детей и более избирательный подход к тому, чем они делятся, может уменьшить объем материалов, доступных людям, которые могут злоупотребить ими.
Комментарии закрыты.