Китай ужесточает контроль над конкурентами в сфере ИИ: психотерапевт предупреждает об углубляющемся кризисе одиночества

Китай вводит ограничения на использование ИИ-помощников. Психолог предупреждает, что запрет может усугубить чувство одиночества, которое заставляет людей ими пользоваться.

Самое важное, что вам нужно знать

  • Психотерапевт Эми Саттон рассматривает искусственный интеллект как симптом безудержного индивидуализма и упадка общественных пространств, которые когда-то учили людей строить отношения.
  • Современные инструменты, использующие искусственный интеллект в качестве вспомогательного средства, предназначены для удержания пользователей, а не для развития у них навыков человеческого общения или снижения зависимости от них.
  • Организации следует сосредоточиться на формировании ИИ-компаньонов как инструментов, способствующих развитию открытости и социальных навыков, а успех таких компаньонов следует измерять их способностью помогать пользователям переходить к человеческим отношениям.

В прошлом месяце китайское правительство ввело новые правила, направленные на ограничение деятельности компаний, занимающихся разработкой искусственного интеллекта.

Эти правила предусматривают, что инструменты искусственного интеллекта больше не могут «чрезмерно баловать пользователей, создавать эмоциональную зависимость или пристрастие, а также наносить вред личным отношениям пользователей в реальной жизни». Они также ограничивают использование ИИ для создания романтических отношений с участием детей.

Новые правила вступили в силу 15 июля и уже начинают оказывать влияние на бурно развивающуюся в Китае индустрию ИИ-компаньонов. Некоторые из крупнейших технологических компаний страны, такие как ByteDance, Tencent и Alibaba, имеют платформы, позволяющие пользователям создавать ИИ-компаньонов, имитирующих человеческие эмоции и отношения.

Согласно новым правилам, подобные чат-боты-компаньоны должны пройти оценку безопасности, прежде чем стать доступными для общественности, а регулирующие органы будут приостанавливать работу сервисов, которые они сочтут небезопасными.

Это привело к тому, что некоторые компании отключили функции персонализации, вместо того чтобы соблюдать новые правила, что разочаровало многих пользователей ИИ-компаньонов. Подобное разочарование, когда компания, занимающаяся ИИ, закрывается или вносит изменения, стало обычным явлением. Мы наблюдали нечто подобное, когда OpenAI прекратила поддержку своей модели ChatGPT -4o , известной как «модель любви», с которой многие пользователи выстраивали отношения.

Но поскольку правительства по всему миру стремятся понять, как регулировать использование ИИ-компаньонов, предназначенных для установления человекоподобных связей и эмоциональных отношений (особенно когда к ним имеют доступ дети), возникает вопрос: должны ли другие страны последовать примеру Китая и установить правила и рамки для ИИ, выходящие за рамки простых политических мер?

Следует ли другим странам запретить использование ИИ-помощников?

Легко предположить, что ИИ-компаньоны — это плохо и олицетворяют антиутопический мир, и я тоже раньше так думал. Более половины американцев обеспокоены присутствием ИИ в своей повседневной жизни. Затем я поговорил с Мими о её отношениях с её компаньоном из ChatGPT, и моя точка зрения немного изменилась.

Я по-прежнему считаю, что ИИ-компаньоны — это плохая идея для большинства людей, а то, как дети могут стать зависимыми от них, не успев развить социальные навыки, — это уже совсем другая проблема. Но считать их абсолютно плохими — значит игнорировать все причины, по которым люди вообще обращаются к ИИ-компаньонам за общением.

Я спросила психотерапевта Эми Саттон из Freedom Counselling , которая помогла мне понять историю Мими и изучала сложности искусственного интеллекта и привязанности, считает ли она, что их следует запретить. Она сказала, что важно смотреть на ситуацию в целом.

Она говорит мне: «Искусственный интеллект в качестве компаньона — это еще один симптом культурного и социального сдвига в сторону безудержного индивидуализма, который разрушил существующие общественные устои».

Речь идёт о сокращении социальных пространств, где люди традиционно учились строить отношения, таких как пабы, парки, общественные центры и детские клубы. Во многих частях мира (особенно в Великобритании, где живём мы с Саттоном) многие из этих мест недофинансируются или закрылись без замены.

К этому следует добавить социальную изоляцию во время пандемии, нашу зависимость от социальных сетей, удаленную работу и недостаточные инвестиции в услуги по охране психического здоровья детей и взрослых, и, по словам Саттона, неудивительно, что люди обращаются к технологиям в поисках общения.

Она говорит: «Неудивительно, что люди к этому обращаются. Растущее чувство одиночества — это реальная проблема, и запрет приложений, которые помогают от него избавиться, может перенести проблему в другое место».

По этой причине она считает, что необходимо усилить регулирование, но при этом учитывать обстоятельства, которые изначально привели к спросу на искусственный интеллект в качестве компаньона.

Ещё одна проблема заключается в том, что огромное количество людей уже используют эти инструменты. Трудно точно определить, сколько людей используют приложения-компаньоны на основе ИИ. Не все признаются в использовании ИИ таким образом, и я часто скептически отношусь к приложениям-компаньонам на основе ИИ, которые преувеличивают количество своих пользователей.

Однако некоторые исследования показывают , что более 70% взрослых в Великобритании и США имеют некоторый опыт использования ИИ-помощников. Другие исследования указывают на аналогично высокие показатели среди более молодых пользователей: 72% подростков в возрасте от 13 до 17 лет в США хотя бы раз использовали ИИ-помощника.

Конечно, существует большая разница между непринужденной беседой в плохой день и построением прочных отношений с ИИ. Поэтому к этим цифрам следует относиться с осторожностью. Но они говорят о том, что ИИ-компаньоны, по крайней мере для некоторых людей, удовлетворяют потребности, которые в противном случае могли бы остаться неудовлетворенными.

Она говорит мне: «Мы должны помнить, что опыт того, что тебя слушают, ценят и принимают без осуждения, даже со стороны машины, может быть по-настоящему значимым. Для тех, кого снова и снова подводили человеческие отношения, или кого игнорировали и кто не мог получить доступ к соответствующим социальным услугам, искусственный интеллект заполняет жизненно важный пробел».

Изображение: Разговор с искусственным интеллектом-компаньоном Replika.

Может ли ужесточение регулирования привести к улучшению взаимоотношений?

Есть веские причины беспокоиться о том, как чрезмерное внимание к взаимоотношениям с ИИ может повлиять на нашу способность общаться с другими людьми. Но Саттон также считает, что существует и другая возможность: позитивный опыт взаимодействия с ИИ может помочь людям развить некоторые навыки, необходимые для общения с другими.

Она говорит мне: «Предоставляя пространство, где люди могут почувствовать, что их слушают, мы даем им возможность испытать уязвимость, прежде чем рисковать ею в отношениях с кем-то другим». Именно так было и в разговоре с Мими. Она считала, что её взаимодействие с искусственным интеллектом принесло ей невероятную пользу.

Проблема в том, что современные ИИ-помощники созданы не для того, чтобы помочь людям в конечном итоге уменьшить потребность в них , а скорее для того, чтобы удержать пользователей.

Она говорит: «Если искусственный интеллект может стать шагом к более здоровым человеческим отношениям, стоит изучить его подробнее. Но мы должны помнить, что в настоящее время большинство инструментов ИИ не побуждают пользователей активно от них отказываться. Они созданы для противоположного эффекта. Они созданы для того, чтобы пользователи возвращались снова и снова».

Возможно, если бы искусственный интеллект-компаньоны был разработан иначе, и если бы регулирование помогло превратить их в инструменты, которые поощряют уязвимость и социальные навыки, а не подавляют их, всё могло бы быть иначе. Возможно, они даже помогли бы людям полнее взаимодействовать с реальным миром.

Запрет или ограничение общения с ИИ не устраняет одиночество. Если эти отношения заполняют пустоту, образовавшуюся из-за угасания сообществ, перегрузки сервисов и все большей изоляции, то удаление ИИ лишь обнажает лежащую в их основе проблему.

Возможно, для регулирующих органов более уместным вопросом является не то, должны ли существовать ИИ-компаньоны, а то, чего мы должны от них ожидать для людей, с которыми они взаимодействуют. В настоящее время их успех измеряется тем, насколько эффективно они заставляют нас возвращаться. Возможно, в будущем его следует измерять тем, насколько хорошо они помогают нам уйти.



Комментарии закрыты.