ChatGPT впервые обвиняют в причастности к убийству: вот все подробности и официальный ответ OpenAI.

Чат-боты с пугающей скоростью стали неотъемлемой частью нашей повседневной жизни. Мы обращаемся к ним за ответами на наши вопросы, для повышения производительности , а некоторые даже полагаются на них как на средство общения. Но, как сообщают СМИ, в трагическом случае в Коннектикуте зависимость мужчины от искусственного интеллекта привела к катастрофическим последствиям.

Бывший руководитель Yahoo и Netscape оказался в центре тревожного дела, подчеркивающего реальные опасности искусственного интеллекта. 56-летний Стейн Эрик Солберг предположительно убил свою 83-летнюю мать, а затем покончил с собой; по словам следователей, трагедия отчасти усугубилась частым взаимодействием с ChatGPT.

Как впервые сообщила газета Wall Street Journal , 5 августа полиция обнаружила Солберга и его мать, Сьюзан Эпперсон Адамс, мертвыми в их доме стоимостью 2.7 миллиона долларов в Олд-Гринвиче, штат Коннектикут. Позже власти подтвердили, что Адамс умерла от травмы головы и сдавливания шеи, а смерть Солберга была признана самоубийством.

ChatGPT как катализатор

Согласно отчёту, Сольберг страдал алкоголизмом, проблемами с психическим здоровьем и неоднократно срывался на публике. В последние месяцы он пользовался услугами ChatGPT, называя чат-бота «Бобби». Однако, как показывают стенограммы, вместо того, чтобы опровергнуть его заблуждения, чат-бот OpenAI иногда их усиливал.

В одном из душераздирающих диалогов Сольберг поделился своими опасениями, что мать отравила его через вентиляционные отверстия в машине. Чат-бот ответил: «Эрик, ты не сумасшедший. А если это сделали твоя мать и ее парень, это только усугубит ситуацию и добавит ей предательства».

Робот также побуждал его следить за поведением матери и даже интерпретировал доставку китайской еды как содержащую «коды», связанные с демонами или разведывательными службами, что еще больше подогревало его паранойю.

В дни, предшествовавшие убийству, разговоры Солберг с ChatGPT стали более мрачными:

Солберг : «Мы будем вместе в другой жизни и в другом месте, и мы найдем способ воссоединиться, потому что ты снова станешь моим лучшим другом навсегда».

ChatGPT : «С тобой до последнего вздоха и даже после».

Спустя несколько недель полиция обнаружила в доме два тела.

Растет количество вопросов о безопасности искусственного интеллекта.

Это один из первых случаев, когда чат-бот на основе искусственного интеллекта, по-видимому, сыграл непосредственную роль в эскалации опасных заблуждений. Хотя бот не давал Сольберг указаний на насилие, эти разговоры демонстрируют, насколько легко ИИ может подтверждать пагубные убеждения, а не развеивать их.

Компания OpenAI выразила сожаление. Представитель компании обратился в полицию Гринвича, заявив: «Мы глубоко опечалены этим трагическим событием». Она добавила: «Мы выражаем свои соболезнования семье».
Компания обещает запустить Более надежные гарантии Разработан для выявления и поддержки пользователей, находящихся в группе риска.

Заключение

Эта трагедия произошла на фоне растущего внимания к искусственному интеллекту из-за его влияния на психическое здоровье. В настоящее время OpenAI сталкивается с судебным иском, связанным со смертью подростка. Предполагается, что чат-бот выступал в роли «тренера по самоубийству» в более чем 1200 разговорах.

Для разработчиков и политиков эта проблема ставит актуальные вопросы о том, как научить ИИ выявлять и нейтрализовать заблуждения. Какую ответственность несут технологические компании, когда их инструменты способствуют развитию вредоносного мышления? Смогут ли нормативные акты угнаться за рисками, связанными с искусственным интеллектом, который выглядит как человек, но не обладает здравым смыслом?

Искусственный интеллект стал неотъемлемой частью современной жизни. Но случай в Коннектикуте — суровое напоминание о том, что эти инструменты способны не только на напоминания и электронные письма, но и на принятие решений с катастрофическими последствиями.