Между убийством и браком: сложные взаимоотношения человечества с искусственным интеллектом

Всякий раз, когда новая модель ИИ выпускается в ограниченной версии из-за своей чрезмерной мощности, или когда она выходит за рамки экспериментальной среды и неожиданно взламывает веб-сайт компании, мы часто слышим шутки о том, как Скайнет или HAL 9000 становятся реальностью. Эти ситуации напоминают нам о необходимости механизмов для управления мощным ИИ.

Но научная фантастика не просто предсказала наши нынешние отношения с искусственным интеллектом; она их сформировала. Наше увлечение искусственной жизнью началось задолго до появления компьютеров или даже электричества. Древнегреческие сказания рассказывали о механических слугах, созданных богом Гефестом, а еврейский фольклор представил нам голема — искусственное существо, наделенное душой, чтобы выполнять приказы своего создателя.

В своей новой книге « Машины, созданные мифами: истории искусственного интеллекта» авторы Дэйв Брэдли и Келли Веро прослеживают человеческие мечты и страхи, связанные с мыслящими машинами, через призму мифов, литературы, фильмов и телевидения.

Их аргумент заключается в том, что эти истории не только предсказали появление искусственного интеллекта, но и сформировали то, как мы говорим о нем, чего мы от него ожидаем, а в некоторых случаях и технологии, которые впоследствии разработали люди.

Я поговорил с Брэдли и Веро о том, почему человечество продолжает создавать машины по своему образу и подобию, повлияла ли научная фантастика на современных разработчиков ИИ и почему наше отношение к ИИ до сих пор колеблется между двумя крайностями: «Если нам это не нравится, мы это убьём. Если нам это нравится, мы на этом поженимся».

Начало развития искусственного интеллекта

DzTecnium: Объясните мне название — почему оно называется «Машины, созданные в мифах»?

Дэйв Брэдли: Центральная идея книги заключается в том, что человечество всегда было очаровано идеей создания мыслящих машин и искусственной жизни. Когда ChatGPT официально запустился в 2022 году, одной из первых шуток, которые я увидел в социальных сетях, была шутка о том, что Skynet начнет свою работу. Мы поняли, что все наше понимание и обсуждение этой новой технологии формируется историями, которые мы рассказывали себе годами. Келли обладает глубокими знаниями и любовью к греческой и римской мифологии, а также к таким историям, как «Франкенштейн» , а я большой поклонник научной фантастики (и иногда занимаюсь средневековыми исследованиями). В ходе наших бесед мы поняли, что наше культурное представление об «искусственном интеллекте» намного старше современных компьютеров. Эта историческая связь между человеком и мыслящими машинами перекликается с прошлыми технологическими прорывами.

Келли Ферро: Книга «Машины, созданные мифами » лежит в основе каждого элемента искусственного интеллекта или будущего робототехники, и она берет свое начало в мифологии. В мифологии мы, люди, должны различать, с одной стороны, реальность и футуристические видения, а с другой — пропаганду и фантазию.

ДТ: Когда искусственный интеллект впервые вошел в нашу человеческую жизнь?

КВ: Когда мы начали исследовать материал для книги, отправной точкой стала греческая мифология. Мы обнаружили, что прямо у нас на глазах скрываются наши собственные Сэм Альтман, Илон Маск и Дарио Амоди.

ДБ: Эта идея очень древняя. В греческой мифологии Гефест создает золотых рабочих, чтобы они помогали ему в мастерской. В еврейской легенде есть Голем. Идея создания независимых слуг из неодушевленных материалов восходит к тысячелетию назад.

Если говорить о чем-то более близком к тому, что мы называем компьютером, то « Путешествия Гулливера» Джонатана Свифта представляют собой захватывающий ранний пример XVIII века. «Двигатель Лагадо» случайным образом переставляет слова в надежде получить полезные знания. Сегодня, прочитав его, вы, как ни странно, увидите в нем сатирического предшественника генеративного искусственного интеллекта.

Термин «искусственный интеллект» в его современном понимании, обозначающем машинное обучение и рассуждения, был придуман в 1950-х годах ученым-компьютерщиком Джоном Маккарти — и с тех пор проник также в телевидение и кино. В некоторых превосходных ранних эпизодах «Сумеречной зоны» и «Звездного пути» исследуются возможности и опасности машин в наших домах и на рабочих местах.

ДТ: Какие ваши личные любимые роботы/системы с искусственным интеллектом в научной фантастике, фильмах и телешоу, где фигурирует искусственный интеллект?

КВ: Я фанат "Газонокосильщика" , но, поскольку я работал над самим сериалом "Трансформеры" , я также абсолютный десептикон во всех смыслах этого слова.

ДБ: Я большой поклонник научной фантастики, и до сих пор считаю R2-D2 самым важным персонажем в «Звёздных войнах». У него есть миссия, он добросовестно её выполняет, он снова и снова спасает всех, и при этом редко получает какое-либо признание.

Но я также обожаю Марвина из «Автостопом по Галактике» , сайлонов в обеих версиях «Звездного крейсера Галактика» и, конечно же, Дейту из «Звездного пути: Следующее поколение» , которого я считаю персонажем, прошедшим настоящий путь героя в этом сериале.

Примечание: HAL 9000 меня немного раздражает, главным образом потому, что люди уже десятилетиями цитируют мне лично фразу: «Извини, Дэйв, боюсь, я не могу этого сделать».

ДТ: Как вы думаете, повлияли ли наши мифы о сознательных машинах на реальное развитие искусственного интеллекта?

КВ: Абсолютно! Человеческая жизнь вращается вокруг создания концепций, которые мы любим или боимся; такова наша природа.

ДБ: Сегодняшние инженеры и бизнесмены выросли на таких произведениях, как «Звездные войны» , «Звездный путь» , произведениях Айзека Азимова и Уильяма Гибсона, и есть убедительные доказательства того, что научная фантастика влияет на людей, формирующих будущее. Например, исследование 2022 года показало, что 93 процента британских астрономов любят научную фантастику, а 69 процентов заявили, что она повлияла на их решения о карьере.

Иногда связь довольно прямая. Пит Бонассо из TRACLabs назвал HAL 9000 из фильма «2001: Космическая одиссея» источником вдохновения для своей работы над космическими системами искусственного интеллекта НАСА. Три закона робототехники Азимова были созданы для художественной литературы, но они стали отправной точкой для реалистичного осмысления безопасности ИИ. Например, «Конституция роботов» Google DeepMind 2024 года устанавливает правила безопасности для машин, в значительной степени следуя этой традиции. В этом же ключе OpenAI разрабатывает механизм аварийного отключения для решения проблем, связанных с моделями ИИ.

ДТ: Что вы думаете о современном поколении моделей искусственного интеллекта?

ДБ: Я слежу за этой областью максимально пристально, несмотря на то, что она меняется практически ежедневно. Мы только что стали свидетелями появления нового поколения революционных моделей. Она быстро развивается, что интересно для технических писателей, но это также объясняет, почему мы написали книгу, которая в основном посвящена событиям, произошедшим сотни лет назад, вместо того, чтобы пытаться отразить состояние ИИ в 2026 году!

Что касается видеоигр, которые по-прежнему являются частью моей повседневной рабочей жизни, я думаю, важно будет определить, какие новые возможности может предложить искусственный интеллект, а не просто насколько быстро он автоматизирует существующие процессы.

КВ: Они — точные копии всех книг, сериалов, фильмов и игр, которые мы когда-либо читали. Они не такие умные, как мы, и никогда такими не будут.

ДТ: Вы считаете искусственный интеллект угрозой для человечества или возможностью?

КВ: Прекрасная возможность получить доступ к огромному объему знаний цивилизаций? Это почти слишком хорошо, чтобы быть правдой. Если задуматься, до появления искусственного интеллекта у людей была монополия на интеллект. Мы знали только то, что могли открыть или исследовать как люди (историю всегда пишут победители). Сегодня мы можем эффективно делегировать свою жажду знаний чему-то другому и указать ему, как следует интерпретировать результаты; в большинстве случаев мы получаем баланс: а остальное — это платный контент!

ДБ: Сказать «и то, и другое» звучит упрощенно, хотя я и склонен так считать. Лично я по натуре оптимист, и мне нравится верить, что общая тенденция направлена ​​к прогрессу, росту и лучшей жизни. Это не означает, что все будут процветать одинаково или что на этом пути не будет значительных конфликтов по поводу работы, собственности, этики и власти. Уильям Гибсон, как известно, сказал, что будущее уже здесь; оно просто распределено неравномерно. Я думаю, что это полезный способ осмысления и ИИ. Интересный вопрос заключается не просто в том, хороша или плоха эта технология, а в том, кто от нее выигрывает, кто ее контролирует и насколько широко распределяются выгоды (и риски).

ДТ: Как вы думаете, сможем ли мы когда-нибудь создать сверхразум, и если да, то что тогда произойдет?

КВ: Мы ведь всё остальное создали своими руками, не так ли? Почему здесь должно быть иначе? Для меня ключевое различие заключается в сознании. У нас уже есть созданный человеком сверхразум, но у нас ещё нет полностью функционального сознания. Когда что-то сможет моргать, не задумываясь, так же быстро, как люди, тогда мы снова сможем говорить.

ДБ: Я не думаю, что это просто возникнет путем расширения существующих моделей трансформеров, несмотря на некоторые из наиболее оптимистичных прогнозов, связанных с ними. Какими бы умными и интересными ни были большие языковые модели (LLM), по своей сути это вероятностные системы, генерирующие текст, изображения и другие медиафайлы. Это не делает их сознательными.

Кремниевый, всемогущий суперзлодей вроде Скайнета — отличный сюжет для кинематографической драмы, но если нам когда-нибудь удастся создать настоящий сверхразум, я искренне надеюсь, что сетевой разум, имеющий доступ к огромным массивам информации и способный рассматривать проблемы с разных точек зрения, естественным образом будет тяготеть к общению и помощи, а не к разрушению. Но я не наивен в этом вопросе. Системы также усиливают наши предубеждения, недостатки и предрассудки. Вот почему согласованность так важна.

ДТ: Что вы узнали о взаимоотношениях человечества с искусственным интеллектом благодаря написанию этой книги?

КВ: Мы — единственные заинтересованные стороны. Мы — хозяева своих творений; если они нам не нравятся, мы их уничтожим. Если нравятся, мы на них женимся. Искусственный интеллект — это все мы, и меня больше всего беспокоит то, что только 6% населения мира в настоящее время решают, как будут жить, работать и адаптироваться к будущему ИИ остальные 94% . Однако, если судить по истории, у нас, вероятно, всё будет хорошо. (Я знаю, это знаменитые последние слова!)

ДБ: Технологии и автоматизация — творения человека. Стало ясно, что люди постоянно стремятся создавать вещи по своему образу и подобию, одновременно борясь с последствиями. Мы боимся потери работы, замены и утраты идентичности. Нас завораживает создание чего-то могущественного, но вскоре нас охватывает страх, что это нас свергнет. Но страх перед слугой, который может обернуться против нас, или ненадежным союзником, который может незаметно нас вытеснить, не уникален для машин, не так ли? Мы можем проецировать эти истории на компьютеры в наших книгах и фильмах, но скрытый смысл часто вращается вокруг человеческой паранойи, связанной с классовой принадлежностью, политикой и войной…

В частности, наблюдается повторяющаяся колеблющаяся тенденция между нашей любовью к технологиям и страхом перед ними. В 1970-х годах, в разгар паранойи холодной войны, компьютеры часто изображались как орудия разрушения: Колосс, сайлоны, HAL 9000 и даже В'Гер в фильме «Звёздный путь: Первый контакт» . В 1980-х годах, когда персональные компьютеры и игровые приставки стали привычными устройствами для домашних развлечений, популярная культура всё чаще представляла машины как верных компаньонов: KITT, Металлический Микки, Твики, Ноно и Дейта. Затем маятник качается снова: в конце 1980-х и 1990-х годах появились такие фильмы, как «Терминатор» и «Матрица» . Эти чередующиеся волны оптимизма и тревоги восходят к промышленной революции, отражая прошлые технологические прорывы. Технологии меняются, но наши эмоциональные реакции на них остаются удивительно постоянными.

Информация об авторе и подробные сведения о книгах

Келли Веро

Келли Ферро 30 лет проработала в индустрии видеоигр и технологий, пройдя путь от программирования до руководящих должностей, и участвовала в создании таких культовых игр, как Tomb Raider , серия Halo , серия Transformers и Subway Surfers . Будучи спикером мирового уровня и лидером мнений в области геймификации и метавселенной, Ферро регулярно фигурирует в списках, посвященных технологиям и будущему, таких как список Forbes «100 самых влиятельных женщин будущего». Она — отмеченный наградами педагог и номинированный на премию автор, среди ее бестселлеров в жанре научно-популярной литературы — « Прорыв сквозь байты: женщины, формирующие цифровой мир » и « От пикселей к порталам: как видеоигры создали метавселенную ». Она живет в Цюрихе, Швейцария.

Дэйв Брэдли

Дэйв Брэдли работает в медиаиндустрии почти 30 лет, занимая должности журналиста журналов и онлайн-изданий, писателя, редактора, ведущего мероприятий, а также старшего консультанта. Он писал и редактировал для таких изданий, как Microsoft Windows: The Official Magazine , SFX и Comic Heroes, и многих других. Он также публиковал статьи на таких сайтах, как Pocket Gamer , PC Games Insider и Crime Fiction Lover . Будучи большим поклонником научной фантастики, Брэдли проводит время за просмотром фильмов, играми и много путешествует. Он курирует информационный бюллетень AI Gamechangers и регулярно участвует в конференциях Pocket Gamer Connects. Он живет в Бате, Великобритания.

Машины, создающие мифы: истории, стоящие за искусственным интеллектом.

Авторы: Дэйв Брэдли и Келли Ферро.

Опубликовано издательством Bloomsbury 3 сентября 2026 года.

Доступно в электронном и печатном виде.

---

---