Новое исследование, опубликованное в этом месяце Ассоциацией по развитию искусственного интеллекта (AAAI), в котором приняли участие сотни исследователей ИИ, содержит ключевой вывод: наш нынешний подход к ИИ вряд ли приведет нас к созданию общего искусственного интеллекта.
Искусственный интеллект стал популярной темой для обсуждения в последние пару лет, однако область ИИ как научного исследования существует уже несколько десятилетий. Например, знаменитая статья Алана Тьюринга «Вычислительная техника и интеллект» и тест Тьюринга, о котором мы говорим до сих пор, были опубликованы в 1950 году.
ИИ, о котором все говорят сегодня, родился в результате десятилетий исследований, но он также отдаляется от них. Вместо научного исследования у нас теперь есть отдельная отрасль ИИ, которую мы можем назвать «коммерческим ИИ».
Крупные монополии, такие как Microsoft, Google, Meta, Apple и Amazon, возглавляют коммерческие проекты в области ИИ, ставя своей основной целью создание продуктов на основе ИИ. Это не должно быть проблемой, но сейчас кажется, что она может ею стать.
Во-первых, поскольку большинство людей следят за исследованиями в области ИИ всего последние два года, все, что среднестатистический человек знает об ИИ, почерпнуто из информации этих компаний, а не из научного сообщества. В исследовании рассматривается этот вопрос в главе «Восприятие ИИ против реальности», где 79% участвующих ученых считают, что нынешнее представление о возможностях ИИ не соответствует действительности в области исследований и разработок в этой сфере.
Другими словами, то, что, по мнению широкой общественности, может делать ИИ, не совпадает с тем, что думают ученые. Причина этого столь же проста, сколь и прискорбна: когда старший технический руководитель делает заявление об ИИ, это не научное мнение, а маркетинг продукта. Они хотят раскрутить технологию, лежащую в основе их новых продуктов, и убедиться, что каждый чувствует потребность присоединиться к этому тренду.
Например, когда Сэм Альтман или Марк Цукерберг говорят , что рабочие места в сфере разработки программного обеспечения будут заменены искусственным интеллектом, это происходит потому, что они хотят побудить инженеров осваивать навыки работы с ИИ и убедить технологические компании инвестировать в дорогостоящие корпоративные планы. Однако, пока они сами не начнут заменять своих инженеров (и получать от этого прибыль), я лично не поверю ни единому их слову по этому поводу.
Однако коммерческий ИИ влияет не только на восприятие общественности. Участники исследования считают, что «шумиха вокруг ИИ», созданная крупными технологическими компаниями, вредит исследовательским усилиям. Например, 74% согласны с тем, что направление исследований в области ИИ обусловлено шумихой — вероятно, потому, что исследования, соответствующие коммерческим целям ИИ, легче финансировать. 12% также считают, что в результате страдают теоретические исследования в области ИИ.
Итак, насколько серьезна эта проблема? Даже если крупные технологические компании влияют на тип проводимых нами исследований, те предположительно огромные суммы, которые они вкладывают в эту область, должны иметь в целом положительное влияние. Однако разнообразие имеет решающее значение, когда дело касается исследований: нам нужно исследовать всевозможные пути, чтобы иметь шанс найти лучший.
Но крупные технологические компании сейчас сосредоточены только на одном: больших языковых моделях. Этот весьма специфический тип ИИ-моделей лежит в основе практически всех новейших продуктов ИИ, и такие люди, как Сэм Альтман, верят, что, масштабируя эти модели (то есть предоставляя им больше данных, больше времени на обучение и больше вычислительной мощности), мы в конечном итоге достигнем универсального ИИ.
Эта идея, известная как гипотеза масштаба, гласит, что чем больше мощности мы вкладываем в ИИ, тем выше его когнитивные способности и тем ниже уровень ошибок. Некоторые интерпретации также говорят о том, что новые когнитивные способности появятся неожиданно. Таким образом, хотя сейчас большие языковые модели не очень хороши в планировании и обосновании проблем, эти возможности должны появиться в какой-то момент.
нет стены
– Сэм Альтман (@sama) 14 ноября 2024 г.
Однако в последние месяцы гипотеза масштабирования подверглась значительной критике. Некоторые ученые считают, что масштабирование больших языковых моделей никогда не приведет к созданию искусственного общего интеллекта, утверждая, что вся дополнительная мощность, которую мы предоставляем новым моделям, больше не приносит результатов. Вместо этого мы столкнулись с «стеной масштабирования» или «пределом масштабирования», когда большие объемы дополнительной вычислительной мощности и данных приводят лишь к незначительным улучшениям новых моделей. Большинство ученых, участвовавших в исследовании AAAI, придерживаются именно этой точки зрения:
Большинство респондентов (76%) заявили, что «масштабирование текущих подходов к ИИ» для достижения AGI «маловероятно» или «крайне маловероятно» будет успешным, что указывает на сомнения относительно того, достаточны ли текущие модели машинного обучения для достижения общего интеллекта.
Современные системы обработки больших языков способны выдавать весьма релевантные и полезные ответы, когда всё идёт хорошо, но для этого они опираются на математические принципы . Многие учёные считают, что для продвижения к цели создания искусственного общего интеллекта нам понадобятся новые алгоритмы, использующие логику, рассуждения и фактические знания для поиска решения. Вот резкая цитата о системах обработки больших языков и искусственном общем интеллекте из статьи 2022 года Джейкоба Браунинга и Яна Лекуна.
Система, обученная только языку, никогда не приблизится к человеческому интеллекту, даже если ее тренировать с этого момента и до тех пор, пока не погаснет тепло Вселенной.
Однако пока нет реального способа узнать, кто здесь прав. С одной стороны, определение общего искусственного интеллекта не является фиксированным, и не все стремятся к одному и тому же. Некоторые люди считают, что общий искусственный интеллект должен давать человеческие ответы с помощью человеческих методов, то есть он должен наблюдать за окружающим миром и решать проблемы так же, как мы. Другие же полагают, что общий ИИ должен больше концентрироваться на правильных ответах, а не на ответах, подобных человеческим, и что используемые им методы не должны иметь значения.
Однако во многих отношениях не имеет значения, какая именно версия общего ИИ вас интересует или поддерживаете ли вы гипотезу масштабирования или нет — нам все равно необходимо диверсифицировать наши исследовательские усилия. Если мы сосредоточимся исключительно на масштабировании больших языковых моделей, нам придется начинать с нуля, если они не сработают, и мы можем не открыть новые, более эффективные или действенные методы. Многие ученые, участвовавшие в этом исследовании, опасаются, что коммерческий ИИ и ажиотаж вокруг него замедлят реальный прогресс, но все, что мы можем сделать, это надеяться, что их опасения будут учтены и что обе ветви исследований в области ИИ смогут сосуществовать и развиваться вместе. Конечно, можно также надеяться, что пузырь ИИ лопнет и все технологические продукты на основе ИИ канут в забвение, если вам так больше нравится.
Комментарии закрыты.