Новое исследование, опубликованное в этом месяце Ассоциацией по развитию искусственного интеллекта (AAAI), в котором приняли участие сотни исследователей ИИ, содержит ключевой вывод: наш нынешний подход к ИИ вряд ли приведет нас к созданию общего искусственного интеллекта.
Искусственный интеллект стал популярной темой для обсуждения в последние пару лет, однако область ИИ как научного исследования существует уже несколько десятилетий. Например, знаменитая статья Алана Тьюринга «Вычислительная техника и интеллект» и тест Тьюринга, о котором мы говорим до сих пор, были опубликованы в 1950 году.
ИИ, о котором все говорят сегодня, родился в результате десятилетий исследований, но он также отдаляется от них. Вместо научного исследования у нас теперь есть отдельная отрасль ИИ, которую мы можем назвать «коммерческим ИИ».
Крупные монополии, такие как Microsoft, Google, Meta, Apple и Amazon, возглавляют коммерческие проекты в области ИИ, ставя своей основной целью создание продуктов на основе ИИ. Это не должно быть проблемой, но сейчас кажется, что она может ею стать.
Во-первых, поскольку большинство людей следят за исследованиями в области ИИ всего пару лет, все, что среднестатистический человек знает об ИИ, исходит от этих компаний, а не от научного сообщества. Исследование охватывает Эта тема рассматривается в главе «Восприятие против реальности», где 79% участвующих ученых считают, что текущие представления о возможностях ИИ не соответствуют действительности исследований и разработок в области ИИ.
Другими словами, то, что, по мнению широкой общественности, может делать ИИ, не совпадает с тем, что думают ученые. Причина этого столь же проста, сколь и прискорбна: когда старший технический руководитель делает заявление об ИИ, это не научное мнение, а маркетинг продукта. Они хотят раскрутить технологию, лежащую в основе их новых продуктов, и убедиться, что каждый чувствует потребность присоединиться к этому тренду.
Когда он говорит Сэм Альтман Или Марк Цукерберг Например, рабочие места в сфере разработки программного обеспечения будут заменены на рабочие места в сфере искусственного интеллекта, поскольку они хотят повлиять на инженеров, чтобы они освоили навыки работы с искусственным интеллектом, и повлиять на технологические компании, чтобы они инвестировали в дорогостоящие корпоративные планы. Однако, если они не начнут заменять своих инженеров (и не воспользуются этим), я лично не поверю ни единому их слову по этому вопросу.
Однако коммерческий ИИ влияет не только на восприятие общественности. Участники исследования считают, что «шумиха вокруг ИИ», созданная крупными технологическими компаниями, вредит исследовательским усилиям. Например, 74% согласны с тем, что направление исследований в области ИИ обусловлено шумихой — вероятно, потому, что исследования, соответствующие коммерческим целям ИИ, легче финансировать. 12% также считают, что в результате страдают теоретические исследования в области ИИ.
Итак, насколько серьезна эта проблема? Даже если крупные технологические компании влияют на тип проводимых нами исследований, те предположительно огромные суммы, которые они вкладывают в эту область, должны иметь в целом положительное влияние. Однако разнообразие имеет решающее значение, когда дело касается исследований: нам нужно исследовать всевозможные пути, чтобы иметь шанс найти лучший.
Но крупные технологические компании сейчас сосредоточены только на одном: больших языковых моделях. Этот весьма специфический тип ИИ-моделей лежит в основе практически всех новейших продуктов ИИ, и такие люди, как Сэм Альтман, верят, что, масштабируя эти модели (то есть предоставляя им больше данных, больше времени на обучение и больше вычислительной мощности), мы в конечном итоге достигнем универсального ИИ.
Эта идея, известная как гипотеза масштаба, гласит, что чем больше мощности мы вкладываем в ИИ, тем выше его когнитивные способности и тем ниже уровень ошибок. Некоторые интерпретации также говорят о том, что новые когнитивные способности появятся неожиданно. Таким образом, хотя сейчас большие языковые модели не очень хороши в планировании и обосновании проблем, эти возможности должны появиться в какой-то момент.
нет стены
- Сэм Альтман (@sama) 14 ноября 2024
Однако за последние несколько месяцев гипотеза расширения подверглась серьезной критике. Некоторые ученые полагают, что масштабирование больших языковых моделей никогда не приведет к созданию AGI, и они полагают, что вся дополнительная мощность, которую мы даем Новые модели Это больше не дает результатов. Вместо этого мы достигли «стены масштабирования» или «предела масштабирования», когда большие объемы вычислительной мощности и дополнительных данных приводят лишь к незначительным улучшениям в новых моделях. Большинство ученых, участвовавших в исследовании AAAI, придерживаются этой точки зрения:
Большинство респондентов (76%) заявили, что «масштабирование текущих подходов к ИИ» для достижения AGI «маловероятно» или «крайне маловероятно» будет успешным, что указывает на сомнения относительно того, достаточны ли текущие модели машинного обучения для достижения общего интеллекта.
Современные крупные языковые системы могут выдавать очень релевантные и полезные ответы, когда дела идут хорошо, но они Основано на математических принципах Для этого нужно сделать. Многие ученые полагают, что для нахождения решения нам понадобятся новые алгоритмы, использующие логику, разум и фактические знания, если мы хотим продвинуться к цели создания общего искусственного интеллекта. Вот едкая цитата о больших языковых системах и общем искусственном интеллекте из Научная работа 2022 г. Авторы: Джейкоб Браунинг и Янн Лекун.
Система, обученная только языку, никогда не приблизится к человеческому интеллекту, даже если ее тренировать с этого момента и до тех пор, пока не погаснет тепло Вселенной.
Однако пока нет реального способа узнать, кто здесь прав. С одной стороны, определение общего искусственного интеллекта не является фиксированным, и не все стремятся к одному и тому же. Некоторые люди считают, что общий искусственный интеллект должен давать человеческие ответы с помощью человеческих методов, то есть он должен наблюдать за окружающим миром и решать проблемы так же, как мы. Другие же полагают, что общий ИИ должен больше концентрироваться на правильных ответах, а не на ответах, подобных человеческим, и что используемые им методы не должны иметь значения.
Однако во многих отношениях не имеет значения, какая версия ИИОН вас интересует или поддерживаете ли вы гипотезу масштабирования или нет, — нам все равно необходимо диверсифицировать наши исследовательские усилия. Если мы сосредоточимся только на масштабировании больших языковых моделей, то, если они не сработают, нам придется начинать с нуля, и мы можем не найти новых, более эффективных или действенных методов. Многие ученые, участвующие в этом исследовании, опасаются, что коммерческий ИИ и шумиха вокруг него замедлят реальный прогресс, но все, что мы можем сделать, это надеяться, что их опасения будут учтены и что обе ветви исследований ИИ смогут сосуществовать и развиваться вместе. Ну, вы также можете надеяться, что Пузырь искусственного интеллекта Все технологические продукты на базе искусственного интеллекта взрываются и исчезают в небытие, если хотите.
Комментарии закрыты.