Ошибки искусственного интеллекта Google: галлюцинаторные идиомы и популярные поговорки

Последняя тенденция в области искусственного интеллекта просто уморительная. Один пользователь обнаружил, что в поиск Google можно ввести поддельную фразу и добавить к ней слово «значение». Затем функция «Обзор ИИ» от Google сгенерирует значение этой фразы на основе вашего воображения.

Историк Грег Дженнер начал эту волну своим постом на Bluesky Он попросил Google объяснить значение фразы «Нельзя лизнуть барсука дважды». Функция «Обзор ИИ» услужливо поясняет, что это выражение означает, что вы не можете обмануть кого-то второй раз после того, как его уже обманули один раз, — что кажется разумным объяснением, но игнорирует тот факт, что термин не существовал до того, как этот запрос стал широко распространенным.

С тех пор люди получили массу удовольствия, заставляя функцию «Обзор ИИ» объяснять такие термины, как «кальмар в вазе не будет говорить о вас плохо» (Имея в виду Что-то, находящееся за пределами своей естественной среды, по-видимому, не может причинить вреда) или «Вы можете взять свою собаку на пляж, но вы не можете переправить ее в Швейцарию» (И это, согласно статье «Обзор ИИ», является довольно прямолинейным утверждением о сложности международных путешествий с домашними животными.

Однако это работает не во всех случаях, поскольку некоторые фразы не возвращают результаты обзора AI. Когнитивный ученый Гэри Маркус рассказал Проводная«Это крайне непоследовательно, чего и следовало ожидать от GenAI».

Дженнер отмечает, что, хотя это и забавно, это указывает на некоторые потенциальные риски чрезмерного использования источников информации, созданных с помощью ИИ, таких как «Обзор ИИ». كتب Дженнер: «Это предупреждающий знак того, что одна из основных функций Google — возможность проверить факты в цитате, подтвердить источник или отследить что-то неточно запомнившееся — станет намного сложнее, если ИИ предпочтет узаконивать статистические вероятности, а не фактическую правду».

Это не первый случай, когда люди указывают на ограниченность информации, предоставляемой ИИ, в частности функции обзора ИИ. Когда был опубликован «Обзор ИИ», в нем содержалось печально известное предложение о том, что людям следует съедать один небольшой камень в день и что они могут наносить клей на пиццу, хотя эти конкретные ответы были быстро удалены.

С тех пор Google заявила, что большинство обзоров ИИ предоставляют полезную и фактическую информацию, и что она продолжает собирать отзывы о своем продукте ИИ.

А пока пусть это послужит вам напоминанием о необходимости дважды проверять информацию, которая отображается в поле «Обзор ИИ» в верхней части результатов поиска Google, поскольку она может быть неточной.