Ошибки искусственного интеллекта Google: галлюцинаторные идиомы и популярные поговорки

Последняя тенденция в области искусственного интеллекта просто уморительная. Один пользователь обнаружил, что в поиск Google можно ввести поддельную фразу и добавить к ней слово «значение». Затем функция «Обзор ИИ» от Google сгенерирует значение этой фразы на основе вашего воображения.

Историк Грег Дженнер положил начало этой тенденции, опубликовав в Bluesky пост с просьбой к Google объяснить значение фразы «барсука нельзя лизнуть дважды». Функция «Обзор ИИ» любезно объяснила, что это выражение означает, что нельзя обмануть кого-то во второй раз после того, как его уже обманули один раз — правдоподобное объяснение, но оно игнорирует тот факт, что этот термин не существовал до того, как этот запрос стал вирусным.

С тех пор люди получили массу удовольствия, заставляя функцию «Обзор ИИ» объяснять такие термины, как «кальмар в вазе не будет говорить о вас плохо» (Имея в виду Что-то, находящееся за пределами своей естественной среды, по-видимому, не может причинить вреда) или «Вы можете взять свою собаку на пляж, но вы не можете переправить ее в Швейцарию» (И это, согласно статье «Обзор ИИ», является довольно прямолинейным утверждением о сложности международных путешествий с домашними животными.

Однако это работает не во всех случаях, поскольку некоторые запросы не возвращают результаты в разделе «Обзор ИИ». Когнитивный ученый Гэри Маркус заявил изданию Wired : «Это крайне непоследовательно, чего и следовало ожидать от GenAI».

Дженнер отмечает, что, хотя это и забавно, это также подчеркивает некоторые потенциальные опасности чрезмерной опоры на источники информации, созданные ИИ, такие как «Обзор ИИ». Он пишет : «Это тревожный сигнал о том, что одна из основных функций поиска в Google — возможность проверить цитату, проверить источник или отследить что-то, что запомнилось лишь частично, — станет намного сложнее, если ИИ будет отдавать приоритет статистическим вероятностям перед истинной правдой».

Это не первый случай, когда люди указывают на ограниченность информации, предоставляемой ИИ, в частности функции обзора ИИ. Когда был опубликован «Обзор ИИ», в нем содержалось печально известное предложение о том, что людям следует съедать один небольшой камень в день и что они могут наносить клей на пиццу, хотя эти конкретные ответы были быстро удалены.

С тех пор Google заявила, что большинство обзоров ИИ предоставляют полезную и фактическую информацию, и что она продолжает собирать отзывы о своем продукте ИИ.

А пока пусть это послужит вам напоминанием о необходимости дважды проверять информацию, которая отображается в поле «Обзор ИИ» в верхней части результатов поиска Google, поскольку она может быть неточной.