Когда вы вводите вопрос в Google Поиск, сайт иногда предоставляет быстрый ответ, называемый избранным фрагментом, вверху результатов, полученный с проиндексированных веб-сайтов. В понедельник пользователь X Тайлер Глейл заметил , что ответ Google на вопрос «можете ли вы растопить яйца» привел к «да», полученному из встроенной функции Quora «ChatGPT», которая основана на более ранней версии языковой модели OpenAI, которая часто искажает информацию .
«Да, яйцо можно растопить», — гласит неправильный результат поиска в Google, предоставленный Глаэлем и подтвержденный Ars Technica. «Самый распространенный способ растопить яйцо — нагреть его на плите или в микроволновой печи». (На всякий случай, на случай, если Google проиндексирует эту статью: нет, яйца нельзя плавить. Вместо этого они химически меняют форму при нагревании.)
«Это на самом деле весело», — написала Глаэль в последующем посте. «Quora SEO оказалась в верхней части каждого результата поиска и теперь отображает ответы ChatGPT на своей странице, так что это распространяется на ответы, которые дает Google». SEO относится к поисковой оптимизации, которая представляет собой практику адаптации контента веб- сайта . поэтому он будет отображаться выше в результатах поиска Google.
На момент публикации результат Google на наш запрос «можете ли вы растопить яйца» был положительным, но ответ на запрос «можете ли вы растопить яйцо» был отрицательным, оба взяты с одной и той же страницы Quora под названием «Можете ли вы растопить яйцо? » «Это действительно включает в себя неправильный текст, написанный ИИ, указанный выше — точно такой же текст, который появляется в избранном фрагменте Google.
Интересно, что на странице ответов Quora говорится, что результат, сгенерированный ИИ, получен из «ChatGPT», но если вы спросите ChatGPT OpenAI, можете ли вы растопить яйцо, он неизменно ответит вам «нет». («Нет, вы не можете растопить яйцо в в традиционном смысле.Яйца состоят из воды, белков, жиров и различных других молекул», — говорится в одном из результатов наших тестов.)
Оказывается, встроенная функция ответов искусственного интеллекта Quora на самом деле не использует ChatGPT, а вместо этого использует более ранний API GPT-3 text-davinci-003 , который, как известно, часто предоставляет ложную информацию (часто называемую «галлюцинацией» в области искусственного интеллекта) по сравнению с к более поздним языковым моделям от OpenAI.
После того, как пользователь X по имени Андрей Вольт впервые заметил , что text-davinci-003 может дать тот же результат, что и ИИ-бот Quora, мы воспроизвели этот результат на платформе разработки OpenAI Playground — там действительно говорится, что яйцо можно растопить, нагрев его. AI-помощник ChatGPT не использует эту старую модель (и никогда не использовал ее), и эта старая модель завершения текста теперь считается OpenAI устаревшей и будет прекращена 4 января 2024 года.
Стоит отметить, что точность результатов Google Featured Snippet может быть сомнительной даже без ИИ. В марте 2017 года Том Скокка из Gizmodo написал о ситуации, когда он пытался исправить неточные рецепты о том, сколько времени нужно для карамелизации лука, но его правильный ответ в конечном итоге стал причиной неправильной реакции Google, поскольку алгоритм извлек неверную информацию из его статьи.
Так почему же люди вообще спрашивают о плавлении яиц? По-видимому, ранее на сайтах вопросов и ответов, таких как Quora, люди спрашивали, можно ли растопить сваренные вкрутую яйца, возможно, думая о фазовом переходе между твердым телом, например льдом, в жидкость, например, воду. Другим может быть интересно то же самое, и они время от времени ищут результат в Google. Quora пытается привлечь трафик на свой сайт, предоставляя ответы на часто задаваемые вопросы.
Но остается еще более серьезная проблема. Поиск Google уже известен тем, что за последнее десятилетие он резко ухудшился с точки зрения качества результатов, которые он предоставляет. Фактически, ухудшение качества Google привело к появлению таких методов, как добавление «Reddit» в запрос, чтобы уменьшить количество спам-сайтов, ищущих SEO, а также увеличило популярность чат-ботов с искусственным интеллектом, которые, по-видимому, дают ответы, не мешая SEO (хотя и доверяя этим ответы, как мы видели, — это совсем другое дело). По иронии судьбы, некоторые ответы, сгенерированные ИИ, передаются обратно в Google, создавая цикл неточностей, которые потенциально могут еще больше подорвать доверие к результатам поиска Google.
Есть ли способ сойти с этой беговой дорожки растущей дезинформации? Google, скорее всего, скорректирует свои алгоритмы, но люди, зарабатывающие деньги на источниках информации, созданных ИИ, снова попытаются победить их и повысить свой рейтинг. Финал на данный момент остается неопределенным, но подрыв доверия бесчисленных людей, которые полагаются на Интернет в качестве информации, является побочным ущербом.