Чи можна розтопити яйця? ШІ Quora каже «так», і Google ділиться результатом

Коли ви вводите запитання в Пошуку Google, сайт іноді надає швидку відповідь під назвою Featured Snippet у верхній частині результатів, отриману з веб-сайтів, які він проіндексував. У понеділок користувач X Tyler Glaiel помітив , що відповідь Google на питання «чи можете ви розтопити яйця» призвела до «так», взятого з інтегрованої функції Quora «ChatGPT», яка заснована на попередній версії мовної моделі OpenAI, яка часто конфібулює інформацію .

«Так, яйце можна розтопити», — йдеться в неправильному результаті пошуку Google, яким поділився Glaiel і підтвердив Ars Technica. «Найпоширеніший спосіб розтопити яйце — це нагріти його за допомогою плити або мікрохвильової печі». (Тільки для подальшої довідки, якщо Google проіндексує цю статтю: Ні, яйця не можна розтопити. Натомість вони змінюють форму хімічно під час нагрівання.)

«Це справді смішно», — написав Глейел у наступному дописі. «Quora SEO показує себе у верхній частині кожного результату пошуку та тепер розміщує відповіді chatGPT на їхній сторінці, тож це поширюється на відповіді, які дає Google». SEO відноситься до пошукової оптимізації, яка є практикою адаптації вмісту веб- сайту . тому він відображатиметься вище в результатах пошуку Google.

Під час преси результат Google на наш запит «чи можете ви розтопити яйця» був «так», але відповідь на запит «чи можете ви розтопити яйце» була ні, обидва взяті з тієї самої сторінки Quora під назвою «Чи можете ви розтопити яйце? » «який дійсно містить неправильний текст, написаний штучним інтелектом, наведений вище — той самий текст, який відображається у фрагменті рекомендованих Google.

Цікаво, що на сторінці відповідей Quora сказано, що результат, згенерований штучним інтелектом, надходить із «ChatGPT», але якщо ви запитаєте у ChatGPT OpenAI, чи можете ви розтопити яйце, він незмінно відповість вам «ні» («Ні, ви не можете розтопити яйце в традиційному розумінні. Яйця складаються з води, білків, жирів і різних інших молекул», — йдеться в одному з результатів наших тестів.)

Виявляється, інтегрована функція відповіді Quora зі штучним інтелектом насправді не використовує ChatGPT, а натомість використовує попередній API text-davinci-003 GPT-3 , який, як відомо, часто надає неправдиву інформацію (часто називається «галюцинаціями» у сфері штучного інтелекту). до новіших мовних моделей від OpenAI.

Після того, як користувач X на ім’я Андрій Вольт вперше помітив , що text-davinci-003 може забезпечити той самий результат, що й бот Quora зі штучним інтелектом, ми відтворили результат на платформі розробки OpenAI Playground — там справді сказано, що ви можете розтопити яйце, нагрівши його. Помічник ChatGPT AI не використовує цю стару модель (і ніколи не використовував її), і ця старіша модель доповнення тексту наразі вважається застарілою OpenAI і буде вилучена 4 січня 2024 року.

Варто зазначити, що точність результатів Featured Snippet від Google може бути сумнівною навіть без ШІ. У березні 2017 року Том Скокка з Gizmodo написав про ситуацію, коли він намагався виправити неточні рецепти про те, скільки часу потрібно, щоб карамелізувати цибулю, але його правильна відповідь призвела до неправильної відповіді Google, оскільки алгоритм витягнув неправильну інформацію з його статті.

Тож чому люди спочатку запитують про плавлення яєць? Мабуть, раніше люди запитували, чи можна розтопити зварені круто яйця на сайтах запитань і відповідей, таких як Quora, можливо, думаючи про зміну фази між твердою речовиною, як лід, у рідину, як вода. Іншим може бути цікаво те саме, час від часу шукаючи результат у Google. Quora намагається залучити трафік на свій сайт, надаючи відповіді на запитання, які найчастіше шукають.

Але залишається більша проблема. Пошук Google уже добре відомий тим, що за останнє десятиліття різко знизився рівень якості результатів, які він надає. Насправді погіршення якості роботи Google призвело до використання таких методів, як додавання «Reddit» до запиту, щоб зменшити спам-сайти, які шукають SEO, а також збільшило популярність чат-ботів зі штучним інтелектом, які, очевидно, надають відповіді, не заважаючи пошуковій системі (хоча довіряти їм). відповіді, як ми бачили, це зовсім інша справа). За іронією долі, деякі відповіді, згенеровані штучним інтелектом, повертаються в Google, створюючи цикл неточностей, які потенційно можуть ще більше підірвати довіру до результатів пошуку Google.

Чи є спосіб зійти з цієї бігової доріжки ескалації дезінформації? Google, швидше за все, відкоригує свої алгоритми, але люди, які заробляють гроші на джерелах інформації, створених ШІ, знову спробують перемогти їх і підвищити свій рейтинг. Фінал поки що залишається невизначеним, але побічним збитком є ​​падіння довіри незліченних людей, які покладаються на інформацію в Інтернеті.