Dokážete rozpustit vejce? AI společnosti Quora říká „ano“ a Google sdílí výsledek

Když zadáte otázku do Vyhledávání Google, web někdy v horní části výsledků poskytne rychlou odpověď nazvanou Vybraný úryvek , získanou z webů, které indexoval. V pondělí si uživatel X Tyler Glaiel všiml , že odpověď Google na „můžete rozpustit vejce“ vyústila v „ano“, získané z integrované funkce „ChatGPT“ společnosti Quora, která je založena na dřívější verzi jazykového modelu OpenAI, který často zaměňuje informace .

„Ano, vejce lze roztavit,“ stojí v nesprávném výsledku Vyhledávání Google, který sdílel Glaiel a potvrdila Ars Technica. „Nejběžnějším způsobem, jak rozpustit vejce, je ohřát je na sporáku nebo v mikrovlnné troubě.“ (Jen pro budoucí referenci, pro případ, že by Google indexoval tento článek: Ne, vejce nelze rozpustit. Místo toho se při zahřívání mění chemicky.)

„To je vlastně k smíchu,“ napsal Glaiel v následném příspěvku. „Quora SEO se umístila na první místo ve všech výsledcích vyhledávání a nyní na své stránce zobrazuje odpovědi chatGPT, takže se to rozšiřuje na odpovědi, které poskytuje Google.“ SEO odkazuje na optimalizaci pro vyhledávače , což je praxe přizpůsobení obsahu webových stránek takže se zobrazí výše ve výsledcích vyhledávání Google.

V době tisku byl výsledek Googlu na náš dotaz „umíš rozpustit vejce“ ano, ale odpověď na dotaz „umíš rozpustit vejce“ byla ne, oba byly staženy ze stejné stránky Quora s názvem „Můžeš rozpustit vejce ? „to skutečně zahrnuje nesprávný text napsaný výše uvedeným umělou inteligencí – přesně stejný text, který se objevuje ve úryvku Google Featured Snippet.

Zajímavé je, že na stránce odpovědí Quory se uvádí, že výsledek vygenerovaný umělou inteligencí pochází z „ChatGPT“, ale pokud se zeptáte ChatGPT na OpenAI , zda dokážete rozpustit vejce, vždy vám řekne „ne.“ („Ne, nemůžete rozpustit vejce v Vejce se skládají z vody, bílkovin, tuků a různých dalších molekul,“ uvedl jeden z výsledků našich testů.)

Ukazuje se, že integrovaná funkce odpovědí AI společnosti Quora ve skutečnosti nepoužívá ChatGPT, ale místo toho využívá dřívější GPT-3 text-davinci-003 API, o kterém je známo, že často poskytuje nepravdivé informace (často nazývané „halucinace“ v oblasti AI). na novější jazykové modely z OpenAI.

Poté, co si uživatel X jménem Andrei Volt poprvé všiml , že text-davinci-003 může poskytnout stejný výsledek jako robot AI od Quory, replikovali jsme výsledek ve vývojové platformě OpenAI Playground – skutečně říká, že můžete vejce rozpustit zahřátím. Asistent ChatGPT AI tento starší model nepoužívá (a nikdy ho nepoužíval) a tento starší model dokončování textu je nyní OpenAI považován za zastaralý a bude vyřazen 4. ledna 2024.

Stojí za zmínku, že přesnost výsledků Google Featured Snippet může být sporná i bez AI. V březnu 2017 Tom Scocca z Gizmodo napsal o situaci, kdy se pokusil opravit nepřesné recepty o tom, jak dlouho trvá karamelizace cibule, ale jeho správná odpověď nakonec podnítila nesprávnou odpověď Googlu, protože algoritmus z jeho článku vytáhl špatné informace.

Proč se tedy lidé ze začátku ptají na roztavení vajec? Zdá se, že lidé se již dříve ptali, zda by se vejce natvrdo mohla roztavit na stránkách Q&A, jako je Quora, možná uvažovali o fázové změně mezi pevnou látkou, jako je led, na kapalinu, jako je voda. Ostatní mohou být zvědaví na to samé, občas hledají výsledek na Googlu. Quora se snaží nasměrovat provoz na své stránky tím, že poskytuje odpovědi na běžně vyhledávané otázky.

Větší problém ale zůstává. Vyhledávání Google je již dobře známé tím, že za poslední desetiletí šlo dramaticky z kopce, pokud jde o kvalitu výsledků, které poskytuje. Zhoršující se kvalita Googlu ve skutečnosti vedla k technikám, jako je přidání „Reddit“ k dotazu, aby se snížilo množství spamových webů vyhledávajících SEO, a také se zvýšila popularita chatbotů s umělou inteligencí, kteří zjevně poskytují odpovědi, aniž by jim SEO crud překáželo (ačkoli jim důvěřovali odpovědi, jak jsme viděli, je úplně jiná věc). Je ironií, že některé odpovědi generované umělou inteligencí se vracejí zpět do Googlu a vytvářejí smyčku nepřesností, které by mohly potenciálně dále narušovat důvěru ve výsledky Vyhledávání Google.

Existuje nějaký způsob, jak vystoupit z tohoto běžícího pásu eskalujících dezinformací? Google pravděpodobně upraví své algoritmy, ale lidé, kteří vydělávají peníze ze zdrojů informací generovaných umělou inteligencí, se je znovu pokusí porazit a zlepšit jejich hodnost. Konec hry zatím zůstává nejistý, ale narušující důvěra bezpočtu jednotlivců spoléhajících na informace na internetu představuje vedlejší škody.