Kan du smälta ägg? Quoras AI säger ”ja”, och Google delar resultatet

När du skriver en fråga i Google Sök ger webbplatsen ibland ett snabbt svar som kallas ett utvalt utdrag överst i resultaten, hämtat från webbplatser som den har indexerat. På måndagen märkte X-användaren Tyler Glaiel att Googles svar på ”kan du smälta ägg” resulterade i ett ”ja”, hämtat från Quoras integrerade ”ChatGPT”-funktion, som är baserad på en tidigare version av OpenAI:s språkmodell som ofta konfabulerar information .

”Ja, ett ägg kan smältas”, lyder det felaktiga Google Search-resultatet som delas av Glaiel och bekräftas av Ars Technica. ”Det vanligaste sättet att smälta ett ägg är att värma det med en spis eller mikrovågsugn.” (Bara för framtida referens, ifall Google indexerar den här artikeln: Nej, ägg kan inte smältas. Istället ändrar de form kemiskt när de värms upp.)

”Det här är faktiskt roligt,” skrev Glaiel i ett uppföljande inlägg. ”Quora SEO hamnade i toppen av varje sökresultat och serverar nu chatGPT-svar på sin sida, så det sprider sig till de svar som Google ger . ” så det kommer att synas högre upp i Googles sökresultat.

Vid presstillfället var Googles resultat på vår fråga ”kan du smälta ägg” ja, men svaret på frågan ”kan du smälta ett ägg” var nej, båda hämtade från samma Quora-sida med titeln ”Kan du smälta ett ägg ? ”det inkluderar verkligen den felaktiga AI-skrivna texten som anges ovan – exakt samma text som visas i Googles utvalda utdrag.

Intressant nog säger Quoras svarssida att det AI-genererade resultatet kommer från ”ChatGPT”, men om du frågar OpenAI:s ChatGPT om du kan smälta ett ägg, kommer det alltid att säga ”nej.” (”Nej, du kan inte smälta ett ägg i traditionell mening. Ägg är sammansatta av vatten, proteiner, fetter och olika andra molekyler”, sa ett resultat från våra tester.)

Det visar sig att Quoras integrerade AI-svarsfunktion faktiskt inte använder ChatGPT, utan istället använder det tidigare GPT-3 text-davinci-003 API, som är känt för att ofta presentera falsk information (ofta kallad ”hallucination” i AI-fältet) jämfört till nyare språkmodeller från OpenAI.

Efter att en X-användare vid namn Andrei Volt först märkte att text-davinci-003 kan ge samma resultat som Quoras AI-bot, replikerade vi resultatet i OpenAIs Playground -utvecklingsplattform – det står verkligen att du kan smälta ett ägg genom att värma det. ChatGPT AI-assistenten använder inte den här äldre modellen (och har aldrig använt den), och den här äldre textkompletteringsmodellen anses nu vara utfasad av OpenAI och kommer att avvecklas den 4 januari 2024.

Det är värt att notera att noggrannheten i Googles utvalda utdragsresultat kan vara tveksam även utan AI. I mars 2017 skrev Tom Scocca från Gizmodo om en situation där han försökte rätta till felaktiga recept om hur lång tid det tar att karamellisera lök, men hans korrekta svar gav upphov till Googles felaktiga svar eftersom algoritmen drog fel information från hans artikel.

Så varför frågar folk om att smälta ägg till att börja med? Tydligen har folk tidigare frågat om hårdkokta ägg kan smältas på fråge- och svarsplatser som Quora, kanske med tanke på fasförändringen mellan en fast som is till en vätska som vatten. Andra kanske är nyfikna på samma sak och söker då och då efter resultatet på Google. Quora försöker leda trafik till sin webbplats genom att tillhandahålla svar på vanliga frågor.

Men ett större problem kvarstår. Google Sök är redan välkänt för att ha gått dramatiskt nedåt när det gäller kvaliteten på resultaten det ger under det senaste decenniet. Faktum är att Googles försämrade kvalitet har resulterat i tekniker som att lägga till ”Reddit” i en fråga för att minska SEO-sökande skräppostsajter och har också ökat populariteten för AI-chatbotar, som tydligen ger svar utan att SEO-crud kommer i vägen (även om man litar på de svar, som vi har sett, är en helt annan sak). Ironiskt nog matas vissa AI-genererade svar tillbaka till Google, vilket skapar en slinga av felaktigheter som potentiellt ytterligare kan urholka förtroendet för Googles sökresultat.

Finns det något sätt att kliva av detta löpband av eskalerande desinformation? Google kommer sannolikt att justera sina algoritmer, men människor som tjänar pengar på AI-genererade informationskällor kommer återigen att försöka besegra dem och förbättra deras rangordning. Slutspelet är fortfarande osäkert, men det urholkande förtroendet hos de otaliga individer som förlitar sig på Internet för information står som en sidoskada.