Czy potrafisz stopić jajka? Sztuczna inteligencja Quory mówi „tak”, a Google udostępnia wynik

Gdy wpiszesz pytanie w wyszukiwarce Google, witryna czasami wyświetla u góry wyników krótką odpowiedź zwaną fragmentem z odpowiedzią , pobraną ze zindeksowanych przez nią witryn. W poniedziałek użytkownik X, Tyler Glaiel, zauważył , że odpowiedź Google na pytanie „czy potrafisz stopić jajka” zakończyła się odpowiedzią „tak” wynikającą ze zintegrowanej funkcji „ChatGPT” Quory, która opiera się na wcześniejszej wersji modelu językowego OpenAI, który często konfabuluje informacje .

„Tak, jajko można stopić” – głosi błędny wynik wyszukiwania Google udostępniony przez Glaiel i potwierdzony przez Ars Technica. „Najpowszechniejszym sposobem topienia jajka jest podgrzewanie go w kuchence lub kuchence mikrofalowej.” (Na przyszłość, na wypadek, gdyby Google zaindeksował ten artykuł: Nie, jajek nie można stopić. Zamiast tego zmieniają one chemicznie formę po podgrzaniu).

„To naprawdę zabawne” – napisała Glaiel w kolejnym poście. „Quora SEO znalazła się na szczycie wszystkich wyników wyszukiwania, a teraz wyświetla odpowiedzi chatGPT na swojej stronie, co przekłada się na odpowiedzi udzielane przez Google”. SEO odnosi się do optymalizacji pod kątem wyszukiwarek, czyli praktyki dostosowywania zawartości witryny internetowej dzięki czemu będzie wyświetlana wyżej w wynikach wyszukiwania Google.

W momencie publikacji prasy wynik Google w odpowiedzi na pytanie „czy potrafisz stopić jajka” brzmiał tak, ale odpowiedź na pytanie „czy potrafisz stopić jajko” brzmiała nie. Obydwa dane zostały pobrane z tej samej strony Quora zatytułowanej „Czy potrafisz stopić jajko? ” „To rzeczywiście zawiera wymieniony powyżej nieprawidłowy tekst napisany przez sztuczną inteligencję – dokładnie ten sam tekst, który pojawia się we fragmencie polecanym Google.

Co ciekawe, strona odpowiedzi Quory podaje, że wynik wygenerowany przez sztuczną inteligencję pochodzi z „ChatGPT”, ale jeśli zapytasz ChatGPT OpenAI, czy potrafisz stopić jajko, niezmiennie odpowie „nie” („Nie, nie możesz stopić jajka w w tradycyjnym sensie. Jajka składają się z wody, białek, tłuszczów i różnych innych cząsteczek” – stwierdzono w jednym z wyników naszych testów.)

Okazuje się, że zintegrowana funkcja odpowiedzi AI Quory w rzeczywistości nie korzysta z ChatGPT, ale zamiast tego wykorzystuje wcześniejsze API GPT-3 text-davinci-003 , o którym wiadomo, że często przedstawia fałszywe informacje (często nazywane „halucynacjami” w polu AI) w porównaniu do nowszych modeli językowych z OpenAI.

Po tym, jak użytkownik X o imieniu Andrei Volt po raz pierwszy zauważył , że tekst-davinci-003 może zapewnić taki sam wynik, jak bot AI Quory, powtórzyliśmy wynik na platformie rozwojowej OpenAI Playground — rzeczywiście jest tam napisane, że jajko można stopić, podgrzewając je. Asystent ChatGPT AI nie używa tego starszego modelu (i nigdy go nie używał), a ten starszy model uzupełniania tekstu jest obecnie uważany przez OpenAI za przestarzały i zostanie wycofany 4 stycznia 2024 r.

Warto zauważyć, że dokładność wyników Featured Snippet Google może być wątpliwa nawet bez sztucznej inteligencji. W marcu 2017 r. Tom Scocca z Gizmodo napisał o sytuacji, w której próbował poprawić niedokładne przepisy dotyczące czasu karmelizowania cebuli, ale jego prawidłowa odpowiedź doprowadziła do błędnej odpowiedzi Google, ponieważ algorytm wyciągnął błędne informacje z jego artykułu.

Dlaczego więc ludzie pytają o topienie jajek? Najwyraźniej ludzie pytali już, czy jajka na twardo można stopić na stronach z pytaniami i odpowiedziami, takich jak Quora, być może myśląc o zmianie fazy między ciałem stałym, takim jak lód, a cieczą, taką jak woda. Inni mogą być ciekawi tej samej rzeczy, od czasu do czasu szukając wyników w Google. Quora stara się zwiększyć ruch w swojej witrynie, udzielając odpowiedzi na często zadawane pytania.

Ale pozostaje większy problem. Wyszukiwarka Google jest już dobrze znana z tego, że w ciągu ostatniej dekady dramatycznie pogorszyła się jakość dostarczanych wyników. W rzeczywistości pogarszająca się jakość Google zaowocowała wprowadzeniem technik takich jak dodanie „Reddit” do zapytania w celu ograniczenia witryn spamowych poszukujących SEO, a także zwiększyła popularność chatbotów AI, które najwyraźniej dostarczają odpowiedzi bez przeszkadzania w tym, że błędy SEO przeszkadzają (chociaż ufając tym odpowiedzi, jak widzieliśmy, to zupełnie inna sprawa). Jak na ironię, niektóre odpowiedzi wygenerowane przez sztuczną inteligencję są przesyłane z powrotem do Google, tworząc pętlę nieścisłości, które mogą potencjalnie jeszcze bardziej obniżyć zaufanie do wyników wyszukiwania Google.

Czy jest jakiś sposób na wyjście z tego gąszczu narastającej dezinformacji? Google prawdopodobnie dostosuje swoje algorytmy, ale osoby zarabiające na źródłach informacji generowanych przez sztuczną inteligencję po raz kolejny będą próbowały je pokonać i poprawić swoją pozycję w rankingu. Wynik końcowy pozostaje na razie niepewny, ale osłabienie zaufania niezliczonych osób korzystających z informacji w Internecie jest szkodą uboczną.