OpenAI přiznává, že detektory zápisu AI nefungují

V části FAQ nazvané „Fungují detektory AI?“ OpenAI píše : „Zkrátka ne. Zatímco některé (včetně OpenAI) vydaly nástroje, které mají za cíl detekovat obsah generovaný umělou inteligencí, žádný z nich neprokázal, že by spolehlivě rozlišoval mezi obsahem vytvořeným umělou inteligencí a obsahem vytvořeným lidmi.“

V červenci jsme se podrobně zabývali tím, proč detektory AI psaní, jako je GPTZero, nefungují, přičemž odborníci je nazývají „většinou hadí olej“. Tyto detektory často dávají falešně pozitivní výsledky, protože se spoléhají na neprokázané metriky detekce. Na textu psaném umělou inteligencí není nakonec nic zvláštního, co by jej vždy odlišovalo od psaného lidmi, a detektory lze porazit přeformulováním. Tentýž měsíc OpenAI ukončila svůj AI Classifier, což byl experimentální nástroj určený k detekci textu napsaného AI. Měla propastných 26 procent přesnosti.

Nové FAQ OpenAI také řeší další velkou mylnou představu, a to, že ChatGPT sám může vědět, zda je text napsaný AI nebo ne. OpenAI píše: „ChatGPT navíc nemá žádné ‚vědomosti‘ o tom, jaký obsah by mohl být generován AI. Někdy to bude tvořit odpovědi na otázky typu ‚napsal jsi tuto [esej]?‘ nebo ‚mohla to napsat AI?‘ Tyto odpovědi jsou náhodné a nemají žádný faktický základ.“

V tomto smyslu OpenAI také řeší sklon svých modelů AI zaměňovat nepravdivé informace, kterým jsme se také podrobně věnovali na Ars. „Někdy zní ChatGPT přesvědčivě, ale může vám poskytnout nesprávné nebo zavádějící informace (v literatuře často nazývané ‚halucinace‘),“ píše společnost. „Dokonce může tvořit věci jako citace nebo citace, takže je nepoužívejte jako jediný zdroj pro výzkum.“

(V květnu se právník dostal do potíží, když to udělal — s odkazem na šest neexistujících případů, které vytáhl z ChatGPT.)

I když automatické detektory umělé inteligence nefungují, neznamená to, že člověk nikdy nedokáže rozpoznat AI psaní. Například učitel obeznámený s typickým stylem psaní studenta pozná, když se jeho styl nebo schopnosti náhle změní. Některé nedbalé pokusy vydávat práci vytvořenou umělou inteligencí za napsanou člověkem mohou také zanechat výmluvné znaky, jako je fráze „ jako jazykový model AI “, což znamená, že někdo zkopíroval a vložil výstup ChatGPT bez opatrnosti. A nedávno článek ve vědeckém časopise Nature ukázal, jak si lidé všimli fráze „Regenerate response“ ve vědecké práci, což je označení tlačítka v ChatGPT.

Za současného stavu technologie je nejbezpečnější zcela se vyhnout automatickým nástrojům pro detekci AI. „Od této chvíle je psaní AI nezjistitelné a pravděpodobně tomu tak zůstane,“ řekl Ars v červenci častý analytik AI a profesor Wharton Ethan Mollick. „Detektory AI mají vysokou míru falešně pozitivních výsledků, a proto by se neměly používat.“