OpenAI、AI書き込み検出器が機能しないことを認める

FAQ の「AI 検出器は機能しますか?」というタイトルのセクションで、OpenAI は次のように書いています。一部 (OpenAI を含む) は、AI が生成したコンテンツを検出すると称するツールをリリースしましたが、そのどれも AI が生成したコンテンツと人間が生成したコンテンツを確実に区別できることを証明していません。」

7 月に、私たちはGPTZero などの AI 書き込み検出器が機能しない理由を詳しく取り上げ、専門家はそれらを「ほとんどがスネークオイル」と呼んでいました。これらの検出器は、証明されていない検出メトリクスに依存しているため、誤検知が発生することがよくあります。結局のところ、AI が書いたテキストには人間が書いたテキストと常に区別できる特別な点は何もなく、検出器は言い換えによって打ち破られる可能性があります。同月、OpenAI は、AI によって書かれたテキストを検出するために設計された実験ツールである AI Classifier を廃止しました。その正解率は 26% というひどいものでした。

OpenAI の新しい FAQ は、テキストが AI によって書かれたものかどうかを ChatGPT 自体が認識できるという別の大きな誤解にも対処しています。OpenAI は次のように書いています。「さらに、ChatGPT には、どのようなコンテンツが AI によって生成される可能性があるかについての「知識」がありません。「この[エッセイ]はあなたが書きましたか?」のような質問に対する答えを補うこともあります。または「これはAIによって書かれた可能性がありますか?」これらの反応はランダムであり、実際には何の根拠もありません。」

これらの方針に沿って、OpenAI はAI モデルが誤った情報を捏造する傾向にも対処しており、これについてはArs でも詳しく取り上げています。「ChatGPT は説得力があるように聞こえることもありますが、誤った情報や誤解を招く情報 (文献ではよく「幻覚」と呼ばれます) を提供する可能性があります」と同社は書いています。「引用や引用のようなものを構成することもあるので、研究のための唯一の情報源として使用しないでください。」

（5月には、ある弁護士がChatGPTから引き出した存在しない6件の訴訟を引用して、まさにそれを行ったために問題を起こした。）

自動化された AI 検出器が機能しないとしても、それは人間が AI の書き込みを検出できないという意味ではありません。たとえば、生徒の典型的な書き方をよく知っている教師は、生徒のスタイルや能力が突然変化したときにそれを知ることができます。また、AI が生成した作業を人間が書いたものとして偽装しようとするずさんな試みによって、「 AI 言語モデルとして」というフレーズなど、明らかな兆候が残る可能性があります。これは、誰かが ChatGPT の出力を注意せずにコピー アンド ペーストしたことを意味します。そして最近、科学雑誌 Nature の記事で、人間が科学論文内の「応答の再生」というフレーズ(ChatGPT のボタンのラベル) にどのように気付いたかが示されました。

現在のテクノロジーでは、自動化された AI 検出ツールを完全に避けるのが最も安全です。「現時点では、AI による書き込みは検出できず、今後も検出され続ける可能性が高い」と頻繁に AI アナリストを務めるウォートン教授のイーサン・モリック氏は 7 月に Ars に語った。「AI 検出器は誤検知率が高いため、使用すべきではありません。」