OpenAI 承認 AI 書寫檢測器不起作用

在常見問題解答中標題為“AI 探測器有用嗎？”的部分中，OpenAI寫道，“簡而言之，沒有。雖然一些公司（包括 OpenAI）已經發布了旨在檢測​​人工智能生成內容的工具，但這些工具都沒有被證明能夠可靠地區分人工智能生成的內容和人類生成的內容。”

7 月，我們深入探討了為什麼 GPTZero 等人工智能寫入檢測器不起作用，專家稱它們“大多是萬金油”。由於依賴未經證實的檢測指標，這些檢測器經常產生誤報。最終，人工智能編寫的文本並沒有什麼特別之處，始終將其與人類編寫的文本區分開來，並且可以通過改寫來擊敗檢測器。同月，OpenAI停止了其 AI 分類器，這是一種旨在檢測 AI 編寫的文本的實驗工具。它的準確率只有 26%。

OpenAI 的新常見問題解答還解決了另一個重大誤解，即 ChatGPT 本身可以知道文本是否是 AI 編寫的。OpenAI 寫道：“此外，ChatGPT 並不‘了解’哪些內容可以由人工智能生成。有時它會回答諸如“這篇[文章]是你寫的嗎？”之類的問題。或者“這可能是人工智能寫的嗎？” 這些反應是隨機的，沒有事實依據。”

沿著這些思路，OpenAI 還解決了其 AI 模型捏造虛假信息的傾向，我們也在Ars 上對此進行了詳細介紹。“有時，ChatGPT 聽起來很有說服力，但它可能會向您提供不正確或誤導性的信息（在文獻中通常稱為‘幻覺’），”該公司寫道。“它甚至可以構成引文或引文之類的內容，所以不要將其用作唯一的研究來源。”

（五月，一位律師因為這樣做而陷入麻煩——他引用了他從 ChatGPT 中提取的六個不存在的案例。）

儘管自動人工智能檢測器不起作用，但這並不意味著人類永遠無法檢測人工智能書寫。例如，熟悉學生典型寫作風格的老師可以判斷他們的風格或能力何時突然改變。此外，一些草率的嘗試將人工智能生成的作品冒充為人類編寫的作品，可能會留下明顯的跡象，例如短語“作為人工智能語言模型”，這意味著有人不小心複製並粘貼了 ChatGPT輸出。最近，科學雜誌《自然》上的一篇文章展示了人類如何注意到科學論文中的“再生反應”一詞，這是 ChatGPT 中按鈕的標籤。

就當今技術而言，完全避免使用自動化人工智能檢測工具是最安全的。“到目前為止，人工智能寫作是無法檢測到的，而且很可能仍然如此，”頻繁的人工智能分析師、沃頓商學院教授伊森·莫里克 (Ethan Mollick) 在 7 月份告訴 Ars。“人工智能探測器的誤報率很高，因此不應該使用它們。”