OpenAI, AI 쓰기 감지기가 작동하지 않는다는 사실 인정

FAQ의 “AI 탐지기가 작동합니까?”라는 섹션에서 OpenAI는 “간단히 말하면 그렇지 않습니다. 일부(OpenAI 포함)는 AI 생성 콘텐츠를 탐지한다고 주장하는 도구를 출시했지만 이들 중 어느 것도 AI 생성 콘텐츠와 인간 생성 콘텐츠를 확실하게 구별하는 것으로 입증되지 않았습니다.”

지난 7월, 우리는 GPTZero와 같은 AI 쓰기 감지기가 작동하지 않는 이유를 심층적으로 다루었으며 전문가들은 이를 “대부분 뱀 오일”이라고 부릅니다. 이러한 감지기는 입증되지 않은 감지 측정 항목에 의존하기 때문에 종종 오탐지를 생성합니다. 궁극적으로 AI가 작성한 텍스트에는 항상 인간이 작성한 텍스트와 구별되는 특별한 것이 없으며 감지기는 문구를 변경하여 패배할 수 있습니다. 같은 달, OpenAI는 AI로 작성된 텍스트를 감지하도록 설계된 실험 도구인 AI 분류기를 중단했습니다 . 26%라는 형편없는 정확도를 보였습니다.

OpenAI의 새로운 FAQ는 ChatGPT 자체가 텍스트가 AI로 작성되었는지 여부를 알 수 있다는 또 다른 큰 오해를 해결합니다. OpenAI는 “게다가 ChatGPT는 어떤 콘텐츠가 AI로 생성될 수 있는지에 대한 ‘지식’이 없습니다. 때로는 ‘이 [에세이]를 썼나요?’와 같은 질문에 대한 응답을 구성하기도 합니다. 또는 ‘AI가 쓴 것일 수도 있나요?’ 이러한 응답은 무작위이며 실제로 근거가 없습니다.”

이러한 맥락에서 OpenAI는 또한 잘못된 정보를 조작하는 AI 모델의 성향을 다루며 , 이는 Ars에서도 자세히 다루었습니다 . “때때로 ChatGPT는 설득력 있게 들리지만 부정확하거나 오해의 소지가 있는 정보(종종 문헌에서는 ‘환각’이라고 함)를 제공할 수 있습니다.”라고 회사는 썼습니다. “인용이나 인용 등을 만들어낼 수도 있으므로 연구를 위한 유일한 소스로 사용하지 마세요.”

(5월에 한 변호사는 ChatGPT에서 가져온 존재하지 않는 6건의 사례를 인용하면서 바로 그 일을 했다는 이유로 어려움을 겪었습니다.)

자동화된 AI 감지기가 작동하지 않는다고 해서 인간이 AI 글을 절대 감지할 수 없다는 의미는 아닙니다. 예를 들어, 학생의 일반적인 글쓰기 스타일을 잘 알고 있는 교사는 학생의 스타일이나 능력이 갑자기 변하는 시기를 알 수 있습니다. 또한 AI로 생성된 작업을 사람이 작성한 것처럼 위장하려는 일부 엉성한 시도 는 누군가가 조심하지 않고 ChatGPT 출력을 복사하여 붙여넣었다는 의미인 ” AI 언어 모델로 “라는 문구와 같은 눈에 띄는 징후를 남길 수 있습니다 . 그리고 최근 과학 저널 네이처(Nature)의 기사에서는 과학 논문에서 ChatGPT의 버튼 라벨인 “Regenerate response”라는 문구를 인간이 어떻게 발견했는지 보여주었습니다.

현재의 기술로는 자동화된 AI 탐지 도구를 완전히 피하는 것이 가장 안전합니다. AI 분석가이자 Wharton 교수인 Ethan Mollick은 지난 7월 Ars에 “현재로서는 AI 글쓰기가 감지되지 않으며 앞으로도 그럴 가능성이 높습니다”라고 말했습니다. “AI 탐지기는 오탐률이 높기 때문에 결과적으로 사용해서는 안 됩니다.”