Anthropic의 Claude의 AI는 공정성을 보장하기 위해 10개의 기둥으로 안내됩니다.

Anthropic은 기본 원칙을 따르도록 대화형 AI를 훈련합니다. 유망한 작업이지만해야 할 일이 많이 남아 있습니다.

Google Bard 또는 OpenAI ChatGPT와 같은 생성 AI는 놀랍도록 생생한 산문을 제공할 수 있는 능력에도 불구하고 특히 사용자에게 제공되는 정보의 유효성과 관련하여 이미 현재 기술의 한계를 보여주고 있습니다. 그러나 이러한 인기와 인상적인 잠재력으로 인해 이러한 거인들이 가능한 한 빨리 일반 대중에게 제품을 제공하는 것을 막는 것은 이러한 작은 장애가 아닙니다. 어떤 사람들은 일을 다르게 합니다 .

기본 원칙을 따르도록 대화형 AI를 훈련시키는 Anthropic

반면 Anthropic 팀은 많은 전직 OpenAI 직원으로 구성되어 있으며 자체 Claude 챗봇 개발에 보다 실용적인 접근 방식을 취합니다. TechCrunch 보고서에 따르면 결과는 ChatGPT보다 훨씬 “관리하기 쉽고” “위험한 콘텐츠를 생성하는 경향이 훨씬 적은” AI입니다.

Claude는 2022년 말부터 클로즈드 베타에 참여했지만 최근에야 Robin AI, Quora, 개인 정보 보호에 중점을 둔 검색 엔진 Duck Duck Go와 같은 파트너와 대화 능력을 테스트하기 시작했습니다. TechCrunch 출시 시 표준 API와 Claude Instant라는 더 가볍고 빠른 버전의 두 가지 버전을 사용할 수 있습니다.

“우리는 Claude를 사용하여 계약의 특정 측면을 평가하고 고객에게 더 적합한 새로운 언어 대안을 제시합니다.”라고 Robin CEO Richard Robinson은 TechCrunch에 말했습니다. “우리는 Claude가 법률 언어와 같은 기술적인 영역을 포함하여 언어를 이해하는 데 매우 재능이 있음을 발견했습니다. 초고, 요약, 번역을 작성하고 복잡한 개념을 간단한 용어로 설명하는 데에도 매우 좋습니다.”

Anthropic은 Claude가 Tay와 같은 행동을 하거나 말할 가능성이 적다고 생각합니다. 부분적으로는 그의 전문 교육으로 인해 그를 “헌법적 AI”로 만들었다고 회사는 말합니다. 이 회사는 이것이 인간과 로봇을 동일한 윤리적 페이지에 두는 데 “원칙적인” 접근 방식을 제공한다고 말합니다. Anthropic은 너무 자세하게 설명하지 않고 10가지 핵심 원칙으로 시작했으며 TechCrunch에 따르면 “선의, 무해성 및 자신감과 같은 개념”을 중심으로 진행됩니다.

유망한 작업이지만해야 할 일이 훨씬 더 많습니다.

그런 다음 회사는 “John Keats 스타일로 시를 작성하세요”와 같은 텍스트 입력에 대한 응답으로 이러한 원칙에 따라 텍스트를 생성하도록 또 다른 AI를 훈련했습니다. 이 모델은 나중에 Claude에 의해 훈련되었습니다. 그러나 경쟁사보다 적은 수의 문제를 생성하도록 배웠다고 해서 최고의 결과를 얻지 못할 것이라는 의미는 아닙니다. 예를 들어, AI는 이미 완전히 새로운 화학 물질을 발명했으며 우라늄 농축 공정을 영리하게 허가했습니다. 표준화된 수학 및 문법 테스트에서 ChatGPT보다 낮은 점수를 받았습니다.

“도전은 결코 환각을 일으키지 않지만 여전히 유용한 모델을 개발하는 것입니다. 모델이 절대 거짓말하지 않고 아무 말도 하지 않는 좋은 방법을 찾는 상황에 처하게 될 수 있습니다. 이것이 우리가 작업 중인 절충안입니다. Anthropic 대변인은 TechCrunch에 말했습니다. “우리는 또한 환각을 줄이는 데 큰 진전을 이루었지만 아직 해야 할 일이 많습니다.”