Anthtopic, Claude 2.1 공개 (Introducing Claude 2.1)
개요
Anthropic은 100k 토큰의 컨텍스트 윈도우를 갖는 Claude-2에 이어, 200k 토큰의 컨텍스트 윈도우를 갖는 Claude-2.1을 발표했습니다.
Claude-2.1의 주요 개선 내용은 컨텍스트 윈도우의 확장 외에도 환각(hallucination) 감소와 LLM의 API 도구 사용 기능 등이 있습니다.
200k 컨텍스트 윈도우(200k Context Window)
클로드는 다양한 용도로 사용되어 왔으며, 사용자들은 더 큰 컨텍스트 창과 긴 문서에 대한 더 정확한 출력을 요구했습니다. 이에 응답하여, 클로드는 이제 200,000 토큰(약 150,000 단어 또는 500 페이지 이상의 자료)까지 처리할 수 있습니다. 이를 통해 사용자들은 기술 문서, 재무 제표, 긴 문학 작품 등을 업로드하고, 요약, 질문 및 답변, 추세 예측, 다중 문서 비교 등 다양한 작업을 수행할 수 있습니다.
절반 가량의 환각 감소율(2x Decrease in Hallucination Rates)
클로드 2.1은 이전 모델인 클로드 2.0에 비해 환각 답변이 2배 가량 감소했습니다. 이는 기업이 신뢰성 있는 AI 응용 프로그램을 구축하고 운영에 효과적으로 통합할 수 있도록 합니다. 클로드 2.1은 정확한 정보 제공에 있어 현저히 개선된 성능을 보였습니다.
API 도구 사용 기능(API Tool Use)
클로드는 이제 사용자의 기존 프로세스, 제품 및 API와 통합될 수 있는 도구 사용 기능을 제공합니다. 사용자는 클로드가 사용할 도구 세트를 정의하고 요청을 명시할 수 있으며, 모델은 필요한 도구를 결정하고 사용자를 대신하여 작업을 수행합니다. 이러한 도구의 사용 예시는 다음과 같습니다:
- 복잡한 숫자 추론에 계산기 사용
- 자연어 요청을 구조화된 API 호출로 번역하기
- 데이터베이스 검색 또는 웹 검색 API를 사용하여 질문에 답하기
- 비공개 API를 통해 소프트웨어에서 간단한 작업 수행하기
- 제품 데이터셋에 연결하여 제품을 추천하고 사용자가 구매를 완료할 수 있도록 지원
(이 기능은 아직 초기 개발 단계에 있으며, 개발자 기능과 프롬프팅 지침을 구축 중입니다.)
개발자 경험(Developer Experience)
클로드 API 사용자를 위한 개발자 콘솔 경험을 간소화하고 있으며, 새로운 Workbench 제품을 통해 개발자들이 프롬프트를 더 빠르게 테스트하고 최적화할 수 있도록 지원합니다. 또한, 시스템 프롬프트를 도입하여 사용자의 성능을 개선하고 사용자의 요구에 부합하는 보다 맞춤화된 응답 구조를 제공합니다.