[GN⁺] Cohere의 Command R+, 비즈니스를 위해 구축된 확장 가능한 LLM

9bow · 4월 7, 2024, 3:06오전

소개

[GN⁺] Cohere의 Command R+ - 비즈니스를 위해 구축된 확장 가능한 LLM

실제 기업용 대규모 작업 및 사용 사례에 최적화된 확장 가능한 대규모 언어 모델(LLM)
Command R+는 높은 효율성과 강력한 정확성의 균형을 유지하는 R-시리즈 LLM에 속함
기업이 개념 증명을 넘어 AI를 프로덕션에 적용할 수 있도록 지원

Command R+의 주요 특징

128k 토큰 컨텍스트 창을 특징으로 하며, 다음과 같은 최고 수준의 기능을 제공:
- 환각을 줄이기 위한 인용을 통한 고급 검색 강화 생성(RAG)
- 글로벌 비즈니스 운영을 지원하기 위한 10개 주요 언어의 다국어 지원
- 복잡한 비즈니스 프로세스를 자동화하는 도구 사용
Command R의 주요 장점을 기반으로 전반적인 성능을 더욱 향상시킴
확장 가능한 시장 범주의 유사 모델보다 우수한 성능을 보이며, 주요 비즈니스 핵심 기능에서 훨씬 비싼 모델과 경쟁력 있음
데이터 프라이버시와 보안에 대한 동일한 수준의 약속을 제공

Microsoft Azure와의 협력

전 세계 기업 커뮤니티를 위해 Microsoft Azure와 새로운 협력을 발표
Cohere의 최신 모델을 Azure AI로 가져와 기업의 AI 도입을 가속화하는 데 전념
기업이 보안과 규정 준수의 최고 기준을 준수하면서 더 많은 것을 달성할 수 있도록 하는 포괄적인 AI 도구 제공
기술이 인간의 능력과 혁신을 증폭시키는 미래 조성

모델 가용성

개발자와 기업은 오늘부터 Azure에서 Cohere의 최신 모델에 액세스할 수 있음
Oracle Cloud Infrastructure(OCI) 및 추가 클라우드 플랫폼에서도 곧 사용 가능
Cohere의 호스팅된 API에서도 즉시 사용 가능

업계 최고 수준의 RAG 솔루션

RAG는 기업이 LLM을 도입하고 자체 독점 데이터로 사용자 정의하는 기반이 됨
Command R+는 기업 준비, 높은 신뢰성, 검증 가능한 솔루션을 제공하도록 고급 RAG에 최적화됨
새로운 모델은 응답 정확도를 개선하고 환각을 완화하는 인라인 인용을 제공
이 기능은 기업이 AI를 통해 확장하여 다양한 부문의 비즈니스 기능을 지원하는 가장 관련성 높은 정보를 빠르게 찾는 데 도움

도구 사용을 통한 복잡한 비즈니스 워크플로 자동화

대규모 언어 모델의 주요 약속은 텍스트를 수집하고 생성할 뿐만 아니라 핵심 추론 엔진으로 작동하는 능력
의사 결정을 내리고 도구를 사용하여 해결하는 데 지능이 필요한 어려운 작업을 자동화할 수 있음
Command R+는 API와 LangChain을 통해 액세스할 수 있는 도구 사용 기능과 함께 제공되어 복잡한 비즈니스 워크플로를 원활하게 자동화
새로운 Command R+에서는 이제 Multi-Step Tool Use를 지원하여 모델이 여러 단계에 걸쳐 여러 도구를 결합하여 어려운 작업을 수행할 수 있음

글로벌 비즈니스 운영을 위한 다국어 지원

Command R+는 가능한 한 많은 사람, 조직 및 시장에 서비스를 제공하도록 설계됨
기업과의 논의 과정에서 조직이 지역과 문화를 넘나들며 더 원활하게 작업할 수 있도록 돕는 다국어 기능에 대한 엄청난 수요를 만족시킴
Command R+는 글로벌 비즈니스의 10개 주요 언어(영어, 프랑스어, 스페인어, 이탈리아어, 독일어, 포르투갈어, 일본어, 한국어, 아랍어, 중국어)에서 탁월한 성능을 발휘하도록 구축됨
이 다국어 기능을 통해 사용자는 모국어에 관계없이 방대한 데이터 소스에서 정확한 응답을 생성할 수 있음

가격 및 가용성

Cohere의 Command R+ 가격

Cohere는 모든 주요 클라우드 제공업체 및 규제 산업과 프라이버시에 민감한 사용 사례를 위한 온프레미스와 협력하여 모델을 보편적으로 사용할 수 있도록 함
최신 Command R+ 모델은 이제 Cohere의 데모 환경에서 제공되어 간단한 채팅 인터페이스를 통해 모델을 테스트할 수 있는 직접적인 경험을 제공

데이터 프라이버시 및 보안에 대한 약속

Command R 모델 제품군을 통해 고객이 안심하고 AI를 사용할 수 있도록 고객 데이터, 프라이버시 및 안전을 보호하기 위해 노력
항상 데이터 프라이버시를 핵심으로 제품을 구축해 왔으며, 침해 청구에 대한 저작권 보증으로 고객에게 추가 보호 제공
고객이 원하지 않는 한 고객 데이터에 액세스하지 않음
프라이빗 LLM 배포 및 데이터 공유 옵트아웃 옵션 제공

GN⁺의 의견

Command R+는 기업용으로 설계된 최신 RAG 최적화 모델로, 높은 정확도와 효율성을 제공하여 기업이 개념 증명 단계를 넘어 프로덕션 단계로 진입할 수 있도록 돕는 것이 핵심임. 특히 기업의 독점 데이터를 활용한 RAG 기능과 10개 언어 지원 등 실제 기업 업무에 최적화된 기능을 제공하는 점이 돋보임.
기업용 대규모 언어 모델 시장에서 경쟁력을 가질 수 있을 것으로 보이나, OpenAI의 GPT 시리즈나 Anthropic의 Claude 등 경쟁 모델의 성능 향상 속도가 빨라 이들과의 경쟁이 치열할 것으로 예상됨. 특히 Cohere만의 차별화 요소 개발과 전문 영역에서의 성능 검증이 관건이 될 것임.
대규모 언어 모델을 기업에 도입할 때는 정확도와 효율성 외에도 데이터 프라이버시, 보안, 모델의 편향성 등 다양한 요소를 종합적으로 고려해야 함. 특히 데이터 취급과 관련된 규제 이슈가 있을 수 있어 이에 대한 대비가 필요함. Cohere가 데이터 프라이버시 보호 노력을 강조한 것은 긍정적이나, 고객사에서는 자사 데이터 활용과 모델 보안 체계 구축에도 많은 관심을 기울여야 할 것임.

Hacker News 의견

새로운 플러그인을 통해 LLM CLI 도구에 이 모델을 지원함.
- Simon Willison이 개발한 LLM CLI 도구는 대규모 언어 모델에 접근할 수 있는 커맨드라인 유틸리티임.
- 이 도구는 원격 API와 로컬에서 실행할 수 있는 모델을 지원하며, 커맨드라인에서 프롬프트를 실행하고 이미지 검색 엔진을 구축할 수 있음.
- Cohere API 모델의 흥미로운 기능 중 하나는 웹 검색을 실행하고 그 결과를 프롬프트에 답하는 데 사용할 수 있다는 것임.
- 해당 플러그인은 별도의 커맨드로 추가되어, 사용자가 LLM CLI 도구에 대해 질문할 수 있게 함.
Command R과 Command R+ 모델의 차이점은 가격임.
- Command R 모델은 입력 토큰당 $0.50, 출력 토큰당 $1.50의 비용이 들고, Command R+ 모델은 입력 토큰당 $3.00, 출력 토큰당 $15.00의 비용이 듦.
Command-R 모델은 비즈니스를 위해 구축되었지만, CC-BY-NC 라이선스를 가지고 있음.
- 이 라이선스는 DBRX의 라이선스보다 유연하며, DBRX는 다른 대규모 언어 모델을 개선하는 데 사용하는 것을 금지함.
웹사이트의 헤더 폰트 선택이 좋지 않아서, 텍스트에 흰색 얼룩이 있는 것처럼 보임을 지적함.
이 도구를 사용하여 앱스토어 사용자 계약과 같은 문서를 삽입하고 그에 대해 질문할 수 있는지 궁금해하는 댓글이 있음.
회사 내부에서 LLM을 사용하여 답을 얻는 경우와 고객 대면 LLM을 사용하는 경우를 구분할 수 있는 용어가 필요함을 언급함.

원문

출처 / GeekNews

더 읽어보기

알려드립니다

이 글은 국내외 IT 소식들을 공유하는 GeekNews의 운영자이신 xguru님께 허락을 받아 GeekNews에 게제된 AI 관련된 소식을 공유한 것입니다.

출처의 GeekNews 링크를 방문하시면 이 글과 관련한 추가적인 의견들을 보시거나 공유하실 수 있습니다!

아래쪽에 좋아요를 눌러주시면 새로운 소식을 정리하고 공유하는데 힘이 됩니다~