OpenPipe, MoA 기법 활용하여 25배 낮은 가격으로 GPT-4 성능을 뛰어넘는 모델 제공

들어가며 :pytorch::kr:

OpenPipe라는 기업에서 MoA(Mixture-of-Agents, 에이전트 혼합 기법), LLM 성능을 향상시키기 위한 새로운 기법 을 활용하여 GPT-4를 능가하는 비용 효율적 AI를 제공하고 있습니다. 이에 대한 블로그 글을 통해 MoA 기법이 동작하는 방식을 더 자세히 살펴볼 수 있을 것 같아 소개합니다. :smiley:

소개

LLM 추론 시의 성능 및 가격 비교

에이전트 혼합 기법(MoA, Mixture-of-Agents)은 훨씬 저렴한 비용으로 GPT-4와 같은 단일 대규모 언어 모델(LLM)을 능가하는 성능을 보이는 새로운 기법입니다. OpenPipe는 이 새로운 모델을 개발하여 다양한 에이전트를 조합함으로써 성능을 극대화했습니다. 이 모델은 특히 대규모 데이터 처리가 필요한 상황에서 뛰어난 효율성을 자랑합니다.

GPT-4와 비교했을 때, 이러한 MoA(Mixture-of-Agents) 기법을 활용한 모델의 운영 비용은 1/25에 불과합니다. 이는 AI 모델을 운영하는데 드는 막대한 비용을 줄일 수 있으며, 다양한 에이전트(LLM)들을 조합하여 각 에이전트의 강점을 극대화할 수 있습니다.

주요 특징

  • 비용 효율성: 운영 비용이 GPT-4의 1/25로, 경제적 부담을 크게 줄일 수 있습니다.
  • 다양한 에이전트 조합: 각 에이전트의 강점을 활용하여 성능을 극대화합니다.
  • 확장성: 다양한 분야에 적용 가능하며, 특히 대규모 데이터 처리에 강점을 보입니다.

MoA 모델 디자인

OpenPipe의 MoA 모델은 3개의 프롬프트 체인에 의해 최종 결과를 생성합니다:

  • 프롬프트 1: 선택된 기본 모델(GPT-4, GPT-4 Turbo, GPT-4o)을 사용하여 n=3으로 설정하고 temperature 매개변수를 높은 값으로 입력하여 3개의 후보 완성을 병렬로 생성합니다. 이는 출력의 다양성을 촉진합니다.

  • 프롬프트 2: 다시 기본 모델을 호출하여 원래 입력과 함께 프롬프트 1에서 생성된 3개의 후보 답변들을 전달합니다. 그런 다음 LLM은 후보 완성을 검토하고 비평합니다.

  • 프롬프트 3: 원래 입력과 3개의 후보 완성 및 그 비평을 모두 입력으로 전달합니다. 이를 바탕으로 기본 모델은 3개의 후보 중 최상의 요소를 통합하여 최종 완성을 생성합니다.

이 과정은 아래와 같은 흐름으로 시각적으로 표현될 수 있습니다:

MoA 모델 디자인 : 사용자 입력 -> 프롬프트 1 -> 3개 후보 -> 프롬프트 2 -> 비평 -> 프롬프트 3 -> 최종 완성
사용자 입력 -> 프롬프트 1 -> 3개 후보 답변 병렬 생성 -> 프롬프트 2 -> 비평 -> 프롬프트 3 -> 최종 완성

실험 및 결과

성능 평가 - Human Evaluation
성능 평가: LLM-as-Judge

OpenPipe는 다양한 실험을 통해 MoA의 성능을 검증했습니다. 그 결과, MoA는 GPT-4와 유사한 성능을 보였으며, 비용은 1/25에 불과했습니다. 특히, 텍스트 생성, 질문 응답, 번역 등 다양한 작업에서 우수한 성능을 입증했습니다.

OpenPipe의 MoA 모델 사용하기

OpenPipe 플랫폼에서 제공하는 OpenAI 호환 API를 사용하여 MoA 모델을 사용할 수 있습니다. OpenPipe 계정을 생성한 뒤, OpenAI API 키를 OpenPipe 프로젝트에 입력하여 바로 사용할 수 있습니다. 사용 가능한 모델은 다음과 같습니다:

  • moa-gpt-4-v1
  • moa-gpt-4-turbo-v1
  • moa-gpt-4o-v1

자세한 정보는 관련 문서를 참고해주세요.

원문 글 읽어보기

OpenPipe에서 MoA 모델 사용법 문서

에이전트 혼합(MoA, Mixture-of-Agents) 기법 소개 글




이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. :hugs:

:pytorch:파이토치 한국 사용자 모임:kr:이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일:love_letter:로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)

:gift: 아래:arrow_lower_right:쪽에 좋아요:+1:를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ :star_struck:

1개의 좋아요