Chain-of-Thought MCP Server: 생각의 사슬(CoT) 기법을 적용하기 위한 MCP Server

9bow · 3월 26, 2025, 4:00오전

Chain-of-Thought MCP Server 소개

Anthropic이 최근 think 도구를 발표하며 외부 think 도구를 활용하는 것이 복잡한 작업에서 성능 향상에 큰 도움이 된다고 밝혔습니다. 특히 SWE-Bench 같은 평가 지표에서도 성과가 좋았다고 하는데요. 이런 흐름을 따라 Groq API와 Qwen 모델을 활용한 MCP 서버가 등장했습니다.

Chain-of-Thought MCP Server 프로젝트는 Groq API를 활용하여 Qwen의 qwq 모델로부터 생각의 사슬(CoT) 토큰을 추출할 수 있도록 설계된 MCP(Model Context Protocol) 서버입니다. 생각의 사슬 방식은 AI가 복잡한 문제를 해결할 때 중간 추론 단계를 생성하게 함으로써, 보다 논리적이고 정확한 결과를 낼 수 있도록 돕습니다. 이 서버는 그러한 구조를 외부 도구 형태로 실험할 수 있는 환경을 제공합니다.

이 MCP 서버는 Anthropic에서 Claude 모델을 대상으로 실험한 think 도구와 유사한 철학을 가지고 있습니다. 하지만 Claude의 도구는 자사 모델에 최적화되어 있는 반면, 이 프로젝트는 오픈 모델인 Qwen과 Groq API를 조합하여 개발자들이 좀 더 자유롭게 실험해볼 수 있도록 설계된 것이 특징입니다.

Chain-of-Thought MCP Server 주요 특징

Groq API 기반 CoT 추론: Groq API를 통해 고속으로 LLM 호출이 가능하며, CoT 토큰을 직접 노출합니다.
Qwen 모델 연동: Qwen의 qwq 모델을 사용하여 생각의 사슬(CoT) 토큰들을 생성합니다.
외부 MCP 서버로 쉽게 통합 가능: 기존 MCP 설정에 이 서버를 추가하는 것만으로 곧바로 활용할 수 있습니다.

프로젝트 사용법

저장소를 로컬에 클론합니다.
uv sync 명령어로 종속성을 설치합니다.
Groq Console에서 API 키를 발급받습니다.

MCP 설정 파일에 다음 내용을 추가합니다:

"mcpServers": {
  "chain_of_thought": {
    "command": "uv",
    "args": [
        "--directory",
        "PATH/TO/CoT-MCP-SERVER",
        "run",
        "src/server.py"
      ],
    "env": {
      "GROQ_API_KEY": "YOUR-GROQ-API-KEY"
    }
  }
}

위 내용 중 PATH/TO/CoT-MCP-SERVER 부분은 저장소가 위치한 경로이며, YOUR-GROQ-API-KEY는 본인이 발급받은 GROQ API 키로 대체하세요.

모델에 MCP 서버 사용을 지시하는 방법

개발자는 LLM 모델이 사용자와의 모든 상호작용 전에 이 MCP 서버를 사용하도록 권장할 수 있습니다. 예를 들어, agent 설정의 규칙에 아래와 같이 명시할 수 있습니다:

<IMPORTANT>
<when_to_use_tool>
You should call the mcp chain_of_thought tool every time you talk to the user, which generates a chain-of-thought stream which you will use to complete the user's request.
</when_to_use_tool>

Before taking any action or responding to the user use the chain of thought tool as a scratchpad to:
- List the specific rules that apply to the current request
- Check if all required information is collected
- Verify that the planned action complies with all policies
- Iterate over tool results for correctness 

Here are some examples of what to iterate over inside the think tool:
<cot_tool_example_1>
User wants to cancel flight ABC123
...
</cot_tool_example_1>

<cot_tool_example_2>
User wants to book 3 tickets to NYC with 2 checked bags each
...
</cot_tool_example_2>
</IMPORTANT>

즉, 위와 같이 agent는 사용자 요청을 처리하기 전 ‘생각 메모장’처럼 이 도구를 먼저 사용하여 정보 수집, 정책 검증, 논리 흐름 확인 등의 과정을 자동화할 수 있습니다.

Chain-of-Thought MCP Server 프로젝트 저장소

더 읽어보기

이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다.

파이토치 한국 사용자 모임이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)

아래쪽에 좋아요를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~