Elon Musk의 xAI, Grok-2.5 모델을 오픈소스로 공개 & 6개월 후 Grok-3 모델 공개 예정

읽을거리&정보공유
, , ,
1

Elon Musk의 xAI, Grok-2.5 모델을 오픈소스로 공개 & 6개월 후 Grok-3 모델 공개 예정

Grok 2.5 모델 소개

Elon Musk가 이끄는 xAI에서는 Grok이라는 이름으로 대규모 언어 모델을 서비스 및 공개하고 있습니다. Grok의 최신 버전은 지난 달 공개한 Grok-4 모델로, 코딩 특화 모드, 자연어 음성 인터페이스, 밈(Meme) 해석 기능 등의 기능이 특징적입니다. Grok-4는 xAI 및 X(이전의 Twitter)에서 사용해볼 수 있습니다.

이렇게 새로운 버전을 서비스하는 것과 동시에, Elon Musk는 Grok 모델의 코드 및 가중치를 공개하기도 했습니다. 작년 3월에 Grok 모델의 오픈소스(Apache 2.0 라이선스)로 공개한 것을 시작으로, 몇 일 전에는 Grok-2.5 모델을 오픈소스로 공개했습니다. :tada:

Grok-2.5 모델은 단순히 연구 목적에 그치지 않고 실제 서비스 환경에서 활용할 수 있도록 설계되었습니다. 공개된 문서에서는 모델을 SGLang이라는 추론 엔진을 통해 서빙하는 방법을 안내하고 있으며, 대규모 GPU 환경을 필요로 하는 만큼 주로 기업 연구소나 클라우드 환경에서의 활용이 예상됩니다. 그만큼 모델이 가진 성능과 규모가 크다는 것을 반증하는 셈입니다.

또한 Grok 2.5는 xAI가 자사 플랫폼 **X(Twitter)**와 연동된 서비스에 탑재하기 위해 개발한 모델 중 하나이기 때문에, 단순히 기술적 실험에 그치지 않고 실제 사용자 경험을 개선하는 방향으로 설계되었다는 점에서 의미가 있습니다. 따라서 개발자 입장에서는 Grok 2.5를 통해 xAI의 AI 전략을 간접적으로 살펴볼 수 있는 기회이기도 합니다.

또한, 향후 6개월즈음 후에 Grok-3 모델도 공개한다고 하니 기대해볼만 합니다. (Tesla CEO로서 Elon Musk가 얘기하는 미래 일정은 2~3배는 길게 잡아야 하는데... 이번엔 그러지 않겠죠? :rofl:)

Grok 2.5 사용법

모델 다운로드

Hugging Face에서 다음과 같이 모델 가중치를 다운로드할 수 있습니다:

hf download xai-org/grok-2 --local-dir /local/grok-2

다운로드 후 약 42개의 파일, 500GB 용량의 데이터가 로컬에 저장됩니다. 대규모 모델이므로 다운로드 과정에서 에러가 발생할 수 있으며, 재시도를 통해 성공해야 합니다.

서버 실행

모델은 SGLang v0.5.1 이상을 설치한 뒤 실행할 수 있습니다:

python3 -m sglang.launch_server \
  --model /local/grok-2 \
  --tokenizer-path /local/grok-2/tokenizer.tok.json \
  --tp 8 \
  --quantization fp8 \
  --attention-backend triton

여기서 TP=8 설정은 모델 병렬화(Tensor Parallel)를 의미하며, 40GB 이상의 GPU 8개가 필요합니다.

요청 보내기

Grok 2.5는 학습된 대화 템플릿을 사용해야 정상적으로 동작합니다:

python3 -m sglang.test.send_one --prompt "Human: What is your name?<|separator|>\n\nAssistant:"

실행 시 모델이 스스로를 **“Grok”**이라고 응답하는 것을 확인할 수 있습니다.

자세한 요청 방법은 SGLang 문서에서 확인할 수 있습니다.

라이선스

Grok-2.5 모델은 Grok 2 Community License Agreement로 공개되어 있으며, 상업적 사용 및 특정 조건에서 제약이 있습니다. 따라서 기업에서 활용하는 경우 반드시 라이선스를 확인해야 합니다.

:house: xAI 공식 홈페이지

https://x.ai

:hugs: Grok 2.5 모델 다운로드

:twitter: Elon Musk의 Grok 2.5 모델 공개 트윗



이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. :hugs:

:pytorch:파이토치 한국 사용자 모임:south_korea:이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일:love_letter:로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)

:wrapped_gift: 아래:down_right_arrow:쪽에 좋아요:+1:를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ :star_struck: