# \#distillation **URL:** https://discuss.pytorch.kr/tag/distillation/7448.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [Nanbeige4.3-33B, 3B 증류용 교사 학습으로 만든 33B 규모의, 유사 크기 모델들 대비 우수한 성능을 보인 에이전트 모델 공개](https://discuss.pytorch.kr/t/nanbeige4-3-33b-3b-33b/12332)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [10월 28, 2026, 2:30오전 UTC](https://discuss.pytorch.kr/t/nanbeige4-3-33b-3b-33b/12332 "2026-10-28T02:30:41Z")
핵심 요약 중국 채용 플랫폼 BOSS Zhipin을 운영하는 Kanzhun의 Nanbeige 팀이 Nanbeige4.3-33B 모델 카드와 함께 33B 밀집(dense) 모델의 가중치를 Apache 2.0으로 공개했습니다. 컨텍스트는 512K 토큰이고, 텍스트 입력만 받습니다. 개발 팀은 이 모델을 곧 나올 Nanbeige4.3-3B 같은 소형 모델에 에이전트 능력을 증류(distillation)하기 위한 교사 모델로 소개합니다. 모델 카드의 20개 벤치마크 중 17개에서 Qwen3.8-27B, Muse-Glimmer-30B, Gemma4-31B보다 높은 점수를 냈습니다. SWE-Bench Pro, GDPval, GPQA Diamond 3개에서는 졌습니다. 경쟁 모델 점수에는 각 회사의 발표값과 같은 칸이 섞여 있고, SWE-Bench Pro와 GPQA Diamond의 일부 칸은 원래 모델 카드의 값과 어긋납니다. 채팅 템플릿은 preserve\_thinking을 넘기지 않으면 이전 턴의 추론을 그대로 남깁니다. 일반 대화에 쓸 때는 False를 직접 넘겨야 모델 카드의 권장 설정과 같아집니다. Nanbeige4.3-33B 소개 Nanbeige4.3-33B는 코딩 에이전트와 사무 업무 에이전트 작업에 강점을 둔 33B 규모의 오픈 웨이트 언어 모델입니다. 중국 채용 플랫폼 BOSS直聘(BOSS Zhipin)을 운영하는 Kanzhun의 Nanbeige 팀이 2026년 10월 24일 Hugging Face에 공개했습니다. 채팅 템플릿의 기본 시스템 프롬프트도 이 모델을 "BOSS直聘이 자체 개발하고 학습한 전문 대규모 언어 모델 南北阁(Nanbeige)"으로 소개합니다. Nanbeige 팀은 지금까지 3B 크기의 작은 모델을 주로 내놓았습니다. 2025년 10월 Nanbeige4-3B부터 2026년 7월 Nanbeige4.2-3B까지가 모두 3B 모델입니다. 이번 4.3 시리즈는 순서를 바꿔, 먼저 큰 교사 모델을 만들고 그 능력을 작은 모델로 옮기는 전… --- ## [Qwen3 0.6B로 평가부터 GRPO, 증류까지 설명하는, 추론 모델을 PyTorch로 직접 만드는 11시간 영상 강의 (feat. Sebastian Raschka)](https://discuss.pytorch.kr/t/qwen3-0-6b-grpo-pytorch-11-feat-sebastian-raschka/12331)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [10월 27, 2026, 11:30오후 UTC](https://discuss.pytorch.kr/t/qwen3-0-6b-grpo-pytorch-11-feat-sebastian-raschka/12331 "2026-10-27T23:30:00Z")
핵심 요약 LLM 아키텍처 갤러리 및 최근 LLM 아키텍처의 발전 동향 등을 공개한 Sebastian Raschka가 새롭게 Building Reasoning Models from the Ground Up 글에서 추론 모델을 직접 구현하는 영상 8편(합계 약 11시간 7분)을 한데 묶어 소개했습니다. 영상은 2026년 8월 30일부터 10월 17일까지 거의 매주 한 편씩 YouTube에 올라왔습니다. 사전 학습된 Qwen3 0.6B 기본 모델에서 시작해 MATH-500 평가, 추론 시점 스케일링, GRPO 강화 학습, 증류를 Python과 PyTorch로 구현합니다. 코드는 reasoning-from-scratch 저장소에 Apache 2.0 라이선스로 공개되어 있고, 영상은 Manning에서 나온 책 Build A Reasoning Model (From Scratch)의 2~8장과 짝을 이룹니다. Python과 PyTorch에 익숙한 개발자가 대상입니다. 앞부분의 텍스트 생성과 평가는 CPU에서도 따라갈 수 있지만, 저장소 README는 5장과 6장에 GPU를 권장합니다. GRPO 학습은 README의 실험 설정(롤아웃 8개, 최대 512토큰)에서 약 20GB 메모리를 씁니다. 저장소의 결과표(MATH-500 500문항)에서 기본 모델은 15.2%, 이미 추론 학습을 거친 Qwen3 0.6B는 48.2%였습니다. KL 항을 뺀 GRPO 50단계 학습은 기본 모델을 47.4%까지 올렸고, KL 항이 들어간 7장의 원래 GRPO 설정은 100단계에서 0.4%로 무너졌습니다. Build A Reasoning Model (From Scratch) 영상 강의 소개 Build A Reasoning Model (From Scratch) 영상 강의 는 작은 사전 학습 LLM 하나에 추론(reasoning) 기법을 한 단계씩 코드로 붙여 가며 추론 모델이 어떻게 만들어지는지 보여 주는 8편짜리 코딩 강의입니다. 강의를 만든 Sebastian Raschka는 PyTo… --- ## [Datadog가 공개한 장애 원인 변경을 찾는 에이전트 학습기 활용기: 교사 모델 GLM-5.3의 재현율 87%를 1/20 비용의 Qwen3.5-9B으로](https://discuss.pytorch.kr/t/datadog-glm-5-3-87-1-20-qwen3-5-9b/12020)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [9월 29, 2026, 7:00오전 UTC](https://discuss.pytorch.kr/t/datadog-glm-5-3-87-1-20-qwen3-5-9b/12020 "2026-09-29T07:00:12Z")
Datadog의 변경 원인 분석 특화 9B 모델 소개 Datadog이 프로덕션 알림(alert)을 일으킨 배포, 기능 플래그, 설정 변경을 찾아내는 조사 에이전트를 9B 크기의 오픈 모델로 만든 과정을 공개했습니다. 큰 교사 모델 GLM-5.3이 남긴 조사 기록으로 Qwen3.5-9B를 파인튜닝한 결과, 교사 모델 재현율(Recall@5)의 87%를 유지하면서 조사 1건당 LLM 비용을 0.06달러에서 0.003달러로 약 20분의 1 수준까지 낮췄습니다. 장애 대응을 해 본 개발자라면 알림이 울렸을 때 가장 먼저 던지는 질문이 "최근에 뭐가 바뀌었지?" 라는 것을 알고 있을 것입니다. 많은 장애가 배포나 설정 변경 직후에 발생하지만, 여러 서비스와 수많은 변경 이력 속에서 실제로 문제를 일으킨 변경 하나를 골라내는 일은 여러 시스템을 오가며 증거를 맞춰 보는 시간 싸움입니다. 이 작업을 변경 원인 분석(Change Attribution) 이라고 부르며, 규칙 기반 시스템은 빠르고 저렴하지만 복잡한 장애에서는 정확도가 떨어지고, 프런티어 LLM 기반 에이전트는 깊이 있게 추론(reasoning)하지만 모든 알림마다 실행하기에는 비용이 너무 큽니다. Datadog 엔지니어링 팀은 이 간극을 작고 특화된 모델로 메울 수 있는지 실험했습니다. 2026년 9월 23일 Datadog 블로그에 게시된 이 글은 Staff Engineer인 Scott Kramer와 엔지니어링 부사장(VP, Engineering) Junaid Ahmed가 작성했으며, 교사 모델의 조사 기록을 학습 데이터로 계속 불려 가는 데이터 플라이휠(Data Flywheel) 을 어떻게 구성했는지, 파인튜닝이 모델의 조사 행동을 어떻게 바꿨는지, 그리고 이 방식이 더 많은 알림에 에이전트 조사를 적용하는 데 어떤 의미가 있는지를 다룹니다. 이 사례가 흥미로운 이유는 결과 수치보다 방법의 재현 가능성에 있습니다. 사람이 직접 레이블을 달지 않고, 이미 프로덕션에서 돌아가는 상위 에이전트의 결론을 … --- ## [LingBot-World 2.0: 720p 60fps 실시간으로 끝없이 조작 가능한 세계를 생성하는 14B 월드 모델](https://discuss.pytorch.kr/t/lingbot-world-2-0-720p-60fps-14b/11693)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [8월 24, 2026, 12:30오전 UTC](https://discuss.pytorch.kr/t/lingbot-world-2-0-720p-60fps-14b/11693 "2026-08-24T00:30:29Z")
LingBot-World 2.0 소개 인터랙티브 월드 모델(Interactive World Model)은 사용자의 조작에 반응해 다음 화면을 한 프레임씩 만들어내는 생성 모델입니다. 게임 엔진처럼 미리 만들어 둔 3D 자산을 렌더링하는 것이 아니라 화면 자체를 생성하기 때문에 어떤 장면이든 만들 수 있지만, 대신 두 가지 벽에 부딪힙니다. 하나는 길이입니다. 자기회귀(Autoregressive)로 이어 붙이는 방식은 자기 출력을 다시 입력으로 받으므로 오차가 누적되고, 몇 분을 넘기면 화면이 무너집니다. 다른 하나는 속도입니다. 확산 모델(Diffusion Model)은 프레임 한 장을 만드는 데에도 여러 번의 잡음 제거 단계를 거쳐야 해서, 손이 움직인 즉시 화면이 따라오는 조작감을 내기 어렵습니다. 이번에 소개할 LingBot-World 2.0(LingBot-World-Infinity)은 그 두 벽을 함께 겨냥한 오픈소스 월드 모델입니다. 인과적(Causal) 사전학습으로 무한한 상호작용 구간을 목표로 삼고, 거기서 실시간 변형을 증류(Distillation)해 720p 영상을 60fps로 흘려보낼 수 있는 응답 속도를 확보했다고 저자들은 밝히고 있습니다. 여기에 공격, 궁술, 주문 시전, 사격처럼 이전 버전보다 넓어진 행동군과 텍스트로 지시하는 사건을 더했고, 월드 모델 영역에서는 처음으로 에이전트 하네스(Agentic Harness)를 붙여 캐릭터의 행동 계획과 환경 요소 생성을 각각 다른 에이전트가 맡도록 했습니다. 이 프로젝트는 Robbyant 팀이 공개했고, 기술 보고서와 함께 추론 코드, 그리고 14B 규모 모델 하나의 가중치가 2026년 7월 9일에 공개됐습니다. 코드베이스는 Wan2.2 (:pytorch::kr: Wan2.2: Alibaba에서 공개한 오픈소스 비디오 생성 모델) 위에 올려 두어 설치 절차를 그쪽 문서와 공유합니다. 이 글에서는 저자들이 무엇을 어떻게 했다고 주장하는지, 실제로 손에 들어오는 것이 무엇인지, 그리… --- ## [JoyAI-Video-Edit: 자연어 지시로 실시간 영상 스트림을 편집하는 자기회귀 디퓨전 모델](https://discuss.pytorch.kr/t/joyai-video-edit/11575)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [8월 10, 2026, 12:30오후 UTC](https://discuss.pytorch.kr/t/joyai-video-edit/11575 "2026-08-10T12:30:19Z")
JoyAI-Video-Edit 소개 영상 편집 모델은 대부분 영상 전체를 미리 받아 두고 시작합니다. 길이가 정해져 있어야 하고, 뒤쪽 프레임을 참고해 앞쪽을 다듬는 방식이 흔하며, 그래서 결과를 보려면 처리가 다 끝날 때까지 기다려야 합니다. 라이브 카메라 화면처럼 프레임이 계속 도착하고 끝이 정해지지 않은 입력에는 이 전제가 통하지 않습니다. 편집을 걸어 놓고 결과를 나중에 확인하는 것과, 지금 카메라에 잡히는 장면이 지시대로 바뀌는 것을 보는 것은 다른 종류의 작업입니다. JD가 공개한 JoyAI-Video-Edit는 이 간극을 좁히려는 실시간 영상 편집 시스템입니다. 라이브 스트림이든 업로드한 영상이든, 자연어로 된 편집 지시를 함께 주면 프레임이 도착하는 대로 인과적으로 편집합니다. 영상 전체를 기다리지 않고, 길이를 미리 정할 필요도 없으며, 미래 프레임을 다시 들여다보지도 않습니다. 저자들이 공개한 배포 벤치마크에서 전체 파이프라인은 720 \\times 1280 해상도에서 초당 30.19 프레임을 처리했습니다. 시스템은 MLLM 기반 조건 인코더, 인과적 비디오 VAE, 그리고 160억 파라미터 규모의 멀티모달 디퓨전 트랜스포머(MM-DiT)로 구성됩니다. 여기에 청크 단위 자기회귀 적응, 소스 고정 분포 매칭 증류(SA-DMD), 장기 구간 자기회귀 증류(LHAD)라는 세 가지 학습 기법을 얹어 학습과 추론 사이의 불일치, 두 단계 생성에서의 원본 충실도 손실, 시간이 갈수록 쌓이는 시각적 어긋남을 각각 다룹니다. 배포 단계에서는 경계가 정해진 KV 캐시와 FP8 양자화, 최적화된 VAE 경로로 720p 처리량을 확보했습니다. 코드와 기술 보고서, 체크포인트, 온라인 데모는 2026년 8월 5일에, 실시간 편집 라이브 데모는 8월 6일에 공개됐습니다. JoyAI-Video-Edit가 기존 영상 편집 모델과 다른 점 저자들이 공개한 대표 그림 한 장에 이 프로젝트의 위치가 정리되어 있습니다. 왼쪽은 실시간 편집이 어떤 것인지 보여주고, … --- ## [Agents-A1: 모델 크기 대신, 생각하는 능력을 확장해 1T급 성능에 도달한 35B 에이전트 모델](https://discuss.pytorch.kr/t/agents-a1-1t-35b/11368)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [7월 22, 2026, 5:30오전 UTC](https://discuss.pytorch.kr/t/agents-a1-1t-35b/11368 "2026-07-22T05:30:12Z")
Agents-A1 소개 새 팀원이 합류했을 때를 떠올려 봅시다. 우리는 그 사람의 머릿속에 세상 모든 지식을 미리 채워 넣는 대신, 자료를 검색하고 도구를 써보고 중간 결과를 확인하며 시행착오를 거쳐 문제를 풀어내는 "일하는 방법"을 익히도록 돕습니다. 최근 대형 언어 모델(Large Language Model, LLM) 연구도 비슷한 갈림길에 서 있습니다. 모델의 머릿 속(파라미터)에 더 많은 것을 우겨넣을 것인가, 아니면 모델이 오래 일하며 스스로 문제를 풀어나가는 능력을 키울 것인가 하는 선택입니다. 이 글에서 소개하는 Agents-A1 은 InternScience 에서 공개한 35B 규모의 에이전트 모델로, 후자의 길을 택합니다. 이 연구는 파라미터를 키우는 대신 에이전트 호라이즌(agent horizon) 을 확장함으로써, 파라미터가 1T(조 단위)에 달하는 초대형 모델에 필적하는 성능을 35B 모델로 달성할 수 있음을 보입니다. 여기서 에이전트 호라이즌이란 하나의 과제를 해결하기 위해 모델이 거치는 단계와 상호작용 궤적(trajectory)의 길이를 뜻합니다. 실제로 Agents-A1의 학습 데이터는 평균 45K 토큰에 이르는 긴 궤적으로 구성되어 있습니다. 파라미터 확장의 벽과 또 다른 길 최근 인공지능 연구는 수동적으로 언어를 생성하던 모델에서, 계획을 세우고 도구를 사용하며 환경과 상호작용하고 피드백을 통해 스스로를 개선하는 자율 에이전트(agent) 로 빠르게 무게중심을 옮기고 있습니다. 소프트웨어 개발, 과학 연구, 복잡한 의사결정 같은 실제 과제에서 에이전트는 더 긴 시간, 이른바 롱-호라이즌(long-horizon) 환경에서 동작해야 합니다. 정보를 수집하고, 과제를 분해하고, 도구를 호출하고, 중간 결과를 검증하며, 새로운 정보가 들어올 때마다 전략을 계속 수정해야 하는 것입니다. 이런 환경은 초반의 작은 실수가 뒤로 갈수록 누적되기 때문에 특히 까다롭습니다. 롱-호라이즌 에이전트를 개선하려는 기존 노력은 크게 두 갈래의 확… --- ## [Feedback Distillation: LLM 피드백 증류로 Lean 정리 증명 학습하기 (feat. Meta FAIR)](https://discuss.pytorch.kr/t/feedback-distillation-llm-lean-feat-meta-fair/10484)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [7월 2, 2026, 3:30오전 UTC](https://discuss.pytorch.kr/t/feedback-distillation-llm-lean-feat-meta-fair/10484 "2026-07-02T03:30:16Z")
Feedback Distillation 소개 처음 어려운 수학 문제를 풀 때를 떠올려 봅시다. 정답만 통째로 외우기보다는, 선생님이 "이 부분에서 절댓값을 경우로 나눠봐", "여기서는 분모를 없애는 게 낫다" 같은 짧은 조언을 줄 때 우리는 훨씬 빠르게 성장합니다. 이 논문은 바로 이 직관을 LLM 사후학습(post-training)에 옮긴 연구입니다. 즉 Feedback Distillation 은 모델이 스스로 만든 풀이에 대해 또 다른 LLM이 남긴 피드백을 받아, 그 피드백이 반영된 분포를 토큰 단위로 자기 가중치에 증류(distillation)하는 학습 기법입니다. 저자들은 이 방법을 Lean 4 정리 증명(theorem proving) 환경에서 검증하여, 표준 강화 학습 기법인 GRPO보다 더 높은 다양성과 더 나은 test-time 확장성을 얻을 수 있음을 보였습니다. 이 연구는 Meta의 FAIR(Fundamental AI Research) 와 Inria, Sorbonne Université 등의 연구진이 함께 수행했습니다. 추론 모델 사후학습의 현재 지형과 GRPO의 한계 최근 인공지능은 코드 생성, 수학 경시 문제 풀이처럼 복잡한 추론(reasoning) 과제에서 빠르게 발전하고 있습니다. 그중에서도 수학적 추론은 탐색 공간이 방대하고 정답 여부가 명확하다는 점 때문에 추론 연구의 핵심 시험대가 되었습니다. 특히 Lean 같은 증명 검증기(verifier)가 출력을 자동으로 채점해주는 검증 가능한 보상(Verifiable Rewards) 환경에서는, 전문가 풀이로 지도 미세조정(SFT, Supervised Fine-Tuning)을 한 뒤 강화 학습(RL, Reinforcement Learning)으로 검증기 보상을 최대화하는 파이프라인이 사실상 표준으로 자리잡았습니다. 이때 쓰이는 RL 알고리즘이 바로 DeepSeekMath에서 제안된 GRPO 로, 하나의 문제에 대해 여러 출력을 뽑은 뒤 그 보상들을 서로 비교해 정책(policy)을… --- ## [Needle: Gemini 3.1을 증류해 만든 26M 파라미터 함수 호출 전용 온디바이스 모델 (feat. Cactus)](https://discuss.pytorch.kr/t/needle-gemini-3-1-26m-feat-cactus/10249)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [5월 16, 2026, 5:00오전 UTC](https://discuss.pytorch.kr/t/needle-gemini-3-1-26m-feat-cactus/10249 "2026-05-16T05:00:08Z")
Needle 소개 Needle은 Cactus Compute가 공개한, 함수 호출(Function Calling) 한 가지 작업에 특화된 26M 파라미터 규모의 초소형 언어 모델입니다. Gemini 3.1 Flash Lite를 교사 모델로 삼아 단순화된 어텐션 구조로 증류(Distillation)했으며, 사용자 질의(Query)에 대해 후보 도구(Tools) 중 어느 함수를 호출하고 어떤 인자를 넣어야 하는지를 JSON으로 출력하는 데 초점을 맞추고 있습니다. 모델 크기가 26M에 불과하기 때문에 일반 PC와 Mac 환경에서도 추론은 물론 사용자 데이터로의 파인튜닝까지 로컬에서 진행할 수 있고, 운영 환경에서는 Cactus 런타임 위에서 프리필(Prefill) 6,000 토큰/초, 디코드(Decode) 1,200 토큰/초 수준으로 동작합니다. Needle은 단순히 모델 가중치만 공개된 프로젝트가 아니라, 26M이라는 극단적으로 작은 규모로 함수 호출 능력을 어떻게 끌어올렸는지에 대한 설계 결정을 함께 공개한 실험 보고서에 가깝습니다. 저자들은 핵심 아이디어를 "Simple Attention Network(SAN)" 로 정리했으며, 이 구조에서는 전통적인 Transformer 블록에서 파라미터의 약 2/3를 차지하는 피드포워드(Feed-Forward Network, FFN) 레이어를 완전히 제거하고, 대신 인코더-디코더 구조와 크로스 어텐션(Cross Attention)에 자원을 집중합니다. 함수 호출이 본질적으로 "질의 → 도구 목록 → 인자 추출 → JSON 조립"이라는 정렬·복사 중심 작업이라는 관찰에서 출발한 결정입니다. 가중치와 데이터 생성 코드는 모두 공개되어 있으며, Hugging Face의 Cactus-Compute/needle 리포지토리에서 다운로드할 수 있습니다. 라이선스는 MIT이며, 단일 샷(Single-shot) 함수 호출 벤치마크에서 FunctionGemma-270M, Qwen-0.6B, Granite-350M, LFM2.5-35…