# \#recommendation

**URL:** https://discuss.pytorch.kr/tag/recommendation/6415.md

[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)

---

## [R4T(Retrieve-for-Train): RL로 찾은 질의 팬아웃(fan-out) 행동을 경량 확산 검색기(Diffusion Model)로 컴파일하는 연구](https://discuss.pytorch.kr/t/r4t-retrieve-for-train-rl-fan-out-diffusion-model/11933)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [9월 22, 2026, 6:30오전 UTC](https://discuss.pytorch.kr/t/r4t-retrieve-for-train-rl-fan-out-diffusion-model/11933 "2026-09-22T06:30:15Z")

</div>

R4T(Retrieve-for-Train) 논문 소개 검색창에 "캠핑 장비"라고 입력한 사용자가 기대하는 결과는 4인용 텐트 열 개가 아닙니다. 텐트, 침낭, 버너, 헤드램프처럼 서로 보완하는 물건들이 한 묶음으로 나와야 합니다. Google Research와 일리노이 대학교(UIUC) 연구팀이 ICML(International Conference on Machine Learning) 2026에서 발표한 R4T(Retrieve-for-Train) 논문은 이렇게 결과 하나가 아니라 결과 집합(Set) 의 품질이 중요한 검색 문제를 다룹니다. 이 논문은 강화학습(Reinforcement Learning, RL)을 추론(Inference) 시점의 엔진으로 배포하는 대신, 학습 데이터를 만드는 1회성 도구로 쓰는 방법을 제안합니다. RL로 찾아낸 좋은 질의 분해 행동을 합성 데이터로 컴파일하고, 그 데이터로 53.9M 파라미터의 작은 확산 모델(Diffusion Model)을 학습해 추론 시에는 단일 패스(Single Pass)로 결과 집합을 생성합니다. 이번 글에서는 논문과 Google Research 블로그 글을 함께 읽고 배경, 방법론, 실험 결과를 정리하려고 합니다. 결과 하나가 아니라 결과 집합을 돌려줘야 하는 검색 검색 시스템과 추천 시스템은 점점 더 가장 잘 맞는 결과 하나가 아니라, 함께 놓았을 때 좋은 결과 여러 개를 요구받고 있습니다. 검색 인터페이스는 넓은 질의를 여러 의도로 확장해 커버리지(Coverage)를 높여야 하고, 추천 시스템은 다양하면서도 일관된 슬레이트(Slate, 한 화면에 함께 노출되는 결과 묶음)를 만들어야 하며, 번들 구성 시스템은 서로 보완하는 품목을 모아야 합니다. 이런 요구는 후보를 단순히 골라내는(select) 대신 모델이 후보를 생성하는 생성형 검색(Generative Retrieval) 접근으로 이어졌습니다. DSI(Differentiable Search Index)처럼 문서 식별자를 직접 생성하는 방식…

---

## [WeMM-Embedding: 2B 모델로 8B 베이스라인을 넘어선 범용 멀티모달 임베딩에 대한 연구](https://discuss.pytorch.kr/t/wemm-embedding-2b-8b/11750)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [8월 29, 2026, 9:30오전 UTC](https://discuss.pytorch.kr/t/wemm-embedding-2b-8b/11750 "2026-08-29T09:30:19Z")

</div>

WeMM-Embedding 소개 검색창 하나로 텍스트와 영상을 함께 찾는다는 것 사진첩에서 "작년 여름 바닷가"를 찾을 때 우리는 파일명을 기억해 내지 않습니다. 장면을 떠올리고, 그 장면과 가장 비슷해 보이는 것을 눈으로 고릅니다. 검색 시스템이 이 일을 대신하려면 사진과 문장을 같은 기준으로 잴 수 있어야 하는데, 이러한 역할을 하는 것이 바로 임베딩(embedding)입니다. (:pytorch::kr: 임베딩에 대한 자세한 내용은 다음 글을 참고해주세요: 머신러닝 분야의 임베딩에 대한 상세한 가이드 (The Full Guide to Embeddings in Machine Learning)) WeMM-Embedding은 Tencent의 WeChat Vision 팀이 공개한 범용 멀티모달 임베딩(universal multimodal embedding) 모델군으로, 텍스트와 이미지, 영상, 시각 문서(visual document), 그리고 이들이 임의로 뒤섞인 입력까지 하나의 조밀한 벡터 공간에 담는 것을 목표로 합니다. 이 연구는 서로 다른 형태의 콘텐츠를 공통의 표현 공간에 두어 검색, 추천, 분류, 에이전트 시스템이 같은 벡터로 동작하게 만드는 문제를 다루며, 대규모 정렬과 정제라는 2단계 학습 전략을 제안합니다. 모델은 2B, 4B, 9B의 세 가지 규모로 공개되었고, 가중치와 코드가 Apache 2.0 라이선스로 함께 공개되었습니다. 기존 접근법과 각각의 한계 멀티모달 임베딩의 출발점은 CLIP 계열의 듀얼 인코더입니다. 이미지 인코더와 텍스트 인코더를 따로 두고 대규모 쌍 데이터로 두 공간을 맞추는 방식은 교차 모달 정렬이 실제로 학습된다는 것을 보여 주었습니다. 다만 모달별로 인코딩 경로가 분리되어 있다는 구조적 성질 때문에, 여러 모달이 한 입력 안에 섞인 경우를 자연스럽게 다루지 못합니다. 텍스트와 이미지가 번갈아 나오는 문서, 이미지와 문장을 함께 주는 합성 질의(composed query), 자막이 붙은 영상이 모두 여기에 해당합니…

---

## [베이지안 티칭(Bayesian Teaching): LLM에게 베이지안처럼 추론하는 법을 가르치는 Google Research의 연구](https://discuss.pytorch.kr/t/bayesian-teaching-llm-google-research/9404)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [4월 7, 2026, 9:30오후 UTC](https://discuss.pytorch.kr/t/bayesian-teaching-llm-google-research/9404 "2026-04-07T21:30:32Z")

</div>

Bayesian Teaching 개요 연구 소개 및 배경 대규모 언어 모델(LLM)은 텍스트 생성, 코드 작성, 질의응답 등 다양한 작업에서 뛰어난 성능을 보여주고 있습니다. 하지만 이러한 모델들이 사용자와 여러 차례 상호작용하면서 사용자의 선호도를 점진적으로 파악하고, 새로운 정보를 바탕으로 자신의 믿음(belief)을 업데이트하는 능력은 여전히 제한적입니다. 예를 들어, 개인화된 추천 시스템에서는 사용자의 선택 패턴을 관찰하면서 그 사용자가 무엇을 선호하는지 점차 추론해나가야 합니다. 사용자가 특정 식당을 선택하고, 특정 영화를 시청하고, 특정 상품을 구매할 때마다, 시스템은 이 선택들 뒤에 숨겨진 선호 패턴을 파악해야 합니다. "이 사용자는 가격보다 품질을 중시하는가?", "짧은 비행 시간을 선호하는가, 직항을 선호하는가?" 같은 질문에 대한 답을 점차 좁혀나가야 하는 것입니다. 이런 상황에서 최적의 확률 업데이트 방법으로 알려진 것이 바로 베이지안 추론(Bayesian inference)입니다. 베이지안 추론은 사전 믿음(prior belief)을 새로운 증거에 따라 체계적으로 갱신하는 수학적 프레임워크로, 불확실한 상황에서의 의사결정에 가장 합리적인 접근법으로 여겨집니다. 처음에는 사용자의 선호에 대해 균등한 확률을 부여하다가, 관찰이 축적될수록 특정 선호도에 대한 확률을 높여가는 방식입니다. 하지만 특별한 학습 없이는 LLM이 이런 베이지안 추론을 수행하기 어렵습니다. 기존 LLM들은 단순한 휴리스틱에 의존하는 경향이 있어, 한 번의 상호작용 이후에는 성능이 정체되는 한계를 보였습니다. Google Research의 Sjoerd van Steenkiste와 Tal Linzen은 이 문제를 해결하기 위해 "Bayesian Teaching"이라는 새로운 접근법을 제안했습니다. 이 연구는 Nature Communications에 "Bayesian Teaching Enables Probabilistic Reasoning in Large Langu…

---

## [X Algorithm: 딥러닝 기반으로 다시 구축한 X(Twitter:twitter:)의 사용자 피드 추천 알고리즘](https://discuss.pytorch.kr/t/x-algorithm-x-twitter/8785)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [1월 21, 2026, 9:30오후 UTC](https://discuss.pytorch.kr/t/x-algorithm-x-twitter/8785 "2026-01-21T21:30:10Z")

</div>

X Algorithm 소개 X Algorithm은 전 세계 수억 명의 사용자가 매일 마주하는 소셜 미디어 X(이전의 Twitter:twitter:)의 'For You(추천)' 타임라인을 구성하는 핵심 엔진입니다. 이 프로젝트는 일론 머스크(Elon Musk)의 xAI 팀과의 긴밀한 협력을 통해 개발되었으며, 과거 트위터 시절부터 이어져 온 거대하고 복잡한 레거시 코드베이스를 End-to-End Deep Learning 기반의 현대적인 아키텍처로 완전히 탈바꿈시킨 결과물입니다. X Algorithm은 특히 추천 문제(Recommendation)를 대규모 언어 모델(LLM)이 문장을 생성하는 방식과 유사하게 접근했다는 점이 흥미롭습니다. 기존의 추천 시스템이 '사용자'와 '아이템'의 정적인 매칭에 주력했다면, X Algorithm은 사용자의 과거 행동(좋아요, 리트윗 등)을 하나의 '문장(Sequence)'으로 보고, 다음에 올 행동을 예측하는 생성형(Generative) 방식을 채택했습니다. 이를 구현하기 위해 xAI가 이전에 공개한 Grok-1 모델 아키텍처를 추천 시스템에 맞게 경량화 및 최적화하여 적용했습니다. X Algorithm의 공개는 단순한 코드 공개를 넘어, 추천 시스템의 패러다임이 어떻게 변화하고 있는지를 보여줍니다. 비교 항목 Legacy System (기존 트위터) Modern X Algorithm (현재) 핵심 철학 Heuristics & Rules: 사람이 직접 설계한 수천 개의 규칙과 가중치에 의존. (예: "이미지가 있으면 +2점") End-to-End Learning: 원시 데이터(Raw Data)로부터 모델이 직접 피처와 패턴을 학습. 모델 구조 GBDT & Hybrid: 의사결정 나무(Decision Trees)와 초기 딥러닝 모델이 혼재된 복잡한 구조. Transformer (Grok-based): 어텐션(Attention) 메커니즘을 활용한 단일 통합 아키텍처. 데이터 처리 Graph & Clu…
