# \#test-time-training **URL:** https://discuss.pytorch.kr/tag/test-time-training/6475.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [AutoTTS: Test-Time Scaling 전략을 LLM 에이전트가 자동으로 발견하는 환경 기반 프레임워크에 대한 연구](https://discuss.pytorch.kr/t/autotts-test-time-scaling-llm/10487)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [6월 29, 2026, 11:30오후 UTC](https://discuss.pytorch.kr/t/autotts-test-time-scaling-llm/10487 "2026-06-29T23:30:00Z")
AutoTTS 소개 새로운 보드게임을 처음 배울 때를 떠올려 봅시다. 우리는 보통 고수들이 정리해 둔 정석(定石)을 외우는 것에서 시작합니다. 하지만 진짜 실력은, 수많은 판을 직접 두면서 "여기서는 공격적으로, 저기서는 물러서야 한다"는 감각을 스스로 체득할 때 늘어납니다. 정석은 출발점일 뿐, 최적의 수는 결국 게임 환경 안에서 직접 찾아내는 것입니다. 이 논문은 대형 언어 모델(Large Language Model, LLM)의 추론 시점 연산 배분 전략, 즉 Test-Time Scaling(TTS) 을 바로 이 관점에서 다시 봅니다. 지금까지 TTS 전략은 연구자가 직관으로 손수 설계하는 정석에 가까웠습니다. 이 논문은 사람이 전략 자체를 설계하는 대신 전략을 탐색할 수 있는 환경(environment)을 설계하고, 코딩 에이전트가 그 환경 안에서 더 나은 전략을 자동으로 발견하게 만드는 AutoTTS 프레임워크를 제안합니다. UMD, UVA, WUSTL, UNC, Google, Meta 연구진이 공동으로 참여했습니다. Test-Time Scaling이란 무엇이고, 왜 어려운가 Test-Time Scaling(TTS) 은 모델을 추가로 학습시키지 않고, 추론(inference) 시점에 연산을 더 투입하여 성능을 끌어올리는 방법론입니다. 가장 단순한 형태는 같은 문제에 대해 여러 개의 추론 경로(reasoning trajectory)를 뽑은 뒤 다수결로 답을 정하는 Self-Consistency 입니다. 최근에는 어려운 수학 문제나 코딩 문제에서 이런 추론 시점 연산 확장이 사전 학습 못지않게 중요한 성능 레버로 자리 잡았습니다. 문제는 성능이 단순히 "연산을 얼마나 썼는가"가 아니라 "연산을 어떻게 배분했는가"에 크게 좌우된다는 점입니다. 저자들은 "성능은 사용한 연산의 총량이 아니라 그것을 어떻게 할당하느냐에 달려 있다" 고 지적합니다. 그런데 이 배분 전략은 대부분 사람이 손으로 만든 것입니다. 연구자가 "언제 새 추론 가지를 펼치고(bra… --- ## [SIA(Self-Improving AI): 하네스와 모델 가중치를 함께 진화시키는 자기 개선 AI 에이전트 루프에 대한 연구 (feat. Hexo Labs)](https://discuss.pytorch.kr/t/sia-self-improving-ai-ai-feat-hexo-labs/10950)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [6월 27, 2026, 11:30오후 UTC](https://discuss.pytorch.kr/t/sia-self-improving-ai-ai-feat-hexo-labs/10950 "2026-06-27T23:30:23Z")
SIA(Self-Improving AI) 연구 소개 새로운 분야를 처음 배우는 신입 엔지니어를 떠올려 봅시다. 처음에는 선배가 정리해 준 체크리스트와 도구 사용법을 따라 하며 일을 해냅니다. 시간이 지나면 더 나은 작업 순서나 자동화 스크립트를 스스로 만들어 외부 절차를 다듬습니다. 하지만 진짜 전문가가 되는 순간은 따로 있습니다. 절차로는 도저히 전달되지 않는 직관, 즉 머릿속에 새겨진 도메인 감각이 생길 때입니다. 절차를 다듬는 것과 직관을 기르는 것은 서로 다른 종류의 성장입니다. 오늘 소개할 SIA(Self Improving AI) 는 AI 에이전트에게도 이 두 가지 성장이 모두 필요하다는 관찰에서 출발합니다. 이 논문은 "AI가 사람의 개입 없이 스스로를 개선하려면 무엇을 바꿔야 하는가" 라는 질문에, 에이전트를 감싸는 하네스(harness, 스캐폴드) 와 모델의 가중치(weights) 를 한 루프 안에서 함께 업데이트하는 자기 개선(self-improving) 시스템으로 답합니다. SIA는 법률, 시스템, 생물학이라는 성격이 전혀 다른 세 도메인에서 두 레버를 함께 돌리는 방식이 스캐폴드 반복만 하는 방식을 모두 앞섰습니다. 사람이 병목이다: 자기 개선 AI의 두 갈래 최근 AI의 발전은 역설적이게도 사람에게 발목이 잡혀 있습니다. 모델은 연구자가 설계하고 사후 학습(post-training)하며, 그 위에 얹는 에이전트는 엔지니어가 스캐폴딩하고 프롬프트를 짜고 디버깅하고 튜닝합니다. "스스로 개선하는 법을 알아내는 AI" 라는 분야의 장기 목표는 여전히 열려 있는 문제입니다. 이 병목을 깨려는 연구는 크게 두 갈래로 갈라져 거의 교류 없이 발전해 왔습니다. 첫 번째 갈래는 하네스/스캐폴드 자기 개선 입니다. 메타 에이전트(meta-agent)가 태스크 전용 에이전트의 스캐폴드, 즉 시스템 프롬프트, 도구 디스패치 로직, 재시도 정책, 정답 추출 코드를 세대를 거듭하며 다시 작성합니다. 이때 모델 가중치는 고정됩니다. Darwin G… --- ## [TTT-Discover, 추론(Test-time) 중 모델을 실시간으로 학습시켜 과학 문제 해결 성능을 개선하는 방식에 대한 연구 (feat. Google DeepMind, NVIDIA, Stanford)](https://discuss.pytorch.kr/t/ttt-discover-test-time-feat-google-deepmind-nvidia-stanford/8844)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 2\ **마지막 업데이트:** [2월 7, 2026, 4:40오전 UTC](https://discuss.pytorch.kr/t/ttt-discover-test-time-feat-google-deepmind-nvidia-stanford/8844 "2026-02-07T04:40:10Z")
TTT-Discover 연구 개요 발견(Discovery)의 본질과 기존 LLM의 한계 우리가 처음으로 매우 어려운 프로그래밍 과제를 마주했을 때를 떠올려 봅시다. 단순히 교과서에 나온 예제를 따라 하는 것만으로는 해결되지 않는 문제 앞에서, 우리는 여러 번 시도하고 실패하며 그 과정에서 얻은 작은 힌트들을 통해 점차 해결책에 다가갑니다. 이처럼 인간은 새로운 문제를 해결할 때 기존 지식에만 의존하지 않고, 그 문제와 씨름하는 과정 자체에서 배우고 성장합니다. 즉, 일련의 시행착오 과정을 거칩니다. 중요한 점은 이 과정에서 우리의 뇌가 해당 문제에 대한 이해도를 실시간으로 높여간다는 것입니다. '10분 전의 나'는 풀지 못했지만, 문제와 씨름하며 학습한 '현재의 나'는 해결책을 찾아냅니다. 이것이 바로 인간이 어려운 문제를 해결하는 방식이며, TTT-Discover 연구가 모방하고자 하는 핵심 프로세스입니다. 하지만 현재의 대부분의 인공지능 모델들은 이와 다르게 작동합니다. 학습 단계에서 방대한 데이터를 학습한 뒤, 추론 단계에서는 모델의 가중치(weights)를 고정(Frozen Weights)한 채 정해진 추론 과정만을 수행합니다. 이는 마치 학생이 시험을 볼 때 새로운 것을 배우지 못하고 오로지 기억에만 의존해야 하는 것과 같습니다. 물론, 사고의 연쇄(CoT, Chain-of-Thought) 기법이나 N개 후보 중 최고의 답변을 고르는(Best-of-N) 기법 등이 추론 과정을 길게 늘리거나 여러 번의 시도하게 해주지만, 모델 자체가 문제에 적응하며 더 똑똑해지는 것은 아닙니다. TTT-Discover 연구 배경 TTT-Discover 논문의 저자들은 이러한 한계를 극복하기 위해 추론 시간 학습(Test-Time Training, TTT) 이라는 개념을 과학적 발견 문제(Scientific Discovery Task)에 적용했습니다. 과학적 발견 문제는 정의상 기존의 훈련 데이터 분포를 벗어나는(Out-of-Distribution) 새로운 지식… --- ## [\[2026/01/26 ~ 02/01\] 이번 주에 살펴볼 만한 AI/ML 논문 모음](https://discuss.pytorch.kr/t/2026-01-26-02-01-ai-ml/8895)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [2월 1, 2026, 9:30오후 UTC](https://discuss.pytorch.kr/t/2026-01-26-02-01-ai-ml/8895 "2026-02-01T21:30:56Z")
\[2026/01/26 ~ 02/01\] 이번 주에 살펴볼 만한 AI/ML 논문 모음 PyTorchKR​:fire::south\_korea: :thinking::thought\_balloon: :one: 개별 모델을 넘어선 "조직적 지능(Organizational Intelligence)"의 부상: 이번 주 가장 눈에 띄는 트렌드는 단일 AI 모델의 성능에 의존하기보다, 여러 에이전트를 구조화하여 시스템 전체의 신뢰성을 높이려는 시도입니다. "If You Want Coherence, Orchestrate a Team of Rivals" 논문은 인간의 기업 조직처럼 상반된 인센티브를 가진 에이전트 팀을 구성해 오류를 90% 이상 차단하는 아키텍처를 제시했습니다. 또한, Agent Drift 연구는 장기 상호작용에서 발생하는 에이전트의 행동 저하를 '안정성 지수(ASI)'로 정량화하고 이를 관리하는 방법론을 제안했습니다. 이는 AI를 단일 도구가 아닌, 관리와 통제가 가능한 하나의 '조직'으로 바라보기 시작했음을 의미합니다. :two: "추론 시점(Test-Time)"의 학습과 동적 최적화를 통한 성능 한계 돌파: 모델이 학습된 상태로 고정되지 않고, 실제 문제를 푸는 순간(추론 시점)에 실시간으로 진화하는 기술들이 주목받고 있습니다. TTT-Discover는 추론 단계에서 강화학습을 수행하여 과학적 난제나 알고리즘 설계에서 새로운 최첨단(SOTA) 기록을 세우는 성과를 보였으며, G2RL은 모델 내부의 그래디언트 기하학을 활용해 추론 과정에서 스스로 탐색 방향을 가이드합니다. 아울러 Deep Delta Learning은 표준 잔차 연결을 데이터 의존적인 기하학적 변환으로 대체하여 복잡한 비선형 동역학을 더 유연하게 모델링합니다. 이러한 '추론 중 진화'는 고정된 모델이 해결하지 못했던 초난도 문제 해결의 열쇠가 되고 있습니다. :three: 비용 효율 극대화: "소형 모델(SLM)"의 반란과 하드웨어 병목 해결: 거대 모델(LLM)의 고비용 구조를 탈피하여, 작지만…