# \#prompt-caching

**URL:** https://discuss.pytorch.kr/tag/prompt-caching/4510.md

[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)

---

## [GPT-6.2 Astra 및 Sol 프롬프팅 가이드: 대화 이력을 고치면 추론이 버려지는 API 변경과 대응법](https://discuss.pytorch.kr/t/gpt-6-2-astra-sol-api/12563)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [11월 18, 2026, 5:00오전 UTC](https://discuss.pytorch.kr/t/gpt-6-2-astra-sol-api/12563 "2026-11-18T05:00:25Z")

</div>

핵심 요약 OpenAI의 GPT-6.2 사용 가이드에 따르면, GPT-6.2부터 API는 대화 중간에 이력이 바뀐 것을 감지하면 그 뒤의 추론 항목을 버립니다. 도구 결과를 줄이거나 개발자 메시지를 고치는 통합은 비용과 품질이 함께 나빠질 수 있습니다. Keep the prefix unchanged 문서는 설정을 바꿀 때 요청 파라미터를 고치지 말라고 안내합니다. 대신 configuration\_update, additional\_tools, 새 developer 메시지를 뒤에 덧붙입니다. 캐시 미스의 원인은 prompt\_cache\_options.comparison\_response\_id 로 이전 응답과 비교하는 Prompt cache diagnostics로 찾고, 버려진 추론 항목은 응답의 input\_transformations 로 확인합니다. 프롬프트 측면에서 GPT-6.2는 기본 문체가 더 간결해졌으므로, 기존 시스템 프롬프트의 "간결하게" 같은 지시부터 다시 봐야 합니다. GPT-6.2 시스템 카드에서 GPT-6.2 Astra는 작업을 막은 장애물을 22.28%의 시도에서 보고하지 않았습니다(GPT-6 Astra 11.09%). 이를 줄인 Codex 개발자 프롬프트는 API 직접 요청에 적용되지 않습니다. GPT-6.2 프롬프팅 가이드 소개 OpenAI가 GPT-6.2 Astra와 GPT-6.2 Sol을 내놓으면서 개발자 문서 여러 곳에 두 모델을 위한 지침을 함께 공개했습니다. 이 글은 API로 에이전트를 운영하거나 Codex에서 GPT-6.2를 쓰는 개발자가 모델 이름을 바꾸기 전에 확인할 것을 다섯 개 핵심 문서를 중심으로 정리합니다. 가장 중요한 내용은 프롬프트 문구가 아니라 API가 대화 이력을 다루는 방식이 바뀌었다는 점입니다. 출처 문서는 다음과 같습니다. API 쪽 정본은 Using GPT-6.2 가이드의 프롬프팅 모범 사례(Prompting best practices)와 마이그레이션 항목입니다. 여기에 GPT-6.2와 함께 강조된 K…

---

## [OpenAI, API 가격을 절반으로 낮춘 GPT-6 Sol과 Luna 출시: 추론 강도별 과제당 비용으로 본 성능과 정렬](https://discuss.pytorch.kr/t/openai-api-gpt-6-sol-luna/11989)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [9월 23, 2026, 1:30오전 UTC](https://discuss.pytorch.kr/t/openai-api-gpt-6-sol-luna/11989 "2026-09-23T01:30:30Z")

</div>

GPT-6 Sol과 Luna 소개 OpenAI가 2026년 9월 22일, GPT-6 제품군의 중간 티어 GPT-6 Sol 과 경량 티어 GPT-6 Luna 를 공개했습니다. 이달 초 출시한 최상위 모델 GPT-6 Astra와 비슷한 방법으로 학습한 더 빠르고 저렴한 모델이며, API 가격은 GPT-5.6 Sol과 Luna의 프로모션 가격 대비 50% 낮췄고, OpenAI는 캐싱과 추론 서빙(inference) 개선으로 줄인 비용을 가격에 반영한 것이라고 설명합니다. API 문서는 Sol을 복잡한 코딩과 에이전트 워크플로우용, Luna를 범위가 좁고 호출량이 많은 작업용 모델로 소개합니다. OpenAI는 Astra가 강점을 보인 전문 업무, 사실성, 코딩, 컴퓨터 사용, 정렬(alignment)의 개선을 더 낮은 가격 단계로 내려보내는 것이 이번 출시의 목적이라고 설명합니다. 이 이름들은 지난 6월 GPT-5.6 Sol, Terra, Luna 프리뷰에서 처음 도입된 명명 체계를 따릅니다. 숫자는 세대를, 천체 이름은 능력 티어를 뜻합니다. 다만 두 세대의 구성이 같지는 않습니다. GPT-5.6 세대에서 Sol은 플래그십이었지만, GPT-6 세대에서는 Astra가 가장 위에 있고 Sol이 그 아래 티어가 되었습니다. 이번 발표문에는 Terra가 등장하지 않습니다. 그래서 이 발표를 읽을 때는 벤치마크 점수 하나보다 과제당 비용(cost per task) 축이 중요합니다. 원문의 모든 차트는 가로축에 과제 하나를 푸는 데 든 비용을 로그 스케일로, 세로축에 점수를 두고, 각 모델을 추론 강도(reasoning effort) 5단계(low, medium, high, xhigh, max)의 점 다섯 개로 그립니다. 이 글은 원문 차트에 들어 있는 점별 수치를 모두 확인해, 본문 서술에는 나오지 않는 비교(예: 추론 강도를 최대로 올렸을 때의 최고점)도 함께 정리했습니다. 가격과 모델 사양: 입력 $2와 $0.10, 컨텍스트 105만 토큰 원문이 제시한 가격 …

---

## [\[GN\] Claude Code 구축에서 얻은 교훈: 프롬프트 캐싱이 전부임](https://discuss.pytorch.kr/t/gn-claude-code/9041)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [2월 23, 2026, 9:30오전 UTC](https://discuss.pytorch.kr/t/gn-claude-code/9041 "2026-02-23T09:30:00Z")

</div>

'Claude Code 구축에서 얻은 교훈: 프롬프트 캐싱이 전부임' 글 소개 장기 실행 에이전트 제품에서 프롬프트 캐싱은 이전 라운드트립의 연산을 재사용해 지연 시간과 비용을 획기적으로 줄이는 핵심 기술로, Claude Code의 전체 아키텍처가 이를 중심으로 설계됨 캐싱은 접두사 매칭 방식으로 작동하므로, 정적 콘텐츠를 앞에 배치하고 동적 콘텐츠를 뒤에 배치하는 순서 설계가 비용과 성능을 좌우함 세션 중간에 도구나 모델을 변경하면 캐시가 무효화되므로, 도구 제거 대신 경량 스텁과 상태 전환용 도구를 활용하는 우회 설계가 필수 컨텍스트 윈도우 초과 시 수행하는 컴팩션(요약 축소) 작업도 부모 대화의 캐시 접두사를 공유해야 비용 폭증을 방지할 수 있음 캐시 적중률을 업타임처럼 모니터링하고, 수 퍼센트의 캐시 미스도 심각한 비용·지연 영향을 미치므로 인시던트로 취급해야 함 “Cache Rules Everything Around Me” 는 에이전트에도 그대로 적용됨 프롬프트 캐싱(prompt caching) 덕분에 Claude Code 같은 장시간 에이전트 제품을 가능하게 만드는 게 가능함 이전 라운드트립의 계산을 재사용해 latency와 cost를 크게 줄이는 효과 프롬프트 캐싱의 작동 원리와 시스템 프롬프트 배치 프롬프트 캐싱은 접두사(Prefix) 매칭 방식으로 작동하며, API가 요청 시작부터 각 cache\_control 중단점까지의 모든 내용을 캐싱 요청 간 공유 접두사를 최대화하는 것이 핵심이며, 이를 위해 정적 콘텐츠를 먼저, 동적 콘텐츠를 나중에 배치해야 함 Claude Code의 배치 순서: 정적 시스템 프롬프트 및 도구 (전역 캐싱) Claude.MD (프로젝트 내 캐싱) 세션 컨텍스트 (세션 내 캐싱) 대화 메시지 이 순서는 놀라울 정도로 깨지기 쉬우며, 정적 시스템 프롬프트에 상세 타임스탬프 삽입, 도구 순서의 비결정적 셔플링, 도구 매개변수 업데이트 등으로 인해 캐시 무효화가 될 수 있음 시스템 메시지를 …

---

## [Anthropic, Claude Opus 4.6 출시 및 기존 Pro/Max 사용자 대상 $50 추가 크레딧 증정 프로모션 진행 (~2/16)](https://discuss.pytorch.kr/t/anthropic-claude-opus-4-6-pro-max-50-2-16/8927)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [2월 6, 2026, 3:30오전 UTC](https://discuss.pytorch.kr/t/anthropic-claude-opus-4-6-pro-max-50-2-16/8927 "2026-02-06T03:30:23Z")

</div>

Claude Opus 4.6 소개 Anthropic은 (한국시간) 2026년 2월 6일, 자사의 가장 강력한 AI 모델인 Claude Opus 4.6을 공식 출시했습니다. 이번 릴리스는 이전 모델인 Opus 4.5의 지능을 기반으로 구축되었으며, 특히 코딩(Coding), 에이전트(Agents), 엔터프라이즈 워크플로우(Enterprise Workflows) 영역에서 신뢰성과 정밀도를 한 차원 높인 것이 특징입니다. Anthropic은 이 모델이 복잡한 작업을 수행할 때 "더 신중하게 계획하고(plans more carefully)", "에이전트 작업을 더 오래 지속하며(sustains agentic tasks for longer)", 대규모 코드베이스에서 더욱 안정적으로 작동한다고 설명했습니다. 이제 인공지능 모델이 단순한 채팅을 넘어 실제 업무를 수행하는 에이전트(Agent) 형태로 진화함에 따라, 복잡한 다단계 작업을 오류 없이 수행하는 능력이 필수적으로 요구되고 있습니다. Claude Opus 4.6은 이러한 요구에 맞춰 설계되었으며, 특히 개발자와 기업 고객이 안심하고 위임할 수 있는 '생각하는 능력(Reasoning)'과 '자체 수정(Self-correction)' 기능이 대폭 강화되었습니다. 또한, \*\*100만 토큰(1 million token)\*\*의 컨텍스트 창을 지원하여 방대한 문서나 코드베이스를 한 번에 처리할 수 있게 되었습니다. Claude Opus 4.6 vs. 이전 모델 및 경쟁 모델과 비교 Claude Opus 4.6 모델은 이전 세대 및 경쟁 모델들과 비교했을 때 다음과 같은 차별점을 가집니다: vs Claude Opus 4.5: Opus 4.6은 이전 모델인 Opus 4.5에 비해 코딩 및 에이전트 작업에서 눈에 띄게 향상된 성능을 보여줍니다. 벤치마크 결과에 따르면, 경제적으로 가치 있는 지식 작업을 평가하는 GDPval-AA에서 Opus 4.5보다 약 190 Elo 포…

---

## [OpenAI Codex의 핵심, 에이전트 루프(Agent Loop) 및 아키텍처 심층 분석](https://discuss.pytorch.kr/t/openai-codex-agent-loop/8821)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [1월 26, 2026, 9:30오후 UTC](https://discuss.pytorch.kr/t/openai-codex-agent-loop/8821 "2026-01-26T21:30:15Z")

</div>

Codex CLI와 에이전트 기술의 진화 Codex CLI는 개발자의 로컬 환경에서 고품질의 소프트웨어 변경 사항을 생성하고 실행하기 위해 설계된 OpenAI의 크로스 플랫폼 소프트웨어 에이전트입니다. 단순히 텍스트를 생성하는 데 그치지 않고, 사용자의 머신에서 안전하고 효율적으로 코드를 수정하거나 명령어를 실행하는 능력을 갖추고 있습니다. OpenAI는 최근 Codex CLI를 오픈소스로 전환하며 그 내부 동작 원리를 상세히 공개하기 시작했습니다. 이는 인공지능이 단순한 '채팅 상대'를 넘어 실제 개발 워크플로우를 주도하는 '에이전트'로 진화하고 있음을 보여주는 중요한 이정표입니다. Codex 프로젝트는 Codex CLI뿐만 아니라 클라우드 기반의 Codex Cloud, 그리고 VS Code 확장 프로그램을 모두 아우르는 거대한 에코시스템을 지향합니다. 그중에서도 Codex Harness라고 불리는 핵심 로직은 에이전트 루프와 실행 엔진을 제공하여 모든 Codex 경험의 근간을 이룹니다. 이 시스템은 사용자의 명령을 이해하고, 필요한 도구를 호출하며, 결과물을 다시 분석하여 최적의 코드를 작성하는 일련의 과정을 자동화합니다. 개발자는 이제 반복적인 코드 수정 작업에서 벗어나 더 높은 수준의 아키텍처 설계와 비즈니스 로직에 집중할 수 있게 되었습니다. 에이전트 루프: 지능형 상호작용의 핵심 메커니즘 에이전트 루프는 에이전트 아키텍처의 가장 중추적인 부분으로, 사용자 입력부터 최종 응답까지의 모든 과정을 관리합니다. 이 루프는 크게 입력 프롬프트 준비, 모델 추론(Inference), 도구 실행(Tool Execution)의 세 단계로 구성되며, 각 단계는 정교한 프로토콜에 따라 맞물려 돌아갑니다. 프롬프트 생성과 토큰화 과정 사용자가 입력을 제공하면 에이전트는 이를 포함한 텍스트 지침 세트인 프롬프트를 구성합니다. 이 프롬프트는 OpenAI의 토큰(Tokens) 개념을 기반으로 정수 시퀀스로 변환되어 모델에 전달됩니다. 토큰은 모델이 언어를 …

---

## [\[2025/02/10 ~ 02/16\] 이번 주의 주요 ML 논문 (Top ML Papers of the Week)](https://discuss.pytorch.kr/t/2025-02-10-02-16-ml-top-ml-papers-of-the-week/6147)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 1\
**마지막 업데이트:** [2월 19, 2025, 2:11오전 UTC](https://discuss.pytorch.kr/t/2025-02-10-02-16-ml-top-ml-papers-of-the-week/6147 "2025-02-19T02:11:43Z")

</div>

\[2025/02/10 ~ 02/16\] 이번 주의 주요 ML 논문 (Top ML Papers of the Week) PyTorchKR​:fire::south\_korea: :thinking::speech\_balloon: 이번 주에 선정된 논문들을 살펴보면, 전반적으로 ‘대규모 언어 모델(LLM)의 추론 능력을 고도화하고 다양한 영역에 적용하는 전략’이 두드러진다는 점이 돋보입니다. 특히 잠재 공간에서의 반복 계산(Latent Reasoning), 백트래킹(Backtracking), 자기 놀이를 통한 RL(Self-Play), 계층적 템플릿 기반 추론(ReasonFlux) 등, 모델이 스스로 더 깊이 있고 유연한 추론을 하도록 만드는 여러 기법들이 대거 소개되었습니다. 또한 모델이 외부 메모리(또는 추가 구조)를 활용해 장기 문맥을 처리하거나, 문제 난이도에 따라 계산 시간을 동적으로 조절(Training LLMs to Reason Efficiently)하는 등, 효율적이고 견고한 추론을 지향하는 시도도 눈에 띕니다. 반면, ‘프롬프트 캐싱 보안 이슈’나 ‘뇌 활동 기반 텍스트 해독(Non-invasive BCI)’과 같이, 순수 NLP/언어 모델의 고도화 외에도 AI 활용 분야가 점점 광범위해지고 있음을 보여주는 연구도 포함되어 있습니다. 예컨대, Brain2Qwerty는 EEG/MEG 뇌파 신호에서 텍스트를 디코딩하는 혁신적인 방안을 제시함으로써, 인터페이스·헬스케어 분야와의 접목 가능성을 보여주고 있습니다. 또한 Prompt Caching 감사 연구는 LLM API 제공에서 발생할 수 있는 보안상의 취약점을 경고함으로써, AI 시스템의 안전성·투명성에 대한 중요성을 다시 한번 상기시킵니다. 이처럼, 이번 주 논문들은 한편으로는 LLM이 더욱 복잡한 추론·계산을 다룰 수 있는 토대를 마련하고(예: latent reasoning, self-play, backtracking, ReasonFlux), 다른 한편으로는 효율성, 안정성, 응용성을 강화하는 …
