# \#backprompting **URL:** https://discuss.pytorch.kr/tag/backprompting/5491.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [\[2025/09/08 ~ 14\] 이번 주에 살펴볼 만한 AI/ML 논문 모음](https://discuss.pytorch.kr/t/2025-09-08-14-ai-ml/7738)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [9월 14, 2025, 9:30오후 UTC](https://discuss.pytorch.kr/t/2025-09-08-14-ai-ml/7738 "2025-09-14T21:30:40Z")
\[2025/09/08 ~ 14\] 이번 주에 살펴볼 만한 AI/ML 논문 모음 PyTorchKR​:fire::south\_korea: :thinking::thought\_balloon: :one: 언어 모델의 환각 현상: 최근 연구에서는 대규모 언어 모델이 불확실할 때 추측을 통해 그럴듯하지만 부정확한 진술을 생성하는 '환각' 현상을 보인다는 점이 강조되고 있습니다. 이는 학습 및 평가 절차에서 불확실성을 인정하기보다는 추측을 보상하는 경향이 있기 때문이며, 이러한 환각을 해결하기 위해 기존 벤치마크의 점수 체계를 수정해야 한다고 주장합니다. :two: 의미론적 구조의 이해: 대규모 언어 모델의 임베딩 행렬에서 의미론적 연관성이 어떻게 구조화되어 있는지를 분석한 연구가 증가하고 있습니다. 이러한 연구는 인간의 의미 평가와 유사한 저차원 구조를 발견하고, 단어의 의미 방향에 따른 투영이 인간 평가와 높은 상관관계를 보인다는 점을 강조합니다. 이는 언어 모델이 인간 언어와 유사한 방식으로 의미적 정보를 처리하고 있음을 시사합니다. :three: 강화 학습을 통한 고급 추론 능력 향상: 강화 학습(RL)을 활용하여 대규모 언어 모델의 복잡한 추론 능력을 향상시키려는 연구가 활발히 진행되고 있습니다. 특히, RL 알고리즘의 효율성을 높이기 위해 깊이와 폭을 조절하는 방법이 제안되고 있으며, 이는 모델이 고급 전략적 계획을 탐색하고 마스터하는 데 중요한 역할을 한다고 밝혀졌습니다. 이러한 접근은 RLVR(검증 가능한 보상 강화 학습)과 같은 새로운 패러다임을 통해 이루어지고 있습니다. 언어 모델이 환각을 일으키는 이유 / Why Language Models Hallucinate (feat. OpenAI) 논문 소개 대규모 언어 모델은 불확실한 상황에서 정답을 추측하는 경향이 있으며, 이로 인해 그럴듯하지만 잘못된 정보를 생성하는 "환각" 현상이 발생한다. 이러한 환각은 최신 모델에서도 여전히 문제로 남아 있으며, 신뢰성을 저해하는 주요 원인으로 작용한다. 본 연…