OpenAI의 Strawberry 모델 소개
OpenAI는 'Strawberry'라는 이름의 AI 모델을 곧 출시할 계획으로 알려졌습니다. 이 모델은 고도의 추론 능력과 수학적 문제 해결 능력을 갖춘 것으로 알려져 있으며, 초기에는 제한된 테스트 그룹에서 사용될 예정입니다.
Strawberry는 심리학자 대니얼 카너먼(Daniel Kahneman)의 책 생각에 관한 생각(원제: Thinking, Fast and Slow) 에서 소개된 시스템 2(System 2) 스타일의 사고를 채택하고 있습니다. 이 방식은 느리고 신중하며 분석적인 방식으로 사고하여 의식적 추론을 수행하여 더 나은 추론 능력을 보입니다. (반면, 시스템 1은 직관적이고 감정적인 사고를 특징으로 합니다.)
이러한 특징 때문에 Strawberry는 사용자의 입력에 즉각적으로 반응하지 않으며, 입력과 응답을 처리하는 데 10~20초를 소요하여 오답을 줄이도록 설계되었다고 합니다. 지금까지 알려진 Strawberry의 주요 특징은 다음과 같습니다:
- 고급 추론 및 문제 해결 능력: 복잡한 문제를 체계적으로 해결할 수 있는 능력을 갖추고 있습니다.
- 수학적 문제 해결 능력: 수학 문제에 대한 강력한 해결 능력을 보여줄 예정입니다.
- ChatGPT와의 통합 가능성: Strawberry는 차세대 언어 모델인 Orion 또는 GPT-5와 통합될 가능성이 있습니다.
STaR(Self-Taught Reasoner)와의 연관성
Strawberry는 2022년에 발표된 STaR(Self-Taught Reasoner) 연구와 유사점이 있습니다. STaR는 모델이 스스로 학습하고 추론 능력을 개선하도록 설계된 반복적 자기 학습 시스템입니다. 이 과정은 합리적인 예시를 통해 모델이 학습하고, 이를 바탕으로 더 복잡한 문제를 해결하도록 돕습니다.
STaR의 학습 단계는 다음과 같습니다:
- 합리적 예시 생성: 초기 예시를 통해 모델이 단계별로 문제를 해결하는 방법을 학습합니다.
- 필터링: 생성된 예시 중 올바른 해답을 제공한 경우만 선택됩니다.
- 미세 조정: 선택된 데이터셋을 바탕으로 모델이 추가 학습을 진행합니다.
- 반복: 위 과정을 반복하며 모델의 성능을 점진적으로 향상시킵니다.
- 합리화(선택적): 잘못된 해답에 대해 올바른 해답을 제시하고, 이를 정당화하는 설명을 생성하도록 유도합니다.
STaR와 Strawberry는 모두 수학적 문제를 해결하는 데 탁월한 성능을 보이고 있으며, 인간이 문제를 해결하는 방식과 유사한 생각의 사슬(CoT, Chain-of-Thought) 추론 방식을 채택하고 있습니다.
관련 기사
이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. 
파이토치 한국 사용자 모임
이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일
로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)
아래
쪽에 좋아요
를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ 