# \#bespoke-stratos-7b **URL:** https://discuss.pytorch.kr/tag/bespoke-stratos-7b/4396.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [Open Thoughts: 추론(reasoning) 모델을 위한 양질의 데이터셋 및 모델 프로젝트 (feat. Bespoke Labs & DataComp)](https://discuss.pytorch.kr/t/open-thoughts-reasoning-feat-bespoke-labs-datacomp/6002)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [1월 29, 2025, 11:00오후 UTC](https://discuss.pytorch.kr/t/open-thoughts-reasoning-feat-bespoke-labs-datacomp/6002 "2025-01-29T23:00:26Z")
Open Thoughts 프로젝트 소개 Open Thoughts는 Bespoke Labs와 DataComp 커뮤니티(Stanford, UC Berkeley, UT Austin, UCLA, UNC, LAION 등)가 주도하는 오픈소스 추론 데이터셋 구축 프로젝트입니다. 최근 DeepSeek-R1, SkyT1, STILL-2 등의 모델이 복잡한 문제를 해결하는 추론(reasoning) 능력은 데이터 품질에 크게 좌우되며, 수십만 개의 추론 데이터만으로도 놀라운 성능 향상을 이룰 수 있음을 보여주었습니다. 하지만 이러한 데이터셋은 대부분 비공개이며, 공개된 데이터 생성 전략도 많지 않습니다. Open Thoughts 프로젝트는 이 문제를 해결하기 위해 출발했으며, 최고 수준의 오픈소스 추론 데이터셋을 구축하고 공개하는 것을 목표로 합니다. 추론 능력이 강한 AI 모델을 연구하거나, 자체적인 데이터셋을 구축하려는 개발자라면 이 프로젝트를 주목할 필요가 있습니다. 이 프로젝트의 주요 목표는 다음과 같습니다: 고품질의 오픈소스 추론 데이터셋 구축 데이터 생성 전략을 공개 및 공유 추론 능력이 뛰어난 소형 AI 모델 개발 Open Thoughts 프로젝트의 데이터셋 :open\_book: Open Thoughts 프로젝트의 첫 번째 목표는 추론 데이터 세트를 선정 및 생성하는 것입니다. 여기에는 수학(Math), 코드(Code), 과학(Science), 퍼즐(Puzzle)의 4가지 도메인이 포함되어 있습니다. 현재까지 Bespoke-Stratos-17k 데이터셋 및 이를 더 큰 규모로 확장한 Open-Thoughts-114k 데이터셋이 공개되었습니다. 확장 시에는 DeepSeek-R1 모델을 기반으로 합성 데이터(synthetic data)를 대규모 생성하여 만들어졌습니다. 각 데이터셋은 다음에서 확인할 수 있습니다: Open Thoughts 프로젝트의 공개 모델 :package: Open Thoughts 프로젝트의 주요 목표 중 하나는 수학 …