OpenAI의 최신 Model Spec 업데이트 소개
OpenAI가 AI 모델의 행동 원칙을 정의하는 Model Spec을 업데이트했습니다. 이번 업데이트는 사용자와 개발자의 맞춤형 설정을 강화하고, 투명성과 지적 자유를 보장하는 동시에, AI가 현실적으로 해를 끼치는 것을 방지하기 위한 안전 가이드라인을 더욱 명확하게 정리했습니다. 또한, 모델이 실제로 이 원칙을 얼마나 잘 따르는지에 대한 초기 분석 결과도 함께 공개되었습니다.
Model Spec은 OpenAI의 AI 모델이 어떻게 동작해야 하는지를 정의한 문서로, AI의 유용성, 안전성, 사용자 및 개발자 맞춤형 설정을 중점적으로 다룹니다. OpenAI는 AI를 모든 인류에게 혜택을 주는 방향으로 발전시키는 것을 목표로 하며, 이를 위해 모델이 다음과 같은 원칙을 따르도록 설계했습니다.
특히, 이번 Model Spec은 이번 업데이트에서는 특히 사용자의 지적 자유(intellectual freedom)를 보장 하면서도 명확한 안전 경계를 유지하는 것 을 중점적으로 다루었습니다. 또한, 오픈 소스로 공개(CC0 라이선스 적용) 되어, 누구나 이를 자유롭게 활용하고 수정할 수 있도록 했습니다.
기존 AI 정책들은 종종 불투명한 기준으로 인해 AI의 응답이 예상과 다르게 제한되는 경우가 많았습니다. 반면, 새로운 Model Spec은 명확한 기준과 체계적인 우선순위 체계를 제공하여 개발자와 사용자가 더욱 효과적으로 AI의 행동을 조정할 수 있도록 합니다.
이번 업데이트의 주요 내용
먼저, AI의 행동을 결정하는 우선순위 체계가 정교하게 다듬어졌습니다. AI는 OpenAI의 정책을 가장 우선으로 하되, 그다음으로 개발자와 사용자의 맞춤형 설정을 존중하는 방식으로 작동하도록 설계되었습니다. 즉, OpenAI가 설정한 최소한의 안전 가이드라인 내에서는 개발자와 사용자가 AI의 동작 방식을 자유롭게 조정할 수 있도록 보장하는 것이 핵심입니다. 예를 들어, AI의 대화 스타일이나 특정 분야에서의 응답 방식을 개발자가 원하는 방향으로 최적화할 수 있도록 하면서도, 사회적으로 용인될 수 없는 행동(예: 폭력 선동, 개인 정보 침해 등)은 엄격히 제한하는 방식입니다.
또한, AI가 특정한 관점을 강요하지 않고 다양한 시각에서 논의할 수 있도록 하는 원칙이 강조되었습니다. AI는 정치적이거나 문화적으로 민감한 질문에도 객관적인 사실을 기반으로 답변하며, 사용자가 스스로 판단할 수 있도록 돕는 역할을 하도록 설계되었습니다. OpenAI는 AI가 사람들의 자유로운 탐구와 토론을 방해하지 않도록 해야 한다고 보고 있으며, 이를 위해 Model Spec을 더욱 명확하게 정리했습니다. 단, AI가 폭력적인 행위를 조장하거나, 범죄에 악용될 수 있는 정보를 제공하는 것은 여전히 엄격히 제한됩니다. 즉, AI는 사회적 이슈에 대해 객관적인 정보를 제공하며 토론을 돕는 역할을 하되, 현실적으로 위험한 정보는 제공하지 않도록 설계되었습니다.
이번 업데이트에서는 모델의 정확성과 성능을 평가하는 시스템도 도입되었습니다. OpenAI는 AI가 Model Spec에서 정의한 원칙을 얼마나 잘 준수하는지 측정하기 위해 다양한 시나리오를 포함한 테스트 프롬프트 세트를 개발했습니다. 이 테스트를 통해 2024년 5월 발표된 초기 Model Spec과 비교했을 때 AI의 정책 준수율이 크게 향상된 것이 확인되었습니다. OpenAI는 이를 긍정적인 변화로 평가하면서도, 여전히 개선할 부분이 많다고 보고 있으며, 지속적으로 피드백을 반영해 나갈 계획입니다.
마지막으로, OpenAI는 Model Spec을 오픈 소스로 공개하여 개발자와 연구자들이 이를 자유롭게 활용할 수 있도록 했습니다. Creative Commons CC0 라이선스가 적용되었기 때문에, 누구나 Model Spec을 기반으로 자신만의 AI 시스템을 설계하고 평가할 수 있는 기회를 가지게 되었습니다. 또한, OpenAI는 Model Spec뿐만 아니라 AI의 정책 준수율을 평가하는 테스트 프롬프트까지 함께 공개했으며, 앞으로도 관련 코드와 툴을 추가로 제공할 계획입니다.
앞으로의 방향
OpenAI는 앞으로도 AI 모델의 신뢰성과 사용자 맞춤형 설정을 더욱 강화해 나갈 계획입니다. Model Spec 역시 지속적으로 업데이트될 예정이며, 변경 사항은 OpenAI의 공식 웹사이트(model-spec.openai.com)에서 확인할 수 있습니다. 특히, OpenAI는 더 많은 사람들의 의견을 반영하기 위해 약 1,000명의 사용자 그룹을 대상으로 AI 모델의 행동을 평가하는 실험을 진행하고 있으며, 이를 통해 더욱 정교한 AI 정책을 마련할 계획입니다.
이번 Model Spec 업데이트는 AI의 객관성, 창의성, 안전성, 그리고 사용자 맞춤형 설정을 동시에 강화하려는 OpenAI의 노력이 반영된 결과입니다. AI가 점점 더 많은 사람들의 삶에 영향을 미치는 만큼, OpenAI는 이를 지속적으로 개선하고, 피드백을 반영하며 발전시켜 나갈 것입니다.
라이선스
OpenAI의 모델 스펙(Model Spec)은 Creative Commons CC0 라이선스로 공개되어 있으며, 누구나 자유롭게 사용 및 수정할 수 있습니다.
OpenAI의 Model Spec 업데이트 내용 공유 블로그
https://openai.com/index/sharing-the-latest-model-spec/
OpenAI의 Model Spec 홈페이지
https://model-spec.openai.com/
OpenAI의 Model Spec GitHub 저장소
이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. 
파이토치 한국 사용자 모임
이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일
로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)
아래
쪽에 좋아요
를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ 