아래 @yblee 님께서 올려주셨던 것처럼, 바다 건너에서는 Microsoft의 개발자 행사인 BUILD가 진행 중인데요,
이 중 안드레이 카파시(Andrej Karpathy)의 발표가 있어서 퍼왔습니다.
발표 내용은 아래와 같다고 합니다:
토큰화부터 사전 학습, 감독에 의한 미세 조정, 인간 피드백을 통한 강화 학습(RLHF)에 이르기까지 ChatGPT와 같은 GPT 어시스턴트의 교육 파이프라인에 대해 알아보세요. 프롬프트 전략, 미세 조정, 빠르게 성장하는 도구 에코시스템, 향후 확장 등 이러한 모델을 효과적으로 사용하기 위한 실용적인 기술과 멘탈 모델에 대해 자세히 알아보세요.
Learn about the training pipeline of GPT assistants like ChatGPT, from tokenization to pretraining, supervised finetuning, and Reinforcement Learning from Human Feedback (RLHF). Dive deeper into practical techniques and mental models for the effective use of these models, including prompting strategies, finetuning, the rapidly growing ecosystem of tools, and their future extensions.
발표 영상은 아래에서 보실 수 있으며,
아래 홈페이지에서 보시면 자동 생성 한국어 자막을 함께 보실 수 있습니다. 