# \#llm-course

**URL:** https://discuss.pytorch.kr/tag/llm-course/2447.md

[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)

---

## [Andrej Karpathy, LLM 구현을 위한 강좌 LLM101n 준비 중](https://discuss.pytorch.kr/t/andrej-karpathy-llm-llm101n/4705)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [6월 27, 2024, 3:14오전 UTC](https://discuss.pytorch.kr/t/andrej-karpathy-llm-llm101n/4705 "2024-06-27T03:14:33Z")

</div>

Andrej Karpathy, LLM 구현을 위한 강좌 LLM101n 준비 중 들어가며 :pytorch::kr: 최근 안드레이 카파시의 행보가 흥미롭습니다. C언어로 GPT-2 학습 코드를 작성한 llm.c를 공개한 뒤, 이를 통해 직접 학습하는 과정을 공개하기도 하였고, nanoGPT를 재현해보는 저장소와 강의를 공개한데 이어, 이번에는 LLM을 실제로 구현해보는 LLM101n 강좌를 준비 중입니다. Python과 C, 그리고 CUDA를 활용하여 End-to-End로 실제 동작하는 WebApp을 구축하는 것을 목표로 하고 있다고 합니다. :astonished: 아직 공개 전이고, 구체적인 공개 일자 또한 미정이지만, 관심있으신 분들이라면 일단 :star:(Star)와 :eyes:(Watch)를 해두시면 좋을 것 같아 소개드립니다. :smiley: 소개 LLM101n: Let's build a Storyteller 프로젝트는 스토리텔러 AI 대형 언어 모델(LLM)을 구축하는 과정입니다. 이 강좌를 통해 사용자는 AI를 이용해 작은 이야기를 만들고, 수정하고, 그림까지 그려볼 수 있습니다. ChatGPT와 유사한 웹 애플리케이션을 기본적인 파이썬, C, CUDA 지식을 바탕으로 처음부터 끝까지 구축하는 방법을 배우게 됩니다. 이 과정을 통해 AI, LLM, 딥러닝에 대한 깊이 있는 이해를 갖추게 될 것입니다. 특히, TinyStories 데이터셋을 활용하여 이야기를 생성하고 수정하는 데 중점을 두고 있습니다. 또한, 이 과정에서는 기본적인 언어 모델링 기법부터 최신의 Transformer 모델까지 폭넓게 다룹니다. 기존의 LLM 강좌들이 단순한 이론적 접근에 그치는 반면, 이 강좌는 실질적인 구현을 목표로 합니다. 강의 계획 (Syllabus) 아직 준비 중인 강의로, 목차 링크에는 아무런 문서가 없습니다. 강의 공개에 대한 구체적인 일정 목표는 없으며, 관심은 감사하지만 Issue / PR은 지양해주시기를 부탁드립니다. Update June 25. …

---

## [LLM Course: 대규모 언어 모델(LLM)에 대한 체계적인 학습 과정](https://discuss.pytorch.kr/t/llm-course-llm/3287)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 3\
**마지막 업데이트:** [1월 27, 2024, 10:06오전 UTC](https://discuss.pytorch.kr/t/llm-course-llm/3287 "2024-01-27T10:06:48Z")

</div>

PyTorchKR​:fire::south\_korea: :thinking::speech\_balloon: 대규모 언어 모델(LLM, Large Language Model)에 대한 관심이 높아지며 많은 개발자들이 새롭게 접근하고 있지만, 빠르게 발전하고 있어 잘 정리된 정보를 찾기가 쉽지 않습니다. DevOps 로드맵 저장소에 영감을 받아 LLM 분야에 대해서도 체계적인 학습 과정을 정리하고 있는 저장소가 있어 소개합니다. GitHub 저장소에 최신 내용들이 계속 업데이트될 예정이니, 가급적 아래 링크를 통해 원문을 함께 참고해주시기를 부탁드립니다 :bowing\_man: 이 글은 GPT 모델로 정리한 것으로, 잘못된 부분이 있을 수 있으니 글 아래쪽의 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. :hugs: https://github.com/mlabonne/llm-course 소개 대규모 언어 모델에 대한 이 과정은 다음의 3부분으로 나뉘어 있습니다: 다양한 노트북 소개: LLM과 관련한 다양한 주제들에 대한 문서 및 노트북들을 정리하고 있습니다. :puzzle\_piece: LLM 기초(LLM Fundamentals) 과정: Python, 수학, 인공신경망 등에 대한 내용을 다루고 있습니다. :scientist: LLM 과학자(LLM Scientist) 과정 : 최신 기술을 사용하여 가능한 최고의 LLM을 구축하는 내용을 다루고 있습니다. :construction\_worker: LLM 엔지니어(LLM Engineer) 과정 (준비 중): LLM 기반 애플리케이션 개발 및 배포에 대한 내용을 다루고 있습니다. :memo: 노트북(Notebook) 대규모 언어 모델과 관련된 노트북 및 문서 목록입니다. LLMOps 도구 관련 노트북 제목 설명 노트북 링크 :face\_with\_monocle: LLM AutoEval RunPod를 사용하여 LLM을 자동으로 평가 Google …
