[Nota on AIr] 10월 14일, 노타와 래블업이 유튜브 라이브를 진행합니다.
내 PC의 제한된 메모리 안에서 원하는 LLM을 실행할 수 있을까요?
실행한 LLM을 업무에 활용하려면 무엇부터 해야 할까요?
이번 라이브에서는 Nota AI와 래블업 주식회사가 모델 최적화부터 에이전트 활용까지, AI PC에서 로컬 LLM을 실행하고 업무에 적용하는 방법을 라이브 데모로 보여드립니다.
노타는 AI PC에서 로컬 LLM을 실행하기 위한 모델 최적화 과정을 소개하고, 최적화 전후의 모델 크기와 메모리 사용량 등을 비교합니다. 이어 래블업은 최적화된 LLM을 Backend.AI GO에 연동해 에이전트를 구성하고, 실제 업무에 활용하는 과정을 시연합니다.
이번 라이브에서 확인할 수 있는 내용
- AI PC에서 LLM을 실행하기 어려운 이유
- 제한된 환경에 맞춰 LLM을 최적화하는 방법
- 최적화 전후 모델 크기와 메모리 사용량의 변화
- 최적화된 LLM을 실제 업무에 활용하는 방법
내 AI PC에서 LLM을 직접 실행해보고 싶거나, 로컬 LLM을 업무에 활용하는 방법이 궁금하다면 이번 라이브에서 확인해보세요.
10월 14일 수요일 오후 8시
유튜브 라이브
라이브 사전 등록: [Nota on AIr #02] AI PC에서 로컬 LLM을 더 가볍고, 더 쉽게 사용하기 — Nota AI
사전 등록 시 궁금한 점을 남겨주시면 당일 Q&A에서 노타와 래블업 발표자가 함께 답변드립니다.