LLM을 칩으로 구현하는 방법에 대한 스터디 제안건

안녕하세요^^ LLM 모델을 칩으로 구현이 가능하면 재미있을것 같은데 가능할까요?하기와 같은 재미 있는 접근법이 있어서 공유 드립니다,
pytorch LLM 모델을 그대로 verilog HDL 과 같은 High level HW 설계언어로 바꾸어서FPGA나 Asic 찹으로 구현하는 접근법이 있습니다,

감사합니다

4개의 좋아요

https://arxiv.org/pdf/2312.15159.pdf 내용 추가합니다

1개의 좋아요

(글 내용이 읽을거리&정보공유 게시판보다는 자유게시판 가 적절할 것 같아 이동하였습니다.)

오... 재밌을 것 같습니다 :star_struck:
꼭 LLM이 아니더라도 몇 가지 연산들을 추가해서 PyTorch Lib에 붙여보는 식으로 스터디해보는 것도 재밌을 것 같습니다.

다만 ASIC은 비용 등으로 현실적으로 어려울 것 같고... FPGA도 가능할지는 모르겠네요 :sweat_smile:
혹시 H/W쪽 업계에 계시는걸까요? +_+

예전에 verilog HDL 등으로 칩개발을 한적이 있었습니다. 지금은 SW쪽입니다
그런데 실시간 채팅이나 메신저는 없나요?

메일로 전화번호 알려주시면 전화드리겠습니다

앗, 혹시 더 많은 분들이 함께 하실 수 있게 게시판에 공유해주시는 것은 어려우실까요? :sweat_smile:

1개의 좋아요

게시판에 올려도 됩니다. 메신저 같은게 있으면 좋겠는데요.

2개의 좋아요