PyTorchKR
- AMD Zen 아키텍처를 비롯하여 Apple 아이폰의 초창기 프로세서와 Tesla의 자율주행 칩 등을 설계한, 현대 컴퓨터 아키텍처와 반도체 설계 분야에서 가장 영향력 있는 짐 켈러(Jim Keller)의 Tenstorrent의 첫번째 AI 개발용 하드웨어가 출시되었습니다. RISC-V 기반의 AI 연산 처리에 특화된 PCIe 인터페이스의 하드웨어로, $599 및 $799의 가격의 2가지 모델이 출시되었습니다.
소개
Grayskull은 Tenstorrent에서 개발한, RISC-V 아키텍처를 기반으로 하는 새로운 하드웨어입니다. 이 기기는 특히 AI 분야에서 기존 GPU와 비교하여 프로그래밍의 용이성, 확장성, 그리고 특정 AI 연산 처리에 있어 우수한 성능을 제공합니다. Grayskull의 주요 특징은 다음과 같습니다:
-
RISC-V 기반: Grayskull은 RISC-V 아키텍처를 사용합니다. 이는 라이선스 비용 없이 사용할 수 있는 개방형 표준으로, 맞춤형 솔루션 개발의 유연성을 제공합니다.
-
프로그래밍 및 스케일링 용이: Grayskull은 프로그래밍하기 쉽고, 다양한 규모의 AI 프로젝트에 적용하기 용이하도록 설계되었습니다.
-
런타임 희소성 및 조건부 계산 처리: 이 기술은 AI 연산 중 불필요한 계산을 최소화하고, 필요한 계산만을 효율적으로 처리하여 성능을 최적화합니다.
Grayskull 제품 구성: e75와 e150
Tenstorrent는 이 하드웨어를 기반으로 한 두 가지 DevKits, Grayskull e75와 e150을 발표했습니다. 이들은 AI 개발을 위한 추론 전용 하드웨어로, 다양한 모델을 실행하거나 사용자 정의 모델을 작성할 수 있는 소프트웨어와 함께 제공됩니다.
Grayskull DevKits는 TT-Buda와 TT-Metalium이라는 두 가지 소프트웨어와 함께 제공됩니다. TT-Buda는 모델을 바로 실행할 수 있는 소프트웨어이며, TT-Metalium은 사용자가 모델을 사용자 정의하거나 새로운 모델을 작성하고자 할 때 사용됩니다. 이러한 소프트웨어와 함께 Grayskull 하드웨어는 AI 개발에 필요한 다양한 작업을 수행할 수 있습니다.
Grayskull은 Tensix 코어로 구성된 코어 그리드와 직접 네트워크 통신이 가능한 하드웨어를 포함합니다. 이를 통해 DRAM을 거치지 않고 직접 네트워크를 통해 서로 통신할 수 있습니다. Grayskull DevKits는 자연어 처리에 BERT, 이미지 인식에 ResNet, 음성 인식과 번역에 Whisper, 실시간 객체 탐지에 YOLOv5, 이미지 세분화에 U-Net 등 다양한 모델을 지원합니다. 이 개발 도구는 각각 $599와 $799에 구매 가능합니다.
Grayskull AI 프로세서 스펙 비교표
| Specification | e75 | e150 |
|---|---|---|
| Tensix Cores | 96 | 120 |
| AI Clock | 1 GHz | 1.2 GHz |
| SRAM | 96MB | 120MB |
| Memory | 8GB LPDDR4 | 8GB LPDDR4 |
| Memory Speed | 3.2 GT/sec | 3.7 GT/sec |
| Memory Bandwidth | 102.4 GB/sec | 118.4 GB/sec |
| TFLOPs (FP4) | 221 | 332 |
| TBP (Total Board Power) | 75W | 200W |
| External Power | 1x 6-pin PCIe (required for powering fan) | 1x 6+2-pin PCIe 1x 6-pin PCIe |
| System Interface | PCI Express 4.0 x16 | PCI Express 4.0 x16 |
| Cooling | Active | Passive (Active Cooling Kit sold separately) |
| Dimensions (w/o Cooling Kit) (WxDxH) | 18mm x 167.5mm x 69mm | 36mm x 259.8mm x 111.25mm |
| Dimensions (w/ Cooling Kit) (WxDxH) | 18mm x 257mm x 98mm | 36mm x 399mm x 114mm |
Tenstorrent 회사 홈페이지
Grayskull 제품 소개 및 구매 페이지
Grayskull 기술 문서
관련 기사
이 글은 GPT 모델로 정리한 것으로, 잘못된 부분이 있을 수 있으니 글 아래쪽의 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. 
파이토치 한국 사용자 모임이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일
로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)
아래
쪽에 좋아요
를 눌러주시면 뉴스 발행에 힘이 됩니다~ 