[GN] 뇌에서 영감을 받은 IBM의 NorthPole 칩, AI의 속도와 효율성을 크게 향상

GeekNewsxguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley_cat:


소개

NorthPole

  • 외부 메모리에 액세스하는 것을 줄여서 컴퓨팅 성능을 높이고 에너지를 절약
  • 메모리와 프로세싱을 함께 제공(컴퓨팅과 메모리의 대규모 통합)
  • 256개의 코어로 되어있으며 각 코어 유닛에는 자체 메모리가 포함되어 있어서 폰 노이만 병목현상을 완화
  • 코어는 인간 대뇌 피질(human cerebral cortex) 사이의 백질 연결(white-matter connections)에서 영감을 얻은 네트워크로 서로 연결됨
  • 이미지 인식에 대한 표준 벤치마크 테스트에서 상당한 차이로 기존 AI 머신을 능가
  • 또한 가장 최신의 소형화된 제조 공정을 사용하지 않음에도 불구하고 최첨단 AI 칩의 에너지를 5분의 1만 사용
    • 최신 제조 공정으로 구현된다면 효율성은 현재 설계보다 25배 더 좋아질 것
  • 하지만 NorthPole의 224MB RAM은 가장 압축된 버전에서도 수천 메가의 데이터를 차지하는 챗봇 ChatGPT에서 사용하는 것과 같은 대규모 언어 모델에는 충분하지 않음
  • 이 칩은 별도의 컴퓨터에서 미리 '훈련'해야 하는 사전 프로그래밍된 신경망만 실행가능
  • 논문의 저자들은 노스폴 아키텍처가 자율주행차와 같이 속도가 중요한 애플리케이션에 유용할 수 있다고 주장

원문

https://www.nature.com/articles/d41586-023-03267-0

출처 / GeekNews