# \#amd-strix-halo-apu **URL:** https://discuss.pytorch.kr/tag/amd-strix-halo-apu/3781.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [\[GN⁺\] ChatGPT는 잊어라: 연구자들이 이제 노트북에서 소형 AI를 실행하는 이유 (feat. Nature)](https://discuss.pytorch.kr/t/gn-chatgpt-ai-feat-nature/5238)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [9월 23, 2024, 9:35오후 UTC](https://discuss.pytorch.kr/t/gn-chatgpt-ai-feat-nature/5238 "2024-09-23T21:35:04Z")
소개 인공지능(AI) 모델은 일반적으로 온라인에서 사용되지만, 여러 공개 도구들이 이를 변화시키고 있음 생체정보과학자 Chris Thorpe는 AI 도구인 대형 언어 모델(LLM)을 사용하여 면역 시스템 단백질인 주요 조직 적합성 복합체(MHC) 분자의 데이터베이스인 histo.fyi를 읽기 쉬운 요약으로 변환함 Thorpe는 ChatGPT와 같은 웹 기반 LLM 대신 랩탑에서 AI를 구동함 LLM의 최근 트렌드 조직에서 '오픈 가중치' 버전의 LLM을 제작하여 사용자가 충분한 컴퓨팅 능력만 있다면 로컬에서 다운로드하여 실행할 수 있도록 함 기술 기업에서는 소비자용 하드웨어에서 실행할 수 있는 축소 버전을 제작하고 있으며, 이는 이전의 대형 모델의 성능과 필적함 연구자들이 로컬 모델을 사용하는 이유 비용 절감 환자나 기업의 기밀 보호 재현성 보장 컴퓨터가 빨라지고 모델이 효율적이 됨에 따라 사람들은 점점 더 랩톱이나 모바일 기기에서 AI를 구동하게 될 것임 최근 공개된 소형 오픈 가중치 모델 예시 Google DeepMind, Meta, Allen Institute for Artificial Intelligence 등에서 수십억 개의 매개변수를 포함하는 모델을 공개함 Microsoft는 Phi-1, Phi-1.5, Phi-2, Phi-3, Phi-3.5 등의 소형 언어 모델을 공개하였으며, 이 중 일부는 이미지도 처리할 수 있음 Microsoft의 생성형 AI 부사장인 Sébastien Bubeck은 Phi-3의 성능을 훈련 데이터 세트에 기인한다고 설명함 맞춤형 애플리케이션 개발 연구자들은 이러한 도구를 기반으로 맞춤형 애플리케이션을 개발할 수 있음 중국의 Alibaba는 Qwen이라는 모델을 구축하였으며, 뉴햄프셔 주의 생체의학 과학자는 이를 과학 데이터로 미세 조정하여 Turbcat-72b를 만들었음 프라이버시 보호 로컬 모델의 또 다른 장점은 프라이버시 보호임 개인 식별 정보를 상용 서비스에 전송하는 것은 데이터 보호 규정에 위배될 …