안녕하세요 국내 최대 오프라인 인공지능 커뮤니티 모두의연구소입니다!
오늘은 애플 기기에서 즐기는 Stable Diffusion, Eilixir를 이용한 Space 배포하기, 마지막으로 GPU 인식을 최적화해 스마트폰에서도 Diffusion 모델 구축하는 방식에 대한 이야기입니다!
- 애플 기기에서 즐기는 Stable Diffusion
이번에 WWDC에서 애플이 발표한 소식 중 하나는 머신러닝 파트에서 소개된 CoreML에 대한 내용이었습니다. CoreML은 애플에서 사용하는 프레임워크로, 이번 발표에서는 그 동안의 딥러닝 기능에 더해 압축 및 최적화 기술에 집중했다고 합니다! 가장 흥미로운 점은 CoreML이 애플의 실리콘 칩인 M1이나 M2와 같은 기기에서도 작동할 수 있다는 것인데요 이는 애플이 자체적으로 개발한 실리콘 기술의 성능과 효율성을 미친 결과로 매우 흥미로운데요~! 아래 블로그를 보시면 해당 모델에 대해 더욱 상세한 내용이 기재되어 있으니까 참고하세요!
Faster Stable Diffusion with Core ML on iPhone, iPad, and Mac
- 쉽고 강력한 툴 엘릭서 Livebook notebook으로 Hugging Face Space에 배포하기
함수형 프로그래밍 언어인 Elixir와 Elixir Livebook을 활용하여 Whisper 기반 채팅앱을 구축하고 스페이스에 배포하는 방법에 대해 소개하는 블로그를 소개해드릴게요! Elixir는 실시간 시스템과 분산 시스템에 최적화된 언어로, 이 블로그에서는 Livebook을 사용하여 빠르게 배포하는 과정을 상세히 다루고 있는데요. 함수형 프로그래밍 언어에 관심이 있는 분이라면 도움이 될 것 같아요~!
Deploy Livebook notebooks as apps to Hugging Face Spaces
- GPU-인식 최적화를 통한Diffusion 모델을 스마트폰에서 가속화하기
Diffusion 모델과 LLM의 대세화로 인해 모델의 크기는 이전과 비교할 수 없을 정도로 커졌습니다. 그러나 이로 인해 모바일 환경에서의 머신러닝 추론은 성능 최적화와 리소스 제약에 직면하게 되었습니다. 구글이 최근 발표한 논문은 모바일 GPU에서도 모델을 실행할 수 있도록 설계되었으며, 이름 그대로 'Speed is all you need'처럼 속도에도 주목했는데요! 이 논문은 CVPR 2023 워크숍에서 발표될 예정이며, 모바일 머신러닝에 관심있는 분들은 꼭 읽어보시길 추천합니다!
Speed is all you need: On-device acceleration of large diffusion models via GPU-aware optimizations
모두의연구소와 지식을 나누고 함께 성장할 개발자를 기다립니다.
모두의연구소가 만든 AI학교 쏘카 캠퍼스 모집 중 ⇒ 아이펠 캠퍼스 - 모두의연구소가 만든 AI학교 아이펠