# \#apple-mm1 **URL:** https://discuss.pytorch.kr/tag/apple-mm1/2724.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [Apple, 멀티모달 LLM 'MM1'에 대한 연구 결과 발표 (모델 공개X)](https://discuss.pytorch.kr/t/apple-llm-mm1-x/3772)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 3\ **마지막 업데이트:** [11월 7, 2024, 9:48오전 UTC](https://discuss.pytorch.kr/t/apple-llm-mm1-x/3772 "2024-11-07T09:48:18Z")
PyTorchKR​:fire::south\_korea: :thinking::speech\_balloon: 이번 주에만 두번째로 Apple의 소식을 전하게 되었습니다. :astonished: Apple에서 이번에 VLM 및 시각 연역 추론에 대한 연구를 공개한데 이어, 효율적인 대규모 멀티모달 모델을 구축하는데 있어서의 연구 내용을 공개했습니다. 이 논문은 MM1이라 불리는 Apple의 M-LLM (Multimodal LLM)들을 연구하면서 나온 성과이며, 모델 코드나 가중치 등은 공개하지 않았지만 앞으로 Apple:apple:의 행보가 기대되는 논문입니다. 아래 내용을 비롯하여 Multimodal LLM을 학습하시거나 튜닝하실 때 도움이 될만한 내용들이 많으니, 함께 살펴보시죠! Image Encoder Lesson: 이미지 해상도가 가장 큰 영향을 미치며, 모델 크기와 학습 데이터 구성이 그 뒤를 따릅니다. (Image resolution has the highest impact, followed by model size and training data composition.) VL Connector Lesson: 비주얼 토큰의 수와 이미지 해상도가 가장 중요하며, VL 커넥터 유형은 거의 영향을 미치지 않습니다. (Number of visual tokens and image resolution matters most, while the type of VL connector has little effect.) Data Lessons 인터리브 데이터는 퓨-샷과 텍스트 전용 성능에 도움이 되고, 캡션 데이터는 제로-샷 성능을 향상시킵니다. (Interleaved data is instrumental for few-shot and textonly performance, while captioning data lifts zero-shot performance.) 텍스트 전용 데이터는 퓨-샷 및 텍스트 전용 성능에 도움이 됩니다. (Text-only … --- ## [\[2024/03/11 ~ 03/17\] 이번 주의 주요 ML 논문 (Top ML Papers of the Week)](https://discuss.pytorch.kr/t/2024-03-11-03-17-ml-top-ml-papers-of-the-week/3787)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [3월 18, 2024, 4:10오전 UTC](https://discuss.pytorch.kr/t/2024-03-11-03-17-ml-top-ml-papers-of-the-week/3787 "2024-03-18T04:10:00Z")
\[2024/03/11 ~ 03/17\] 이번 주의 주요 ML 논문 (Top ML Papers of the Week) PyTorchKR​:fire::south\_korea: :thinking::speech\_balloon: 이번 주에는 대규모 언어 모델(Large Language Models, LLMs)에 대한 논문들이 주요한 트렌드로 나타났습니다. 여러 논문들은 LLMs에 초점을 맞추어 다양한 문제를 해결하거나 이해하고자한 점에서 그러한 경향을 볼 수 있습니다. 예를 들어, "SIMA", "Retrieval Augmented Thoughts", "LMs Can Teach Themselves to Think Before Speaking", "Knowledge Conflicts for LLMs" 및 "LLMs Predict Neuroscience Results" 등의 논문들이 대규모 언어 모델을 이용하거나 그 성능과 관련된 문제를 다루고 있습니다. 또한 "Stealing Part of a Production Language Model"과 같은 논문은 보안과 관련된 측면에서 언어 모델을 연구하고 있는 것을 보여줍니다. 이러한 경향은 최근 몇 년 동안 인공지능 연구 커뮤니티에서 대규모 언어 모델들이 가져온 혁신적 변화와 그 영향력을 반영하는 것으로 보입니다. 대규모 언어 모델들은 자연어 처리(Natural Language Processing, NLP)뿐만 아니라, 다양한 도메인에서 효과적인 파운데이션 모델로서 위치를 확립하고 있습니다. 이처럼 LLMs는 다양한 언어 이해 및 생성 작업에 있어 높은 성능을 보이며, 나아가 응용 연구에서도 광범위하게 탐색되고 있습니다. 추가로 "Multimodal LLM Pre-training"과 같은 논문은 LLMs가 이미지, 음성 등 다른 형태의 데이터와 결합하여 멀티모달 학습 능력을 강화하는 최신 연구 동향을 나타냅니다. 이런 분석을 바탕으로 예상해보면, 앞으로도 LLMs에 관한 연구는 자연어 이해를 더욱 개선하고, 다양한…