# \#gemma-3 **URL:** https://discuss.pytorch.kr/tag/gemma-3/4627.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [TranslateGemma: Google이 공개한 Gemma 3 기반의 개방형 기계 번역 모델 (4B / 12B / 27B)](https://discuss.pytorch.kr/t/translategemma-google-gemma-3-4b-12b-27b/8722)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [1월 16, 2026, 11:30오전 UTC](https://discuss.pytorch.kr/t/translategemma-google-gemma-3-4b-12b-27b/8722 "2026-01-16T11:30:42Z")
TranslateGemma 소개 TranslateGemma는 구글(Google)의 번역 연구팀이 야심 차게 공개한 개방형(Open) 기계 번역 모델군입니다. 이 모델은 구글의 최신 파운데이션 모델인 Gemma 3를 기반으로 설계되었으며, 단순한 텍스트 번역을 넘어 이미지 내 텍스트 번역까지 지원하는 멀티모달 능력을 갖추고 있습니다. 오늘날 대규모 언어 모델(LLM)의 발전으로 번역 품질이 비약적으로 향상되었지만, 연구자와 개발자가 자유롭게 수정하고 검증할 수 있는 '투명하고 강력한 개방형 모델'에 대한 갈증은 여전히 존재했습니다. TranslateGemma는 이러한 요구에 부응하기 위해 탄생했습니다. 특히 이 모델은 효율성에 초점을 맞추어 설계되었습니다. 방대한 매개변수를 가진 거대 모델이 아니더라도, 정교한 학습 과정을 거치면 훨씬 작은 크기의 모델로도 동급 최강의 성능을 낼 수 있음을 증명했습니다. TranslateGemma 모델은 모바일 및 엣지 디바이스를 위한 4B, 일반 소비자용 랩톱에서도 구동 가능한 12B, 그리고 최고의 성능을 제공하는 27B의 세 가지 크기로 제공됩니다. 55개 언어 쌍에 대한 광범위한 테스트에서 TranslateGemma는 베이스라인 모델을 압도하는 성능을 보여주었으며, 이는 번역 기술의 민주화를 앞당기는 중요한 이정표가 될 것입니다. TranslateGemma vs. Gemma 3 모델 비교 TranslateGemma는 Gemma 3를 기반으로 하지만, 번역에 특화된 미세 조정(Fine-tuning) 을 통해 완전히 다른 차원의 성능을 제공합니다. 주요한 차이점은 다음과 같습니다: 체급을 뛰어넘는 효율성: 가장 놀라운 점은 모델 크기 대비 성능입니다. 벤치마크 결과, 12B TranslateGemma 모델은 두 배 이상 큰 27B Gemma 3 베이스라인 모델보다 더 뛰어난 번역 품질을 보여주었습니다. 심지어 가장 작은 4B TranslateGemma 모델조차 12B Gemma 3 베이스라인과 대등한 성능을 … --- ## [FunctionGemma: 함수 호출에 특화된 270M 규모의 On-Device 특화 모델 (feat. Google)](https://discuss.pytorch.kr/t/functiongemma-270m-on-device-feat-google/8465)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [12월 21, 2025, 3:30오전 UTC](https://discuss.pytorch.kr/t/functiongemma-270m-on-device-feat-google/8465 "2025-12-21T03:30:21Z")
FunctionGemma 소개 FunctionGemma 는 Google이 새롭게 공개한 Gemma 3 270M 기반의 함수 호출(Function Calling) 특화 모델입니다. 최근 AI 업계의 흐름이 단순한 대화형 인터페이스에서 실질적인 작업을 수행하는 '액티브 에이전트(Active Agents)'로 전환됨에 따라, 모델이 단순히 말하는 것을 넘어 행동(Act)할 수 있는 능력이 중요해졌습니다. FunctionGemma는 이러한 요구에 맞춰 자연어 명령을 구조화된 API 호출이나 도구 사용(Tool Use) 명령으로 변환하는 데 최적화되어 있습니다. 특히 FunctionGemma 모델은 2억 7천만(270M) 개라는 매우 적은 파라미터 수를 가지고 있어, 스마트폰이나 NVIDIA Jetson Nano와 같은 에지 디바이스에서도 단독으로 구동 가능한 것이 가장 큰 특징입니다. 이를 통해 데이터가 외부 서버로 전송되지 않는 완벽한 로컬 환경에서, 캘린더 일정 등록이나 시스템 설정 변경과 같은 복잡한 워크플로우를 지연 없이 처리할 수 있습니다. FunctionGemma는 독립적인 에이전트로 작동하거나, 더 큰 모델(예: Gemma 3 27B) 앞단에서 간단한 명령을 즉시 처리하고 복잡한 요청만 라우팅하는 지능형 컨트롤러 역할을 수행할 수 있습니다. FunctionGemma 모델을 기존의 LLM 및 다른 방법론과 비교하면 다음과 같습니다: vs. 일반 대화형 모델: 일반적인 Gemma 모델이 사용자와의 자연스러운 대화에 초점을 맞췄다면, FunctionGemma 는 '대화'보다는 '행동'에 목적을 둡니다. 직접적인 챗봇 용도보다는 사용자의 의도를 파악하여 정확한 JSON 형태의 함수 호출 코드를 생성하고, 도구의 실행 결과를 다시 자연어로 요약하여 전달하는 데 특화되어 있습니다. vs. 제로샷(Zero-shot) 프롬프팅: 범용 모델을 제로샷으로 사용하여 도구를 호출할 때보다, 특정 도구와 API에 맞춰 파인튜닝(Fine-tuning)했을… --- ## [EmbeddingGemma: Google이 공개한, On-Device Embedding을 위한 308M 규모의 소형 모델](https://discuss.pytorch.kr/t/embeddinggemma-google-on-device-embedding-308m/7752)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [9월 15, 2025, 9:31오후 UTC](https://discuss.pytorch.kr/t/embeddinggemma-google-on-device-embedding-308m/7752 "2025-09-15T21:31:02Z")
EmbeddingGemma 소개 구글 딥마인드가 새롭게 공개한 EmbeddingGemma는 온디바이스(On-device) 환경에서 동작하는 임베딩 모델로, 성능과 효율성 모두를 갖춘 것이 특징입니다. 모델 크기는 3억 800만(380M) 규모로 비교적 작지만, 그 성능은 기존의 두 배 크기 모델과 견줄 수 있을 정도입니다. 이 모델은 인터넷 연결이 없는 상태에서도 문맥 검색(RAG, Retrieval-Augmented Generation)이나 의미 기반 검색(semantic search)을 구현할 수 있도록 설계되어, 개인 데이터 보호와 빠른 응답 속도가 중요한 모바일·엣지 환경에서 특히 유용합니다. EmbeddingGemma는 Gemma 3 아키텍처를 기반으로 하며, 100개 이상의 언어를 학습해 다국어 환경에서도 강력한 성능을 발휘합니다. 또한 양자화(Quantization)를 통해 RAM 사용량을 200MB 미만으로 줄였으며, 모바일 기기나 PC 등 일상적인 하드웨어에서 원활하게 작동합니다. 이를 통해 개발자들은 인터넷 연결 없이도 개인 문서 검색, 오프라인 챗봇, 맞춤형 정보 검색 시스템 등을 구축할 수 있게 되었습니다. EmbeddingGemma 모델이 주목받는 이유는 단순히 경량화된 모델이라는 점뿐만 아니라, 다양한 도구와의 호환성을 갖추고 있다는 점입니다. Hugging Face, Kaggle, Vertex AI는 물론, sentence-transformers, llama.cpp, MLX, Ollama, LiteRT, LangChain 같은 인기 있는 오픈소스 프레임워크와도 쉽게 통합할 수 있어 실무에서 곧바로 활용 가능하다는 점이 강점입니다. Gemini Embedding과 비교 EmbeddingGemma는 ‘온-디바이스’ 활용을 위한 모델로 설계된 반면, 구글이 제공하는 Gemini Embedding은 서버 사이드에서 대규모 애플리케이션을 위한 고성능 임베딩 모델입니다. 따라서 개인화된 검색, 오프라인 … --- ## [Google, 소비자용 GPU에서 실행 가능한 Gemma 3 QAT 모델 공개](https://discuss.pytorch.kr/t/google-gpu-gemma-3-qat/6832)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [4월 22, 2025, 6:30오전 UTC](https://discuss.pytorch.kr/t/google-gpu-gemma-3-qat/6832 "2025-04-22T06:30:22Z")
Gemma 3 QAT 모델 소개 지난달 Google은 자사 오픈모델 중 가장 최신 버전인 Gemma 3를 공개했습니다. BF16 기반으로 H100급 서버에서 실행될 정도로 고성능을 자랑하지만, 일반 개발자 입장에서는 접근성이 떨어지는 것이 사실이었습니다. 이를 개선하기 위해, Google은 Quantization-Aware Training(QAT) 기법을 적용한 버전을 새롭게 공개했는데요, 이는 메모리 사용량을 크게 줄이면서도 기존의 성능을 거의 유지할 수 있게 합니다. QAT 덕분에 이제 Gemma 3 27B 모델도 RTX 3090과 같은 소비자용 GPU에서 실행할 수 있게 되었고, Gemma 3 12B는 노트북 GPU인 RTX 4060에서도 잘 돌아갑니다. 이는 단순히 모델 경량화를 넘어, 더 많은 개발자들이 실질적인 활용을 할 수 있도록 돕는 중요한 전환점입니다. 전통적으로 대형 언어모델을 로컬에서 실행하려면 최소한의 FP16 환경을 요구했으며, 그나마도 수십 GB의 VRAM을 요구했습니다. 하지만 Gemma 3 QAT 모델은 int4 (4bit 정밀도) 기반으로 모델을 학습하면서도 성능 저하를 최소화했기 때문에, LLaMA 시리즈나 기존의 Post-Training Quantization 기반 모델들보다 훨씬 효율적인 구조를 보여줍니다. 모델 VRAM (BF16 기준) VRAM (int4 기준) Gemma 3 27B 54GB 14.1GB Gemma 3 12B 24GB 6.6GB Gemma 3 4B 8GB 2.6GB Gemma 3 1B 2GB 0.5GB Gemma 3 QAT 모델은 Hugging Face 및 Kaggle을 통해 제공되며, 다음과 같은 도구들과 쉽게 연동할 수 있습니다: Ollama: 간단한 커맨드로 모델 실행 가능. LM Studio: 데스크탑에서 GUI 기반으로 쉽게 실행 가능. MLX: Apple Silicon 환경에서 최적화된 실행 지원. llama.cpp: GGUF 포맷을 통해 로컬 … --- ## [\[2025/03/10 ~ 03/16\] 이번 주의 주요 ML 논문 (Top ML Papers of the Week)](https://discuss.pytorch.kr/t/2025-03-10-03-16-ml-top-ml-papers-of-the-week/6568)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 2\ **마지막 업데이트:** [3월 25, 2025, 1:49오전 UTC](https://discuss.pytorch.kr/t/2025-03-10-03-16-ml-top-ml-papers-of-the-week/6568 "2025-03-25T01:49:25Z")
\[2025/03/10 ~ 03/16\] 이번 주의 주요 ML 논문 (Top ML Papers of the Week) PyTorchKR​:fire::south\_korea: :thinking::speech\_balloon: 이번 주에 선정된 논문들에서 주목할 만한 트렌드는 멀티모달 AI와 장기적 계획 및 추론에 대한 중점적인 관심이 두드러지고 있다는 점입니다. 예를 들어, "Gemma 3"와 "Gemini Robotics"는 멀티모달 학습을 통해 다양한 입력 형태(텍스트, 이미지, 비디오, 로봇 동작 등)를 하나의 모델에서 처리할 수 있도록 설계되었습니다. 이러한 접근은 AI가 보다 복합적인 작업을 수행할 수 있도록 돕고 있습니다. 또한, "Improving Planning of Agents for Long-Horizon Tasks"와 "Search-R1"에서는 장기적인 과제 해결을 위한 계획과 추론에 초점을 맞추고, 이를 통해 더 복잡한 문제를 해결할 수 있는 능력을 강화하고자 합니다. 이러한 트렌드는 AI 기술이 단순한 데이터 분석을 넘어, 실제 환경에서 복잡한 문제를 해결하고 다양한 입력을 이해하는 방향으로 발전하고 있음을 시사합니다. 멀티모달 AI는 다양한 데이터 형식을 통합하여 더 풍부한 정보를 제공하고, 장기적 과제 해결은 AI가 복잡한 상황에서도 일관되게 목표를 추구할 수 있도록 합니다. 이는 특히 로봇 공학이나 실시간 의사결정이 필요한 분야에서 중요한 발전이 될 수 있습니다. 이러한 발전은 AI 기술의 응용 범위를 넓히고, 다양한 산업에서의 실질적인 활용 가능성을 높일 것입니다. 마지막으로, 이러한 논문들은 AI의 안전성과 윤리성에도 많은 관심을 기울이고 있습니다. 예를 들어, "Monitoring Reasoning Models for Misbehavior"와 "Auditing LLMs for Hidden Objectives"에서는 AI 모델의 의도치 않은 행동을 감시하고, 잠재적인 위험을 조기에 발견하기 위한 방법론을 제시합니다. 이는 … --- ## [Google, 단일 GPU/TPU에 최적화된 최신 언어모델 Gemma 3 공개](https://discuss.pytorch.kr/t/google-gpu-tpu-gemma-3/6450)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [3월 12, 2025, 12:00오후 UTC](https://discuss.pytorch.kr/t/google-gpu-tpu-gemma-3/6450 "2025-03-12T12:00:08Z")
Gemma 3 소개 Google DeepMind가 싱글 GPU 또는 TPU에서도 최상의 성능을 발휘할 수 있는 경량화된 최신 오픈 LLM, Gemma 3를 발표했습니다. Gemma 3는 1B에서 27B까지 다양한 파라미터 크기를 제공하며, Hugging Face, JAX, PyTorch 등 다양한 개발 환경과 호환됩니다. 또한, 최신 NVIDIA GPU 및 Google Cloud TPU에서도 최적화된 성능을 제공합니다. Gemma 3는 이미지와 텍스트를 동시에 처리하는 멀티모달 기능과 함께 140개 이상의 언어를 지원하며, 최대 128K 토큰 컨텍스트, 고급 텍스트 및 비주얼 추론 기능, 함수 호출 지원 등을 갖추고 있습니다. 특히, 경량화(Quantization)된 버전이 제공되어 저사양 장치에서도 높은 성능을 발휘합니다. Gemma 3의 주요 특징은 다음과 같습니다: 모델 크기: 1B, 4B, 12B, 27B 파라미터 모델 제공 컨텍스트 길이: 1B 모델은 32K, 나머지는 128K 토큰 지원 멀티모달 지원: 4B 이상 모델에서 이미지+텍스트 입력 가능 다국어 지원: 4B 이상 모델에서 140개 이상의 언어 지원 특히, Gemma-3-4B-IT 모델이 이전 Gemma-2-27B IT보다 뛰어난 성능을 보이며, Gemma-3-27B-IT는 Gemini 1.5-Pro까지 뛰어넘는 성능을 기록했습니다. Gemma 3의 주요 기술적 향상점 멀티모달 기능: Gemma 3는 맞춤형 SigLIP 비전 인코더를 사용하여 이미지를 소프트 토큰의 시퀀스로 변환합니다. 이미지를 256 벡터로 압축하여 시각 데이터를 처리하는 비용을 줄였습니다. P&S(Pan and Scan) 기법을 적용하여 다양한 이미지 비율과 해상도를 지원하며, 필요에 따라 비인칭적으로 조정됩니다. 긴 문맥 지원: 모델은 최대 128K 토큰의 문맥 길이를 지원하며, 이는 KV 캐시 메모리 문제를 해결하기 위한 로컬 및 글로벌 주의 레이어의 비율을 조정함…