# \#llm-on-browser

**URL:** https://discuss.pytorch.kr/tag/llm-on-browser/297.md

[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)

---

## [GuppyLM: Colab에서 5분 만에 처음부터 직접 만들어보는 9B 규모의 교육용 언어 모델](https://discuss.pytorch.kr/t/guppylm-colab-5-9b/9806)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 1\
**마지막 업데이트:** [4월 23, 2026, 12:21오전 UTC](https://discuss.pytorch.kr/t/guppylm-colab-5-9b/9806 "2026-04-23T00:21:34Z")

</div>

GuppyLM 소개 "언어 모델을 처음부터 학습시키려면 수십억 달러의 투자와 수천 장의 GPU가 필요하다"는 인식이 있지만, 그 핵심 원리를 이해하기 위해 꼭 그런 자원이 필요한 것은 아닙니다. GuppyLM은 Google Colab 노트북 하나와 약 5분의 학습 시간만으로 처음부터(from scratch) 언어 모델을 구축할 수 있음을 보여주는 교육용 오픈소스 프로젝트입니다. 이름처럼 작은 물고기(guppy)에서 영감을 받아, 모든 문장을 물고기의 관점으로 생성하는 특이한 언어 모델을 통해 트랜스포머 언어 모델의 학습 과정 전체를 직접 체험할 수 있습니다. GuppyLM의 핵심 설계 철학은 의도적 단순성(intentional simplicity) 입니다. 개발자들은 Group Query Attention, Rotary Position Embedding(RoPE), Gated Linear Unit(GLU) 같은 최신 최적화 기법들을 일부러 도입하지 않았습니다. 8.7M 파라미터, 6개 레이어, 384 히든 차원의 바닐라 트랜스포머 아키텍처를 선택한 이유는 코드 단순성과 교육적 명확성을 최우선으로 삼았기 때문입니다. 특히 9M 규모의 파라미터에서는 시스템 프롬프트를 통해 동작을 조건부로 변경하는 것이 사실상 불가능하므로, 물고기 성격을 시스템 프롬프트가 아닌 학습 데이터와 가중치 자체에 직접 내재화하는 방식을 택했습니다. 이는 LLM에서 인스트럭션 파인튜닝(instruction fine-tuning)과 사전학습(pre-training)의 역할 차이를 직관적으로 이해하게 해줍니다. 브라우저 기반 데모도 제공되는데, WebAssembly를 활용한 약 10MB의 양자화 ONNX 모델이 서버 없이 클라이언트 측에서 완전히 동작합니다. HuggingFace 모델 허브에서 사전학습된 가중치를 다운로드하거나, 직접 Colab에서 전체 학습 과정을 재현해볼 수 있어 학습자 친화적입니다. GuppyLM의 트랜스포머 아키텍처 GuppyLM은 현대 LLM의 기본 구성…

---

## [Gemma Gem: Google의 Gemma 4 모델을 WebGPU로 브라우저에서 완전히 실행하는 온디바이스 AI 어시스턴트 크롬 확장](https://discuss.pytorch.kr/t/gemma-gem-google-gemma-4-webgpu-ai/9660)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [4월 11, 2026, 9:30오전 UTC](https://discuss.pytorch.kr/t/gemma-gem-google-gemma-4-webgpu-ai/9660 "2026-04-11T09:30:43Z")

</div>

Gemma Gem 소개 ChatGPT나 Claude 같은 AI 어시스턴트를 브라우저에서 사용할 때, 입력한 모든 텍스트는 외부 서버로 전송됩니다. 민감한 정보가 포함된 웹 페이지를 분석하거나, 개인 데이터를 다루는 업무에 AI를 활용하고 싶을 때 이 점은 언제나 아쉬운 제약이었습니다. 특히 기업 내부 문서, 의료 기록, 법률 자료 등을 다루는 환경에서는 클라우드 기반 AI의 활용이 사실상 불가능한 경우도 많습니다. Gemma Gem은 이 문제를 정면으로 해결하는 오픈소스 크롬 확장 프로그램입니다. Google의 Gemma 4 모델을 WebGPU를 통해 완전히 브라우저 내에서 실행함으로써, 사용자의 데이터가 단 한 바이트도 외부로 나가지 않는 온디바이스(On-Device) AI 환경을 구현합니다. API 키 없이, 클라우드 연결 없이, 오직 사용자의 GPU만으로 동작합니다. kessler가 개발한 이 프로젝트는 Apache-2.0 라이선스 하에 공개되어 있으며, Hugging Face Transformers.js를 활용하여 ONNX 포맷으로 양자화된 Gemma 4 모델을 브라우저에서 직접 추론합니다. Gemma Gem의 아키텍처: 3계층 설계 Gemma Gem은 크롬 확장 프로그램의 특성에 맞게 세 가지 독립적인 실행 컨텍스트로 아키텍처를 분리합니다. 이 설계는 WebGPU 추론의 제약과 브라우저 보안 모델을 모두 고려한 결과입니다. Offscreen Document Service Worker Content Script (Gemma 4 + 에이전트 루프) \<-\> (메시지 라우터) \<-\> (Chat UI + DOM 도구) | | WebGPU 추론 스크린샷 캡처 토큰 스트리밍 JS 실행 오프스크린 문서(Offscreen Document) 는 Gemma 4 모델의 실제 추론이 일어나는 핵심 컴포넌트입니다. Hugging …

---

## [On-Device Browser Agent: Chrome Browser에서 직접 실행되는 로컬 AI 에이전트용 확장(Extension) (feat. RunAnywhere AI)](https://discuss.pytorch.kr/t/on-device-browser-agent-chrome-browser-ai-extension-feat-runanywhere-ai/8809)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 2\
**마지막 업데이트:** [2월 17, 2026, 6:28오후 UTC](https://discuss.pytorch.kr/t/on-device-browser-agent-chrome-browser-ai-extension-feat-runanywhere-ai/8809 "2026-02-17T18:28:28Z")

</div>

On-Device Browser Agent 소개 On-Device Browser Agent는 클라우드 서버를 거치지 않고, 사용자의 웹 브라우저 내에서 직접 AI 모델을 구동하여 웹 자동화 작업을 수행하는 크롬 확장(Chrome Extension) 프로그램입니다. 이 프로젝트는 WebLLM 및 WebGPU 기술을 활용하여, 외부 API 키나 인터넷 연결(모델 다운로드 후) 없이도 AI 에이전트가 브라우저의 DOM(문서 객체 모델)을 이해하고 상호작용할 수 있게 해줍니다. 최근 대규모 언어 모델(LLM)의 추론 트렌드가 서버 중심에서 온-디바이스(On-Device)로 확장됨에 따라, 브라우저 환경에서 실행 가능한 경량화 모델(SLM)들이 주목받고 있습니다. 이 도구는 Qwen 2.5, Phi-3.5, Llama 3.2와 같은 경량 모델들을 사용자의 GPU 가속을 통해 직접 실행합니다. 덕분에 사용자의 데이터가 외부로 전송되지 않아 완벽한 프라이버시가 보장되며, 클라우드 비용이 전혀 들지 않습니다. :loudspeaker: 중요 업데이트: SDK 통합 예정 개발팀은 현재 이 기술을 더 확장하여 runanywhere-web-sdk에 통합하여 곧 출시할 예정입니다. 메인 저장소를 통해 관련 SDK가 공개될 예정이니, 최신 개발 현황은 아래 저장소에서 확인하시기 바랍니다. RunAnywhere SDK 저장소: https://github.com/RunanywhereAI/runanywhere-sdks On-Device Browser Agent vs. 기존 클라우드 기반 에이전트와 비교 ChatGPT 사이드바와 같은 일반적인 브라우저용 AI 도구와 On-Device Browser Agent의 가장 큰 차이점은 데이터 처리 위치와 작동 방식입니다. 일반적으로 클라우드 기반 에이전트는 사용자의 질문이나 현재 페이지의 정보를 OpenAI나 Anthropic 등과 같은 서비스 사업자의 서버로 전송하여 처리합니다. 이를 통해 높은 성능을 제공하지만, 민…

---

## [Inflow: 브라우저 흐름을 끊지 않으면서 LLM을 호출할 수 있는 Chrome 확장(Extension)](https://discuss.pytorch.kr/t/inflow-llm-chrome-extension/7833)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [9월 25, 2025, 11:30오전 UTC](https://discuss.pytorch.kr/t/inflow-llm-chrome-extension/7833 "2025-09-25T11:30:18Z")

</div>

Inflow 소개 Inflow는 사용자가 웹 브라우저에서 작업 중일 때, 별도의 단축키나 버튼 조작 없이 곧바로 대규모 언어 모델(LLM)을 불러와 대화할 수 있도록 설계된 크롬 확장 프로그램입니다. 기존의 AI 보조 도구들은 보통 입력창을 클릭하거나 특정 단축키를 눌러야 작동하지만, Inflow는 사용자가 아무 입력창도 선택하지 않은 상태에서 문장을 쓰기 시작하면 자동으로 오버레이 창이 열리면서 대화를 시작할 수 있습니다. 덕분에 검색, 문서 작성, 코드 확인 등 다양한 작업의 흐름을 끊지 않고 바로 AI와 상호작용할 수 있다는 점에서 큰 편의성을 제공합니다. 이 확장은 단순한 질문-응답 수준을 넘어, 사용자가 현재 보고 있는 웹페이지의 내용을 자동으로 맥락(Context)에 포함시켜 질문을 전달합니다. 예를 들어, 문서를 읽다가 “이 부분을 요약해줘”라고 입력하면 페이지 내용이 그대로 질문의 맥락으로 전달되므로 훨씬 자연스럽고 정확한 답변을 얻을 수 있습니다. 또한 OpenRouter, OpenAI, Google Gemini, Anthropic 등 다양한 API 제공자를 지원해 유연하게 활용할 수 있습니다. 개발자나 파워 유저들에게는 특히 매력적인 기능이 있습니다. Inflow는 입력 키 감지와 API 키 저장을 모두 로컬에서 처리하기 때문에 개인정보 보호 측면에서 안심할 수 있으며, 답변 또한 스트리밍 방식으로 제공되어 빠르고 자연스럽게 이어집니다. 단순한 브라우저 확장 이상의 실용적인 AI 도우미라 할 수 있습니다. 대표적인 유사 도구로는 ChatGPT 공식 브라우저 플러그인이나 Merlin 같은 AI 보조 확장이 있습니다. 하지만 이들 대부분은 특정 단축키 조합을 눌러야 실행되거나 별도의 UI를 거쳐야 합니다. Inflow는 입력 동작 자체를 바로 트리거로 사용한다는 점에서 사용성 측면에서 더 직관적입니다. 또한 현재 웹페이지의 테마 색상에 맞춰 UI를 자동 조정하는 기능은 다른 확장 프로그램에서는 보기 드문 특이점입니다. 즉, …

---

## [\[GN⁺\] Anthropic, Web Browser에서 Claude가 직접 동작하는 Claude for Chrome 시범 운영 시작](https://discuss.pytorch.kr/t/gn-anthropic-web-browser-claude-claude-for-chrome/7603)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [8월 28, 2025, 9:30오후 UTC](https://discuss.pytorch.kr/t/gn-anthropic-web-browser-claude-claude-for-chrome/7603 "2025-08-28T21:30:51Z")

</div>

글 소개 Anthropic이 Claude가 브라우저 내에서 직접 동작하도록 Chrome 확장을 개발, 현재 1,000명의 Max 사용자 대상으로 시범 운영을 시작함 Claude는 버튼 클릭, 양식 작성, 일정 관리, 이메일 응답 등 브라우저 기반 업무를 자동화할 수 있으며, 이를 통해 AI의 활용도가 크게 확장됨 하지만 브라우저 기반 AI는 프롬프트 인젝션 공격 같은 새로운 보안 위협에 취약해, Anthropic은 적대적 테스트(red-teaming) 와 안전 장치를 강화함 현재 방어 체계(사이트 권한, 고위험 작업 확인, 민감 데이터 차단, 공격 패턴 분류기) 적용 후 공격 성공률을 23.6% → 11.2% 로 줄였으며, 특정 공격 유형에서는 35.7% → 0% 로 감소시킴 이번 시범 운영은 실제 사용자 환경에서 피드백을 받아 안전성과 신뢰성 있는 브라우저 에이전트 구축으로 이어지는 중요한 단계임 Claude for Chrome 소개 및 배경 Anthropic은 최근 몇 달간 Claude를 캘린더, 문서 등 다양한 소프트웨어에 연동해 왔으며, 이제는 Claude가 브라우저 내에서 바로 동작하도록 발전 중임 브라우저 기반 AI의 등장은 필연적이며, 브라우저에서 사용자가 보는 내용을 파악하고, 버튼 클릭, 폼 자동 작성 등의 작업을 지원함으로써 Claude의 실용성이 크게 확대됨 그러나 브라우저 내 AI는 프라이버시 및 보안 측면에서 더 강력한 보호장치가 요구됨 실제 사용 환경에서의 피드백 및 문제점 파악을 통해, 견고한 분류 모델을 개발하고 AI의 안전성을 지속적으로 강화하려는 목적임 이와 같은 접근은 최첨단 모델 기반 브라우저 에이전트의 보안 문제에 선제적으로 대응하고, API를 사용하는 모든 개발자 및 이용자에게도 그 지식을 공유하려는 의의가 있음 제한적 파일럿 및 확장 프로그램 현재 Chrome 확장 프로그램 형태의 Claude를 신뢰할 수 있는 사용자 1,000명에게 파일럿 테스트로 제공 중(Claude Max …

---

## [Simple Chromium AI: Chrome 브라우저의 내장 AI API를 쉽게 사용하기 위한 경량 래퍼(wrapper)](https://discuss.pytorch.kr/t/simple-chromium-ai-chrome-ai-api-wrapper/7240)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [7월 10, 2025, 4:00오전 UTC](https://discuss.pytorch.kr/t/simple-chromium-ai-chrome-ai-api-wrapper/7240 "2025-07-10T04:00:53Z")

</div>

Simple Chromium AI 소개 웹 브라우저, 특히 크롬은 최근 AI 기능을 실험적으로 도입하고 있으며, 사용자가 브라우저 내부에서 직접 프롬프트를 통해 AI와 상호작용할 수 있도록 API를 제공하고 있습니다. 구글 크롬은 ‘Prompt API for Gemini Nano’라는 새로운 기능을 통해 이를 실현하고 있으며, 이 기능을 활용하면 브라우저 확장 프로그램에서 AI를 호출하는 작업이 가능합니다. 그러나 기본 API는 초기화나 세션 관리가 다소 복잡하고, 오류 처리도 직접 구현해야 하기 때문에 일반 개발자가 쉽게 접근하기 어렵다는 단점이 존재합니다. 이러한 상황에서 등장한 것이 바로 Simple Chromium AI입니다. 이 프로젝트는 TypeScript로 작성된 경량 래퍼(wrapper)로, 크롬의 내장 AI API를 보다 간단하게 사용할 수 있도록 설계되었습니다. 특히 Type-safe 초기화, 자동 오류 처리, 간편화된 함수 호출 방식 등으로 구성되어 있어, 초심자도 빠르게 적용할 수 있도록 돕습니다. 더불어, 예외 발생 대신 Result 타입을 반환하는 Safe API를 지원함으로써 안정적인 운영도 가능합니다. 크롬의 기본 Prompt API는 매우 강력한 기능을 제공하지만, 다음과 같은 단점이 있습니다. 첫째, API 사용 전 초기화와 세션 생성 과정을 명확히 따라야 하며, 이 과정에서 많은 boilerplate 코드가 발생합니다. 둘째, 예외 처리 로직이 분산되어 있어 실수나 오류가 발생하기 쉽습니다. 셋째, 타입스크립트에서 type-safe하지 않기 때문에 컴파일 단계에서 문제를 확인하기 어렵습니다. 반면, Simple Chromium AI는 초기화와 프롬프트 호출을 하나의 함수로 추상화하여 간결한 코드 구현을 가능하게 하며, 타입 검증을 철저히 적용해 런타임 오류를 줄여줍니다. 또한 모든 기능에 대해 Safe 버전을 제공하여 try-catch 없이도 오류를 제어할 수 있습니다. 단점은 스트리밍 응답을 처리하지 못한다는 점으…

---

## [Genspark AI Browser: 검색부터 실행까지 다양한 도구들과 연동 가능한 AI Agent Browser](https://discuss.pytorch.kr/t/genspark-ai-browser-ai-agent-browser/7115)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [6월 18, 2025, 3:00오전 UTC](https://discuss.pytorch.kr/t/genspark-ai-browser-ai-agent-browser/7115 "2025-06-18T03:00:30Z")

</div>

Genspark AI Browser 소개 AI 콘텐츠 요약 및 큐레이션 플랫폼 Genspark에서 AI 기반 브라우저 Genspark AI Browser를 공개했습니다. Genspark AI Browser는 AI 기반 브라우저 중에서도 자동화 및 도구 연동 측면에서 기존 브라우저보다 획기적인 접근을 보여줍니다. 특히, “Super Agent”, “Autopilot Mode”, “Model Context Protocol (MCP) Store” 등 다양한 AI 기능을 브라우저에 통합하여 검색, 쇼핑, 콘텐츠 생성, 업무 자동화를 한 번에 처리하는 AI 에이전트의 기능이 구현되어 있는 것이 특징입니다. Genspark AI Browser는 Chromium 기반으로 기존 브라우저와 호환되며, DOM 및 JS엔진은 그대로 유지하면서 AI 분석을 위한 멀티 모델 파이프라인을 추가하였습니다. 이를 통해 자동으로 웹페이지를 분석하고 사용자 대신 쇼핑 비교, 요약, 정보 추출, 이메일 작성 등의 작업을 수행합니다. 마치 브라우저 전반에서 작동하는 개인 AI 비서처럼, 반복 작업을 자동화해 생산성을 크게 높입니다. 또한, 다양한 MCP(Model Context Protocol) 기능을 플러그인처럼 클릭만으로 설치할 수 있으며, 여러 API들 간의 자동화를 지원하고 있습니다. (예. Discord 대화 → GitHub 이슈 생성) 자연어 명령으로 “X(트위터) 피드 요약하고, 팟캐스트로 만들어줘”와 같이 지시 시 브라우저 내에서 작업을 실행할 수 있으며, 그 외에도 YouTube 요약, 트랜스크립션, 슬라이드 생성, 논문 다운로드 등의 기능들도 브라우저에서 사용할 수 있습니다. 현재 macOS 15 이상에서 사용 가능하며, Windows 버전은 곧 출시 예정입니다. Genspark AI Browser의 주요 특징 Super Agent Everywhere: 쇼핑 비교, 리뷰 요약 등 웹페이지 내 AI 도우미 제공 Autopilot …

---

## [Browser AI 🚀: WebGPU 가속이 가능한, 브라우저에서 직접 실행하는 Local LLM](https://discuss.pytorch.kr/t/browser-ai-webgpu-local-llm/5979)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [1월 28, 2025, 11:00오후 UTC](https://discuss.pytorch.kr/t/browser-ai-webgpu-local-llm/5979 "2025-01-28T23:00:28Z")

</div>

Browser AI :rocket: 소개 BrowserAI는 브라우저 내에서 직접 실행할 수 있는 Production-Ready LLM (Large Language Models)를 제공합니다. 즉, 별도의 서버가 필요없이, 웹 브라우저에서 곧바로 LLM을 실행하고, AI 서비스를 구현할 수 있는 프레임워크입니다. WebGPU를 활용해 네이티브 실행과 비슷한 속도로 AI 모델을 실행할 수 있으며, 모든 연산이 로컬에서 처리되어 개인 정보를 보호할 수 있습니다. Browser AI는 AI 기술이 요구하는 복잡한 서버 설정 및 유지보수 비용을 절감하면서, 개발자들이 보다 쉽게 AI 모델을 웹 애플리케이션에 통합할 수 있도록 돕습니다. 또한, 프라이버시 보호가 중요한 환경에서도 안심하고 사용할 수 있는 점이 큰 강점입니다. BrowserAI는 다음과 같은 사용자들에게 적합합니다: 웹 개발자: AI 기능을 통합한 웹 애플리케이션 제작 기업: 프라이버시 보호가 중요한 AI 솔루션 도입 연구자: 브라우저 기반 AI 실험 취미 개발자: 인프라 없이 AI를 탐구 BrowserAI는 브라우저에서 실행 가능하다는 점에서 Hugging Face의 Transformers.js와 비슷하지만, 몇 가지 차별점이 있습니다: WebGPU 지원: BrowserAI는 WebGPU를 활용하여 빠른 추론 성능을 제공합니다. 반면, Transformers.js는 WebGL을 주로 사용합니다. 오프라인 기능: BrowserAI는 초기 다운로드 이후 인터넷 연결 없이도 동작할 수 있습니다. 다중 엔진 지원: MLC와 Transformers 엔진 간에 원활한 전환이 가능합니다. Browser AI의 주요 기능 :locked: 프라이버시 보호: 모든 데이터 처리가 로컬에서 이루어짐. :high\_voltage: WebGPU 가속: 빠른 AI 모델 추론. :money\_bag: 서버 비용 절감: 서버가 필요하지 않음. …

---

## [SemanticFinder: Web Browser 기반의 Semantic Search (feat. transformers.js)](https://discuss.pytorch.kr/t/semanticfinder-web-browser-semantic-search-feat-transformers-js/5204)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [9월 15, 2024, 1:23오전 UTC](https://discuss.pytorch.kr/t/semanticfinder-web-browser-semantic-search-feat-transformers-js/5204 "2024-09-15T01:23:19Z")

</div>

Semantic Finder 소개 SemanticFinder는 Web Browser에서 실행되는 강력한 툴로, 대규모 문서에 대한 실시간 시맨틱 검색과 문서 기반의 채팅 기능을 제공합니다. Semantic Finder는 transformers.js, WebAssembly (WASM), 그리고 WebGPU를 활용하여 모든 처리를 브라우저에서 수행하며, 데이터를 클라이언트 측에만 저장하여 높은 수준의 개인정보 보호를 보장합니다. 이를 통해 SemanticFinder는 사용자가 제공한 PDF 파일이나 웹 페이지를 분석하여 검색 결과를 제공합니다. 다양한 설정을 통해 분석 방법을 조정할 수 있으며, WebGPU를 활성화한 브라우저에서 실행할 수 있습니다. Semantic Finder의 주요 기능은 다음과 같습니다: 시맨틱 검색: 문서의 맥락을 이해하고, 관련 결과를 제공하는 검색 기능을 제공합니다. 프론트엔드 처리: 임베딩 생성과 코사인 유사도 계산을 포함한 모든 연산이 브라우저에서 수행되며, 서버 측 처리가 필요하지 않습니다. 대규모 모델 지원: WebGPU와 호환되는 대규모 모델을 최적화하여 최첨단 임베딩 모델을 사용할 수 있습니다. Semantic Finder 설치 및 Chrome 확장 기능 설치: 저장소를 클론하고 npm install로 의존성을 설치한 후, npm run start 명령어로 실행할 수 있습니다. Browser Extension: 간편한 접근을 위한 크롬 확장 프로그램(Chrome Extension)이 제공됩니다. 다국어 검색을 지원하며, 옵션을 통해 텍스트 분할 최소 문자 수 등을 설정할 수 있습니다. SemanticFinder 동작 구조(Logic) SemanticFinder는 transformers.js를 활용하여 입력 데이터를 토크나이징하고 모델을 실행합니다. 구체적으로는 다음과 같은 로직을 통해 SemanticFinder는 빠르고 효율적으로 텍스트 내에서 의미 있는 검색 결과를 제공할 수 있습니다. …

---

## [\[GN⁺\] 구글 크롬, 브라우저 내에 Gemini Nano AI 모델 \`window.ai\` 추가](https://discuss.pytorch.kr/t/gn-gemini-nano-ai-window-ai/4721)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [7월 1, 2024, 3:20오전 UTC](https://discuss.pytorch.kr/t/gn-gemini-nano-ai-window-ai/4721 "2024-07-01T03:20:50Z")

</div>

Gemini Nano AI 모델 추가 소개 크롬 127 버전부터 window.ai 를 통해서 Gemini Nano AI 모델을 브라우저에서 사용가능하게 제공 챗봇 데모 사이트는 Next.js + Vercel AI SDK를 이용하여 작성되었음 사용 예제 import { streamText } from "ai"; import { chromeai } from "chrome-ai"; const { textStream } = await streamText({ model: chromeai(), prompt: "what is a large language model?", }); Hacker News 의견 Apple의 AI 전략을 웹 사용자에게도 적용할 수 있는 기능을 브라우저에 기본 탑재하는 것은 긍정적임 로컬 모델을 사용하여 프라이버시와 보안을 강화할 수 있음 Google이 이를 잘 구현하면 매우 흥미로울 것임 Vercel이 window.ai를 발표하면서 Chrome API 대신 자체 추상화를 보여줌 window.ai API는 매우 간단하여 래퍼가 필요하지 않음 예제 코드: const model = await window.ai.createTextSession(); const result = await model.prompt("What do you think is the meaning of life?"); Google의 API에 모델을 지정할 수 없는 것은 큰 결함임 모델이 계속 업그레이드되면 테스트와 유지보수가 어려울 것임 제안된 코드: const supportedModels = await window.ai.getSupportedModels(); if (supportedModels.includes("gemini-nano:0.4")) { const model = await window.ai.createTextSession("gemini-nano:0.4"); // ... } 웹사이트…

---

## [\[TLDR\] 오늘의 AI 뉴스 2023-05-17: Anthropic & Zoom 파트너십🤝, OpenAI CEO 샘 알트먼의 의회 증언🏛️, 브라우저에서 LLM 실행💻](https://discuss.pytorch.kr/t/tldr-ai-2023-05-17-anthropic-zoom-openai-ceo-llm/1575)

<div class="topic-metadata">

**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [5월 18, 2023, 5:40오전 UTC](https://discuss.pytorch.kr/t/tldr-ai-2023-05-17-anthropic-zoom-openai-ceo-llm/1575 "2023-05-18T05:40:32Z")

</div>

파이토치 한국 사용자 모임에서는 TLDR 뉴스레터의 승인을 받아 AI 소식을 DeepL로 번역하여 전합니다. :smiley\_cat: 더 많은 AI 소식 및 정보를 공유하고 함께 성장하고 싶으시면 파이토치 한국 사용자 모임에 방문해주세요! :rocket: 주요 뉴스 & 신규 출시 소식 / Headlines & Launches Anthropic x Zoom (1 minute read) Zoom은 Anthropic에 투자하고 다양한 내부 및 외부 AI 제품에 Claude를 사용할 예정입니다. 자세한 거래 내용은 공개되지 않았습니다. Zoom will invest in Anthropic and use Claude in a number of internal and external AI product offerings. The details of the deal aren't disclosed. 샘 알트먼, 의회 증언 / Sam Altman Testifies Before Congress (2 minute read) OpenAI의 CEO인 샘 알트먼은 화요일 상원 패널 청문회에서 의원들에게 인공 지능을 규제할 것을 촉구하며, 현재의 기술 붐은 '(금속 활자에 의한) 인쇄 혁명'과 같은 시기이지만 안전장치가 필요한 순간이라고 설명했습니다. OpenAI CEO Sam Altman urged lawmakers to regulate artificial intelligence during a Senate panel hearing Tuesday, describing the technology’s current boom as a potential “printing press moment” but one that required safeguards. :brain: 연구 & 혁신 관련 소식 / Research & Innovation 브라우저에서 LLM을 실행하기 위한 React 훅 / React hook to run LLM in the browser (GitHub R…
