# \#webassembly
**URL:** https://discuss.pytorch.kr/tag/webassembly/1479.md
[최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md)
---
## [Pie: KV 캐시와 디코딩 루프를 사용자 프로그램에 맡기는 오픈소스 LLM 서빙 시스템 (feat. SOSP 2025)](https://discuss.pytorch.kr/t/pie-kv-llm-feat-sosp-2025/12197)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [10월 18, 2026, 3:30오전 UTC](https://discuss.pytorch.kr/t/pie-kv-llm-feat-sosp-2025/12197 "2026-10-18T03:30:18Z")
핵심 요약 Yale 대학교 연구진의 Pie 논문(SOSP 2025)은 LLM 서빙 엔진의 고정된 생성 루프를 42개의 API로 쪼갭니다. 사용자가 쓴 WebAssembly 프로그램(인퍼렛, Inferlet)이 이 API로 KV(Key-Value) 캐시, 순전파, 샘플링, 도구 호출을 직접 제어합니다. 논문 평가(NVIDIA L4, Llama 3 1B, vLLM v0.6.0과 SGLang v0.4.4 비교)에서 웹 API를 8번 부르는 ReACT 에이전트는 지연 시간이 최대 15% 줄고 처리량이 최대 30% 늘었습니다. 대신 일반 텍스트 생성은 출력 토큰당 약 1.5~1.9ms(모델 크기에 따라 2.4~11.4%) 느렸습니다. pie-project/pie 저장소는 Apache 2.0으로 공개됐고 최신 릴리스는 0.5.2(2026년 9월 22일)입니다. 지금은 Python, JavaScript, Rust로 인퍼렛을 쓰고 CUDA, Metal, Vulkan, WebGPU 빌드를 내려받을 수 있습니다. 프로젝트 FAQ(2026년 10월 기준)는 Pie를 프로덕션 준비가 되지 않은 연구 프로토타입 으로 규정합니다. 상태 없는 프롬프트를 많이 처리하는 서비스라면 vLLM이나 SGLang이 더 맞고, 다중 노드 추론은 릴리스로 발표되지 않았습니다. Pie 소개 Pie 는 프롬프트가 아니라 프로그램을 서빙하는 LLM 서빙 시스템입니다. 클라이언트가 프롬프트를 보내면 엔진이 토큰을 돌려주는 대신, 클라이언트가 작은 프로그램을 보내면 엔진이 그 프로그램을 모델 바로 옆에서 실행합니다. 이 프로그램을 Pie에서는 인퍼렛(Inferlet) 이라고 부릅니다. vLLM이나 SGLang 같은 서빙 시스템은 모든 요청을 같은 프리필(prefill)과 디코드 루프로 처리합니다. 이 구조는 짧은 질의응답을 대량으로 처리할 때 가장 효율적입니다. 그러나 요즘 LLM 애플리케이션은 생성 도중에 도구를 부르고 외부 결과를 기다립니다. 여러 갈래로 추론(Reasoning)을 펼쳤다가 합치…
---
## [CADAM: 자연어로 3D CAD 모델을 만드는 오픈소스 text-to-CAD 웹 애플리케이션](https://discuss.pytorch.kr/t/cadam-3d-cad-text-to-cad/10814)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [6월 23, 2026, 1:30오전 UTC](https://discuss.pytorch.kr/t/cadam-3d-cad-text-to-cad/10814 "2026-06-23T01:30:49Z")
CADAM 소개 기계 부품이나 시제품을 설계할 때 CAD 소프트웨어의 진입 장벽은 꽤 높습니다. 스케치, 구속 조건, 모델링 트리에 익숙해지기까지 시간이 걸리고, 치수 하나를 바꾸려면 어디를 수정해야 하는지 다시 찾아야 합니다. 머릿속에 만들고 싶은 형상이 분명해도 그것을 도구의 조작으로 옮기는 과정이 만만치 않습니다. CADAM은 자연어 설명을 입력하면 브라우저에서 곧바로 3D CAD 모델을 만들어 주는 오픈소스 text-to-CAD 웹 애플리케이션 입니다. 만들고 싶은 것을 평범한 문장으로 적거나 참고 이미지를 올리면, CADAM이 이를 파라메트릭(parametric) OpenSCAD 모델로 변환합니다. 생성된 모델은 슬라이더로 치수를 즉시 조정할 수 있고, .STL·.SCAD·.DXF 형식으로 내보내 3D 프린팅이나 후속 작업에 바로 쓸 수 있습니다. 설치 없이 adam.new/cadam에서 바로 사용할 수 있으며, 모든 처리가 WebAssembly로 브라우저 안에서 이뤄집니다. 본 게시물에서는 CADAM의 동작 방식, 주요 기능, 어떤 모델까지 만들 수 있는지, 그리고 직접 실행하는 방법을 정리합니다. CADAM의 동작 방식 CADAM의 처리 흐름은 입력에서 내보내기까지 네 단계로 이어집니다. 사용자가 자연어 설명과 참고 이미지를 입력하면, Anthropic Claude API가 이를 OpenSCAD 코드로 변환합니다. 생성된 코드는 OpenSCAD WebAssembly 엔진으로 실행되어 Three.js 기반의 실시간 3D 미리보기로 표시되고, 마지막으로 .STL·.SCAD·.DXF 형식으로 내보냅니다. 이 과정에서 CADAM은 모델의 조절 가능한 치수를 자동으로 식별해 슬라이더로 노출합니다. 덕분에 치수를 바꿀 때마다 AI를 다시 호출해 전체를 재생성하지 않고, 파라미터만 효율적으로 갱신할 수 있습니다. CADAM의 주요 기능 CADAM은 자연어 기반 생성과 파라메트릭 편집을 하나의 브라우저 환경에 담았습니다. AI 기반 생성 : 자…
---
## [WebAssembly 기반 비전 처리 엔진 wasmVision, MCP 서버 통합 실험적 도입](https://discuss.pytorch.kr/t/webassembly-wasmvision-mcp/6657)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [3월 28, 2025, 12:00오후 UTC](https://discuss.pytorch.kr/t/webassembly-wasmvision-mcp/6657 "2025-03-28T12:00:11Z")
wasmVision 프로젝트 소개 WebAssembly와 컴퓨터 비전 기술의 결합은 플랫폼 독립성과 성능을 동시에 확보할 수 있는 대안으로 주목받고 있습니다. wasmVision은 이러한 기술을 바탕으로 설계된 경량 비전 처리 엔진으로, 최근에는 MCP(Model Context Protocol) 서버 기능이 실험적으로 도입되었습니다. wasmVision은 WebAssembly 기반의 오픈소스 컴퓨터 비전 엔진으로, 다양한 입력 소스(카메라, 영상 파일, 스트리밍 등)를 받아 처리하고, 결과를 출력하는 구조를 갖추고 있습니다. 가장 큰 특징은 WebAssembly 모듈을 통해 다양한 언어로 작성된 영상 처리 알고리즘을 통합할 수 있다는 점입니다. wasmVision의 주요 구성은 다음과 같습니다: 입력 처리: 카메라, 영상 파일, 네트워크 스트림 등 다양한 소스를 지원 WebAssembly 기반 처리 모듈: 언어 독립적이고 안전하게 실행 가능한 모듈 구조 출력 기능: 결과 영상을 실시간 스트리밍하거나 영상 파일로 저장 가능 GPU 가속 지원: CUDA 기반의 GPU 연산을 활용하여 성능 개선 가능 이러한 설계는 플랫폼 독립성과 모듈화된 구조를 통해 유지보수와 확장이 용이하며, 다양한 실시간 영상 처리 애플리케이션에 활용될 수 있습니다. MCP 서버 기능 소개 wasmVision 프로젝트는 최근 MCP(Model Context Protocol) 기반의 리소스 서버 기능을 실험적으로 도입하였습니다. MCP는 머신 러닝 모델과 실행 환경 간의 연결을 지원하는 프로토콜로, 비전 파이프라인에서 처리된 데이터를 외부 시스템과 공유하는 역할을 합니다. MCP 서버의 주요 기능은 다음과 같습니다: 출력 이미지 제공: 처리 중인 영상 프레임의 출력 이미지를 엔드포인트를 통해 제공 머신러닝 시스템과의 통합: 모델 입력/출력 리소스를 HTTP 기반으로 접근 가능 실시간 파이프라인 모니터링: 외부에서 현재 처리 상태 및 결…
---
## [\[TLDR\] 오늘의 AI 뉴스, 2023-09-11: NVIDIA의 더 빨라진 LLM 추론 엔진 💨, Imbue, 2억 달러 투자 유치 💰, 브라우저에서의 딥 러닝 💻](https://discuss.pytorch.kr/t/tldr-ai-2023-09-11-nvidia-llm-imbue-2/2458)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\
**댓글:** 0\
**마지막 업데이트:** [9월 12, 2023, 3:00오전 UTC](https://discuss.pytorch.kr/t/tldr-ai-2023-09-11-nvidia-llm-imbue-2/2458 "2023-09-12T03:00:00Z")
파이토치 한국 사용자 모임에서는 TLDR 뉴스레터 의 승인을 받아 AI 소식을 DeepL로 번역 하여 전합니다. :star\_struck: 더 많은 AI 소식 및 정보를 공유하고 함께 성장하고 싶으신가요? 지금 파이토치 한국어 커뮤니티에 방문해주세요! :robot: :rocket: 주요 뉴스 & 신규 출시 소식 / Headlines & Launches NVIDIA, LLM을 위한 더 빠른 추론 엔진 TensorRT-LLM 출시 / NVIDIA launches a faster inference engine for LLMs (6 minute read) 현재의 AI 경쟁이 시작될 당시에는 훈련 비용이 추론의 주를 이루었습니다. 더 많은 사람들이 언어 모델을 프로덕션에 배포함에 따라 추론 비용은 빠르게 증가할 수 있습니다. TensorRT는 오랫동안 속도를 위해 사용되어 왔습니다. 이제 H100의 언어 모델 전용 버전이 출시되었습니다. Training costs dominated inference when the current AI race began. Inference costs can quickly balloon as more people deploy language models to production. TensorRT has long been the go-to for speed. A version specifically for language models on H100s is now available. 9월까지 :us:정부 A100 기반 슈퍼컴퓨터 절반 할인 / Government A100 based supercomputer half off through September (2 minute read) NERSC는 GPU 기반 워크로드를 위한 슈퍼컴퓨터에 대해 한시적으로 할인을 제공합니다. The NERSC is offering a limited-time discount on its supercomputer for GPU-based work…