# \#ollaya **URL:** https://discuss.pytorch.kr/tag/ollaya/9211.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [Laya: 텍스트 생성 없이 한 번의 순전파로 결정을 내리는 Jev 호환 오픈 가중치 모델과 로컬 실행 도구들](https://discuss.pytorch.kr/t/laya-jev/12027)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [9월 28, 2026, 10:01오후 UTC](https://discuss.pytorch.kr/t/laya-jev/12027 "2026-09-28T22:01:00Z")
Laya 소개 문의 메일을 어느 팀에 배정할지, 이 프롬프트가 탈옥(jailbreak) 시도인지, 고객이 해지를 암시하는지처럼 소프트웨어가 짧게 내려야 하는 판단은 대부분 정해진 선택지 중 하나를 고르거나 확률 하나를 매기는 일입니다. 이런 판단을 대형 언어 모델(LLM)에 맡기면 답을 토큰 단위로 생성해야 하고, 생성된 문자열에서 레이블을 파싱해야 하며, 모델이 적어 낸 "confidence": 0.9 도 실제 정답 확률을 잰 값이 아니라 생성된 텍스트입니다. TypeSafe AI가 이 자리에 텍스트 대신 확률을 돌려주는 Jev (:pytorch::kr: Jev, 토큰 대신 확률적 결정을 내놓는 새로운 형태의 System One 모델 (feat. TypeSafe AI))를 호스팅 API로 내놓았고, 이번에 소개하는 Laya는 같은 방식의 결정 모델(Decision Model) 을 가중치까지 공개한 프로젝트입니다. Laya는 문서, 이메일, 티켓, JSON 같은 상태(state) 하나와 타입이 정해진 질문 여러 개를 받아, 인코더를 한 번 통과시키는 순전파(forward pass)로 모든 질문에 답합니다. 질문 유형은 선택지 중 하나를 고르는 choice, 순서가 있는 등급에 위치를 매기는 score, 명제가 참일 확률을 돌려주는 noul 세 가지이며, 출력은 문장이 아니라 선택지별 확률 분포입니다. 개발사는 텍스트를 생성하지 않으므로 파싱할 것도 환각(hallucination)이 끼어들 자리도 없다고 설명합니다. 속도는 Tesla T4 한 장에서 질문 하나에 32.8ms(다국어 체크포인트), 질문 10개를 묶으면 72.3ms입니다. Laya는 Convai Innovations가 개발했고, 대표인 Nandakishor가 저장소를 운영합니다. 영어용 ModernBERT-large와 100개 이상의 언어용 mmBERT-base를 인코더로 쓰는 체크포인트 세 개를 제공하고, 요청마다 언어를 감지해 체크포인트를 고르는 Router 를 함께 제공합니다. 저자는…