파이토치 한국 사용자 모임

[GN] Opera 브라우저, 사용자가 LLM을 다운받아 로컬로 실행하는 기능 추가

읽을거리&정보공유

9bow (박정환) 4월 7, 2024, 3:00오전 1

소개

웹 브라우저 오페라(Opera)가 사용자가 대형 언어 모델(LLMs)을 자신의 컴퓨터에서 로컬로 다운로드하고 사용할 수 있도록 하는 기능을 발표

개발자 스트림 업데이트를 받는 오페라 원 사용자에게 먼저 제공되며, 150개 이상의 모델 중에서 선택할 수 있음

메타의 Llama, 구글의 Gemma, Vicuna 및 Mixtral LLM을 사용 가능하며, 더 추가될 예정:
- Llama from Meta
- Vicuna
- Gemma from Google
- Mixtral from Mistral AI
- And many families more
Opera의 AI 기능 드롭 프로그램의 일부로 제공됨
- Opera는 지난 3월 'Ask Aria'라는 이름의 키보드 단축키 없이 커맨드 라인에 쉽고 빠르게 접근하여 현재 웹 페이지의 내용을 기반으로 대화하는 기능을 추가하였음
- 이번 기능은 Aria가 아닌 사용자 컴퓨터의 LLM과 대화하는 기능임

Local AI 모델 선택 화면

오픈소스 프레임워크인 Ollama를 사용하고 있음. 현재 사용 가능한 모델들은 Ollama의 라이브러리의 일부이지만, 향후 다른 출처의 모델들을 포함시키려고 함

원문

Opera의 기능 추가 소식 블로그

TechCrunch의 기사

출처 / GeekNews

알려드립니다

이 글은 국내외 IT 소식들을 공유하는 GeekNews의 운영자이신 xguru님께 허락을 받아 GeekNews에 게제된 AI 관련된 소식을 공유한 것입니다.

출처의 GeekNews 링크를 방문하시면 이 글과 관련한 추가적인 의견들을 보시거나 공유하실 수 있습니다!

아래쪽에 좋아요를 눌러주시면 새로운 소식을 정리하고 공유하는데 힘이 됩니다~