안녕하세요 국내 최대 오프라인 인공지능 커뮤니티 모두의연구소입니다!
오늘은 오픈 소스 LLM모델에 대한 소개와 Hugging Face Hub, 마지막으로 포켓몬을 주제로한 ChatGPT 논문에 대한 소식입니다.
하나. 오픈 소스 LLM 모델들
LLaMA가 나온 이후 오픈 소스 LLM 모델들이 LLaMA와 비슷한 동물 이름들인 Alphaca, Vicuna와 같이 등장하기 시작했습니다.
그 예로 아부다비에 있는 Technology Innovation Institute에서 Falcon이라는 이름으로 LLM을 오픈 소스화했습니다.
해당 모델은 LLaMA와 달리 Apache 2.0 라이센스를 갖고 있기 때문에 다른 모델과 달리 완전히 오픈 소스 형태의 모델입니다.
또한 현재 Hugging Face에서 제공하는 Open LLM Leaderboard에서 Falcon의 성능이 가장 우수한 것으로 알려졌습니다.
아래 블로그를 보시면 해당 모델에 대해 더욱 상세한 내용이 기재되어 있으니까 참고하세요!
The Falcon has landed in the Hugging Face ecosystem
둘. Hugging Face Hub
Fasttext 라이브러리는 워드 임베딩 라이브러리 Word2Vec 방식에 subword까지 고려한 방식으로 학습을 진행합니다.
이전까지 Fasttext를 사용하려면 gensim을 활용하는 방식으로만 진행했지만 이제는 Hugging Face Hub에서도 사용이 가능하도록 변경되었다고 하네요~
이번 블로그에는 다양한 예제가 수록되어 있으니 직접 확인해주세요!
한국어로 벡터화시킨 모델 (facebook/fasttext-ko-vectors · Hugging Face)도 Hugging Face Hub에 올라와 있습니다 ㅎㅎ
Welcome fastText to the Hugging Face Hub
셋. 포켓몬으로 ChatGPT의 출론 능력 검증
이번에 새롭게 소개해드리러 온 논문은 상당히 독특한 논문인데요, 바로 ChatGPT의 출론 능력을 검증하는 논문으로 주제는 다름 아닌 포켓몬입니다!
포켓몬은 폐쇄된 세계이며 전투 시나리오 또한 폐쇄성을 갖고 있기 때문에 ChatGPT를 검증하는데 매우 이상적인 주제인데요,
해당 논문은 배경지식을 공개하고 전투 시나리오를 작성할 때 추론 과정을 테스트합니다.
직접 아래 링크에서 확인해보세요~
PokemonChat: Auditing ChatGPT for Pokémon Universe Knowledge
모두의연구소와 지식을 나누고 함께 성장할 개발자를 기다립니다.
ChatGPT를 활용한 AI 논문에 도전해보고 싶다면 ⇒ 아이펠 캠퍼스 - 모두의연구소가 만든 AI학교 아이펠
