AIOS는 대규모 언어 모델(LLM)을 운영 시스템(OS)에 내장시켜, OS에 "영혼"을 부여함으로써 인공 일반 지능(AGI)으로 가는 중요한 단계를 구현한 프로젝트입니다. 이 시스템은 자원 할당 최적화, 에이전트 간 컨텍스트 전환 용이성, 에이전트의 동시 실행 지원, 에이전트를 위한 도구 서비스 제공, 접근 제어 유지, 그리고 LLM 에이전트 개발자를 위한 풍부한 툴킷 제공 등을 목표로 합니다. 이 기술이 개발자 커뮤니티에게 주목 받는 이유는 그것이 운영 체제에 "지능"을 내장하여, 개발자들이 더 효과적이고 효율적으로 에이전트를 개발하고 배포할 수 있게 해주기 때문입니다.
소개
AIOS(AI Operating System)는 대규모 언어 모델을 운영 시스템의 두뇌로 삼아, 운영 체제에 "영혼"을 부여하는 새로운 접근 방식을 제시합니다. 이 프로젝트는 운영 체제가 단순한 명령 실행을 넘어서, 복잡한 작업을 이해하고 실행할 수 있도록 하는 것을 목표로 합니다. AIOS 논문은 LLM(대규모 언어 모델) 기반 지능형 에이전트를 배치하고 운영할 때 직면하는 운영 및 통합 문제를 해결하는 새로운 접근 방식을 소개하고 있습니다.
AIOS는 자원 할당 최적화, 컨텍스트 전환 용이성, 에이전트의 동시 실행 가능성, 도구 서비스 제공 및 접근 제어 유지와 같은 기능을 통해 인공 일반 지능(AGI)을 실현하기 위한 중요한 단계로서, LLM을 직접 운영 시스템에 내장시켜 "영혼을 가진 OS"를 창조하고자 합니다. 즉, AIOS의 설계는 AGI(인공 일반 지능)로의 진전을 목표로 하며, 이는 인간과 유사한 지능 수준을 갖춘 인공 지능을 만드는 것을 의미합니다.
주요 특징
-
자원 할당 최적화: AIOS는 시스템 자원을 효율적으로 관리하고 할당하여, 여러 LLM 에이전트가 동시에 작업을 수행할 수 있도록 지원합니다.
-
컨텍스트 전환 용이성: 다양한 작업 간의 빠르고 효율적인 전환을 가능하게 하여, 에이전트들이 더 많은 작업을 동시에 처리할 수 있습니다.
-
도구 서비스 제공: 개발자가 LLM 에이전트를 더 쉽게 개발하고 테스트할 수 있도록 다양한 도구와 서비스를 제공합니다.
사용 방법
AIOS를 시작하기 위해 Python 3.9 이상이 필요합니다. 필요한 패키지들은 저장소를 복제(Git Clone)한 뒤, pip install -r requirements.txt 명령어를 통해 설치할 수 있습니다. 환경 변수를 설정한 후 main.py를 실행하여 LLM 에이전트를 시작할 수 있습니다.
사용 시에는 HuggingFace 토큰과 함께 캐시 디렉토리를 지정해주셔야 합니다:
export HUGGING_FACE_HUB_TOKEN=<YOUR READ TOKEN>
export HF_HOME=<YOUR CACHE DIRECTORY>
예를 들어, Gemma-2b-it 모델을 사용하는 경우, GPU 메모리와 실행 장치를 자신의 환경에 맞게 설정한 후 아래 명령어를 실행하면 됩니다:
python main.py --llm_name gemma-2b-it --max_gpu_memory '{"0": "24GB"}' --eval_device "cuda:0" --max_new_tokens 256