HumanLayer 소개
HumanLayer는 LLM을 활용하는 AI 에이전트가 사람들과 더 안전하고 효과적으로 협업할 수 있도록 지원하는 Python 및 TypeScript 기반 툴킷입니다. 대부분의 LLM 기반 에이전트는 자율성을 가지며 작업을 처리하지만, 민감한 작업에서는 오류가 큰 문제로 이어질 수 있습니다. 예를 들어, SQL 데이터베이스 수정, 이메일 전송, 고객 데이터 업데이트와 같은 작업에서는 90%의 정확도로는 충분하지 않습니다.
따라서 HumanLayer는 이러한 고위험 작업에 대해 인간 승인과 사람의 도구화를 통해 신뢰성을 높입니다. 이를 통해 에이전트가 독립적으로 작업을 수행하면서도 중요한 순간에 인간의 검토와 결정을 요청할 수 있도록 설계되었습니다.
HumanLayer는 Python, TypeScript, REST API를 지원하며, LangChain, OpenAI, CrewAI 등 다양한 Agent Framework들과 통합할 수 있습니다. 그 외 주요한 HumanLayer의 특징은 다음과 같습니다:
@require_approval데코레이터: 고위험 함수에 대해 인간 승인을 요구하는 기능을 제공합니다. LLM이 잘못된 결정을 내려도 인간 검토를 통해 안전성을 보장할 수 있습니다.hl.human_as_tool(): AI 에이전트가 작업 도중 사람의 도움을 요청하도록 설계된 기능입니다. 예를 들어, 이메일 초안 검토나 문제 해결을 위해 사람의 피드백을 받을 수 있습니다.- 멀티채널 통합: Slack, Email, Discord 등 다양한 플랫폼을 통해 사용자와 상호작용할 수 있습니다.
- 프레임워크 독립성: LangChain, CrewAI와 같은 다양한 AI 프레임워크와 통합되어 사용 가능합니다.
HumanLayer와 3세대 자율형 에이전트
HymanLayer는'차세대 AI Agent'인 자율형 에이전트(Autonomous Agents)를 위해 개발 중입니다. 먼저, 기존의 LLM 애플리케이션의 역사를 살펴보면 다음과 같습니다:
- 1세대(Gen 1): 채팅 - 사람이 주도하는 질문과 응답의 인터페이스
- 2세대(Gen 2): 에이전트 어시스턴트 - 프레임워크가 프롬프트 라우팅, 도구 호출, 사고의 사슬(CoT; Chain-of-Thoughts), 컨텐스트 관리 등을 주도하여 더 높은 안정성과 기능을 제공합니다. '어떠한 작업을 해결해주세요'와 같은 사람의 요청에 따라 시작됩니다.
- 3세대(Gen 3): 자율형 에이전트 - 더 이상 사람이 주도하지 않고, 에이전트가 다양한 도구와 기능을 사용하여 목표를 완수하기 위해 '(에이전트 바깥의) 기존 작업 환경(Outer-Loop)' 내에서 동작합니다. 또한, 에이전트가 인간과 에이전트 간의 커뮤니케이션을 주도하게 됩니다.
(더 자세한 내용은 '기존 작업 환경(outer-loop)에서의 에이전트를 위한 한걸음: OpenAI의 실시간 API (OpenAI's Realtime API is a step towards outer-loop Agents)'라는 글을 참고해주세요)
3세대 자율형 에이전트가 다양한 작업을 수행하며 동작하기 위해서는, 민감한 작업에 대해 인간과 상의하여 의견을 구할 수 있는 방법이 필요합니다. HUmanLayer는 이러한 3세대 자율형 에이전트를 위해 개발 진행 중이며, 에이전트를 중심으로 사람 또한 하나의 도구처럼 의견을 묻거나 피드백을 받기 위해 사용하고자 합니다.
실생활에서 HumanLayer를 활용한 몇 가지 예시들은 GitHub 저장소의 예제 디렉토리(examples/)를 참고해주세요:
라이선스
HumanLayer 프로젝트는 Apache 2.0 License로 공개 및 배포되고 있습니다.
HumanLayer 홈페이지
HumanLayer 공식 문서
HumanLayer GitHub 저장소
더 읽어보기
이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. 
파이토치 한국 사용자 모임
이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일
로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)
아래
쪽에 좋아요
를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ 