ControlFlow, AI/LLM Workflow 구축을 위한 Python 프레임워크

ControlFlow 소개

:rotating_light:주의:rotating_light:: ControlFlow는 아직 공개 릴리즈 전으로, 활발히 개발 중인 상태입니다. 따라서 현재 코드는 향후 릴리즈 시 변경되거나 불안정할 수 있습니다.

ControlFlow는 Python을 기반으로 한 프레임워크로, AI 워크플로우를 구축하는 데 초점을 맞추고 있습니다. 이 프레임워크는 작업 중심의 구조를 제공하여 개발자가 워크플로우를 정의하고 LLM(Large Language Model)에 작업을 위임할 수 있도록 도와줍니다. 이를 통해 AI의 자율성을 유지하면서도 세밀한 통제를 할 수 있습니다. ControlFlow는 명확한 목표와 제약을 정의하여 AI가 복잡한 워크플로우를 처리할 수 있도록 합니다.

ControlFlow는 아래와 같이 3가지 형태로 나누어 워크플로우를 정의하고 구성합니다:

  • 작업(Task): AI가 해결할 수 있는 개별적이고 관찰 가능한 작업을 생성합니다. 즉, "무엇(WHAT)"을 할지를 정의합니다.

  • 에이전트(Agent): 각 작업에 하나 이상의 전문화된 AI 에이전트를 할당합니다. 각 에이전트는 "어떻게(HOW)" 작업(Task)을 수행할지를 정의합니다.

  • 플로우(Flow): 하나 이상의 작업(Task)들을 결합하여 더 복잡한 행동을 조정합니다. 에이전트(Agent)가 각각의 작업들에서 어떻게 동작할지 정의하고 수행하도록 합니다.

Agentic Loop 설명

이러한 접근 방식은 복잡한 워크플로우에서 AI의 힘을 활용하면서도 세밀한 제어를 유지할 수 있게 합니다. 예를 들어, 다음과 같이 연구 주제를 선택하는 작업과 연구 주제를 기반으로 개요를 작성하는 작업, 그리고 초안을 작성하는 작업과 같이 여러 작업들(Tasks)을 하나로 묶어 하나의 '연구 작업(Research Workflow)'을 구성하고, 이를 에이전트가 어떻게 수행하는지 정의할 수 있습니다.

import controlflow as cf
from pydantic import BaseModel

# 연구 보고서를 작성하는 에이전트 생성
author = cf.Agent(
    name="Deep Thought",
    instructions="Use a formal tone and clear language",
)

class ResearchTopic(BaseModel):
    title: str
    keywords: list[str]

@cf.flow
def research_workflow() -> str:
    # 작업 1: 사용자와 함께 연구 주제를 선택
    topic = cf.Task(
        "Work with the user to come up with a research topic",
        result_type=ResearchTopic,
        user_access=True,
    )

    # 작업 2: 주제를 기반으로 개요 작성
    outline = cf.Task("Create an outline", context=dict(topic=topic))

    # 작업 3: 저자 에이전트가 첫 번째 초안 작성
    draft = cf.Task(
        "Write a first draft",
        context=dict(outline=outline),
        agents=[author]
    )
    return draft

# 워크플로우 실행
result = research_workflow()
print(result)

또한, ControlFlow는 작업(Task) 중심의 접근 방식을 강조합니다. 이는 AI 에이전트가 명확한 경계를 가지고 작업을 수행하도록 하여, 복잡한 워크플로우를 더 쉽게 관리할 수 있게 합니다. 또한, ControlFlow는 Pydantic 모델을 사용하여 타입 안전성을 보장하며, 다양한 LLM 모델과 도구를 통합할 수 있는 유연성을 제공합니다.

주요 기능

  • 작업 중심의 아키텍처: 복잡한 AI 워크플로우를 관리 가능한 단계로 나누어 AI 에이전트가 명확한 경계 내에서 작업을 수행하도록 합니다.
  • 구조화된 결과: Pydantic 모델을 사용하여 AI 생성 콘텐츠가 애플리케이션 요구사항에 맞도록 합니다.
  • 전문화된 에이전트: 각 작업에 맞는 AI 에이전트를 배정하여 효율적인 문제 해결을 지원합니다.
  • 생태계 통합: 기존 코드, 도구 및 AI 생태계와 원활하게 작업할 수 있습니다.
  • 유연한 제어: 에이전트 워크플로우에서 제어와 자율성의 균형을 조정할 수 있습니다.
  • 다중 에이전트 오케스트레이션: 여러 AI 에이전트를 단일 워크플로우 내에서 조정하여 복잡한 다단계 AI 프로세스를 구현할 수 있습니다.
  • 고유 관측 및 디버깅: Prefect 3.0을 기반으로 구축되어, 전통적인 워크플로우와 AI 워크플로우를 모두 모니터링할 수 있습니다.

라이선스

이 프로젝트는 Apache 2.0 License로 공개 및 배포되고 있습니다.

:github: ControlFlow GitHub 저장소

:books: ControlFlow 공식 문서 사이트




이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. :hugs:

:pytorch:파이토치 한국 사용자 모임:kr:이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일:love_letter:로 보내드립니다! (기본은 Weekly지만 Daily로 변경도 가능합니다.)

:gift: 아래:arrow_lower_right:쪽에 좋아요:+1:를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ :star_struck: