Awesome Autoresearch: 자율 개선 루프와 연구 에이전트를 모은 큐레이션 저장소

Awesome Autoresearch 소개

Awesome Autoresearch는 자율적으로 돌아가는 개선 루프(autonomous improvement loop)와 연구 에이전트, 그리고 그로부터 갈라져 나온 파생 프로젝트를 한곳에 모아 분류한 큐레이션 인덱스입니다. 최근 에이전트가 스스로 실험을 돌리고 결과를 평가해 다음 시도를 고르는 패턴이 빠르게 퍼지면서, 비슷한 이름과 구조를 가진 저장소가 우후죽순처럼 늘어났습니다. 이 목록은 그렇게 흩어진 프로젝트를 한눈에 훑어볼 수 있도록 정리하는 데 초점을 둡니다.

이 목록은 자신을 karpathy/autoresearch에서 영감을 받은 프로젝트들의 색인이라고 소개합니다. 즉 단일 도구가 아니라, "측정 가능한 목표를 두고 에이전트가 반복적으로 자기 결과를 개선한다"는 같은 발상을 공유하는 저장소들을 카테고리별로 묶은 awesome-list 형식의 모음입니다. 범용 프레임워크부터 특정 플랫폼 포팅, 도메인 적용, 평가 벤치마크, 실제 사용 사례 글까지 폭넓게 다룹니다.

따라서 이 글은 개별 알고리즘을 깊게 파기보다, Awesome Autoresearch가 어떤 기준으로 무엇을 모았는지와 그 안에서 눈여겨볼 만한 항목을 짚는 데 목적이 있습니다. autoresearch 계열 프로젝트를 처음 둘러보거나, 자신의 작업에 맞는 구현체를 고르려는 독자에게 출발점이 되는 자료입니다.

Awesome Autoresearch가 정리하는 autoresearch 루프

목록에 모인 프로젝트들은 이름과 구현은 제각각이지만, 대부분 비슷한 골격의 루프를 공유합니다. 아래 그림은 그 공통 구조를 한 장으로 정리한 것입니다.

핵심은 측정 가능한 목표를 먼저 정의하는 것 입니다. 목록에 포함된 jmilinovich/goal-md는 이 점을 그대로 패턴화해, 에이전트가 최적화에 들어가기 전에 GOAL.md로 측정 가능한 적합도 함수(fitness function)를 먼저 구성하도록 합니다. 목표가 정해지면 에이전트가 변경이나 가설을 제안하고, 실험을 실행한 뒤 그 결과를 정해진 지표로 측정합니다.

마지막 단계는 결과를 보고 변경을 채택하거나 되돌리는 판단입니다. 예를 들어 kayba-ai/recursive-improve는 실행 트레이스를 수집하고 실패 패턴을 분석한 다음, 표적 수정을 가하고 그 효과를 유지할지 되돌릴지(keep-or-revert) 평가하는 방식으로 이 루프를 돌립니다. zkarimi22/autoresearch-anything은 이 발상을 "측정할 수 있다면, 최적화할 수 있다" 는 한 줄로 요약하며 시스템 프롬프트, API 성능, 테스트 스위트, SQL 쿼리 등 측정 가능한 거의 모든 대상으로 확장합니다.

Awesome Autoresearch의 카테고리 구성

Awesome Autoresearch는 수집한 프로젝트를 성격에 따라 다음 카테고리로 나눕니다. 각 항목은 GitHub 링크와 한 줄 설명, 스타 배지를 함께 제공해 빠르게 비교할 수 있도록 했습니다.

  • 범용 후속 프로젝트 (General-purpose descendants): 특정 도메인에 묶이지 않고 어떤 측정 가능한 목표에도 적용할 수 있는 루프 구현체. Claude Code, Codex, Gemini CLI 등 여러 에이전트 런타임용 스킬 포팅이 여기에 모여 있습니다.
  • 연구 에이전트 시스템 (Research-agent systems): 자기 개선과 메타 수준 최적화를 다루는 연구성 구현체.
  • 플랫폼 포팅과 하드웨어 포크 (Platform ports and hardware forks): 특정 런타임이나 하드웨어 환경에 맞춰 옮긴 변형들.
  • 도메인별 적용 (Domain-specific adaptations): 특정 문제 영역에 autoresearch 패턴을 적용한 사례.
  • 평가와 벤치마크 (Evaluation & benchmarks): 에이전트의 ML 실험·연구 능력을 측정하는 벤치마크 모음.
  • 주목할 만한 사용 사례와 글 (Notable use cases and writeups): 공개 트레이스가 딸린 실제 적용 사례와 기술 해설 글.
  • 관련 자료 (Related resources): AI 에이전트와 자율 연구를 다루는 다른 큐레이션 목록과 논문 컬렉션.

Awesome Autoresearch에서 눈에 띄는 항목들

연구 계열에서는 학회 논문으로 이어진 항목이 여럿 포함되어 있습니다. ShengranHu/ADASAutomated Design of Agentic Systems 라는 이름의 ICLR 2025 연구로, 메타 에이전트가 새로운 에이전트 구조를 코드로 직접 프로그래밍해 만들어 냅니다. MaximeRobeyns/self_improving_coding_agent(SICA)는 자기 자신의 코드베이스를 수정하는 자기 개선형 코딩 에이전트로 ICLR 2025 워크숍에서 발표됐고, metauto-ai/HGM은 Huxley-Gödel Machine을 코딩 에이전트에 적용해 SWE-bench 성능을 메타 수준에서 최적화합니다.

평가 카테고리에는 에이전트의 ML 작업 능력을 재는 벤치마크가 정리되어 있습니다. snap-stanford/MLAgentBench는 CIFAR-10부터 BabyLM까지 13개 과제로 구성되고, OpenAI/mle-bench는 ML 엔지니어링 수행 능력을, chchenhui/mlrbench는 NeurIPS·ICLR·ICML 워크숍에서 추린 201개 과제로 열린 형태의 ML 연구 능력을 측정합니다. THUDM/AgentBench는 8개 환경에 걸친 LLM-as-Agent 평가 벤치마크(ICLR 2024)입니다.

사용 사례 글도 모아 두었는데, Shopify의 Tobi Lütke가 공유한 Liquid 엔진 최적화 실험이나 고대 두루마리 잉크 검출에 다중 에이전트 실험 루프를 적용한 Vesuvius Challenge 사례처럼, 공개 트레이스가 딸린 실제 적용기가 포함됩니다. 이런 항목들은 패턴이 실험실 밖에서 어떻게 쓰이는지 가늠하는 데 도움이 됩니다.

Awesome Autoresearch 사용하기와 기여

Awesome Autoresearch는 코드를 설치해 실행하는 도구가 아니라 GitHub에서 바로 읽는 색인입니다. 저장소의 README 상단 목차에서 관심 있는 카테고리로 이동해, 각 항목의 한 줄 설명과 스타 배지를 보며 자신의 작업에 맞는 구현체를 고르면 됩니다.

새 프로젝트나 사용 사례를 추가하려면 저장소의 CONTRIBUTING.md 안내에 따라 Pull Request를 보내면 됩니다. autoresearch 계열이 빠르게 늘고 있는 만큼, 직접 만든 포팅이나 적용 사례를 목록에 더하는 방식으로 참여할 수 있습니다.

Awesome Autoresearch의 라이선스

이 목록 자체는 CC0-1.0로 공개되어 있어, 목록 콘텐츠를 출처 표기 없이도 자유롭게 복제하고 활용할 수 있습니다. 다만 목록에 링크된 개별 프로젝트는 각자 별도의 라이선스를 따르므로, 특정 구현체를 가져다 쓸 때는 해당 저장소의 라이선스를 따로 확인해야 합니다.

:github: Awesome Autoresearch 프로젝트 GitHub 저장소

더 읽어보기




이 글은 GPT 모델로 정리한 글을 바탕으로 한 것으로, 원문의 내용 또는 의도와 다르게 정리된 내용이 있을 수 있습니다. 관심있는 내용이시라면 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. :hugs:

:pytorch:파이토치 한국 사용자 모임:south_korea:이 정리한 이 글이 유용하셨나요? 회원으로 가입하시면 주요 글들을 이메일:love_letter:로 보내드립니다!
텔레그램(Telegram)이나 Slack/Discord/Teams/Dooray/GoogleChat 등으로도 새 글 알림을 받으실 수 있습니다. :smiley:

:wrapped_gift: 아래:down_right_arrow:쪽에 좋아요:+1:를 눌러주시면 새로운 소식들을 정리하고 공유하는데 힘이 됩니다~ :star_struck: