대한민국이, 전 세계에서 가장 빠른 AI를 "증명"했습니다
— 구글이 직접 검증한 The Fast Gemma Challenge 1위, 24대 GPU 한국 스타트업의 이야기
조용하지만 벅찬 소식 하나를 전합니다.
구글(Google)과 허깅페이스(Hugging Face)가 공동 주최한 전 세계 AI 경연 'The Fast Gemma Challenge'에서, GPU 스물네 장으로 굴러가는 한국의 작은 스타트업 비드래프트(VIDRAFT)가 다시 1위를 탈환했습니다. 그것도, 세상에서 가장 정직하고 어려운 방식으로요.
◆ 무대: 전세계 최고의 149개의 AI가 속도를 겨루다
이 대회는 단순합니다. 구글의 공식 모델 'Gemma'를 정해진 GPU(A10G) 한 장 위에서 누가 가장 빠르게 돌리느냐 — 초당 생성 토큰 수(TPS)로 승부합니다. 무려 149개의 자율 AI 에이전트가 병렬로 달라붙어, 계획을 세우고, 커스텀 커널을 짜고, 벤치마크를 돌리며 실시간으로 순위를 다툽니다. 참가자 중엔 허깅페이스와 구글 딥마인드의 핵심 인력도 있었습니다.
세계 최고의 엔지니어와 AI들이 모인 자리. 그 한복판에서 한국 스타트업이 정상에 선 겁니다.
◆ 그런데, 진짜 규칙은 따로 있습니다
이 대회가 특별한 이유는 여기 있습니다. 그냥 빠르기만 하면 안 됩니다.
첫째, 품질을 지켜야 합니다. 모델의 답변 품질을 나타내는 지표(PPL, 낮을수록 좋음)가 기준을 넘으면 — 2.40을 초과하면 — 실패입니다. 속도를 위해 모델을 망가뜨리는 건 반칙이라는 뜻이죠.
둘째, 구글이 직접 검증해야 합니다. 아무 숫자나 올린다고 순위가 되는 게 아닙니다. 주최 측이 그 결과를 비공개 프롬프트셋으로 다시 돌려보고, 진짜라고 확인(VERIFIED)해줘야 비로소 '실제 순위'로 인정됩니다.
이 두 규칙이, 이번 1위를 진짜 값지게 만듭니다.
◆ 리더보드의 반전
리더보드 맨 윗줄엔 535.91이라는 눈부신 숫자가 있습니다. 비드래프트의 510.58보다 빠르죠. 그런데 그 옆을 보면 — PPL이 2.44입니다. 품질 기준(2.40)을 넘겼습니다. 그 아래 529.13(PPL 2.46), 524.25(PPL 2.44)도 마찬가지고요.
빠르지만, 모델이 망가진 겁니다. 그래서 구글은 그 화려한 숫자들에 VERIFIED 도장을 찍지 않았습니다. 속도만 좇다 품질을 잃은 기록들이죠.
오직 비드래프트만이, 510.58 TPS를 PPL 2.39로 달성했습니다. 세계에서 가장 빠른 속도를, 품질을 조금도 희생하지 않고. 그리고 구글이 비공개 프롬프트셋으로 다시 돌려 "VERIFIED VALID" — 진짜라고 확인해 주었습니다.
검증된(Verified) 결과들 중에서, 비드래프트가 세계 1위입니다. 명실상부, 품질을 지키며 전 세계에서 가장 빠른 모델 가속 기술을 입증한 곳은 대한민국의 비드래프트라는 것을, 구글이 직접 확인해 준 셈입니다.
◆ 24대 vs 수십만 대
이 대회에 참가한 글로벌 팀들은 수천, 수만 장의 GPU를 자원으로 씁니다. 비드래프트가 가진 건 스물네 장. 그런데도 정상에 섰습니다.
비법은 규모가 아니라 방법이었습니다. 합성 워밍업 브리지, 커널 튜닝(CTK), 최적화된 서빙 설정 — 같은 GPU를 '더 잘 쓰는 법'을 집요하게 파고든 결과입니다. 하드웨어가 아니라 엔지니어링의 승리죠.
◆ 왜 이게 중요할까
'추론 가속'은 화려해 보이지 않지만, 사실 AI 산업의 심장입니다. 같은 모델을 두 배 빠르게 돌린다는 건, 서버 비용이 절반이 되고, GPU 없는 노트북이나 폰에서도 AI가 돌아간다는 뜻이니까요. 비드래프트가 만드는 온디바이스 AI(POCKET), 주권형 AI가 바로 이 가속 기술 위에 서 있습니다.
세계에서 가장 빠른 '검증된' 가속 기술을 한국이 가졌다는 것 — 이건 단순한 대회 1등이 아니라, 대한민국 AI가 세계 최전선에서 실력으로 겨루고 있다는 증거입니다.
◆ 자랑스럽습니다
큰 자본도, 수만 장의 GPU도 없이. 오직 방법과 집요함으로. 스물네 장의 GPU를 가진 한국 스타트업이, 구글과 허깅페이스가 지켜보는 세계 무대에서 정직하게 1위를 증명했습니다.
직접 확인해 보세요 — 구글이 검증한 리더보드가 여기 있습니다.
대한민국 AI, 계속 나아갑니다.