번역하면 번역이 정말 이상해져 요약한 내용을 올립니다. 자세한 내용은 글 말미의 링크로 가보세요.
이 글 내용과 관련 있는 다른 글이 어제 날짜로 여기 올라와 있네요. 이것 도 참고하세요.
-------------------------------------------
최근 AI를 이용한 시스템 취약점 탐색 능력에 공포를 느낀 건지, 외국인에 대한 일부 LLM 모델 Weight 사용을 중단시켰다는 소식을 접했습니다.
이 이야기를 듣고 예전 생각이 떠올랐습니다.
회사 내부 방화벽 안에서 직원들의 컴퓨터들에 포트 스캐닝을 돌려보니, “1004” 같은 말도 안 되는 비밀번호로 방치된 서버가 한두 대가 아니더군요. 그래서 예전에는 일반인 손에 포트 스캐너가 들어가지 못하게 막으려 했지만, 결국 오픈소스 포트 스캐너가 나오면서 그 규제는 무의미해졌죠.
이번에 출시가 중단된 Claude의 해당 모델(미소스)도 사실 시스템 시큐리티에 특화된 모델이 아닙니다. 그저 코딩 능력과 일반적인 작업에 강점을 두는, Claude의 기업 전략에 맞춘 평범한 모델일 뿐인데, 외국인 사용 제한 때문에 출시 자체가 막힌 것 같습니다. 장기적으로 보면 이런 식의 제한은 큰 의미가 없을 거라는 생각이 듭니다.
AI는 이미 오래전부터 보안 분야에서 쓰여왔다
- IDS(침입탐지시스템)에서 제로데이 공격을 탐지하고,
- DDoS 공격 패턴을 학습해 자동 차단하는 등
방패로서 AI를 이미 수년째 적극 활용해 왔습니다. 그런데 이제 그 AI가 창의 역할까지 하게 된 거죠. 리눅스 커널에 존재하는 수백~수천 개의 잠재적 취약점을 빠르게 발견해 내는 수준까지 도달했습니다.
더 무서운 점은, 이게 엄청난 고난도 기술이 아니라는 겁니다.
에이전트에게 단순히 이렇게만 명령하면 됩니다.
“계속해서 취약점을 찾아봐. 발견할 때까지 멈추지 마.”
cron 워크플로우로 반복 수행하면 결국 찾아내는, 일종의 AI 브루트포스 해킹이 가능해집니다. 세부적인 해킹 기법은 AI가 이미 잘 알고 있으니, 에이전트에게 적절히 지시만 내려주면 됩니다.
진짜 큰 문제는, 이번에 논란이 된 모델이 이런 용도로 파인튜닝된 특화 모델조차 아니라는 점입니다. 그냥 범용 코딩 능력이 뛰어난 일반 LLM일 뿐인데도 이 정도라는 거죠.