GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. 
소개
매년 발표되는 인공지능의 현재와 미래를 폭넓게 조망한 보고서
- Research : 현재까지의 기술 혁신과 능력
- Industry : AI를 위한 상업적 응용 분야 및 비즈니스 임팩트
- Politics : AI관련 규제, 경제적 의미 및 AI의 지정학(Geopolitics)
- Safety : AI가 줄 수 있는 치명적 위험을 식별하고 완화
- Predictions : 앞으로 일어날 일과 이전 보고서의 퍼포먼스 검토
2023년 분야별 요약
- Research
- GPT-4는 독점 모델과 차선책 오픈소스 사이의 기능 격차를 보여주면서, 동시에 RLHF(인간 피드백 강화 학습)의 힘을 입증
- LLaMa-1/2를 기반으로 더 작은 모델, 더 나은 데이터 세트, 더 긴 컨텍스트등 독점 모델 성능을 복제하거나 능가하기 위한 노력이 증가
- 인간이 생성한 데이터가 AI 확장 추세를 얼마나 오래 지속할 수 있을지(일부에서는 2025년까지 LLM에 의해 데이터가 고갈될 것으로 예상함), 합성 데이터를 추가하는 것이 어떤 영향을 미칠지는 불분명함. 기업 내에 갇혀 있는 동영상과 데이터가 다음 타깃이 될 가능성이 높음
- LLM과 Diffusion 모델은 분자 생물학 및 신약 개발을 위한 새로운 돌파구를 마련함으로써 생명과학 커뮤니티에 계속해서 선물을 주고 있음
- 멀티모달리티가 새로운 영역으로 떠오르면서 모든 종류의 에이전트에 대한 관심이 크게 증가
- Industry
- 국가, 스타트업, 대기업, 연구자 모두의 GPU에 대한 열렬한 수요로 인해 NVIDIA가 시가총액 1조 달러 클럽에 가입
- 수출 통제로 인해 고급 칩의 중국 판매가 제한되지만, 주요 칩 공급업체들은 수출 통제를 피할 수 있는 대안을 개발중
- ChatGPT가 이끄는 GenAI 앱들은 이미지, 비디오, 코딩, 음성, 코파일럿 등 모든 분야에서 획기적인 한 해를 보내며 180억 달러의 VC 및 기업 투자를 이끌어 냈음
- Politics
- 세계는 명확한 규제 진영으로 나뉘었지만 글로벌 거버넌스의 진전은 여전히 더디게 진행되고 있음. 대형 AI 연구소가 그 공백을 메우기 위해 나서는 중
- 미국이 동맹국들을 동원하고 중국의 대응은 여전히 미흡한 가운데 칩 전쟁은 계속 진행 중
- AI는 선거와 고용을 포함한 일련의 민감한 분야에 영향을 미칠 것으로 예상되지만 아직 큰 영향을 미치지는 않고 있음
- Safety
- 실존적 위험에 대한 논쟁이 처음으로 주류로 떠오르며 크게 격화
- 많은 고성능 모델이 쉽게 '탈옥' 가능. RLHF 문제를 해결하기 위해 연구자들은 셀프 얼라인먼트 및 인간 선호도 사전 학습과 같은 대안을 모색중
- 기능이 발전함에 따라 SOTA(State of the Art, 최고 수준)모델을 일관성 있게 평가하는 것이 점점 더 어려워지고 있음. Vibe만으로는 충분하지 않음
다음 12달 예측
- 할리우드급 프로덕션에서 시각 효과를 위해 제너레이티브 AI를 사용
- 2024년 미국 대선 과정에서 생성형 AI 미디어 회사가 이를 악용한 혐의로 조사 받음
- 스스로 개선하는 AI 에이전트는 복잡한 환경(예: AAA 게임, 도구 사용, 과학)에서 SOTA를 압도
- 기술 기업공개(IPO) 시장이 해빙되고 AI 중심 기업(예: Databricks)의 상장이 한 건 이상 이루어질 것으로 예상
- GenAI 확장 열풍으로 한 그룹이 하나의 대규모 모델을 학습시키는 데 10억 달러 이상을 지출하는 경우도 발생
- 미국 공정거래위원회(FTC)나 영국 공정거래위원회(CMA)는 Microsoft/OpenAI 거래를 경쟁법 위반으로 조사
- 높은 수준의 자발적 약속을 넘어서는 글로벌 AI 거버넌스의 진전은 제한적
- 금융 기관이 컴퓨팅 자금 조달을 위한 VC 주식 자금을 대체하기 위해 GPU 부채 펀드를 출시
- AI가 생성한 노래가 빌보드 핫 100 톱 10 또는 스포티파이 톱 히트 2024에 진입
- 추론 워크로드와 비용이 크게 증가함에 따라 대규모 AI 회사(예: OpenAI)가 추론에 중점을 둔 AI 칩 회사를 인수
