GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. 
소개
- OpenAI는 Google과 Anthropic을 포함한 모든 다른 모델 제공자들보다 더 많은 사용량을 가지고 있음
- 이러한 회사들은 사용자 프롬프트와 명시적, 암시적 피드백을 포함한 대량의 데이터를 수집하여 미래의 모델 훈련에 도움을 줌
- 이들 회사가 가진 주요한 장점은 인프라의 확장성과 서비스의 품질
- GPT-3.5를 미세 조정하기 위해 OpenAI를 사용하는 비용은 Amazon의 p4d.24xlarge를 대여하는 것보다 3-8배 저렴
- OpenAI의 비용은 모델 가중치를 훈련하고 저장하는 것, 미세 조정 인프라를 구축하고 유지하는 것, 수천 개의 GPU를 관리하는 데 필요한 전문 지식을 포함
- 대부분의 조직들이 필요한 시간, 인력, 자금 때문에 자체 오픈소스 LLM 배포를 운영하는 것은 이치에 맞지 않는다는 이야기
- 오픈소스 모델은 비용, 복잡성, 그리고 그것들을 맞춤화하고 실행하는 데 필요한 시간을 점점 적게 더 줄여가야 함
- 가격이 결국 상승하더라도 OpenAI와 같은 메이저 LLM 제공 회사들이 극단적인 규모의 경제로 모델을 제공하는 능력 때문에 시장을 지배하게 될 것