# \#gpt-4 **URL:** https://discuss.pytorch.kr/tag/gpt-4/178.md [최신](https://discuss.pytorch.kr/latest.md) · [카테고리](https://discuss.pytorch.kr/categories.md) · [태그](https://discuss.pytorch.kr/tags.md) --- ## [OpenPipe, MoA 기법 활용하여 25배 낮은 가격으로 GPT-4 성능을 뛰어넘는 모델 제공](https://discuss.pytorch.kr/t/openpipe-moa-25-gpt-4/4668)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [6월 21, 2024, 7:06오전 UTC](https://discuss.pytorch.kr/t/openpipe-moa-25-gpt-4/4668 "2024-06-21T07:06:22Z")
들어가며 :pytorch::kr: OpenPipe라는 기업에서 MoA(Mixture-of-Agents, 에이전트 혼합 기법), LLM 성능을 향상시키기 위한 새로운 기법 을 활용하여 GPT-4를 능가하는 비용 효율적 AI를 제공하고 있습니다. 이에 대한 블로그 글을 통해 MoA 기법이 동작하는 방식을 더 자세히 살펴볼 수 있을 것 같아 소개합니다. :smiley: 소개 에이전트 혼합 기법(MoA, Mixture-of-Agents)은 훨씬 저렴한 비용으로 GPT-4와 같은 단일 대규모 언어 모델(LLM)을 능가하는 성능을 보이는 새로운 기법입니다. OpenPipe는 이 새로운 모델을 개발하여 다양한 에이전트를 조합함으로써 성능을 극대화했습니다. 이 모델은 특히 대규모 데이터 처리가 필요한 상황에서 뛰어난 효율성을 자랑합니다. GPT-4와 비교했을 때, 이러한 MoA(Mixture-of-Agents) 기법을 활용한 모델의 운영 비용은 1/25에 불과합니다. 이는 AI 모델을 운영하는데 드는 막대한 비용을 줄일 수 있으며, 다양한 에이전트(LLM)들을 조합하여 각 에이전트의 강점을 극대화할 수 있습니다. 주요 특징 비용 효율성: 운영 비용이 GPT-4의 1/25로, 경제적 부담을 크게 줄일 수 있습니다. 다양한 에이전트 조합: 각 에이전트의 강점을 활용하여 성능을 극대화합니다. 확장성: 다양한 분야에 적용 가능하며, 특히 대규모 데이터 처리에 강점을 보입니다. MoA 모델 디자인 OpenPipe의 MoA 모델은 3개의 프롬프트 체인에 의해 최종 결과를 생성합니다: 프롬프트 1: 선택된 기본 모델(GPT-4, GPT-4 Turbo, GPT-4o)을 사용하여 n=3으로 설정하고 temperature 매개변수를 높은 값으로 입력하여 3개의 후보 완성을 병렬로 생성합니다. 이는 출력의 다양성을 촉진합니다. 프롬프트 2: 다시 기본 모델을 호출하여 원래 입력과 함께 프롬프트 1에서 생성된 3개의 후보 답변들을 전달합니다. 그런 다음 LLM은 후보 완… --- ## [파인튜닝 가능한 멀티모달 LLM이 뭐가 있을까요?](https://discuss.pytorch.kr/t/llm/4216)
**Author:** [@gregorioha](https://discuss.pytorch.kr/u/gregorioha)\ **댓글:** 7\ **마지막 업데이트:** [4월 26, 2024, 6:32오전 UTC](https://discuss.pytorch.kr/t/llm/4216 "2024-04-26T06:32:47Z")
안녕하세요. 멀티모달 LLM 주제로 석사 논문을 준비중인 사람입니다. 제가 도면을 해석해주는 멀티모달 LLM을 주제로 석사 논문을 작성하려 하는데요, 원래는 gpt-4를 생각했는데, OpenAI에서 제공하는 GPT-4 계열 모델들은 파인튜닝 기능이 아직 제공되지 않는다고 들어서 이렇게 질문글 올립니다. 혹시 정말로 OpenAI의 gpt-4 모델들은 파인튜닝이 불가능한지 전문가분들께 검증받고자 하고요. 정말로 저 모델들이 파인튜닝이 안된다면, 파인튜닝 가능한 멀티모달 LLM이 있으면 추천 부탁드리겠습니다. 제가 Bing Copilot에 물어보니 XTuner, LLaVA를 추천받았는데, 이 모델들이 정말로 파인튜닝하는데 적합한 멀티모달 LLM이 맞는지 검증받고 싶네요. 그리고 파인튜닝할 때 대략 어떤식으로 진행하게 되는지도 알려주실 수 있으면 감사드리겠습니다. (이미지랑 텍스트 데이터는 어떻게 적용하는지 등) --- ## [\[GN\] 구글 Bard, LLM 성능 리더보드에서 GPT-4 Turbo 바로 아래인 2위까지 상승](https://discuss.pytorch.kr/t/gn-bard-llm-gpt-4-turbo-2/3367)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 1\ **마지막 업데이트:** [1월 29, 2024, 2:29오전 UTC](https://discuss.pytorch.kr/t/gn-bard-llm-gpt-4-turbo-2/3367 "2024-01-29T02:29:22Z")
GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley\_cat: 소개 구글 Bard (Gemini Pro) 가 GPT-4-0314/0613 등을 제치고 GPT-4 Turbo (Arena ELO 1249) 바로 아래인 아래 2위 (1215) 까지 점프 또한, HHEM 리더보드의 Hallucination Rate도 12% 에서 4.9%로 감소. (GPT-4/4 Turbo는 3.0%, GPT 3.5 Turbo 는 3.5%) 바드 + 제미니 울트라가 어떻게 출시될지 정말 기대됨 Hacker News 의견 구글 바드의 성능 제한: 한 사용자는 구글 바드의 성능이 비용 때문에 제한되었다고 의심해왔음. 구글은 바드를 무료로 제공하고 있으며, 영원히 모든 사용자에게 거대한 모델을 무료로 운영하고 싶지 않았을 것임. 추론 비용에 대한 혁신이 있었거나, 경쟁에 뒤처진다는 평가에 지쳐 일시적으로 비용을 감수하기로 결정했을 수도 있음. 사용자는 구글이 공개적으로 최고의 모델을 운영하는 것을 볼 수 있도록 구독 서비스를 시작해야 한다고 생각함. Jeff Dean의 트윗에 따르면, "Gemini Pro-scale model"이라는 새로운 모델이 출시되었으며, 독립적인 lmsys 리더보드에서 2위를 차지했다고 함. "Pro-scale"이 무엇을 의미하는지, 모든 사용자가 이미 이 모델을 사용하고 있는지는 확실하지 않음. 바드의 초기 실망과 개선: 바드는 출시 당시 실망스러웠으나 개선되고 있음을 보는 것이 좋음. 사용자 개인적인 경험으로는 GPT 4/Turbo보다 Claude 2를 더 많이 사용하며, 그 응답 스타일과 질문에 대한 답변을 선호함. Kagi에서는 Claude 1을 GPT 4(비터보)와 동등하게 평가하며, Claude 2의 품질을 4 Turbo와 같은 수준으로 평가하고 있음을 주목할 만함. 바드 모델의 투표 수: 바드 모델은 상대적으로 투표 수가 적음. 다른 모… --- ## [OpenAI, 새로운 임베딩 모델 및 GPT-3.5, GPT-4 업데이트 발표 (feat. GPT 모델의 게으름 개선)](https://discuss.pytorch.kr/t/openai-gpt-3-5-gpt-4-feat-gpt/3358)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [1월 26, 2024, 2:23오전 UTC](https://discuss.pytorch.kr/t/openai-gpt-3-5-gpt-4-feat-gpt/3358 "2024-01-26T02:23:43Z")
PyTorchKR​:fire::south\_korea: :thinking::speech\_balloon: 기능을 개선하면서 가격을 낮추는 OpenAI의 행보를 보면 AWS가 생각납니다. 과연 OpenAI는 어디까지 갈 수 있을까요? 무엇보다 이번 업데이트에 포함된 laziness 개선도 얼마나 도움이 될지 기대됩니다. :rofl: 이 글은 GPT 모델로 정리한 것으로, 잘못된 부분이 있을 수 있으니 글 아래쪽의 원문도 함께 참고해주세요! 읽으시면서 어색하거나 잘못된 내용을 발견하시면 덧글로 알려주시기를 부탁드립니다. :hugs: 개요 OpenAI는 새로운 임베딩 모델의 도입, GPT-4 Turbo 업데이트, 콘텐츠 심사 모델 개선, 그리고 새로운 API 사용 관리 도구의 출시를 발표했습니다. 또한 GPT-3.5 Turbo의 가격 인하도 함께 발표하였습니다. 주요 내용 새로운 임베딩 모델 임베딩은 자연어 또는 코드와 같은 콘텐츠 내의 개념을 나타내는 일련의 숫자입니다. 임베딩을 사용하면 머신 러닝 모델과 기타 알고리즘이 콘텐츠 간의 관계를 쉽게 이해하고 클러스터링이나 검색과 같은 작업을 수행할 수 있습니다. 임베딩은 ChatGPT와 어시스턴트 API 모두에서 지식 검색과 같은 애플리케이션과 많은 검색 증강 생성(RAG) 개발자 도구를 지원합니다. (:fire::kr: RAG가 궁금하시다면? :point\_right: 대규모 언어 모델을 위한 검색-증강 생성(RAG) 기술 현황 - 1/2편) 이번에 OpenAI에서는 새로운 임베딩 모델 2종(text-embedding-3-small과 text-embedding-3-large)이 공개되었습니다. 두 모델 모두 개념적 표현을 잃지 않으면서 임베딩을 단축할 수 있어 성능과 비용 사이의 균형을 맞출 수 있습니다. text-embedding-3-small: 이전 모델인 text-embedding-ada-002보다 효율적이며, 다국어 검색 및 영어 작업 벤치마크에서 성능이 향상되었습니다. 5배 저렴합니다… --- ## [\[GN\] AI 비용을 매일 $100 에서 $1로 줄인 방법 : GPT4를 이용한 Mixtral 파인튜닝](https://discuss.pytorch.kr/t/gn-ai-100-1-gpt4-mixtral/3339)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 2\ **마지막 업데이트:** [1월 24, 2024, 5:09오전 UTC](https://discuss.pytorch.kr/t/gn-ai-100-1-gpt4-mixtral/3339 "2024-01-24T05:09:24Z")
GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley\_cat: 소개 AI 기반 커리어 탐색앱을 만들었는데, 폭발적으로 성장하면서 GPT-4 비용이 일 $100 이상 나가기 시작 레이턴시를 줄이고 품질을 유지하면서 AI 비용을 99%까지 낮추기 위해 사용한 방법 가장 강력한 모델(GPT-4)를 이용하여 결과를 낸 뒤, 그 결과를 이용해서 더 작은 모델을 파인튜닝 AI 요청/응답을 쉽게 Export 가능하도록 저장하기. Helicone AI를 이용. OpenAI API 만 그대로 교체하면 테이블에 AI 요청을 저장해줌 약 100~500 개쌍의 요청/응답 쌍을 저장하게 되면, Export 해서 좋은 품질로 데이터를 정제 이 데이터 셋을 이용해서 Together/Anyscale 같은 호스팅 서비스를 이용해서 Mixtral 8x7B 를 파인튜닝 GPT-4를 새로 파인튜닝된 모델로 교체 Hacker News 의견 대부분의 기술 회사들이 핵심 연구를 제외하고 최소 반년 동안 GPT-4 또는 3.5를 이용해 훈련 데이터를 생성하고, 이를 기반으로 QLoRA를 미세 조정하여 "독자적인" AI 모델로 출시하고 있음. 관리진은 큰 성과를 주장하며 자사가 "특정 산업" AI 분야의 선두주자라고 말함. 이 과정은 기계학습에 대한 지식이 거의 필요 없으며, 클라우드 컴퓨팅 비용이 $1,000 미만으로 가능함. 하지만 실제 작업에서는 GPT-3.5 수준의 결과물을 얻게 되며, 특히 클라우드 GPU를 사용할 경우 GPT-3.5와 비용 면에서 경쟁하기 어려움. 이 사람의 앱 Wanderer를 확인해봤는데, 이용약관, 개인정보 처리방침, 명확한 가격 책정, AI에 대한 언급이 전혀 없어 매우 수상함. GPT-4를 사용하는 접근 방식은 모델이 GPT-4처럼 똑똑한 척하기에는 좋지만, 실제로 중요한 순간에는 열등한 모델임이 드러남. Together.ai의 문서에 따르면 Mix… --- ## [Awesome-Code-LLM: 코드를 작성하는 LLM(Code-LLM) 모델들의 목록을 정리하는 Awesome List](https://discuss.pytorch.kr/t/awesome-code-llm-llm-code-llm-awesome-list/2885)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [11월 20, 2023, 5:52오전 UTC](https://discuss.pytorch.kr/t/awesome-code-llm-llm-code-llm-awesome-list/2885 "2023-11-20T05:52:54Z")
Code-LLM들에 대한 정보를 모아둔 GitHub 저장소를 발견하여 공유드립니다. Survey 논문부터 시작하여 분류별 모델 목록과 데이터셋, 문서들을 모아두었습니다. Awesome Code LLM 저장소 URL (원문) 주요 내용 :warning:주의:warning:: 아래 내용은 작성 시점까지의 내용을 정리한 것으로, 최신 내용은 위의 저장소를 방문해주세요! 1. Code-LLM 서베이 논문 목록 6개의 Code-LLM 서베이 논문들을 정리하였습니다. 앞의 2개는 NLP 측면에서의, 뒤의 4개는 SE 측면에 초점을 맞춘 논문들입니다. 논문 제목 출판일 출처 Large Language Models Meet NL2Code: A Survey 2022-12 ACL 2023 A Survey on Pretrained Language Models for Neural Code Intelligence 2022-12 arXiv An Empirical Comparison of Pre-Trained Models of Source Code 2023-02 ICSE 2023 Large Language Models for Software Engineering: A Systematic Literature Review 2023-08 arXiv Towards an Understanding of Large Language Models in Software Engineering Tasks 2023-08 arXiv Pitfalls in Language Models for Code Intelligence: A Taxonomy and Survey 2023-10 arXiv 2. Code-LLM 모델 목록 2.1 기존의 LLM들 (Off-the-Shelf LLM) 코드 작성을 위한 모델은 아니지만, 기본적으로 코딩 능력을 갖춘 LLM 모델들입니다. 모델명 논문 제목 및 링크 출판일 추가 링크 LaMDA LaMDA: Langu… --- ## [\[GN\] Andrej Karpathy, LLM OS를 구상중](https://discuss.pytorch.kr/t/gn-andrej-karpathy-llm-os/2847)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [11월 14, 2023, 2:14오전 UTC](https://discuss.pytorch.kr/t/gn-andrej-karpathy-llm-os/2847 "2023-11-14T02:14:30Z")
GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley\_cat: 소개 "LLM OS를 요리하고 있으니 기다려 줘 (LLM OS. Bear with me I'm still cooking.)" 스펙 LLM: Open AI GPT-4 Turbo 256 코어(배치 사이즈) 프로세스 @20Hz(tok/s) RAM: 128Ktok Filesystem: Ada002 이더넷을 통해서 브라우저와 다른 LLM 연동 비디오/오디오 출력 기존 컴퓨터의 도구들 포함 (계산기, 파이썬 인터프리터, 터미널) 원문 출처 / GeekNews 더 읽어보기 --- ## [\[GN\] OpenAI, DevDay에서 새로운 모델 및 개발자 제품 공개](https://discuss.pytorch.kr/t/gn-openai-devday/2816)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 1\ **마지막 업데이트:** [11월 8, 2023, 7:02오전 UTC](https://discuss.pytorch.kr/t/gn-openai-devday/2816 "2023-11-08T07:02:12Z")
GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley\_cat: 소개 128K 문맥 창을 지원하는 GPT-4 Turbo 모델, Vision이 포함된 GPT-4 API, Assistant API, DALL-E 3 API, 새로운 GPT-3.5 Turbo 등 공개. GPT-4 Turbo 128K 문맥 창(Context Window)을 지원하며, 2023년 4월 기준 데이터로 훈련됨. GPT-4 대비 입력 토큰은 3배, 출력 토큰은 2배 저렴함. 특정 형식으로 응답하는 지침을 더 잘 따르며, JSON 응답이 보장되는 JSON 모드도 있음. seed 기반으로 재현할 수 있는 출력을 지원하며 출력에 대한 로그 확률을 반환하는 기능을 추가할 예정. GPT-3.5 Turbo도 같이 업데이트됨. Assistants API 코드 인터프리터, 검색, 함수 호출 기능을 가진 특수 목적 AI. 스레드 기반으로 상태를 관리하여 무한히 긴 내용도 처리 가능. 코드 인터프리터 - 샌드박스 환경에서 Python 코드를 작성하고 실행할 수 있음. 검색 - 사용자가 제공한 문서 등 모델 외부의 지식으로 내용을 검색하고 응답. 함수 호출 - 사용자가 정의한 함수를 적절하게 호출하고, 응답을 결과에 포함할 수 있음. 그 외 신규 API GPT-4 Turbo에 이미지를 인식하는 기능이 추가됨, DALL-E 3가 API로 출시되었으며, 이미지 생성당 0.04 달러. TTS API가 추가됨. 모델 커스터마이징 GPT-4 미세 조정 모델이 실험적 액세스로 출시될 예정. 거대 조직을 위해 사용자 정의 모델을 제작하기 위한 맞춤형 모델 서비스 제공. 수십억 토큰 이상의 독점 데이터 세트를 통한 훈련 등. 가격 인하 GPT-4 Turbo 128… --- ## [\[GN\] AI만으로 "Angry Birds" 따라 만들기](https://discuss.pytorch.kr/t/gn-ai-angry-birds/2786)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [11월 3, 2023, 2:03오전 UTC](https://discuss.pytorch.kr/t/gn-ai-angry-birds/2786 "2023-11-03T02:03:11Z")
GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley\_cat: 소개 Midjourney, DALL•E 3, GPT-4 를 이용해서 "Angry Pumpkins"를 만든 과정을 소개 타이틀 화면, 배경, 캐릭터 및 박스/해골 등 물체를 생성한 프롬프트들 소스코드는 약 600줄 아직 GPT-4가 프롬프트로 게임 전체를 생성하는 단계는 아니지만, 미래엔 AAA 게임도 가능할 것이라고 믿음 현재단계에서는 GPT-4에 반복적으로 요청. 간단한 기능에서 시작해서 코드를 확장 및 개선함 matter.js 와 p5.js 를 이용해서 "Angry Birds" 와 비슷한 게임을 만들어 달라고 요청한뒤 각 부분을 개선함 원문 https://twitter.com/javilopen/status/1719363587351740711 Angry Pumpkins 게임 해보기 Angry Pumpkins 전체 소스코드 (js 코드) https://bestaiprompts.art/angry-pumpkins/sketch.js 출처 / GeekNews --- ## [\[GN\] ChatGPT는 이제 보고, 듣고, 말할 수 있습니다](https://discuss.pytorch.kr/t/gn-chatgpt/2543)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [9월 26, 2023, 11:53오전 UTC](https://discuss.pytorch.kr/t/gn-chatgpt/2543 "2023-09-26T11:53:46Z")
GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley\_cat: 소개 ChatGPT에 새로운 음성 및 이미지 기능이 출시됨. 음성을 통해 자연스럽게 대화하고, 이미지를 첨부하여 질문하는 것이 가능해짐. 음성은 Whisper를 통해 텍스트로 변환되고, 답변은 새로운 TTS 모델을 기반으로 하여 전문 성우 목소리로 변환됨. 새로운 TTS 모델은 몇 초의 샘플 목소리만 가지고도 해당 사람의 목소리를 그대로 재현하는 것이 가능. 이 모델은 Spotify의 팟캐스트 번역 기능에도 사용되어, 팟캐스터의 목소리를 그대로 사용하여 다국어로 번역을 진행함. 이미지는 한 번에 여러 개 첨부가 가능하며, 이미지 속의 텍스트뿐만 아니라, 사물도 상세하게 인식함. 도구나 장치의 사용법을 물어보거나, 냉장고 속 식재료를 통해 레시피에 대한 대화를 나눌 수 있음. 또한 그래프를 분석하거나 수학 문제를 푸는 등도 가능해짐. 모바일 앱에서는 그리기 도구를 통해 이미지의 특정 부분에 집중하도록 할 수 있음. 안전과 개인 정보 보호를 위해 사람에 대해 분석하거나 이야기하는 기능은 크게 제한되어 있음. 앞으로 2주 내로 Plus 및 Enterprise 사용자에게 먼저 제공될 예정. 음성은 iOS와 Android에서만 동작하며, 이미지 첨부 기능은 모든 플랫폼에서 사용 가능. 데모 영상 Rectangle Speak with ChatGPT and have it talk back on Vimeo Chat about images on Vimeo 원문 https://openai.com/blog/chatgpt-can-now-see-hear-and-speak 더 읽어보기 GPT-4V(ision) System Card Paper (2023/09) GPT-4 Technical Report (2023/03) 출처 / GeekNews --- ## [\[TLDR\] 오늘의 AI 뉴스, 2023-09-18: Adobe의 생성형 AI Firefly, 일반 사용 가능 👋, AI 저작권 문제 관련 설문조사 📃, AI 보안 🔐](https://discuss.pytorch.kr/t/tldr-ai-2023-09-18-adobe-ai-firefly-ai-ai/2499)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [9월 19, 2023, 12:00오전 UTC](https://discuss.pytorch.kr/t/tldr-ai-2023-09-18-adobe-ai-firefly-ai-ai/2499 "2023-09-19T00:00:00Z")
파이토치 한국 사용자 모임에서는 TLDR 뉴스레터 의 승인을 받아 AI 소식을 DeepL로 번역 하여 전합니다. :star\_struck: 더 많은 AI 소식 및 정보를 공유하고 함께 성장하고 싶으신가요? 지금 파이토치 한국어 커뮤니티에 방문해주세요! :robot: :rocket: 주요 뉴스 & 신규 출시 소식 / Headlines & Launches Adobe의 생성형 AI 모델 Firefly가 이제 정식 버전으로 출시되었습니다 / Adobe’s Firefly generative AI models are now generally available, get pricing plans (4 minute read) 이전에는 베타 버전으로 제공되던 Adobe의 생성형 AI 모델 Firefly가 이제 Creative Cloud, Adobe Express 및 Adobe Experience Cloud에서 사용할 수 있습니다. 사용자는 모델 상호 작용에 따라 '생성 크레딧'을 통해 요금이 청구됩니다. 유료 Adobe 플랜에는 다양한 크레딧 금액이 제공됩니다. 크레딧이 소진되면 Firefly는 계속 작동하지만 속도가 느려집니다. adobe-firefly Adobe's Firefly generative AI models, previously in beta, are now available in Creative Cloud, Adobe Express, and Adobe Experience Cloud. Users will be charged via "generative credits" based on model interaction. Paid Adobe plans come with various credit amounts. Firefly will still work (but run slower) once credits run out. 머스크는 상원의원들에게 AI 위협에 대해 경고하고 게이츠는 이 기술이 세계 기아를 겨냥할 수 있다고 말합니다 / Musk Warns Se… --- ## [\[GN\] Llama2가 요약에 있어 GPT-4만큼 정확하며 30배 더 저렴](https://discuss.pytorch.kr/t/gn-llama2-gpt-4-30/2376)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [8월 31, 2023, 12:37오후 UTC](https://discuss.pytorch.kr/t/gn-llama2-gpt-4-30/2376 "2023-08-31T12:37:25Z")
GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley\_cat: 소개 요약(Summarizing)은 LLM의 가장 실용적인 응용중 하나지만, 요약이 정확하다는 것을 신뢰할 수 있어야 함 비용이나 데이터 접근성 이슈때문에 Llama2 와 같은 오픈소스 LLM을 사용하고 싶지만 정확성에 대한 확신이 서지 않음 실험을 통해서 Llama-2-70b 가 gpt-4 만큼 사실성이 강하고, gpt-3.5-turbo 보다 훨씬 우수하다는 사실을 발견했음 Anyscale Endpoint 를 이용해서 Llama 2 7b/13b/70b 와 gpt-3.5/4 를 비교 3자 검층을 거친 373개의 뉴스 보도 문장을 라벨링 하여 각각 정답과 오답을 하나씩 제시 각 LLM들이 어떤 진술이 사실에 근거한 정확한 요약인지 선택하게 함 문제 2가지 작은 모델이 지시를 잘 따르지 않음. 더 큰 모델이 지침을 더 잘 따름. 그래서 다른 LLM을 이용하여 작은 LLM의 출력을 이해하도록 해야 했음 순서 편향. 첫번째로 뭘 제시하는 가에 따라 선택이 달라짐. 그래서 순서를 바꿔서도 확인 결과 사람 : 84% (이전 연구 기준) gpt-3.5-turbo: 67.0% 정답 (순서 편향 이슈가 심함) gpt-4: 85.5% 정답 Llama-2-7b: 엄청 심한 순서 편향 이슈. 랜덤 정확도 아래임 Llama-2-13b: 58.9% 정답 Llama-2-70b: 81.7% 비용 (100K 단어 요약하는데) gpt-4 : $5.48 gpt-3.5-turbo : $0.25 Llama-2-7b : $0.05 Llama-2-13b : $0.09 Llama-2-70b : $0.19 원문 출처 / GeekNews --- ## [\[GN\] GPT-4는 시간이 지날수록 나빠지고 있다](https://discuss.pytorch.kr/t/gn-gpt-4/2112)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [7월 20, 2023, 8:00오전 UTC](https://discuss.pytorch.kr/t/gn-gpt-4/2112 "2023-07-20T08:00:51Z")
GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley\_cat: 소개 많은 사람들이 이에 대해 얘기를 했지만, 지금까지는 단편적인 것에 그쳤음 최근 발표된 논문에서 GPT-4의 6월버전과 3월버전을 500개의 문제를 가지고 객관적으로 비교해봤음 3월에는 488개를 정확하게 답했지만, 6월에는 정답이 12개에 불과 3개월만에 정답률이 97.6% 에서 2.4%가 된 것 하지만, 여기서 더 나빠짐 Chain-of-Thought 기법을 이용해서 추론을 시켜봄 "17077은 소수인가? Think step by step." 이라고 지시하자, GPT-4는 중간 단계를 생성하지도 않고 "아니오" 라고 답변함 코드 생성도 더 안 좋아짐 LeetCode 에서 50개의 쉬운 문제로 데이터 세트를 구축해서 실행해봄 3월 버전은 52% 성공했지만, 6월버전은 10%만 성공함 왜 이런 일이 발생할까? OpenAI는 계속 변경을 하고 있다고 가정하지만, 어떻게 동작하는지, 그들이 어떻게 평가하는지 등을 알지 못함 소문에 따르면 그들은 여러개의 작은 특화된 GPT-4 모델을 묶어서 사용하여, 마치 큰모델인것 처럼 동작하지만 더 저렴한 비용으로 실행하고 있다고 함 더 저렴하고 빠르게 하는게 이 품질저하의 원인이 될 수 있을까? 이것은 GPT-4에 의존하는 어플리케이션을 구축하는 모든 사람에게 위험 신호임 시간경과에 따라서 LLM의 동작이 변하는 것은 허용할 수 없음 해당 실험은 누구나 Google Colab에서 재현해볼 수 있음 원문 출처 / GeekNews 더 읽어보기 논문: How Is ChatGPT’s Behavior Changing over Time? https://arxiv.org/pdf/2307.09009.pdf Google Colab: LLM Drifts: How Is ChatGPT’s Behavior Changing over Time? https://col… --- ## [OpenAI에서 GPT-4 API를 (유료 사용자 대상으로) 공개했습니다 🎉](https://discuss.pytorch.kr/t/openai-gpt-4-api/2009)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 2\ **마지막 업데이트:** [7월 17, 2023, 8:53오전 UTC](https://discuss.pytorch.kr/t/openai-gpt-4-api/2009 "2023-07-17T08:53:42Z")
그간 GPT-4 API를 기다리시던 분들께 희소식입니다 :tada: 유료 API 사용자 대상 OpenAI의 GPT-4 API 공개 구형 Text Completion 모델들의 지원 중단 예고 (~24년 1월 4일)) 구형 Embedding 모델들의 지원 중단 예고 (~24년 1월 4일) GPT-4 API 일반 사용 공개(GA) 및 구형 모델의 Completion API 지원 중단 예고(GPT-4 API general availability and deprecation of older models in the Completions API) GPT-4 API 뿐만 아니라 GPT-3.5 Turbo, DALL-E, Whisper API도 일반 사용 가능하며, 2024년 초에 지원 중단되는 구형 완성 API 모델에 대한 지원 중단 계획도 발표합니다. GPT-3.5 Turbo, DALL·E and Whisper APIs are also generally available, and we are releasing a deprecation plan for older models of the Completions API, which will retire at the beginning of 2024. 오늘부터 모든 유료 API 고객은 GPT-4에 액세스할 수 있습니다. 3월에는 ChatGPT API를 도입했으며, 이달 초에는 채팅 기반 모델에 대한 첫 번째 업데이트를 출시했습니다. 저희는 채팅 기반 모델이 모든 사용 사례를 지원할 수 있는 미래를 꿈꾸고 있습니다. 오늘 저희는 이전 완성 API 모델에 대한 지원 중단 계획을 발표하며, 사용자들에게 채팅 완성 API를 채택할 것을 권장합니다. Starting today, all paying API customers have access to GPT-4. In March, we introduced the ChatGPT API, and earlier this month we released our first upd… --- ## [\[GN\] GPT-4의 Code Interpreter 활용 사례 모음](https://discuss.pytorch.kr/t/gn-gpt-4-code-interpreter/2057)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [7월 14, 2023, 1:44오전 UTC](https://discuss.pytorch.kr/t/gn-gpt-4-code-interpreter/2057 "2023-07-14T01:44:54Z")
GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley\_cat: 소개 일주일전에 GPT-4에 코드 인터프리터 베타 오픈 파이썬 코드를 작성하고 실행하며, 파일 업로드도 가능 데이터 시각화 및 분석, 코드 파일 편집, 비디오 편집, 이미지 변환, OCR , PPT 자료 생성 등이 가능 zip, csv, xls, png, mov 등의 포맷 지원 코드 생성후 오류가 나면 알아서 수정하고 결과물을 내놓음 포함된 예제들 데이터 시각화: CSV 분석 및 그래프 작성 데이터 시각화: 주식 차트 그리기 데이터 시각화: SNS 데이터 분석 데이터 시각화: 카카오톡 분석 비디오 편집: 끝부분 5초만 추출하기 이미지 편집: 흑백 만들기 이미지 편집 심화: 파이썬 코드를 적용하여 수정하기 (타노스 핑거스냅 효과 적용) 이미지 편집 심화: 파노라마 GIF로 만들기 OCR: PDF를 넣고 텍스트만 OCR로 추출 원문 출처 / GeekNews --- ## [\[TLDR\] 오늘의 AI 뉴스, 2023-06-26: 구글: AudioPaLM 출시 🔊, 마이크로소프트: LLM 교육 및 서비스 발전 💻, 코드 모델이 자가 복구를 할 수 있을까❓](https://discuss.pytorch.kr/t/tldr-ai-2023-06-26-audiopalm-llm/1915)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [6월 27, 2023, 8:43오전 UTC](https://discuss.pytorch.kr/t/tldr-ai-2023-06-26-audiopalm-llm/1915 "2023-06-27T08:43:45Z")
파이토치 한국 사용자 모임에서는 TLDR 뉴스레터의 승인을 받아 AI 소식을 DeepL로 번역하여 전합니다. :star\_struck: 더 많은 AI 소식 및 정보를 공유하고 함께 성장하고 싶으신가요? 지금 파이토치 한국어 커뮤니티에 방문해주세요! :robot: :rocket: 주요 뉴스 & 신규 출시 소식 / Headlines & Launches Google, AudioPaLM 출시 / Google Releases AudioPaLM (7 minute read) Google은 음성 이해 및 생성을 위한 대규모 언어 모델 AudioPaLM을 출시했습니다. AudioPaLM은 텍스트 기반 및 음성 기반 언어 모델을 통합된 멀티모달 아키텍처로 통합하여 텍스트와 음성을 처리하고 생성할 수 있으며, 음성 인식 및 음성 대 음성 번역을 포함한 애플리케이션을 지원합니다. Google has introduced AudioPaLM, a large language model for speech understanding and generation. AudioPaLM fuses text-based and speech-based language models into a unified multimodal architecture that can process and generate text and speech, with applications including speech recognition and speech-to-speech translation. Microsoft, LLM 학습 및 서빙을 위한 최첨단 기술 / Microsoft advances state of the art for LLM training and serving (7 minute read) DeepSpeed는 가장 큰 규모의 오픈 모델들을 학습하는 데 사용된 알고리즘 및 시스템입니다. 메모리, 처리량, 사용성이 개선되어 이제 막 업그레이드되었습니다. DeepSpeed는 AI 분야에서 일하는 대부분의 개발… --- ## [\[TLDR\] 오늘의 AI 뉴스, 2023-06-23: Inflection의 파운데이션 모델 🏗️, 새로운 Stable Diffusion 모델 🖼️, 더 효율적인 ResNet 🌐](https://discuss.pytorch.kr/t/tldr-ai-2023-06-23-inflection-stable-diffusion-resnet/1900)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [6월 24, 2023, 7:30오전 UTC](https://discuss.pytorch.kr/t/tldr-ai-2023-06-23-inflection-stable-diffusion-resnet/1900 "2023-06-24T07:30:49Z")
파이토치 한국 사용자 모임에서는 TLDR 뉴스레터의 승인을 받아 AI 소식을 DeepL로 번역하여 전합니다. :star\_struck: 더 많은 AI 소식 및 정보를 공유하고 함께 성장하고 싶으신가요? 지금 파이토치 한국어 커뮤니티에 방문해주세요! :robot: :rocket: 주요 뉴스 & 신규 출시 소식 / Headlines & Launches Inflection, It's AI 모델 출시 / Inflection Debuts It’s AI Model (1 minute read) "모든 사람을 위한 개인용 AI"를 만드는 것을 목표로 하는 AI 스타트업인 Inflection이 Pi 대화 에이전트를 구동하는 대규모 언어 모델을 공개했습니다. Inflection, an AI startup aiming to create “personal AI for everyone,” has taken the wraps off the large language model powering its Pi conversational agent. Stability, 새로운 Stable Diffusion 모델 출시 / Stability Debuts New Stable Diffusion Model (1 minute read) Stability AI는 이전 작업보다 더 사실적인 이미지를 생성하는 새로운 AI 모델을 출시했습니다. SDXL 0.9라고 불리는 이 모델은 텍스트 기반 프롬프트에 응답하여 이미지를 생성할 수 있으며, 이전 모델보다 더 보기 좋고 구도쪽 섬세함이 더 뛰어납니다. Stability AI has released a new AI model for generating images that it says are more realistic than previous efforts. The model, called SDXL 0.9, can create images in response to text-based prompts that are better looking … --- ## [\[GN\] GPT-4의 Native JSON Output 살펴보기](https://discuss.pytorch.kr/t/gn-gpt-4-native-json-output/1855)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [6월 20, 2023, 3:38오전 UTC](https://discuss.pytorch.kr/t/gn-gpt-4-native-json-output/1855 "2023-06-20T03:38:11Z")
GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley\_cat: 소개 새로 추가된 함수호출 기능을 통해서, LLM을 자신의 제품에 연결하기가 훨씬 쉬워짐 functions 로 함수를 JSON 스키마와 함께 생성하고, function\_call 로 함수 호출하면 JSON 출력을 리턴 프롬프트 엔지니어링으로도 JSON 출력을 만들 수는 있지만, 이 방법이 훨씬 유용 토큰도 훨씬 적게 사용해서 저렴하게 이용 가능 구조화된 데이터를 제공하는 백엔드 API를 자연어를 이용하여 빠르게 작성 가능 원문 출처 / GeekNews --- ## [\[TLDR\] 오늘의 AI 뉴스, 2023-06-19: 틱톡, 10억 달러 규모의 GPU 주문 💽, 메타의 무료 AI 모델 🤖, 스탠포드의 파운데이션 모델 프레임워크 📚](https://discuss.pytorch.kr/t/tldr-ai-2023-06-19-10-gpu-ai/1853)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [6월 20, 2023, 3:32오전 UTC](https://discuss.pytorch.kr/t/tldr-ai-2023-06-19-10-gpu-ai/1853 "2023-06-20T03:32:22Z")
파이토치 한국 사용자 모임에서는 TLDR 뉴스레터의 승인을 받아 AI 소식을 DeepL로 번역하여 전합니다. :star\_struck: 더 많은 AI 소식 및 정보를 공유하고 함께 성장하고 싶으신가요? 지금 파이토치 한국어 커뮤니티에 방문해주세요! :robot: :rocket: 주요 뉴스 & 신규 출시 소식 / Headlines & Launches Meta, 상용 AI 모델 무료 제공 계획 / Meta Plans To Offer Free Commercial AI Models (2 minute read) 상업용 AI 모델을 무료 제공하려는 Meta의 계획은 경쟁사인 Google과 OpenAI에 압박을 가할 수 있는 전략적 움직임입니다. Meta는 개발자의 접근성을 높여 AI를 상품화하고자 하며, 이로 인해 Google과 OpenAI가 경쟁 우위를 유지하기가 더 어려워질 수 있습니다. Meta's plan to offer free commercial AI models is a strategic move that could put pressure on its competitors, Google and OpenAI. Meta is hoping to commoditize AI by making it more accessible to developers, which could make it more difficult for Google and OpenAI to maintain their competitive advantage. ByteDance, 10억 달러 규모의 GPU 주문 / ByteDance ordered $1B of GPUs (5 minute read) 이 중국 거대 기업은 다양한 AI 프로젝트에 사용하기 위해 엔비디아로부터 약 10만 개의 GPU를 구매했습니다. 이러한 주문은 규제 당국이 GPU 수출을 차단하기 전에 이루어졌습니다. 컴퓨팅을 통해 AI 노력을 강화하는 기업 목록에 하나 더 추가되었습니다. The Chinese behemoth … --- ## [OpenAI, GPT-4 모델에 함수 호출 기능이 추가 시 새로운 모델(gpt-4-0613) 사용 공지](https://discuss.pytorch.kr/t/openai-gpt-4-gpt-4-0613/1809)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [6월 14, 2023, 8:18오전 UTC](https://discuss.pytorch.kr/t/openai-gpt-4-gpt-4-0613/1809 "2023-06-14T08:18:14Z")
아래와 같이 OpenAI에서 안내 메일이 왔네요. API 호출을 통해 GPT-4를 사용하시는 분들이 대상이실 것 같습니다. :smiley\_cat: GPT-4의 초기 개발자들에게 GPT-4 모델의 최신 업데이트에 대해 알려드리고자 합니다. As an early developer with GPT-4, we wanted to let you know about the latest update to this model. 이제 gpt-4-0613을 사용할 수 있으며 새로운 기능인 함수 호출이 추가되었습니다. 프롬프트에 함수를 설명하면 모델이 사용자 입력에 따라 해당 함수를 호출할 인수가 포함된 JSON 객체를 출력하도록 지능적으로 선택할 수 있으므로 다른 도구 또는 API와 통합하는 데 적합합니다. 함수 호출 문서에서 자세히 알아보세요. gpt-4-0613 is now available and adds a new capability: function calling. By describing functions in your prompts, the model can intelligently choose to output a JSON object containing arguments to call these functions based on user input — perfect for integrating with other tools or APIs. Learn more in our function calling documentation. 6월 27일에 안정적인 gpt-4가 이 새 버전으로 자동 업그레이드됩니다. 전환에 시간이 더 필요한 경우, 업그레이드 및 지원 중단 프로세스의 일환으로 9월 13일까지 계속 사용할 수 있는 이전 버전을 계속 사용하도록 gpt-4-0314를 지정할 수 있습니다. On June 27th, the stable gpt-4 will be automatically upgraded to this new version. If … --- ## [\[TLDR\] 오늘의 AI 뉴스, 2023-06-01: 바이든 행정부의 AI 규제🏛️, AI 모델을 더 작게 만들려는 경쟁🤏, OpenAI - "프로세스 감독" 도입🦺](https://discuss.pytorch.kr/t/tldr-ai-2023-06-01-ai-ai-openai/1709)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [6월 2, 2023, 6:25오전 UTC](https://discuss.pytorch.kr/t/tldr-ai-2023-06-01-ai-ai-openai/1709 "2023-06-02T06:25:50Z")
파이토치 한국 사용자 모임에서는 TLDR 뉴스레터의 승인을 받아 AI 소식을 DeepL로 번역하여 전합니다. :star\_struck: 더 많은 AI 소식 및 정보를 공유하고 함께 성장하고 싶으시면 파이토치 한국 사용자 모임에 방문해주세요! :robot: :rocket: 주요 뉴스 & 신규 출시 소식 / Headlines & Launches 샘 알트먼이 말하는 OpenAI의 계획 / OpenAI’s Plans According To Sam Altman (4 minute read) 샘 알트먼은 2023년에는 더 저렴하고 빠른 GPT-4, 더 긴 컨텍스트 윈도우, 파인튜닝 API, 상태 유지 API, 2024년에는 멀티모달리티를 도입할 예정이라고 밝히며 OpenAI의 로드맵을 공유했습니다. Sam Altman has shared his roadmap for OpenAI, with highlights for the rest of 2023 including a cheaper and faster GPT4, longer context windows, a fine-tuned API, and a stateful API, while 2024 will bring multimodality. Falcon : 무료 사용 가능한 세계 최고의 개방형 언어 모델 / World's best open language model is now royalty free (2 minute read) 새로운 Falcon 모델은 매우 강력하지만 제한적인 수익 공유 모델을 따르도록 공개되었습니다. 이제 이러한 제약이 사라져 자유롭게 모델을 사용할 수 있습니다. 현재 허깅페이스 리더보드에서 1위를 차지하고 있습니다. The new Falcon models are extremely powerful but were released under a restrictive revenue sharing model. This restriction has now been waived and the mode… --- ## [\[GN\] 최근 GPT-4의 품질이 현저하게 떨어진 것 같은데 저만 그런걸까요?](https://discuss.pytorch.kr/t/gn-gpt-4/1697)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [6월 1, 2023, 8:34오전 UTC](https://discuss.pytorch.kr/t/gn-gpt-4/1697 "2023-06-01T08:34:51Z")
GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley\_cat: 소개 HN(HackerNews)에 올라온 질문에 다양한 답변이 달려서 옮겨봅니다 예전보다 빨라졌지만, 결과 품질이 많이 떨어져서 마치 GPT-3.5++ 처럼 느껴짐. 더 버그가 많은 코드를 생성하고, 답변들의 깊이가 얕아진거 같음 마치 특정 코딩 작업을 분류하도록 레이어를 추가해서 쓸데없는 답변을 하는 것처럼 너프된 것 같음. 그래서 프리미엄 멤버쉽 취소하고 DIY모델쪽으로 알아보려고 함 업데이트 전에는 매우 복잡한 코딩 문제도 풀고, 비프로그래밍 질문에도 매우 사려깊은 답변을 제공했지만, 이제는 달라짐. 오리지널 GPT-4는 마법같았는데, 이제는 멍청한 확률적 앵무새 같음 피상적인 답변만 주고, 다른 곳에서 팔로우업 하도록 권장하는 것처럼 느껴짐 코딩쪽은 점점 나빠지는게 확실함. 매번 새로운 버전이 나올때마다 같은 걸 시켜보는데 점점 이상해짐 나한테는 아직 괜찮은데, 모든 답변에 세상이 얼마나 복잡한지를 설명하는 문장이 포함되는 것에 지쳤음. 그래 나도 알아, 날 애처럼 대하지 말라고 이게 오픈소스 모델이 중요한 이유야. 그리고 규제와 로비가 일어나는 이유기도 함. 평민은 중성화(Neutered)된 AI를, 상위계층은 Raw한 GPT-4를 사용한다고 생각해봐 "Sparks of AGI" 논문을 작성한 연구자들은 OpenAI가 GPT-4를 얼라인할수록 능력이 떨어졌다고 지적했음. 그 트렌드가 계속 되고 있는거지 원문 출처 / GeekNews --- ## [\[TLDR\] 오늘의 AI 뉴스, 2023-05-29: AI에 대한 샘 알트먼의 낙관적 견해🪟, AI - 새로운 항생제 발견💉, 하이브리드 트랜스포머와 RNN 모델🔀](https://discuss.pytorch.kr/t/tldr-ai-2023-05-29-ai-ai-rnn/1673)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [5월 30, 2023, 1:39오전 UTC](https://discuss.pytorch.kr/t/tldr-ai-2023-05-29-ai-ai-rnn/1673 "2023-05-30T01:39:19Z")
파이토치 한국 사용자 모임에서는 TLDR 뉴스레터의 승인을 받아 AI 소식을 DeepL로 번역하여 전합니다. :star\_struck: 더 많은 AI 소식 및 정보를 공유하고 함께 성장하고 싶으시면 파이토치 한국 사용자 모임에 방문해주세요! :robot: :rocket: 주요 뉴스 & 신규 출시 소식 / Headlines & Launches TinyCorp, AMD용 딥 러닝 소프트웨어 개발을 위해 5백만 달러 모금 / TinyCorp raises $5m to build deep learning software for AMDs (4 minute read) 엔비디아는 GPU 시장에서 강력한 우위를 점하고 있습니다. 그 이유 중 상당 부분은 학습 및 추론 워크로드를 지원하는 커널과 소프트웨어에 기인합니다. AMD 칩은 매우 빠르지만 코드를 작성하는 것은 엄청나게 고통스럽습니다. 조지 홀츠와 개발진은 추론을 위해 처음부터 드라이버를 작성하고 추후에 트레이닝을 할 수 있도록 노력하고 있습니다. 컴퓨팅 제약이 있는 조직이 더 저렴한 AMD GPU를 사용할 수 있다면 큰 도움이 될 것입니다. Nvidia has a strong advantage in the GPU market. Much of that can be attributed to their kernels and software supporting training and inference workloads. AMD chips are super fast, but writing code for them is impossibly painful. George Holtz and crew are now working to write drivers from the ground up first for inference then maybe training later. It would be a boon on compute constrained organizations if they could use the cheaper … --- ## [Salesforce, InstructBLIP 모델의 논문 / 코드 / 가중치 공개](https://discuss.pytorch.kr/t/salesforce-instructblip/1571)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 1\ **마지막 업데이트:** [5월 17, 2023, 10:04오전 UTC](https://discuss.pytorch.kr/t/salesforce-instructblip/1571 "2023-05-17T10:04:29Z")
Salesforce에서 BLIP-2 모델에 이어 InstructBLIP 모델의 논문과 구현, 그리고 학습된 가중치를 공개했습니다. InstructBLIP: Towards General-purpose Vision-Language Models with Instruction Tuning 아래와 같이 Vicuna, T5를 사용한 2 종류의 모델이 있으며, # ================================================== # Architectures Types # ================================================== # blip2\_vicuna\_instruct vicuna7b, vicuna13b # blip2\_t5\_instruct flant5xl, flant5xxl Salesforce에서 제공하는 LAVIS 패키지(pip install salesforce-lavis)를 설치하여 바로 사용해 볼 수 있습니다. 아직 PyPI의 패키지에는 InstructBLIP 모델들이 반영되어 있지 않아서, GitHub에서 직접 설치하셔야 합니다. git clone https://github.com/salesforce/LAVIS.git cd LAVIS pip install -e . from lavis.models import load\_model\_and\_preprocess # loads InstructBLIP model model, vis\_processors, \_ = load\_model\_and\_preprocess(name="blip2\_vicuna\_instruct", model\_type="vicuna7b", is\_eval=True, device=device) # prepare the image image = vis\_processors\["eval"\](raw\_image).unsqueeze(0).to(device) 코드와 사용법이 궁금하신 분들께… --- ## [GPT4 & LangChain - PDF를 위한 ChatGPT 챗봇 만들기](https://discuss.pytorch.kr/t/gpt4-langchain-pdf-chatgpt/1421)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [4월 22, 2023, 12:40오전 UTC](https://discuss.pytorch.kr/t/gpt4-langchain-pdf-chatgpt/1421 "2023-04-22T00:40:32Z")
GeekNews의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. :smiley\_cat: 소개 다수의 큰 PDF 파일을 LLM에 로딩해서 파일 내용에 대해 대화 가능 PDF를 넣으면 텍스트를 추출하여 다수의 Chunk로 만들고, Embedding을 생성하여 Pinecone 벡터스토어에 저장 질문에 대해서 OpenAI Embeddings API로 문서의 관련 부분을 찾아서 GPT에 넣고 답변을 생성 LangChain + Pinecone + TypeScript + OpenAI Embeddings / GPT-3.5 & GPT-4 + Next.js 원문 https://github.com/mayooear/gpt4-pdf-chatbot-langchain 출처 / GeekNews --- ## [\[GN\] Auto-GPT - GPT-4를 자동화 하는 실험적 오픈소스](https://discuss.pytorch.kr/t/gn-auto-gpt-gpt-4/1404)
**Author:** [@9bow](https://discuss.pytorch.kr/u/9bow)\ **댓글:** 0\ **마지막 업데이트:** [4월 18, 2023, 2:12오전 UTC](https://discuss.pytorch.kr/t/gn-auto-gpt-gpt-4/1404 "2023-04-18T02:12:30Z")
GeekNews 의 xguru님께 허락을 받고 GN에 올라온 글들 중에 AI 관련된 소식들을 공유하고 있습니다. ^^ 소개 LLM의 답변들을 자동화 해서 계획을 생성하고 해당 작업들을 자율적으로 수행 가능하게 만드는 실험 검색 및 정보 수집을 위한 인터넷 접근 장기/단기 메모리 관리 유명 웹사이트 및 플랫폼에 접속 GPT-4로 텍스트 생성 GPT-3.5를 이용한 파일 저장 및 요약 구글 API 키를 이용하여 검색, Pinecone 으로 벡터 기반 메모리 저장 Continuous Mode 를 설정하면 자동으로 계속 질문하고 답변을 행동으로 수행 원문 https://github.com/Significant-Gravitas/Auto-GPT 출처 / GeekNews