파이토치 한국 사용자 모임에서는 TLDR 뉴스레터의 승인을 받아 AI 소식을 DeepL로 번역하여 전합니다. 
더 많은 AI 소식 및 정보를 공유하고 함께 성장하고 싶으신가요? 지금 파이토치 한국어 커뮤니티에 방문해주세요! 
주요 뉴스 & 신규 출시 소식 / Headlines & Launches
백악관의 긴급한 AI 규제 추진 살펴보기 / Inside The White House’s Urgent Push To Regulate AI (3 minute read)
백악관에서는 잘못된 정보, 사이버 보안 및 경제 혁신과 같은 분야에서 AI 작업을 발전시키기 위해 고위 관리들이 매주 여러차례 회의를 개최하면서 ChatGPT의 부상 이후 AI 정책이 최우선 순위가 되었습니다. 행정부는 이번 여름에 행정명령을 포함한 여러 가지 정책 조치를 발표하여 기술을 규제하고 활용할 계획입니다. 그 중에서도 Google, Microsoft, OpenAI와 같은 거대 기술 기업들이 개인정보 보호 및 안전에 대한 약속을 발표할 예정입니다.
AI policy has become a top priority at the White House following the rise of ChatGPT, with senior officials meeting multiple times weekly to advance AI work on fronts like misinformation, cybersecurity, and economic transformation. The administration plans to unveil several policy actions this summer, including executive orders, to regulate and harness the technology. Among other measures, tech giants like Google, Microsoft, and OpenAI are set to announce privacy and safety commitments.
AI를 사용하여 엘리멘탈의 불꽃에 불을 붙인 픽사 / Pixar Used AI to Stoke Elemental's Flame (6 minute read)
픽사는 새 영화 '엘리멘탈'의 독특한 애니메이션 과제를 해결하기 위해 AI를 활용하여 불로 만든 캐릭터에 애니메이션을 적용했습니다. 픽사의 기술 감독관인 폴 카뉴크는 신경 스타일 전송(NST) 기술을 적용하여 불의 캐릭터인 엠버를 애니메이션화했습니다. 엄청난 연산 수요에도 불구하고 팀은 GPU를 활용하여 20배의 속도 향상을 달성하며 애니메이션에서 예술과 기술의 새로운 접점을 예고했습니다.
Pixar turned to AI to solve a unique animation challenge for its new movie 'Elemental', using AI to animate a character made of fire. Paul Kanyuk, a technical supervisor at Pixar, applied Neural Style Transfer (NST) technology to animate the fiery character, Ember. Despite the hefty computational demand, the team achieved a 20X speed-up by leveraging GPUs, heralding a new intersection of art and technology in animation.
중국의 엔비디아 AI 칩 지하 시장 / China's underground market for Nvidia AI chips (7 minute read)
미국의 제재에도 불구하고 중국의 지하 시장에서는 엔비디아의 하이엔드 A100 및 H100 AI 칩이 판매되고 있습니다. 이는 앱 개발자, 스타트업, 연구원 및 게이머의 강력한 수요로 인해 가격이 평소 가격의 두 배에 달하기 때문입니다.
Despite U.S. sanctions, Nvidia's high-end A100 and H100 AI chips are being sold on the underground market in China. This is due to strong demand from app developers, startups, researchers, and gamers, with prices reaching double the usual cost.
연구 & 혁신 관련 소식 / Research & Innovation
Wanda: 대규모 언어 모델을 위한 새로운 가지치기(pruning) 방법 / Wanda: A New Pruning Method for Large Language Models (GitHub Repo)
이 저장소는 중요도가 낮은 네트워크 가중치를 선택적으로 제거하여 대규모 언어 모델의 복잡성을 줄이는 독특한 방법인 Wanda를 소개합니다. 다른 방법과 달리 Wanda는 재학습이나 집중적인 계산이 필요하지 않으므로 성능을 유지하면서 효과적인 모델 가지치기를 제공합니다.
The repo presents Wanda, a unique method for reducing the complexity of large language models by selectively dropping less significant network weights. Unlike other methods, Wanda doesn't require retraining or intensive computation, providing effective model pruning while maintaining performance.
시공간 예측 학습 표준화 / Standardizing Spatio-Temporal Predictive Learning (GitHub Repo)
이 저장소는 과거 프레임을 기반으로 미래 패턴을 예측하는 모델을 위한 벤치마크인 OpenSTL을 소개합니다. 접근 방식을 분류하고 다양한 데이터 세트에서 평가합니다.
This repo introduces OpenSTL, a benchmark for models that predict future patterns based on past frames. It categorizes approaches and evaluates them on various datasets.
높은 처리량과 메모리 효율을 자랑하는 트랜스포머 / High throughput and memory efficient Transformers (GitHub Repo)
트랜스포머가 점점 더 많은 관심을 받기 시작하면서, 트랜스포머는 학습된 것보다 훨씬 더 자주 서비스되고 있습니다. 이는 상당히 느리고 비용이 많이 들 수 있지만, GPU의 메모리 레이아웃에 대한 몇 가지 영리한 최적화를 통해 몇 배 더 빠르게 처리할 수 있습니다.
As Transformers have started to gain more and more traction, they are being served far more often than trained. This can be quite slow and expensive, but with some clever optimizations around memory layout on GPU, they get many multiples faster.
엔지니어링 및 리소스 관련 소식 / Engineering & Resources
합성 데이터와 한 차원 높은 큐레이션으로 HumanEval 성능 향상 / Synthetic data and next level curation give big HumanEval boost (18 minute read)
극한의 AI 성능을 위해 필요한 것은 교과서뿐일 수 있습니다. 고도로 큐레이션된 데이터 세트와 연습 문제가 포함된 합성 교과서를 사용하여 13억 개의 매개변수 모델이 까다로운 코드 벤치마크인 HumanEval에서 50점 이상을 달성했습니다. 이는 ChatGPT에 필적하며 원래의 120억 개 코덱스 모델을 훨씬 능가하는 수준입니다. 이 논문은 Tiny Stories의 작업 라인을 따르고 있으며 많은 유용한 정보를 담고 있습니다.
Textbooks may be all you need for extreme AI performance. By using a highly curated set of data and synthetic textbooks with exercises, a 1.3B parameter model achieves 50+ on HumanEval, a challenging code benchmark. For context, this rivals ChatGPT and far surpasses the original 12B Codex model. This paper follows the Tiny Stories line of work and has lots of nice tidbits.
언어 모델에서 "모방 학습" 환각을 줄이려는 SequenceMatch / SequenceMatch objective reduces “imitation learning” hallucination in language models (26 minute read)
언어 모델은 종종 정보를 환각하거나 착각합니다. 이는 전문가 서열을 모방하도록 학습되어 자신의 (잠재적으로 잘못된) 세대를 기준 진실로 취급하게 되기 때문일 수 있습니다. 따라서 시퀀스 길이가 길어질수록 모델이 무언가를 만들어낼 가능성이 높아집니다. 하지만 강화 학습 문제로 처리하고 백스페이스 동작을 포함하면서 다음으로 가장 가능성이 높은 동작을 찾으면 이러한 착각 문제를 크게 줄일 수 있습니다.
Language models often hallucinate/confabulate information. This is likely because they are trained to imitate expert sequences which in turn causes them to treat their own (potentially wrong) generations as ground truth. Therefore, as sequence lengths grow, models are more likely to make stuff up. However, if you treat it as a Reinforcement Learning problem and find the next most probable action - while including a backspace action - you can dramatically reduce these hallucination issues.
그 외 소식 / Miscellaneous
많은 노동력을 필요로 하는 AI / AI Is A Lot Of Work (15 minute read)
이 기사에서는 인공지능 학습을 담당하는 보이지 않는 노동력에 대해 설명합니다. 데이터 라벨러라고 불리는 이 노동자들은 AI 모델을 학습시키는 데 사용되는 데이터에 라벨을 붙이는 일을 담당합니다. 이 작업은 반복적이고 저임금인 경우가 많지만, AI 개발을 위해 반드시 필요한 작업입니다.
The article discusses the unseen labor force that is responsible for training artificial intelligence. These workers, known as data labelers, are responsible for labeling data that is used to train AI models. The work is often repetitive and low-paying, but it is essential for the development of AI.
Freshworks, 새로운 생성형 AI 개선 사항 공개 / Freshworks Unveils New Generative AI Enhancements (5 minute read)
Freshworks는 모든 업무 공간에서 인공지능을 더 쉽게 이용할 수 있도록 Freddy 셀프 서비스, Freddy 코파일럿, Freddy 인사이트를 발표했습니다. Freshworks 솔루션 및 플랫폼에 내장된 새로운 예측 및 보조 생성 AI 기능은 콘텐츠 생성을 넘어 지원 에이전트, 판매자, 마케터, IT 팀 및 리더가 비즈니스 소프트웨어와 상호 작용하는 혁신적인 새 방식을 사용하여 효율성을 높일 수 있도록 지원합니다.
Freshworks announced Freddy Self Service, Freddy Copilot, and Freddy Insights to make artificial intelligence more accessible to every workplace. The new predictive and assistive generative AI capabilities embedded within Freshworks solutions and platform go beyond content generation and help support agents, sellers, marketers, IT teams, and leaders become more efficient using a revolutionary new way to interact with business software.
Ant 그룹, LLM 개발 중( / Ant Is Developing An LLM (1 minute read)
마윈의 지원을 받는 Ant Group은 ChatGPT 스타일의 서비스를 뒷받침할 대규모 언어 모델 기술을 개발하고 있습니다.
Jack Ma-backed Ant Group Co. is developing large-language model technology that will power ChatGPT-style services.
더 읽어보기 / Quick Links
ScholarTurbo (Product)
ChatGPT를 사용하여 PDF와 상호 작용하세요.
Use ChatGPT to interact with PDFs.
ClickUp AI (Product Launch)
ClickUp AI로 더 빠르게 작업하고, 더 스마트하게 작성하고, 창의력을 발휘하세요. 전문가가 만든 수백 가지 도구를 사용하여 ClickUp 내에서 바로 문서 초안을 작성하고, 텍스트를 요약하고, 아이디어를 생성하고, 모든 프로젝트를 빠르게 진행할 수 있습니다.
Work faster, write smarter, and ignite your creativity with ClickUp AI. Draft documents, summarize text, generate ideas, and fast-track any project with hundreds of expert-crafted tools right within ClickUp.
영화 시크릿 인베이젼의 오프닝 크레딧은 AI로 제작 / Secret Invasion’s Opening Credits Are AI-Made (1 minute read)
마블 시네마틱 유니버스 시리즈 '시크릿 인베이전'의 오프닝 크레딧은 AI를 사용하여 제작되었습니다. AI는 시리즈의 중심이 되는 외계 종족인 스컬의 변신 능력을 나타내는 모핑 효과를 만드는 데 사용되었습니다. 이 시리즈의 감독인 알리 셀림은 원하는 효과를 만들어내는 AI의 능력에 "놀랐다"고 말했습니다.
The opening credits of the Marvel Cinematic Universe series Secret Invasion were created using AI. The AI was used to create a morphing effect that represents the shapeshifting abilities of the Skrulls, the alien race that is the focus of the series. The director of the series, Ali Selim, said that he was "blown away" by AI's ability to create the desired effect.
슈머 의원, AI 규제 전략 공개 / Schumer Unveils Strategy To Regulate AI (2 minute read)
척 슈머 상원 원내대표가 오랫동안 기다려온 인공지능 규제를 위한 입법 프레임워크를 공개했습니다.
Senate Majority Leader Chuck Schumer unveiled his long-awaited legislative framework for regulating artificial intelligence.