[TLDR] 오늘의 AI 뉴스, 2023-10-10: 모두를 위한 Replit AI 🤖, 의사를 위한 AI 검색 🧑‍⚕️, 연합 학습(FL)에서의 CNN 🌐

파이토치 한국 사용자 모임에서는 TLDR 뉴스레터 의 승인을 받아 AI 소식을 DeepL로 번역 하여 전합니다. :star_struck:
더 많은 AI 소식 및 정보를 공유하고 함께 성장하고 싶으신가요? 지금 파이토치 한국어 커뮤니티에 방문해주세요! :robot:
TLDR-AI 뉴스 레터 썸네일


:rocket: 주요 뉴스 & 신규 출시 소식 / Headlines & Launches

누구나 무료로 이용할 수 있는 Replit AI / Replit AI free for everyone (1 minute read)

Replit은 모든 제품에서 실행되는 자체 코딩 도우미를 제공합니다. 매우 강력하고 Mosaic으로 훈련되었으며 모든 사용자 계층에 무료로 제공됩니다. replit-ai mosaicml

Replit has its own coding assistant that runs across its products. It is quite powerful, trained with Mosaic, and free for all user tiers.

OpenAI, 연봉 $210,000의 레지던시 프로그램 출시 / OpenAI Launches Residency Program with $210,000 Annual Salary (3 minute read)

OpenAI의 레지던시는 다양한 분야의 뛰어난 연구자와 엔지니어가 AI 및 머신 러닝 분야로 전환할 수 있도록 지원하는 이니셔티브입니다. 특히 딥러닝 이외의 분야를 전문으로 연구하는 연구자에게 유용하며, AI 연구 역할로 전환하고자 하는 소프트웨어 엔지니어를 환영합니다. 입주자는 전액 급여를 받으며 실제 AI 과제를 해결하게 됩니다. openai

OpenAI's Residency is an initiative to empower exceptional researchers and engineers from diverse fields to transition into the world of AI and machine learning. It is especially beneficial for researchers specializing in fields outside of deep learning and welcomes software engineers seeking to pivot into AI research roles. Residents will tackle real AI challenges while receiving a full salary.

Google, 의사를 위한 새로운 제너레이티브 AI 검색 기능 발표 / Google Announces New Generative AI Search Capabilities For Doctors (3 minute read)

Google Cloud는 의료 전문가가 다양한 의료 기록에 대한 액세스를 간소화하기 위해 AI 강화 검색 도구를 도입했습니다. 이 기술은 관리 업무를 줄이는 것을 목표로 하지만, 기존 워크플로에 원활하게 통합하고 HIPAA를 준수할 수 있도록 신중하게 통합하고 있습니다. medical google-cloud gen-ai-search

Google Cloud introduced AI-enhanced search tools to streamline access to diverse medical records for healthcare professionals. While the technology aims to reduce administrative work, its integration is undertaken with caution to fit seamlessly into existing workflows and ensure HIPAA compliance.

:brain: 연구 & 혁신 관련 소식 / Research & Innovation

SRF(Simplex random feature) 어텐션 / Simplex random feature attention (GitHub Repo)

어텐션은 유용하지만 계산 비용이 많이 듭니다. 하지만 일단 학습이 완료되면 약간의 연산 미세 조정을 통해 SRF(simplex random feature) 어텐션도를 낮추고 시퀀스 길이에 대한 의존성을 제거하여 작업 속도를 크게 높일 수 있습니다.

Attention is useful but computationally expensive. However, once trained, with a bit of fine-tuning compute you can drop in SRF attention and remove the dependence on sequence length, speeding things up considerably.

렙톤AI / LeptonAI (GitHub Repo)

AI 서비스 구축을 간소화하는 Python 프레임워크입니다.

A Pythonic framework to simplify AI service building.

연합 학습(FL)에서 CNN을 빛나게 만들기 / Making CNNs Shine in Federated Learning (GitHub Repo)

이 연구는 머신러닝 모델의 다양한 아키텍처 요소가 특히 다양한 데이터 소스를 처리할 때 연합 학습의 성능에 어떤 영향을 미치는지에 대해 자세히 살펴봅니다. 심층 분석을 통해 연구원들은 특정 조정을 통해 컨볼루션 신경망(CNN)이 이러한 설정에서 비전 트랜스포머와 동등하거나 더 나은 성능을 발휘할 수 있음을 발견했습니다.

This study delves into how different architectural elements in machine learning models affect their performance in federated learning, especially when handling varied data sources. Through in-depth analysis, researchers found that with certain tweaks, Convolutional Neural Networks (CNNs) can perform as well or even better than Vision Transformers in such settings.

(광고) 완전 자동화된 엔드투엔드 테스트 커버리지로 버그와 작별하기 / :kissing_heart: Kiss bugs goodbye with fully automated end-to-end test coverage (Sponsor)

사내에서 자동화된 테스트 커버리지를 구축하려고 시도해 본 적이 있다면 확장하는 데 몇 년이 걸린다는 것을 알고 있을 것입니다. QA Wolf를 사용하면 단 4개월 만에 웹 앱 테스트 커버리지를 80%까지 끌어올릴 수 있습니다. 오픈 소스 Playwright에서 테스트 스위트를 생성 및 유지 관리하며(공급업체 종속성 없이 코드를 소유함), 인프라에서 무제한 병렬 테스트 실행을 제공합니다.

최고의 장점: QA Wolf는 비용을 절감합니다. QA Wolf를 통해 연간 최소 20만 달러의 QA 엔지니어링 및 인프라 비용을 절감한 고객 사례 연구가 다수 있습니다. 데모 예약에서 자세히 알아보세요.

If you've tried to build automated test coverage in-house, you know it takes years to scale. Try
QA Wolf instead - they get web apps to 80% test coverage in just 4 months. They will create and maintain your test suite in open-source Playwright (no vendor lock-in, you own the code), and provide unlimited parallel test runs on their infrastructure.
The best part: QA Wolf saves you money. QA Wolf has multiple case studies of customers saving at least $200k/year in QA engineering and infrastructure costs. Schedule a demo to learn more.

:man_technologist: 엔지니어링 및 리소스 관련 소식 / Engineering & Resources

DSAT: 블라인드 슈퍼 레볼루션의 새로운 표준 설정 / Setting New Standards in Blind Super-Resolution (18 minute read)

이 연구에서는 알 수 없는 노이즈가 있는 이미지를 처리하는 작업인 블라인드 초해상도에 맞춘 새로운 트랜스포머 모델을 소개합니다. 이 방법은 기존의 CNN과 화질 저하 패턴에 맞춘 새로운 트랜스포머 설계를 혼합하여 기존 접근 방식보다 뛰어난 성능을 발휘합니다.

This study introduces a novel Transformer model that is tailored to blind super-resolution, a task that deals with images with unknown noise. The method outshines current approaches through its blend of traditional CNNs and a new Transformer design attuned to degradation patterns.

라마 2에서 해리포터를 지우는 방법 / How to erase Harry Potter from Llama 2 (25 minute read)

LLM은 방대한 양의 데이터를 학습해 왔으며, 이 중 대부분은 저작권으로 보호되어 있습니다. 이러한 데이터를 제거하거나 학습을 해제하는 것은 어려운 일입니다. 이 작업은 프록시 모델을 교사로 사용하여 깨끗한 모델을 시뮬레이션하고 기본 모델을 더욱 미세 조정하여 벤치마크 성능을 유지하면서 바람직하지 않은 정보에 대한 지식을 줄입니다. llama2

LLMs have been trained on massive amounts of data, much of which is copyright protected. Removing or unlearning such data is a challenge. This work uses a proxy model as a teacher to simulate a clean model and further fine-tunes the base model, which reduces knowledge of undesirable information while maintaining benchmark performance.

TiC: 유연한 이미지 해상도를 위한 비전 트랜스포머 부스팅 / Boosting Vision Transformers for Flexible Image Resolutions (11 minute read)

연구원들은 비전 트랜스포머(ViT)가 디자인을 변경하거나 이미지 크기를 조정할 필요 없이 다양한 크기의 이미지를 처리할 수 있는 MSA-Conv(멀티 헤드 셀프 어텐션 컨볼루션)라는 솔루션을 제시합니다.

Researchers present a solution, called Multi-Head Self-Attention Convolution (MSA-Conv), which allows Vision Transformers (ViTs) to handle images of different sizes without needing changes in their design or the need to resize images.

:gift: 그 외 소식 / Miscellaneous

생성형 AI 분야에서 지는 방법 / How to lose at Generative AI (4 minute read)

스타트업을 위한 제너레이티브 AI와 관련된 가치 창출의 까다로운 부분에 대한 훌륭한 글입니다. 현직자들이 선호하지만, 자신의 길을 찾아 조기에 실질적인 가치를 창출하는 것이 스타트업이 경쟁에서 살아남을 수 있는 방법입니다.

Great read on the tricky parts of creating value around generative AI for startups. While the incumbents are favored, finding your path and creating real value early is where startups can have a fighting chance.

AI는 드릴이 아니며 사용자는 구멍을 원하지 않습니다 / AI Isn’t A Drill, And Your Users Don’t Want Holes (2 minute read)

AI는 만능 솔루션으로 오해받는 경우가 많지만, 모든 비즈니스에 AI가 필요한 것은 아니며 단지 하나의 도구일 뿐이라는 점을 인식할 필요가 있습니다. 필요하지 않거나 도움이 되지 않을 수 있는 AI 솔루션을 도입하기보다는 진정한 문제와 요구 사항을 파악하는 것이 기술 도입에 앞서 선행되어야 합니다.

AI is often misunderstood as a one-size-fits-all solution, but businesses need to recognize that it's merely a tool, and not every business requires it. Identifying genuine problems and needs should precede technology adoption, rather than trying to retrofit AI solutions where they may not be needed or beneficial.

AMD가 어떻게 CUDA 해자를 넘을 수 있을까요 / How AMD might get across the CUDA moat (7 minute read)

현재 AI 수요에 비해 GPU가 크게 부족합니다. 많은 서비스에서 대기 시간이 길어지거나 액세스가 제한되고 있습니다. 다른 칩 제조업체가 최근 파이토치 개선을 통해 소프트웨어 결함을 일부 극복할 수 있다면 이러한 수요의 일부를 차지하기 위해 경쟁할 수 있을 것입니다. amd amd-gpu rocm

There is a heavy shortage of GPUs for the current AI demand. Many services have long queue times or are restricting access as a result. If other chip makers can overcome some of their software deficiencies, maybe via recent Pytorch improvements, they may be able to compete for some of this demand.

(더 읽어보기 :point_right: [GN⁺] AMD는 어떻게 CUDA 해자를 넘을 수 있을까)

:zap: 더 읽어보기 / Quick Links

ChatGPT의 모바일 앱, 기록적인 월 매출 달성 / ChatGPT’s Mobile App Hits Record Monthly Revenue (1 minute read)

ChatGPT의 모바일 앱은 9월에 1,560만 건의 다운로드와 460만 달러의 매출을 기록했지만, 성장세가 둔화되기 시작했습니다. chatgpt

ChatGPT's mobile apps saw a record 15.6 million downloads and $4.6 million in September, but growth is starting to slow down.

메타는 유명인에게 수백만 달러를 지불하고 그들의 개성을 챗봇으로 활용하고 있습니다 / Meta Is Paying Celebrities Millions Of Dollars To Use Their Personality As Chatbots (1 minute read)

메타는 크리에이터가 자신의 초상을 사용할 수 있도록 스튜디오에서 6시간만 사용해도 최대 5백만 달러를 지급합니다. meta meta-ai-persona meta-chatbot

Meta is paying creators up to $5 million for just six hours of studio time to use their likeness.

내 사이트의 AI SEO / AI SEO My Site (Product)

AI 기반 검색 엔진에서 웹사이트를 검색하고 순위를 매길 수 있는지 확인하고 가시성을 높일 수 있는 방법을 알아보세요. ai-for-seo

Determine whether your website is searchable and rankable by AI-driven search engines and discover ways to enhance visibility.