Join us for a conversation between Soumith Chintala and Ibrahim Haddad about the creation of PyTorch Foundation. Over 150,000 developers and 18,000 organizations work with PyTorch today. In this conversation you will learn about:
2주 전에 Torch Foundation이 LF 산하로 들어간 것을 기념한 Soumith와의 대담 세션을 듣고 적어본 내용입니다.
-
PyTorch’s evolution as an open source project: Torch in Lua → Torch 7 → Torch가 outdated되기 시작함 → 2017년 PyTorch 배포 → Meta가 많은 자원을 투자함. → 별도의 Foundation으로 가져가야겠다고 판단함 (여러 회사와 여러 사람들, 여러 기여자들이 있음. 300000+ downloads a day.
-
Community itself 가 궁금합니다. active contributor도 많고… 6-7년간 회사들이 이렇게 커뮤니티를 키우려면 뭘 해야 할까요? : 오픈소스가 기본적으로 상업적 인센티브가 없는 활동이다. '회사’에서 뭔가 인센티브를 줘서 시킬 수 없는 것이다. 회사에서 오픈소스를 한다면… engaging with the open source community in general… 사람들이 오픈소스 커뮤니티의 일부라고 느끼게끔 많은 소통을 해야 한다.
-
오픈 소스가 유명해지면서 겪은 어려움? 이랄게 있을까요? : 처음에 18명으로 시작했는데… 2명은 풀타임, 나머지는 애들 재우고 밤에 온 사람들인데… PyTorch가 엄청 유명해져버렸다. 모든 피처를 개발하고 어쩌고… 는 애초에 불가능했다. 수백개의 노티를 읽고 15시간씩 일도 해봤는데, 그냥 불가능한 일이었다는걸 깨달았다. 그래서 우선순위를 정하기 시작했고. 임팩트가 큰 일을 하기로 했다.
-
리소스는 어디서 가져오세요? 라고 했을 때 … funding이 정말 문제였지만 대체적으로 meta가 자금을 댔고, 일반적으로는 balance가 필요하다. amazon, huggingface, lightning… 이런 다양한 회사들로부터의 후원을 받고 있다.
-
PyTorch Foundation? Buisiness Governance를 위한 것이다. Technical Governance는 completely seperate. PyTorch에 투자한 회사들과는 무관하게 앞으로의 의사결정도 이루어질 것이다.
추가 질의:
Q. Could you please clarify who’s going to invest in PyTorch while in foundation? Meta?
Does it mean that Meta’s PyTorch employees do not work for Meta anymore?
A. Creating the PyTorch Foundation ensures that decisions are made in a transparent and open manner by a diverse group of members. While the project was community driven since inception, this move formalizes the governance structure working with a broad set of stakeholders. Additionally, the foundation structure allows for additional investment by other leaders in the industry providing more fuel for growth. Previously Meta was the main driver but with this change, 5 other industry leaders formally join the effort providing significant backing to the project. -
PyTorch 에 기여하려면: 파이토치를 사용하는 프로젝트를 먼저 해보시는 것도… core PyTorch 프로젝트에 기여하려면 일단 CONTRIBUTING.md를 확인하시고, PyTorch 아래에도 다양한 프로젝트(torchvision, torchaudio… )등이 있으니 잘 살펴보시라. (중략) full time contributors 는 400+ 명 정도 되지 않을까? core pytorch 는 linear growth가 안되더라도 pytorch ecosystem contribute 는 exponential하게 증가하고 있다.
-
pytorch가 academia에서 선풍적인 인기를 끈 비결?은 뭐라고 생각하세요? : the first deep learning framework put in binary, pip로 다운로드 가능했다. barrier of entry를 낮춘 것과 better understanding of stability가 비결이라고 생각한다. torch의 운영을 통해, 사람들은 설치와 첫번째 코드 실행까지를 어려워한다는걸 알고 있었다. PyTorch는 compatibility와 stability가 좋다. 0.4, 0.5 코드 지금 돌려도 돌아간다. 최대한 긴 기간 동안 backward compatibility를 지켜주고자 한다. 차별화라기보다는 그 당시에 우리가 유일했다… 사실(?)은 forum에 대답을 덜 하고 싶어서 패키지를 잘 만들기로 했다.
-
파이토치의 best, ideal use case라는게 있을까?
: 파이토치 자체는 base framework to do sate of the art AI research. 많은 제어를 해야 하고, sota 테크닉을 만들 때 좋다. 파이토치 위에는 파이토치 '생태계’가 있기도 하고. 예를 들면 huggingface가 있겠죠? -
앞으로의 방향성? GitHub of ML? Collaborative Modelling. … TBD. 파이토치와 다른 서비스들과의 통합도 지향하고 있다. starting users를 위한 가이드를 계속 제작할 것이다. training session으로는 pytorch for decision makers 세션 있을 것이고 다양한 content, courses를 LF 사이트에 올릴 예정이다.
이 외에도 많은 이야기와 다양한 QnA를 진행했는데, 영어 실력이 짧아 이 정도만 알아들었습니다…
순서가 뒤죽박죽이고 틀린 내용도 있을 수 있다는 점 양해 부탁드립니다. ^^;
추후 리눅스재단 유튜브에 영상이 올라오면 다시 공유드리겠습니다.다들 좋은 밤 되세요!
