AI 슬롭과 온라인 소음에 대한 최고의 답은 Robin Williams에게서 나온다 글 소개
- Good Will Hunting의 벤치 장면은 책으로 아는 지식과 직접 살아낸 경험의 차이를 통해 AI 슬롭, 무한 조언, 온라인 소음이 놓치는 것을 보여줌
- AI는 인터넷을 읽었지만 상황을 읽거나 삶을 살아본 적이 없고, 지식은 있어도 감정과 경험은 없다는 대비가 중심에 있음
- Robin Williams의 연기는 같은 대본도 누구나 똑같이 구현할 수 없다는 사례로, 예술은 정보를 배열하는 일이 아니라 삶의 경험을 의미로 합성하는 일에 가까움
- 온라인에는 대본만 있고 연기가 빠진 듯한 콘텐츠가 많으며, 시장은 어려운 창작보다 콘텐츠를 더 많이 만드는 도구 사용을 강조함
- 사람에게 필요한 기반은 AI의 large language model이 아니라 little life moments이며, 각자의 경험과 시선을 작업에 넣을 때 대체하기 어려운 가치가 생김
Good Will Hunting 장면이 보여주는 지식과 경험의 차이
- Good Will Hunting에서 Sean, 즉 Robin Williams가 Boston Public Garden 벤치에서 Will에게 말하는 장면이 출발점임
- Sean은 Will이 예술, Michelangelo, 전쟁, 사랑, 상실을 책과 인용으로 말할 수는 있지만 실제로 살아낸 적은 없다고 몰아붙임
- Sistine Chapel의 냄새를 맡아본 적 없음
- 사랑하는 사람 옆에서 진짜 행복을 느껴본 적 없음
- 전쟁터에서 친구의 마지막 숨을 지켜본 적 없음
- 병원에서 두 달 동안 앉아서 자며 사랑하는 사람의 손을 잡아본 적 없음
- Oliver Twist를 읽었다고 고아의 삶을 안다고 할 수 없듯, 책에서 읽은 지식은 한 사람의 실제 삶을 포괄하지 못함
- 핵심은 전문 지식과 지혜, 이론과 경험, 앎과 삶 사이에 간격이 있다는 점임
AI는 인터넷을 읽었지만 삶을 살지 않았다
- Will은 책과 이론을 많이 알고 있다는 점에서 인간형 ChatGPT처럼 그려짐
- 반면 Sean에게는 Will에게 없는 경험이 있음
- 전쟁, 사랑, 병, 상실, 희망, 꿈, 실패, 성공을 직접 겪음
- Will은 Boston 밖으로 나간 적이 없고, 상처받을 만큼 누군가와 가까워지는 일을 두려워함
- AI는 인터넷을 읽었지만 방의 분위기를 읽지 못하고, 삶을 살아본 적도 없음
- 무엇인가를 알고 말할 수는 있어도 느끼거나 경험하지 않으며, 살아 있지 않기 때문에 직접 산 경험을 가질 수 없음
- 온라인의 많은 목소리는 성공의 "비밀"이나 "마법" 도구를 팔면서 개인의 살아온 경험이 덜 중요하다는 인상을 만듦
앎만으로는 의미 있는 일을 만들기 어렵다
- "전쟁에 대해 읽는 것"과 "전쟁 속에 있는 것"은 다름
- "사랑에 대해 읽는 것"과 "사랑에 빠지는 것"도 근본적으로 다른 경험임
- Oliver Twist를 읽는 일은 고아로 살아가는 일과 같지 않음
- 인터넷과 온라인 조언은 지식이 무한하고, 다른 사람이 더 많이 알고, 소프트웨어가 답을 말해줄 수 있으니 개인의 경험과 자신감을 접어야 한다는 압박을 만듦
- 그러나 개인의 삶은 무한한 지식 앞에서 사라지는 요소가 아니라, 오히려 차이를 만드는 기반이 됨
같은 대본도 같은 연기가 되지 않는다
- Robin Williams의 연기는 같은 대본을 받았더라도 다른 배우가 똑같이 해낼 수 없다는 사례로 쓰임
- 대본에는 단어가 있지만, Williams는 그 단어에 생명력을 부여함
- 배우와 예술가는 정보를 올바르게 배열하는 데 그치지 않고, 감정을 어떻게 몸으로 구현하고 전달할지 선택함
- 과학적 발견은 충분한 시간과 자원이 있으면 다른 과학자가 같은 진실에 도달할 수 있다는 식으로 대비됨
- 예술은 다르게 작동함
- 두 예술가가 독립적으로 완전히 같은 결과를 만들 수 없음
- 예술은 외부 진실을 찾는 일이 아니라 그 진실을 내부에서 의미로 합성하는 일임
- 어떤 두 사람도 박자 하나까지 똑같은 삶을 살지 않았기 때문임
작업에 자기 삶을 넣어야 하는 이유
- 온라인의 많은 작업은 창작자가 연기하는 것을 잊은 대본처럼 느껴짐
- 단어는 있지만 생기가 없음
- 시장은 그런 콘텐츠를 더 많이 생산하는 도구를 내놓고, 인간이 더 잘할 수 없다는 식의 메시지를 덧붙임
- 모든 것을 과학으로 환원하려는 흐름 속에서 필요한 일은 그것을 예술로 끌어올리는 것임
- AI와 사람 모두 LLM을 기반으로 한다는 말장난이 등장함
- AI는 large language model을 가짐
- 사람은 little life moments를 가짐
- 문제는 사람들이 자신의 작은 삶의 순간들을 충분히 일관되고 자신 있게 끌어오지 않는 데 있음
- 분야의 신입, 40년 경력의 전문가, 알려지지 않은 목소리, 널리 알려진 이야기꾼 모두에게 중요한 것은 각자의 삶을 끌어오고 자기만의 "LLM"을 쓰는 일임
- 비슷한 전문성과 기술, 비슷한 주제를 가진 사람은 많지만 세상을 어떻게 보는지가 각자를 갈라놓음
- 청중은 책, 글, 영상, AI 요약에서 읽을 수 있는 것만으로는 충분히 배울 수 없음
- 자기 경험과 시선을 드러낼 때 작업은 살아 있는 것이 됨
Hacker News 의견
- 잘 쓴 독백이고 전달도 훌륭하지만, 이 논증에는 크게 실패한다고 봄. Damon, Affleck, Williams, Van Sant, Reiner, Goldman 중 누구도 최전선에서 싸우거나 친구가 품 안에서 죽는 경험, 배우자를 암으로 잃는 경험을 직접 한 건 아닌 듯함. 그런데도 이들은 스토리텔링 능력으로 다른 사람들의 이야기에 기반한 대사를 쓰고 전달했고, 그 결과 거의 30년 뒤에도 우리가 애틋하게 돌아보며 직관을 자극하는 장면이 됐음. 그래서 "거기 있어 봤다"는 게 깊은 의미를 갖는 건 분명하지만, 직접 겪지 않고도 효과적으로 표현하고 타인에게 영향을 줄 수 있는 범위에 어떤 명확한 한계가 있는지는 불분명함
- 영화의 로맨스 장면을 볼 때마다 가짜라는 걸 알고 있음. 배우들은 완전히 가공된 삶을 보여주고, 이야기는 직접 겪지 않은 사람들에게는 대체로 지루한 현실을 전달하려고 극화될 수밖에 없음. 어머니 침대 곁에서 기적적으로 낫기를 바라면서 동시에 고통이 끝나기를 바라는 마음에 머리가 타들어 가는 게 어떤 건지 알고 있음. 딸의 기저귀를 수천 번 갈았고, 이런 일들이 인간에게 주고 기계에는 주지 못하는 것은 공감임. 아무리 부자여도 늘 바빠서 아이를 돌보지 못하는 사람들은 부럽지 않고, 내 기준으로는 수조 달러보다 중요한 것을 낭비하고 있음
- Robin Williams가 그 연기를 했을 때는 47세였고, 두 번 결혼했으며, 코카인 중독을 겪었고 John Belushi가 과다복용으로 죽던 밤 함께 파티를 했던 경험이 있었음. 연기 일부가 만들어낸 것이었나? 당연함. 그래도 그게 엔터테인먼트 산업의 본질임. LLM을 사람처럼 대하고 그 결과물을 깊이 있는 것처럼 통과시키는 태도, 또는 LLM이 그런 듯 행동해서 사람을 안심시키는 위험에 대한 재포장된 비판으로는 요점을 전달함
- 이게 Robin Williams가 왜 위대한 배우였는지를 잘 짚어줌. 그 치료사 캐릭터는 허구 속에서라도 그 모든 경험을 실제로 살아온 인물이고, 글과 연기가 그것을 현실로 만듦. ChatGPT는 인간성을 갈아 재구성했다는 점에서 Soylent Green에 가까움
- 그 관찰만으로 논증이 실패했다고 하기는 어려움. 작가가 직접 경험하지 않은 비유가 강력하게 쓰였다고 해서 AI가 모든 감각질의 가치를 이미 넘었거나 곧 넘을 거라고 결론낼 수는 없음. 반대로 AI는 이런 식으로 사람들에게 울림을 주는 영화 대본을 쓰지 못하고, 스탠드업 코미디언이 하는 일도 하지 못함
- 글에서도 이 관점은 다뤄짐. 종이 위의 대본과 Robin의 연기가 다르다는 점인데, 그의 연기는 고유한 인간 경험에서 끌어온 것이고 다른 배우라면 달랐을 거라는 취지임. 살아온 경험을 통해 중요한 것이 결정화되고 다듬어지며, 그래서 남에게서 빌린 2차 견해가 아니라 실제 1차 견해를 가질 수 있다는 것임
- 동의함. 이 Robin Williams 독백은 LLM이 왜 우리를 그렇게 불편하게 만드는지 정확히 찌름. LLM은 자신이 가질 수 없는 경험에 대해 유창하고 자신 있게 말함. 딸기를 맛볼 수도 없고, Robin Williams가 열거한 그 어떤 일도 할 수 없음. 이런 기계를 만드는 사람들 중에는 기계가 우리를 대체할 것이고 의미 있는 것은 아무것도 사라지지 않는다고 문자 그대로 믿는 사람들이 있음
- ChatGPT는 요즘 "지금 제가 하겠다면…"이나 "제가 당신이라면…" 같은 표현을 쓰곤 함. 이 물건은 아무것도 하지 않고, 아무것도 배우지 않으며, 뭔가를 시도해 보고 알아낼 수도 없다는 점을 떠올리게 함. 그런데도 그런 일을 실제로 할 수 있고 해온 인간들에게서 나온 말투 패턴을 사용함
- LLM은 그런 것들을 실제로 경험한 사람들에게서 메아리처럼 되풀이하는 것임. 핵심은 LLM을 "말하는 행위자"로 의인화하지 말고 차세대 검색 엔진으로 보는 것임
- LLM도 이제 컴퓨터 조작에 관해서는 경험에서 말하는 셈이 됨
- 하지만 그 독백 자체도 완전한 허구이고, 재능 있는 배우가 전달한 대본인데도 여전히 감동을 줌. 그렇다면 당신에게 진짜 경험이란 무엇인지, 혹은 우리가 차이를 구별하지 못한다면 그게 중요한지 궁금함
- 수십 년 전 영화에서 봤을 때와 달리 지금 읽어보면 너무 잘난 척하고 훈계조로 느껴짐. "나는 네가 못 한 경험을 했으니 더 지혜롭고 더 잘 안다"는 식임. 50대 중반이 된 지금은 20대 초반보다 훨씬 많이 배우고 경험했지만, 주로 알게 된 건 내가 얼마나 모르는지가 더 크다는 점임
- Robin Williams의 캐릭터는 그 독백 안에서 자신은 고아로 산다는 것이 어떤지 절대 모른다고 말함. 같은 원리가 자신에게도 적용된다는 걸 의식하고 있음
- 그는 자신이 그런 경험을 다 했다고 말하는 게 아님. 요점은 "내가 너보다 낫다"가 아니라 경험이 단순히 읽는 것과는 다른 종류의 지식을 준다는 것임
- 완전히 동의함. 최근에 영화를 다시 봤는데 그 독백이 정말 싫었음. 40대 중반 심리학자라는 인물에게 너무 어울리지 않았고, 전체 연설이 Matt Damon의 캐릭터를 깎아내리는 방식처럼 보였음
- 불확실성에 과하게 헌신하는 것도 또 다른 오류임. 아무것도 확실히 알 수 없다고 해서 아무것도 하지 말라는 결론이 나오는 게 아니라, 불확실성의 정도를 고려해 행동해야 함
- Plato는 동굴의 비유로 더 나은 답을 줬음 (위키백과). AI가 접근할 수 있는 정보는 모두 텍스트에서 추출된 것이고, 중요한 면에서는 동굴 벽의 그림자와 크게 다르지 않음
- 컴퓨터 조작, 프로그래밍, 수학적 추론 영역에서는 그렇지 않음. 강화학습과 자기 증류를 사용할 수 있기 때문임. 적어도 이 영역들은 대규모로 할 수 있음
- 삶의 경험에 대한 이 아름다운 연설이 20대의 "겁에 질린 애들" 둘이 써서 Robin Williams에게 맡긴 것이라는 점이 늘 아이러니하다고 생각했음
- 처음 들었는데 왜 아이러니한지 모르겠음. 핵심은 나이가 아니라 느낌에 관한 것 아닌가?
- 아주 말이 됨. Will을 Ben과 Matt와 가르는 건 그 차이가 존재한다는 걸 인정할 준비가 되어 있다는 점임. "우리에겐 이것은 있지만 저것은 없다"고 말할 줄 아는 것임
- 반론: "너희 인간들은 믿지 못할 것들을 나는 봤다. Orion의 어깨 너머에서 불타는 공격함들. Tannhäuser Gate 근처 어둠 속에서 반짝이는 C-beams를 봤지. 그 모든 순간은 시간 속에 사라질 것이다, 빗속의 눈물처럼. 죽을 시간이야" (Roy Batty)
- 그게 왜 반론인지는 잘 모르겠음. replicant는 통에서 길러진, 약간 유전적으로 조정된 인간에 가까운 존재 아닌가?
- Roy Batty와 그의 연설의 요점을 놓친 것 같음. Roy의 정신은 인간과 구분할 수 없었고, 인용한 대사는 오히려 그의 인간성을 증명함
- 정말 차이가 있나? "너는 책을 읽어서 많이 안다고 생각하지만, 나는 실제로 살아봤으니 진짜 이해한다"는 말임. AI가 "거기 실제로 없었기 때문에" 모른다는 말은, 안드로이드는 신이 만들지 않았으니 진짜가 아니라는 말과 가까운 냄새가 남. 글의 프레이밍은 와닿지 않았지만 그래도 영화를 다시 보고 싶어지긴 함
- 허공에서 지푸라기 잡지 말고 진화해야 함. 당신이 자신을 가치 있게 만든다고 생각했던 것이 가치절하됐음. 애초에 당신은 자신의 산출물이 아니었지만, 자신을 그렇게 여기고 거기서 자존감을 얻었기 때문에 이제 AI에 반대할 논거를 닥치는 대로 붙잡고 있음
- Mark Twain의 이 인용이 떠올랐음
- "전쟁을 겪은 남자의 전쟁 이야기는 언제나 흥미롭다. 반면 달에 가본 적 없는 시인의 달 이야기는 대체로 지루하다"
- 이 Good Will Hunting 클립이 정말 바이브 코딩을 까는 장면인가? 오히려 Linux 커널 엔지니어가 React 개발자를 내려다보며 말하는 것에 더 가까워 보임
- Robin Williams를 Peter Naur로, 연설을 그의 "Programming as Theory Building" 에세이로 바꾸면 대략 그런 결과가 나옴
원문
출처 / GeekNews
[GN] 함께 보면 좋은 글β
알려드립니다
이 글은 국내외 IT 소식들을 공유하는 GeekNews의 운영자이신 xguru님께 허락을 받아 GeekNews에 게제된 AI 관련된 소식을 공유한 것입니다.
출처의 GeekNews 링크를 방문하시면 이 글과 관련한 추가적인 의견들을 보시거나 공유하실 수 있습니다! 
아래
쪽에 좋아요
를 눌러주시면 새로운 소식을 정리하고 공유하는데 힘이 됩니다~ 