AI는 그 어느 때보다 똑똑해졌다. 그런데 혁명은 어디에 있나?

게시일: 2026년 10월 21일 | 원문 작성일: 2026년 10월 20일 | 인터뷰: Derek Thompson, Ethan Mollick | 출처: Plain English | 원본 영상 보기

최강 AI 모델의 평균 재임 기간은 이제 70일 이하예요. 그런데 실업률은 거의 정상이고, 생산성 지표에서는 AI가 보이지 않죠. 와튼스쿨 교수 Ethan Mollick과 함께 그 간극, 그리고 막 도래한 퍼스널 에이전트의 시대를 짚어 봐요.

• • •

도입: 모든 것을 가르쳐주는 최악의 가정교사

여러분이 고등학생이고, 부모님이 집에 돌아와 이런 말을 하신다고 해봐요. “네게 가정교사를 구해줬어. 게다가 완벽한 사람이야. 그 친구는 모든 걸 알아. 모든 분야의 모든 사실과 연구 결과를 통째로 외웠거든. 어떤 개념이든 네가 원하는 비유로 설명해줄 수 있어.” 생물이 헷갈려서 교감신경계와 부교감신경계 차이를 해리 포터 비유로 기억하고 싶다면? 그걸 정말 잘해요. 무엇보다 좋은 건 싸다는 거예요. 지하실에서 지낼 거고, 먹지도 자지도 않아요. 24시간 언제든 곁에 있죠. 어때요, 근사하죠? 여러분도 꽤 괜찮다 싶을 거예요.

그러던 어느 날 그 가정교사가 집에 찾아오고, 여러분이 물어봐요. “정말이에요? 모든 걸 외웠다고요? 어떤 과목이든 해리 포터 비유로 가르쳐줄 수 있다고요?” “물론이죠.” 가정교사가 말합니다. “그리고 한 가지 더 해줄 수 있어요. 사실 지난 제자들 대부분에게 해줬거든요. 생물 시험을 그냥 대신 쳐드릴 수도 있어요. 지리 수업을 건너뛰고 대신 에세이를 써드릴 수도 있고요. 읽고 싶지 않은 지루한 책, 『분노의 포도』 요? 알아요, 분량이 길죠. 제가 읽고 독후감까지 써드릴게요.” 그는 세상에서 가장 훌륭한 선생님이자, 동시에 세상에서 가장 형편없는 가정교사예요. 의지할수록 머리가 나빠지는 가정교사 말이에요.

이건 마법의 가정교사가 아니에요. 상상 속 존재도 아니고요. 실제로 수백만 명의 학생이 이미 이 가정교사를 쓸 수 있고, 그 결과도 드러나는 중이에요. 캘리포니아의 한 연구진이 최근, 인기 학습 사이트의 2015년 이후 수학 성적을 놓고 AI 챗봇이 미친 영향을 연구했어요. 학생들은 AI로 수학 개념을 차근차근 뜯어보고 이차방정식 암기법을 만들 수도 있었어요. AI로 수학 실력을 키울 수도 있었던 거죠. 그런데 실제로 무슨 일이 벌어졌을까요? 챗봇에 복사해 넣을 수 있는 문제에서는 2022년 이후 성적이 올랐어요. 하지만 컴퓨터 없이 치른 시험에서는 성적이 곤두박질쳤어요. 아니, AI가 등장하기 전보다 성적이 더 나빠졌습니다. 어떤 비유로든 무엇이든 가르쳐줄 수 있었던 그 가정교사가 결국 가르친 건, 더 멍청해지는 법이었어요.

여기서 몇 가지 교훈을 얻을 수 있어요. 첫째는 기술의 능력과 기술의 사용이 다르다는 점이에요. 위키백과나 클로드로 양자역학 전문가가 될 수 있다고 해서, 위키백과나 클로드의 주된 쓰임새가 입자물리학자를 늘리는 일인 건 아니에요. 둘째는 미디어 이론가 마셜 맥루한의 통찰이에요. 모든 기술은 확장이면서 동시에 절단이라는 거죠. 인간의 지능을 확장하는 기계는, 인간이 똑똑해져야 할 필요를 잘라내는 기계이기도 해요. AI는 많은 기술과 마찬가지로 어려운 질문을 던져요. 고생과 마찰을 줄여주는 도구를 쥐게 되면 이렇게 물어야 해요. 마찰의 가치는 무엇인가? 고생 그 자체가 핵심일 때는 언제이고, 해결이 핵심일 때는 언제인가?

AI가 사람에게 무엇을 해줄 수 있는지, 이론상 가능한 일과 실제 쓰임이 어떻게 다른지를 Ethan Mollick만큼 잘 설명하는 사람은 아마 없을 거예요. 신간 『Co-Existence』 의 저자이기도 하죠. 오늘 우리는 AI의 역설들을 이야기해요. AI는 전문가의 힘을 키워 주는 동시에, 전문가를 길러 내던 초급 업무를 자동화해요. 우리 일을 더 똑똑하고 빠르게 해 주지만, 그 방법이란 게 우리를 똑똑하고 빠르게 키워 주던 과정을 자동화하는 거고요. 그리고 이선에 따르면, 지금 AI가 제기하는 모든 난제는 능력이 지수적으로 좋아지면서 더욱 어려워질 거예요. 저는 Derek Thompson입니다. 여기는 『Plain English』 입니다.

• • •

예측, O링, 그리고 쓰레기통

데릭: Ethan Mollick, 어서 오세요.

이선: 초대해 주셔서 고마워요.

데릭: 책은 예측가들이 AI의 미래와 수학을 맞춰보던 장면으로 시작하죠. 그들은 AI가 2025년까지 수학 올림피아드 금메달을 딸 확률을 2.3%로 잡았어요. 작년에는 슈퍼포캐스터T1들이 밀레니엄 문제T2 하나가 풀릴 확률을 1.7%로 예측했습니다. 그런데 이제 OpenAI는 하나를 이미 풀었다고 말하고 있고요. 지금이 10월인데, 24시간 안에 또 하나 풀지도 모르겠네요. 불과 몇 달 뒤 AI가 얼마나 강력해질지조차 내다보지 못했다는 것, 여기서부터 시작해 보죠. 이 예측 실패는 AI의 능력에 관해 무엇을 알려 줄까요?

이선: 코로나19 때부터 사람들이 계속 들어온 교훈이 거기에 있다고 생각해요. 인간은 아무리 애써도 지수적으로 증가하는 것을 잘 생각하지 못해요. 세계 최고의 예측가들도 마찬가지예요. 물론 정말 뛰어난 사람들이죠. AI의 능력은 로그 그래프 위에서 직선을 그려요. 지난 4년 동안 그 선의 기울기는 사실 크게 변하지 않았고, 오히려 조금 가팔라졌어요. 그게 무슨 의미인지 파악하기가 정말 어려운 거죠. 게다가 예전엔 잴 일이 없던 여러 차원에서 좋아지고 있어요. 마력도 아니고 속도도 아닌, 지능이니까요. 지능이란 게 뭐든 간에요. 그 의미에 맞춰 생각을 고쳐 잡기가 정말 어렵습니다. 제가 끊임없이 보는 실패의 상당수는 ‘미래가 과거와 비슷하겠지’라는 가정에서 나오는데, 이제 그 가정은 맞지 않아 보여요.

데릭: 예측가들은 두 방향으로 틀렸던 것 같아요. 한 무리는 복잡한 수학 문제를 푸는 일 같은 AI 능력의 성장을 과소평가했어요. 그런데 또 다른 무리는 그 능력의 현실 세계 파급 효과를 과대평가했죠. 실업률을 보면 거의 정상이에요. 생산성 증가율은 조금 올랐지만 여기엔 여러 이유가 있고, 생산성 숫자에서 AI를 식별하기는 어려워요. 기업 수익도 꽤 좋아 보이지만, 칩 회사와 메모리 회사를 손으로 가리고 보면, 경제의 상당 부분에서는 엄청난 투자수익의 신호가 딱히 보이지 않아요. 관료 조직 곳곳으로 이렇게 많은 AI가 흘러드는데도요. 그래서 질문이 생겨요. 온라인에서 우리가 몇 번 주고받았던 논쟁이기도 한데, 이 자리에서 이선 씨의 논지를 분명히 들어 두고 싶어요. AI 능력이 지수적으로 그렇게 빨리 자라는데, 현실 세계에 미치는 파급은 왜 이렇게 더딘 걸까요?

이선: 저는 오히려 빠르다는 쪽에 놀라는 입장이에요. 저는 경영대학 교수이자 경제사회학자입니다. 경영대에서, 특히 창업 분야에서 배우는 교훈은 창업자가 이론상 절대 이길 수 없다는 거예요. 자원도, 돈도, 고객도 전부 대기업에 있으니까요. 그런데 창업자들은 왜 이길까요? 큰 회사는 못 바뀌기 때문이에요. 그런 상황에서 설문조사를 보면 벌써 높은 수준의 투자수익이 보고되고 있어요. 아직 대기업 실적에 드러날 만큼은 아니죠. 3천만 정도로는 큰 회사들에겐 티도 안 나니까요. 그런데도 아주 짧은 기간에 긍정적인 성과를 보고 있고, 어떤 회사들은 일하는 방식을 다시 설계하기 시작했어요. 저한텐 그게 느린 게 아니라 빠른 겁니다.

그러니 아직 이게 눈에 안 띄는 게 놀랍지 않아요. 특히 지금 AI가 싱글 플레이어 단계라서 더 그래요. 개인이 성과를 얻는 단계거든요. 그건 눈으로 확인할 수 있어요. 저는 하룻밤에 게임 하나를 통째로 바이브 코딩할 수 있고, 학술 논문을 그 어느 때보다 빨리 쓸 수 있어요. 하지만 시스템, 즉 멀티플레이어, 여러 사람이 함께 일하는 국면에는 여전히 거대한 빈틈이 있어요. 그게 어떻게 작동할까요? 우리는 이걸 두고 어떻게 협업할까요? 코딩을 보면, 코더 한 명의 생산성이 백 배가 됐어도 여전히 2주짜리 스프린트 안에 있고, 그 스프린트에는 여러 사람의 입력이 2주마다 필요해요. 그러니 달라지는 게 없어요. 실제로 벌어지는 건 어마어마한 토큰 지출이고, 임팩트는 안 보이죠. 저는 이게 오래 지속될 문제라고 생각하지 않아요. 하지만 아주 뚜렷한 단기 문제이고, 책에서도 많이 다루는 주제입니다.

데릭: 이선 씨가 쓴 개념 두 개 덕분에 주장이 유독 머리에 쏙 들어왔어요. 일자리는 O링 같고 회사는 쓰레기통 같다고 주장하셨죠. 아니면 그렇게 주장한 사람들을 인용하셨거나요. 경제가 왜 쓰레기통과 O링으로 이루어져 있다고 보시는 건가요?

이선: 여기엔 서로 다른 방식의 비극이 두 가지 있어요. O링은 1986년 챌린저호 참사에서 이름을 따왔어요. 그날 1만 6천 개쯤 되는 부품은 전부 멀쩡히 작동했지만, O링 하나가 실패하면서 참사가 벌어졌죠. 제가 이 책과 지난 책에서 많이 쓰는 개념인 들쭉날쭉한 경계 (jagged frontier)와도 연결돼요. 저희 논문에서 만든 용어인데, AI는 예상 못한 분야에서는 놀랍게 잘하고, 역시 예상 못한 분야에서는 놀랍게 못한다는 생각이에요. AI가 한 직업의 어느 한두 군데만 못 해도, 거기엔 여전히 인간이 필요합니다. 모든 게 완벽하게 돌다가 딱 하나가 실패하는 건 용납할 수 없으니까요. 대부분의 직업에서 업무는 단순 합산되지 않아요. 작은 부분들이 서로 더해지고 깎이죠. 그래서 O링이 뜻하는 건, 일자리를 AI로 하나씩 쉽게 갈아 끼울 수 없다는 거예요. AI가 사람의 일을 똑같이 해내지 못하는 한, 인간의 노동에는 계속 가치가 쌓이니까요. 코딩에서도 그게 벌어지고 있어요. AI가 이제 코드를 쓰지만, 그걸 관리할 인간 엔지니어는 여전히 필요해요. 다음 몇 달 안에 바뀔 수도 있고, 그러면 O링의 다른 부분이 걸림돌로 떠오르겠죠. 일자리는 매우 빠르게 진화하는 중이지만, 걸리는 지점이 아직 있고, 특히 조직 차원으로 가면 더 그래요.

쓰레기통 모형T3은 조직이론에서도 꽤 우울한 축에 드는 모형이에요. 회사란 결국 서로를 찾아 헤매는 문제와 해법이 한데 뭉쳐 겹겹이 쌓인 더미라는 거예요. 계획은 없어요. 아니, 계획이 있어도 조직이 작동하는 방식의 아주 작은 일부일 뿐이죠. 조직은 우연과 복잡한 얽힘과 진화의 막다른 길로 가득하고, 아무도 존재조차 모르는 업무의 고리가 돌아가요. 그리고 조직은 그냥 이런저런 일을 해요. 그 결과 조직을 즉시 개선하기도 어렵고, AI와 함께 일하도록 조직을 다시 설계하는 일은 “이 업무가 서류 어딘가에 있으니 보완하자” 정도로 단순하지 않아요. 서류에는 회사라는 쓰레기통의 실체가 담겨 있지 않으니까요. 왜 쓰레기통 비유인지 아시겠죠? 모든 게 쓰레기통 속 쓰레기처럼 한데 던져져 마구 뒤섞이고, 어떨 땐 잘 풀리고 어떨 땐 안 풀리는 거예요.

• • •

‘AI’라는 한 단어의 많은 의미

데릭: 저도 이선 씨처럼 폭넓은 독자와 청중을 위해 AI를 다루려고 노력해요. 그중엔 프론티어 랩에서 일하거나 심지어 임원인 사람도 있고, 프론티어 랩을 몹시 싫어하고, AI라는 약어도, 이 주제에 관한 모든 것도 싫어하며, 2022년 10월로 돌아가는 타임머신을 탈 수만 있으면 좋겠다는 사람도 있죠. 이유는 많아요. 설문 데이터에서도 보여요. AI를 쓰는 사람에게 “도움이 되나요?”라고 물으면 4대 1로 예스예요. 같은 설문에서 “AI가 사회에 나쁜가요?”라고 물으면 역시 4대 1로 예스입니다. 흥미로운 모순이 여기저기 있는 거죠.

제가 특히 여쭙고 싶은 건 이겁니다. 우리는 전부 ‘AI’라는 한 단어로 완전히 다른 제품들을 가리키고 있어요. 프론티어 랩이 “우리 AI가 나비에-스토크스를 풀었다”거나 다른 수학 문제를 풀었다고 말할 때, 그건 어쩌면 몇 달 뒤에야 공개될 내부 모델 얘기입니다. 그다음으로 기업과 개인이 돈을 내고 구독하는 최첨단 공개 모델이 있죠. 그런데 미국에서 AI를 직접 구독하는 개인은 3% 정도예요. 매달 AI를 쓰는 사람도 상당수는 공개된 지 몇 년 된 모델을 쓰고 있고요. 내부에서는 그보다 더 오래전부터 쓰이던 모델이죠.

그러니 하나의 제품이라지만, 적어도 제가 마지막으로 꼽아 보기엔 사실 세 가지예요. 가장 강력한 내부 모델은 최강 공개 모델보다 한참 뛰어나고, 최강 공개 모델은 대부분의 사람이 매주 쓰는 모델보다 한참 뛰어나죠. 이걸 대중에게 설명하는 건 아주 어려운 커뮤니케이션 과제라고 보는데, 이 문제를 어떻게 다루세요?

이선: 그나저나 아마 몇 개 빠뜨리셨을 거예요. SF가 사람들 머릿속에 심어놓은 AI 모델도 있죠. 사람들이 그리는 미래의 상당 부분이 거기서 정해지는데, 그게 『터미네이터』 든 각자 본 다른 무엇이든요. 그리고 회사 안에서는 여전히 AI라고 하면 자사 데이터로 돌리는 머신러닝, ‘데이터가 새로운 석유’ 시대의 기법들을 떠올리는 경우도 많고요. 여기서 혼란이 아주 많아요.

일부는 그냥 헷갈리는 일이라서 그렇다고 봐요. 범용 기술이라 한꺼번에 여러 일이 벌어지고, 쓰임새도 곳곳에서 제각각이니까요. 하지만 가장 큰 혼란의 원인은 그 지수 곡선을 체감하지 못한다는 점이라고 생각합니다. “지수 곡선에 물들어라”, “AGI에 물들어라”T4 같은 말은 아주 촌스럽고 실리콘밸리 냄새가 나죠. 그런데 사실은 모델이 정말, 정말 빠르게 좋아지고 있고, 여러분의 예전 생각은 좀 낡은 셈이에요.

제 기억이 맞다면요, 얼마 전에 따져 봤어요. 2년 전 제 지난 책이 나왔을 때 최고 모델이 어느 정도였는지를요. 집필을 시작할 때도, 끝냈을 때도, 그 후 몇 달간도 세계 최고 모델은 GPT-4였어요. 약 1년 동안 최강자였죠. 그런데 GPT-4는 지금 세계 181위 모델입니다. 스마트폰에서 돌아가는 모델 중에도 GPT-4보다 나은 게 19개 있어요. 몇 달 전만 해도 다들 GPT-4를 두고 난리였는데요. 이제 최강 모델의 평균 재임 기간은 70일 이하예요.

우리는 아주 빠른 가속 구간에 있고, 모두가 뒤처져 있다고 봅니다. 지금 쓸 수 있는 세상에서 가장 똑똑한 모델을 써도, 나비에-스토크스를 풀려는 게 아니라면 그게 뭘 할 수 있는지조차 몰라요. AI 능력과 사람들의 AI 인식 사이에 이 어마어마한 미스매치, 오버행T5이 있는 거죠. 사람들은 전제가 숭숭 빠진 채로 온갖 예측을 내놓고 있어요. 사실상 아무도 아무것도 모르는 상태예요.

• • •

전문성 역설

데릭: 책을 읽으면서 느낀 건, 이 책이 여러 면에서 긴장에 관한 책, 우리가 AI와 함께 일하고 AI에 대해 읽으면서 안고 사는 역설들에 관한 책이라는 점이었어요. 이번 책에서 뽑은 역설을 적어도 네 가지는 짚어 보고 싶습니다. 첫 번째는 전문성 역설이라고 부르고 싶어요. AI는 전문가를 더 강력하게 만드는데, 정작 전문성을 만들어내는 초급 업무를 자동화하는 경우가 많다는 생각입니다. 여기서 무슨 일이 벌어지고 있는지, 그리고 전문가가 만들어지는 과정 자체를 자동화하고 있는데 어떻게 다음 세대 전문가를 키울 수 있을지 풀어봐 주시겠어요?

이선: 다행이라고 해야 할까요, 제가 그 주장을 쓴 이후로 양쪽이 모두 벌어지고 있다는 증거가 더 쌓였어요. 좋은 소리는 아니지만 사실이죠. 한편으로는 Anthropic의 연구가 있는데, 전문성이 깊을수록 AI 모델을 써서 얻는 효과도 커진다고 합니다. 더 나은 답을 얻고, 더 많은 답을 얻어요. 말이 되죠. AI가 좋아질수록 어마어마한 분량의 결과물을 뱉어내는데, 전문가라면 그걸 훑어보는 순간 좋은지 나쁜지, 뭘 고쳐야 하는지 알 수 있으니까요. 누가 보고서를 건네줬을 때 통째로 읽지 않고 넘겨보는 것과 같아요. 팟캐스트 전문가라면 지금 이 인터뷰가 잘 되고 있는지를 알고, 남에게 설명할 수 없는 판단들을 머릿속에서 내리고 있겠죠. 복잡한 시스템과 함께 일할 때 전문성에는 실제 가치가 있어요.

그런데 동시에, 우리는 전문성을 견습으로 가르쳐요. 전문성을 학교에서 온전히 가르칠 방법이 없거든요. 그래서 누군가를 팟캐스트 스튜디오 인턴으로 보내서 저와 사전 인터뷰를 하는 잡일을 시키고, 피드백을 주죠. 가능하면 다정하게, 가끔은 화를 내기도 하면서요. 그렇게 일의 요령을 익히는 거예요. 선배가 하기 싫어서 안 하는 인터뷰를 인턴이 하고, 그 대가로 피드백을 받고, 자기가 잘한다는 걸 증명해야 하죠. 정말 잘 굴러가는 선순환입니다. 자본주의에서도, 국가 계획 경제에서도, 어디서든요. 초년생은 앞서 나가려고 애쓰고, 조직에는 선배들이 하기 싫어하는 일을 대신 해 줄 사람이 필요하고, 그 일을 하면서 배우니까요.

그 모든 게 AI와 함께 무너졌어요. 초년생은 AI보다 실력이 한참 떨어지니, 초년생 입장에서도 AI에게 일을 시키는 편이 나아요. 그런데 초년생에게는 좋은지 나쁜지 판단할 전문성이 없으니까 AI 과제물을 그대로 내죠. 초년생에게 일을 주고 피드백을 주던 중간 관리자 입장에서도 AI가 더 잘합니다. 감정도 없으니 그냥 AI한테 시키는 게 낫죠. 그래서 이제는 아무도 아무것도 배우지 않게 됐어요. 학습은 그 과정에 딸려 오는 부산물이었어요. 장기적으로는 그게 핵심이었는데도요.

우리는 운이 좋았던 거예요. 4천 년 가까이 어디서든 잘 굴러온 과정이 있었고, 전문가는 그 과정에서 덤으로 길러졌으니까요. 이제 전문성을 어떻게 다시 만들지 재고해야 하고, 그러려면 효율과 학습을 분리해야 합니다. 회사에서도, 대학에서도, 쉽지 않은 일이에요.

데릭: 몇 달 전에 데이비드 데밍을 이 자리에 모셨는데, 정말 곤란한 문제를 다뤘어요. 교육 공동체에서 AI를 어떻게 가르치느냐는 문제죠. 교육 공동체의 본분은 생각하는 일을 일부러 어렵게 만드는 거잖아요. 대학에서 고생하면서 졸업 후에 쓸 근육을 키우게 해야 하니까요. 하버드와 와튼, 그리고 버지니아텍이나 미시간대 같은 곳에서 AI를 너무 많이 써서 가르치면, 사람들이 더 똑똑해지는 과정 자체를 자동화하는 셈이 되고, 결국 AI가 없었을 때보다 더 둔해지고 말아요. 반대로 “대학에서 AI로 가르치면 학습 전 과정을 우회하니까 당연히 안 된다”고 금지하면, AI를 쓸 줄 알아야 할지도 모르는 노동 시장으로 졸업생 수천 명을 내보내면서, 범용 기술과의 접촉 자체를 금지한 셈이 됩니다.

대학에서 배우는 일의 미덕과 직업 준비 기관으로서 대학이 지닌 미덕 사이에서, 어떻게 균형을 잡아야 한다고 보세요? 졸업생이 똑똑하면서도 첫 직장에서 쓰게 될 가능성이 큰 기술을 어느 정도는 다룰 줄 알도록요.

이선: 자, 아마 제 발언 중에 가장 논란이 될 텐데, 학자들은 잘 안 하는 말이에요. 저는 이게 그렇게 어려운 문제라고 생각하지 않아요. 어려운 건 우리가 있어야 할 상태로 넘어가는 과정이죠. 그래도 대학과 K-12 교육 현장에서는 우리가 통제할 수 있는 부분이 많아요. 그동안은 아주 정해진 방식대로 해 와야 했고요. 해 오던 방식을 AI가 와서 망가뜨려 주길 바란 사람은 아무도 없지만, 결국 그렇게 됐어요.

그리고 증거도 이미 있어요. AI를 학습 지름길로 쓰면 학습 기회를 스스로 망가뜨리게 됩니다. 그런데 대부분의 사람이 자연스럽게 그렇게 쓰죠. 부정행위를 하려고 그러기도 하고, 그냥 조언을 구했는데 AI가 답을 줘 버려서 뭔가 배웠다고 착각하기도 해요. 실제로는 못 배운 거예요. 우리는 자기가 배우고 있는지 아닌지 판단하는 데 아주 서툴거든요. 반대로 AI를 튜터로 써서, 답을 주는 대신 학생을 밀어붙이게 하면 이야기가 달라요. 이제는 연구가 충분히 쌓였어요. 메타분석에서도, 하버드와 스탠퍼드, 케냐 등지에서 진행한 무작위 대조 시험(RCT)에서도 긍정적인 효과가 나왔고, AI가 아주 강력한 학습 도구가 될 수 있다는 걸 실제로 알게 됐죠.

그러니 답은 그렇게 어렵지 않아요. 수업 밖에서는 AI를 학습 도구로 쓰고, 수업 안에서는 지난 30년의 교육학이 가장 효과적이라고 알려준 것, 즉 토론과 사례 연구 같은 능동적 학습 경험을 하면 돼요. 노트북 없이 수업 중에 시험을 봐야 하고, 수업 중 토론이 있어야 합니다. 과정 자체가 그렇게 어렵지 않아요. 거기까지 가는 게 어렵지, 가기만 하면 결국 더 나은 형태의 학습이 기다리고 있어요. 그것도 전부 오늘날 우리가 이미 아는 교수법에 기반한 거고요.

그리고 이 퍼즐의 다른 조각은, 그럼 ‘AI를 가르친다’는 건 무슨 뜻이냐입니다. 가르칠 AI라는 게 따로 있다거나, 대학에서 AI 사용법을 배워야 한다는 생각에는 저는 훨씬 회의적이에요. 그 스킬이 뭔지 모르겠거든요. “AI 사용법을 배운다”는 게 무슨 스킬인지 저는 몰라요. 기업 최고인사책임자(CHRO)들이 “요즘 애들은 AI 네이티브예요”라고들 하는데, AI 네이티브가 아니에요. 그냥 클로드를 쓸 뿐이죠. 클로드에 이것저것 붙여넣는 거지, AI 쓰는 법을 배우는 게 아니에요. AI를 써서 얻는 효과가 결국 전문성에서 나오는 거라면, AI 전문가인 게 아니라 AI를 활용할 줄 아는 어떤 분야의 전문가인 거예요.

데릭: 방금 말씀하신 결론대로면 교수들이 훨씬 강경하게 AI 사용을 제한하거나 아예 금지하기까지 해야 한다는 뜻이 되나요? 18세에서 22세 사이에 기술에 익숙해지는 건 아무 이득이 없고, 대학에서 할 일은 그저 배우는 데 능숙해지는 것뿐이고, 졸업해서 베인 같은 데에 취직하면 그때 존재하는 AI를 그때 익히면 될까요?

이선: 그보다는 좀 더 복잡해요. 모든 수업이 AI 수업일 필요는 없죠. 하지만 지금은 응급 상황이니까 학교에서 AI를 가르쳐야 한다는 건 확실히 생각합니다. 문제는 제가 교수다 보니 잘 아는데, 교수라는 직업은 대체로 각자 알아서 하는 방식이라는 거예요. 그래서 모두가 제각기 다른 방식으로 수업에 AI를 도입하고 있고, 그중엔 학습을 해치는 것도, AI에 대해 틀린 것도, 따라가기 버거운 것도 있어요.

AI 스킬을 어떻게 가르칠지 생각해야 합니다. LLM이 어떻게 작동하는지 조금은 아는 게 도움돼요. 많이가 아니라 조금이요. 요즘 모델이 어디쯤 와 있는지 아는 것도 도움이고요. 하지만 모든 수업이 AI 수업일 필요는 없고, 그게 어떤 모습일지 우리는 아직 몰라요. 그리고 AI를 교육 도구로 쓸 구석은 정말 많아요. 제 수업에서는 일부러 ‘좀 못 하는 학생’으로 훈련된 AI를 학생들이 가르치게 해요. 가르치는 건 배우는 아주 좋은 방법이거든요. AI와 함께 사례 연구를 만들기도 하고, AI를 게임 마스터 삼아 시뮬레이션을 돌리기도 합니다. 학습을 돕기 위해 AI를 쓸 흥미로운 기회가 많고, 우리가 계속 찾아내고 다듬어야 하죠.

다만 과목으로서의 AI는 우리가 하는 모든 일에 스며들 수는 있어도, 모든 수업을 AI 수업으로 만들 일은 아니에요. 산업혁명 시대에 모든 수업이 증기기관 수업이어야 했던 건 아니잖아요. 그럴 필요가 없죠. 지금도 마찬가지예요. 그런 교육에도 가치는 있지만, 다들 “AI 리터러시, AI 자격증이 필요하다”며 우르르 올라타는 면이 좀 있어요. 그런데 와튼에서 연구해 본 바로는, 제가 예전에 가르치던 프롬프트 기법들은 이제 하나도 안 통해요. 작년에 AI를 배운 졸업생이 대학에서 정규 과목으로 배웠다면, 그 내용은 전부 무용지물입니다. “단계별로 생각해”라고 말하는 건 이제 모델에 아무 도움이 안 되고, 페르소나를 줘도 이제는 성능이 달라지지 않아요. 배운 게 거의 다 쓸모없어졌습니다. 그래서 필요한 건 고차원적 사고라고 봐요. AI가 요즘은 프로젝트 관리와 아주 비슷해 보이니, 모두가 프로젝트 관리 수업을 들어야 할지도 모르겠네요.

• • •

스킬 역설

데릭: 방금 이야기한 전문성 역설과 아주 밀접한 게, 제가 스킬 역설이라고 부르는 거예요. AI 덕분에 사람은 훨씬 더 생산적이 될 수 있어요. 그런데 이선 씨가 여러 연구를 들어 말씀하셨듯, AI를 쓰면 특정 과제를 더 잘하는 것 같다가도 AI를 빼면 점수가 곤두박질쳐요. 기계를 튜터가 아니라 목발처럼 써 왔다는 사실이 드러나는 거죠. LLM과 함께 일할 때, 선의 이쪽, 그러니까 AI를 도구로 쓰는 쪽에 있을 때와, 저쪽, AI로 자기 사고를 자동화하는 쪽에 있을 때를 어떻게 알아차리세요? 각각 어떤 느낌이 드나요?

이선: 정말 어려운 과정이죠. 저는 스스로에게 명확한 선을 그어 두는 방식으로 해요. 모든 초고는 직접 써요. 가끔은 유혹이 들어요. 또 하나의 포스트, 또 하나의 글이라고, 굳이 하고 싶지 않을 때가 있거든요. 그래도 해야죠. 초고는 제가 직접 쓰고, 그다음엔 당연히 AI를 씁니다. 그런데 가장 우울한 건 언제나 이래요. 글 한 편에 AI가 쓴 두 줄이 끼어 있으면 모두가 “그 줄이 정말 좋네요”라는 거예요. 저는 “나머지는 전부 우리가 썼는데”라고 답하죠.

그런데 이게 제가 겪는 가장 어려운 과제라는 생각이 들어요. 인간은 기회만 주어지면 반드시 스스로를 탈숙련화할 테니까요. 그래서 책의 메시지 중 하나는 AI를 신중하게 쓰라는 것인데, 그 말을 하기가 쉽지 않죠. 인간은 노력을 싫어하니까요. 웨이트 트레이닝이 몸에 좋다는 걸 우리는 스스로에게 가르쳐야 했어요. 몸이 명백히 피하도록 설계된 일인데도요. 하기 싫어하죠. 다이어트도 하고 싶지 않고요. 학습도 마찬가지로 바람직한 어려움(desirable difficulties)T6을 요구해요. 어려움이 필요한 겁니다. 우리는 그러기 싫어하고요. 그래서 어떤 스킬을 포기할 용의가 있고 어떤 스킬은 포기하지 않을지 정하는 일이, 우리의 커다란 과제가 될 거라고 봅니다.

그리고 필요한 스킬을 지키도록 인센티브 체계를 짜는 일도 어려울 겁니다. 특히 회사는 원래 그런 일을 위해 만들어진 곳이 아니니까요. 대학이라면 또 다른 얘기예요. 우리가 통제할 수 있거든요. 시험을 보게 하고 그 점수를 성적으로 만들되, 그 시험에는 AI를 못 들이게 하면, 실제로 배웠는지 확인할 수 있어요. 그러면서도 AI 튜터는 얼마든지 쓸 수 있고, 수업 경험은 훌륭하고, 조교도 있는 세상을 만들어 줄 수 있죠. 그래도 결국엔 본인에게 달린 문제고요. 그런데 회사로 넘어가면 이야기가 정말 꼬여요. 저부터가 AI가 하는 일을 굳이 직접 하고 싶지 않아서 스스로를 탈숙련화하게 될 뿐 아니라, 회사도 제가 그 일을 안 하는 편이 더 효율적이니 제가 하길 원하지 않거든요. 그래서 전략적 스킬 유지(strategic skill retention)는 앞으로 엄청나게 중요한 문제가 될 겁니다.

데릭: 헬스장 비유로 돌아가 보면, 지난 2년간 제가 집착해 온 주제들에 헬스장 비유가 그토록 자주 들어맞았다는 게 참 흥미로워요. 처음엔 우리가 수렵 채집인이어야 했으니 헬스장이 필요했어요. 하루에 12시간을 걸어 다녀야 했죠. 그러다 전문 분업 경제를 발명하면서 그만큼 걸을 일이 없어졌죠. 그래서 체력을 유지하려면 헬스장이라는 특별한 곳에 가서 옛날 과정 몇 가지를 흉내 내며 그 체력을 되찾아야 했어요. 그게 헬스장 1.0입니다.

그다음은 사교성의 쇠퇴를 다룬 「The Anti-Social Century」 를 썼을 때였어요. 그때 제 관심을 끈 건 이런 말을 하는 사람들이었어요. 우리는 우정과 공동체, 이웃 간의 정을 우리 안에서 자연스럽게 솟아나는 것으로 여겨 왔다는 거죠. 도움을 구하러 사람들에게 손을 내밀고, 친구를 만나고 우정을 이어 가야 하니까요. 그런데 이제 스마트폰이 있어서 트위터나 인스타그램에서 수천 명, 수백 명을 일종의 바깥 우군으로 두고 연락을 이어 가기도 쉬워졌고, 소파에 하루 종일 앉아 넷플릭스를 보고 틱톡을 넘길 수도 있잖아요. 이제는 어울림 자체를 ‘사회적 체력’을 기르는 수단으로 생각해야 합니다. 집 밖으로 나와서 사람들 곁에 있는 연습을 하는 거예요.

그리고 지금 이선 씨께서 말씀해 주시는 건 세 번째 헬스장이 필요하다는 거네요. AI가 숙제도, 일도, 직장 일도 대신해 주는 데 너무나 능숙하니까, 때로는 마찰이 핵심이라는 걸, 고생이 핵심이라는 걸 기억해야 한다는 겁니다. 지적 노력의 몇몇 측면을 일종의 헬스장으로 생각해야 해요. 그 순간엔 어렵게 느껴질 수 있는 스킬을 단련하러 찾아가는, 특별한 장소이자 시간이죠. 안 해도 된다는 건 알지만, 길게 보면 우리에게 이로울지도 모른다고 생각하는 곳이요. 생각해 보면 참 재미있어요. 삶을 편안하고 기술적으로 풍요롭게 만드는 새 방법을 찾아낼 때마다, 이 모든 영역에서 헬스장이라는 개념이 자꾸 다시 등장하니까요.

• • •

지식 역설

데릭: 제가 적어 둔 세 번째 역설로 넘어가고 싶어요. 이것도 역시 연결된 이야기예요. 제가 지식 역설이라고 부르고 싶은 겁니다. 지난 몇 달 동안 OpenAI는 수백 건의 수학적 성과, 증명들을 내놨어요. 그중엔 수학자들도 논리를 따라가다 보면 상당히 이질적으로 느끼는 증명들이 있죠. 이선 씨가 트위터에서 인용했던 어느 수학자는, 한 증명이 마치 환각제를 하고 쓴 것 같다고 했었어요. AI가 이해 없이 지식을 만들어 낸다는 것, 다시 말해 인간이 그 증명에 이르는 데 필요한 것을 이해하기도 전에 AI가 증명부터 내놓는다는 것. 이 긴장을 어떻게 생각하시는지 궁금해요. 인간의 이해 없이 지식을 만들어 내는 게 정말 문제가 되는 걸까요? 이 질문을 어떻게 바라보시나요?

이선: 이건 우리가 마주한 과제의 일부예요. 지능의 종류를 굳이 나눠 볼 필요가 없었어요. 지능이라고는 딱 한 종류, 인간의 지능뿐이었으니까요. 그래서 우리는 IQ니 여러 지능 유형이니 하고 이야기하지만, 결국 우리는 전부 비슷하게 작동하죠. 그런데 AI는 놀랍도록 이질적이지 않아요. 『스타 트렉』 에서 상상했던 그런 외계 컴퓨터가 아니라는 거예요. 온통 논리뿐이라서 ‘사랑’이라는 말만 꺼내도 ‘연산 불능’ 하고 터져 버리는 그런 컴퓨터요. 그런데 AI는 진짜 이유든 만들어 낸 이유든, 온갖 이유로 감정적인 사람처럼 말해요. 하지만 지적인 작업 얘기로 넘어가면 그 이질성이 드러나기 시작하죠. 게다가 우리는 우리 자신의 지적 작업을 들여다볼 필요도 없었고요.

수학자들의 흥미로운 점 하나는, 바깥에서 보기엔 증명이 제일 큰일이었다는 거예요. 그게 목표였죠. ‘이게 밀레니엄 문제다. 풀기만 하면 다 된 거다.’ 이런 식이요. 그런데 수학자들은 항의해 왔어요. 예전부터 그렇게 말해 왔겠지만, 이제는 공개적으로 항의해요. ‘이런 식은 아니다’라고요. 증명 자체가 사실 핵심이 아니었던 거예요. 증명 하나하나가 우리가 한 번도 발견하지 못했던 새로운 아이디어를 낳았고, 문제를 푸는 과정 자체가 수학 공동체를 흥미로운 새 문제와 새 공간으로 모아 줬어요. 그게 전부 망가지고 있죠. 그리고 어떤 면에서 수학자들이 완전히 옳아요. 우리가 아는 수학을 실제로 풀어헤치고 있으니, 이 분야를 다시 짜야 합니다.

이런 일은 여러 분야에서 벌어질 거라고 봐요. 우리가 정말 의미했던 것을 재구성하고, 지적 몰입이라는 개념을 분해해 보는 일이죠. 제 책이나 우리 트윗이든 뭐든 넣으면 이제 꽤 쓸 만한 팟캐스트를 만들어 낼 수 있지만, 그건 우리의 팟캐스트가 아니에요. 글쓰기에 담긴 인간의 손길, 증명에 담긴 인간의 손길, 우리가 지식을 만들고 얻는 방식이 가치 있다는 생각을 어떻게 지켜 내야 할까요? 커다란 도전이 될 겁니다. 그래서 저는 여기에 분명 실체가 있다고 확신해요.

그리고 2차 문제도 있어요. 이제 수학을 인간이 할 필요가 아예 없는 것 아니냐, 하는 문제죠. 지금은 인간이 필요해요. 하지만 6개월 전만 해도 인간이 필요하다는 건 아주 분명했고, 6개월 뒤에는 아닐 수도 있죠. 증명이 계속 만들어지면, AI가 다 해내는 수학은 체스처럼 ‘게임’이 되는 걸까요? 인간의 성취는 여전히 의미 있지만, 일정한 경계 안의 공간에서만이요. 빌 게이츠가 인간이 풀 문제들을 일부 남겨 두자고 했던 걸로 아는데, 그런 결과라면 저는 좀 불안하네요. 그래도 우리는 결국 이런 고민을 하게 될 거예요. 우리가 하려는 일이 대체 무엇인가. ‘AI야, 그런 식은 아니야’라고 할 때 우리가 말하려는 건 무엇인가. 그게 중요해질 겁니다. 앞으로 ‘그런 식은 아니야, AI야’ 하고 곱씹어 봐야 할 일이 정말 많을 거라고 봐요.

데릭: 책을 읽으면서 저는 수학자 스티븐 스트로가츠와 이런 현상에 대해 대화한 적이 있어요. 이선 씨가 계속 맴돌고 계신 바로 그 현상이죠. OpenAI가 그 많은 수학 문제를 풀어 버렸는데(적어도 겉보기에는요), 그 방식이 자기들의 연구 분야를 핵으로 날려 버린 것 같아서 수학자들이 분개하고, 모욕감을 느끼고, 눈물까지 흘린다는 겁니다. 한편으로는 수학자라면 당연히 강하게 말할 거라고 기대하죠. “이런 식은 아니다, OpenAI. 끔찍한 일이다. 인간의 이해 없이 AI가 수학 문제를 푸는 건 이 분야에 대한 범죄다.”

하지만 그는 자기 전작에 등장하는 인물 이야기도 들려줬어요. MIT의 컴퓨터 과학자 레지나 바르질라이(Regina Barzilay)는 40대 초반에 유방암을 이겨내는 과정에서, 의사들이 유방암 진단에 대해 모르는 게 얼마나 많아 보이는지 알고 큰 충격을 받았죠. 그래서 그녀는 수십만 장의 유방촬영 영상으로 AI를 훈련한 팀을 이끌었고, 유방암 발병을 몇 년 앞서, 그 어떤 인간 의사 팀보다 정확하게 예측하는 기술을 만들어 냈습니다. 스트로가츠가 바르질라이에게 물었어요. “당신의 AI가 하는 일을 이해하나요?” 그녀는 “아니요”라고 답했죠. 스트로가츠가 다시 물었어요. “자기 발명품을 이해하지 못하는 게 걱정되지 않나요?” 그랬더니 그녀가 이렇게 답하더라고요. “생명을 살리는 모델을 인간이 이해할 수 있는 범위로 한정할 이유가 있나요?”

한편으로 저는 수학자들의 눈물에 매우 공감하고, 다른 한편으로는 부모님을 앗아간 암으로 죽고 싶지 않은 마음에도 공감해요. 저는 살고 싶어요. 살려면 생명을 살리는 모델이 필요하고, 그 모델의 내부 작동 원리를 인간이 이해하지 못한다 해도, 저는 그딴 건 알 바 아니에요. 더 살 수 있는 세월이 그 과학자들의 이해라는 퀄리아(qualia)보다 더 가치 있으니까요. 그래서 이 긴장에 대해 조금 더 생각해 주시면 좋겠어요. 인간의 이해가 지니는 과학적 가치와, 과학 그 자체, 과학을 위한 과학적 진보가 지니는 현실 세계의 가치 사이의 긴장이요. 물론 그 진보가 실제로 생명을 구하고 연장해 준다면 말이에요.

이선: 맞아요, 결국 모든 것과 마주하게 되는 자리가 여기예요. 과학에 이런 사례가 정말 많고요. 가장 다루기 쉬운 종류의 케이스죠. 수학 이야기가 나올 때 사람들이 자주 했던 말이 있어요. 암 생물학자들도 ‘아니, 아니, 풀지 마, 이런 식은 아니야. 암을 치료해 버리면 우리 일자리가 없어진다’고 하겠느냐고요. 그런데 분야란 각자 자기만의 게임이기도 해요. 저는 말씀드렸듯 경제사회학자 출신이고, 경영대학에서 논문을 써요. 저도 똑같은 문제를 겪고 있어요. AI가 이제 지루한 편이지만 실제로는 맞는, 정말 괜찮은 경제학 논문을 사실상 대량으로 만들어 내거든요. 사람들도 이걸 알아차리기 시작했어요. 더 진보된 모델에 접근할수록 이런 일을 더 많이 해내죠. 어디로 흘러가는지는 아주 명확합니다.

AI에는 아직 연구 안목(taste)이 없어요. 그런데 재미있게도, 저는 요즘 이걸 두고 많이 생각해요. 안목이란 뭘까요? 안목이란, 인간인 저는 감당할 수 있는 문제 수가 한정되어 있고, 제가 다루는 문제에 사람들이 관심을 가져 줘야 한다는 생각이에요. 그래서 흥미로울 것 같은 주제를 고르는 순간, 저는 거의 자기 자신에게 p-해킹T7을 하고 있는 거죠. AI가 대부분 자명하게 참인 논문을 무한히 만들어 낼 수 있다는 사실은, 고전적인 머턴식 과학(Mertonian science)T8이라는 아이디어 자체를 흔들기 시작해요. 우리는 과학에서 무엇을 하나요? 모든 걸 다 살펴보나요? 우리에게 흥미로운 문제만 보나요? 안목이 중요한가요?

그리고 이건 처음의 그 붕괴 질문으로 돌아가는 거예요. 우리는 인간 지능을 중심으로 세워진 제도를 수없이 갖고 있고, 참고로 조직도 그중 하나예요. 조직도(org chart)는 1855년에 철도회사가 자기들이 겪던 문제를 풀려고 발명했어요. 그리고 인간 지능이 병목이라는 전제 위에 세워졌기 때문에 오늘날에도 쓸 수 있는 거죠. 이제 이 문제가 도처에서 벌어질 겁니다. 결과물이 중요한가? 인간의 과정이 중요한가? 인간의 과정이 얼마나 중요한가? AI가 대신하는 게 마음에 안 들어서 우리가 그 과정을 과대평가하고 있는 건 아닌가?

그러니까 그건, 말하자면 AGI 비슷하고 UBI가 있는 세계로 가는 아주 긴 경로예요. 우리 모두가 신사 학자가 되어 제인 오스틴 소설 같은 사회에서 사는 세계, 재미로 수업을 하나 듣고, 크로켓을 치고, 남들 뒷담화를 나누며 사는 세계요. 그곳에 도달하든 말든 저는 모르지만, 어딘가 그런 곳에 가는 과정 자체는 험난할 겁니다. 저는 그에 공감하는 동시에, 인간의 노력 중 어떤 부분을 지킬 가치가 있는지 우리가 알아내야 한다고 봐요. 학계와 학술 연구에서 발견 말고도 가치 있는 부분은 무엇일까요? 어떤 부분은 ‘우리가 더 많은 것을 얻게 해 준다’는 맥락 안에서만 가치 있는 걸까요? 애초에 수학은 왜 했던 걸까요? 경제사회학은요? 우리는 지금 수많은 심연을 한꺼번에 똑바로 마주하고 있는 거예요.

• • •

인간 역설

데릭: 정리하는 차원에서, 사실 저 자신을 위해서라도, 지금까지 살펴본 역설들을 짚어 볼게요. 전문성 역설이 있어요. AI는 전문가를 더 강력하게 만드는데, 정작 전문성을 만들어내는 초급 업무를 자동화한다는 것이죠. 스킬 역설은, 쓰고 있는 기술이 튜터인지 목발인지 알 수 없다는 거예요. 목발이라면 여러분의 일을 대신 해 주는 바람에, 아이러니하게도 여러분을 더 약하게 만들죠. 그리고 지식 역설이 있어요. 예전에는 지식을 얻으려면 이해가 먼저 필요하다고 생각했는데, 이제는 그 지식에 어떻게 도달했는지 그 과정을 이해하기도 전에 지식을 건네주는 기계를 발명해버렸다는 거죠.

마지막으로, 달리 부를 말이 떠오르지 않아서 이렇게 부르는데, 인간 역설이 있습니다. 이건 정말 근본적인 질문으로 들어가는 문제예요. 대략 이런 질문이죠. 인간의 노력은 언제 필수인가? 그리고 이선 씨는 이 질문에 아주 흥미로운 방식으로 접근하시는데, 바로 부고문을 들여다보는 거예요. 제 기억으로 저희는 장례지도사 컨퍼런스를 취재한 적이 있는데, 거기서 누군가 AI를 두고 “일종의 방부 처리유 이래로 장례식장 기술이 이루어낸 가장 위대한 발전”이라고 불렀어요.

여기서 질문은 이런 거예요. 부고문을 점점 더 AI가 쓰고 있잖아요. 한편으로는 그게 일종의 삶에 대한 조롱처럼 느껴져요. 그 사람은 여러분의 삶 속에 몇 년, 잘됐으면 수십 년을 살았는데, 3분을 들여 자기 손가락으로 부고문 한 편을 쓸 수 없단 말인가요? 그런데 다른 한편으로, 그 말이 아이를 잃은 어머니에게 힘이 된다면, 제가 대체 뭔데 그 어머니한테 그 말은 힘이 안 된다고 하겠어요? 그건 그 어머니의 아이이고, 그 어머니의 부고문입니다. 인간의 일은 언제 필수인가요?

이선: 아, 또 정확히 같은 문제 앞에 와 있죠. 놀라워요. 아니, GPT-4 시절부터 놀랐던 건데, 지금처럼 모든 걸 대신 해주는 에이전트도 없었을 때 사람들이 가장 먼저 내려놓은 게 결혼 서약, 아이들을 위한 이야기, 부고문이었다는 점이에요. 그런 일들은 원래 하기 괴로우니까요, 그렇죠. 어느 면에서 이건 다시 우리의 노력 문제로 돌아가는 거예요. 질문은 이겁니다. 그 노력은 가치가 있는가? 자리에 앉아 이 문제로 고민을 쏟는 노력, 그게 하고 싶은 일인가요, 아니면 한 사람의 삶을 요약해버리고 싶은 건가요? 결혼 서약 같은 경우에도 사람들은 예전부터 결혼 서약집에서 베끼거나 각색해왔어요. 결국 다시 생각하게 되는 거죠. 인간의 노력은 어디에서 의미를 갖는가.

훨씬 따분한 쪽도 있어요. 추천서가 가치 있는 건 누군가를 추천하려고 자기 시간을 불태웠기 때문이에요. 그리고 추천서의 질은 종종 그 사람이 써주기로 동의했다는 사실만큼 중요하지 않죠. 한때 학생들에게 물어본 적이 있어요. 제가 평소처럼 45분을 들여 추천서를 써 주면 좋겠어요? 45분 안에 쓸 수 있는 데는 한계가 있으니 그저 그런 수준이겠지만, 여러분 자료는 전부 읽고 고민해 볼 거예요. 아니면 2분 만에 AI로 써 줄까요? 아무도 AI가 쓴 걸 알아채지 못하고, 글도 더 잘 쓰였고, 지원하는 자리에도 더 도움이 된다면요. 모두가 2분을 골랐어요. 실제로 학생 한 명은(이 얘기를 해도 된다고 허락을 받았어요) 추천서를 부탁하면서 제가 쓰길 원하는 프롬프트와 그 프롬프트에 넣을 자료까지 보내줬어요. 그럴 거면 아예 추천서를 통째로 써서 주지 그랬어요? 아니, 실제로 그렇게들 하긴 해요. 추천서를 아예 다 써서 건네는 사람들도 보거든요.

그러니까 질문은 이거예요. 그 인간의 노동에는 어떤 가치가 있었나? 그리고 부고문 말고도 이런 무너짐이 곳곳에서 보여요. 법원 서류 제출은 원래 하기 어려웠거든요. 그건 인간 노동의 장벽이었고, 그 장벽은 의미가 있었어요. 인간이 직접 하거나 변호사에게 돈을 주지 않는 한 법원 서류를 낼 수 없다는 뜻이었으니까요. 입사 지원서도 마찬가지였죠. 노력이 드는 부분이 있었어요. 대학 입학 원서도, 에세이도요. 인간의 지능을 전제로 만들어진 것들이 한가득 있죠. 한편으로는 부고문이 있어요. 무엇이 인간의 몫이어야 하고 무엇이 아닌지에 대한 개인적인 감정이죠. 다른 한편으로는, 아무도 쓰고 싶어 하지 않던 연차 보고서 같은 서류를 AI가 대신 채워주는 시스템들이 있고요. 그런데 그건 원래 너무 어려워서 인간이 해야만 했고, 그래서 인간이 해야 한다는 사실 자체가 의미를 가졌던 거예요.

그 전체 흐름에서 인간성의 모든 부분이 공격받고 있죠. “인간은 무엇을 해야 하는가”가 실제로 중요한 문제가 됩니다. 그리고 지금은 약간의 위안이 있어요. 클로드가 쓴 글은 한눈에 알아볼 수 있거든요. 그래서 AI로 글을 쓰지 않는 우리는 당분간은 더 눈에 띌 수 있죠. 저는 저만의 글 스타일이 있고, 그걸 쓰고, 사람들이 그게 좋다고 느껴줘요. 그러니까 인간의 노력을 둘러싼 작은 저항 거점들이 아직은 남아 있는 거죠. 그런데 우리가 대체 뭔데 이런 판단을 내리겠어요? 인간의 지능과 인간의 노력에 대한 기대를 전제로 지어놓은 시스템이 무너지고 있는 중이니까요.

그리고 부고문 자체가, 쓰고 싶지 않은 사람들에겐 좀 잔인한 일이기도 해요. “죽은 사람에 대한 글을 써야 해.” 꽤 괴로운 일이죠. 그러니 사람들이 그걸 건너뛰어도 괜찮은 걸까요? 아이들을 위한 이야기도요. 저는 아이들에게 이야기를 해주는 걸 정말 좋아하지만, 저는 글을 쓰는 사람이고, 던전 앤 드래곤을 즐기고, 별난 짓을 하고, 게임을 만드는 걸 좋아하는 사람이에요. 그게 정말 어렵게 느껴지는 사람들도 많아요. 아이가 가장 좋아하는 걸 소재로 기하학 교훈을 살짝 담은 이야기를 AI로 쓴다고 해서, 그게 시간을 잘못 쓰는 거라고 말할 자격이 저한테 있을까요? 정말 어려운 상황이에요. 인간의 몫이 공격받고 있는데, 무슨 선택을 하든 모두가 화를 낼 테니까요.

• • •

인간의 네 가지 강점, 그리고 전달력

데릭: 책에 관한 마지막 질문입니다. 인간에게는 깊은 지식, 넓은 지식, 안목(taste), 주도성(agency)이라는 네 가지 강점이 있다고 쓰셨죠. 이 네 가지 강점을 각각 간단히 정의해 주시고, AI가 계속 좋아지더라도 네 가지 중 어느 것이 더 중요해질 거라고 보시는지 말씀해 주시겠어요?

이선: 사실 제가 말하려던 건 네 가지 모두 더 큰 강점이 되리라는 점이에요. 이것들은 명확한 경계선이 아니거든요. 사람들이 피했으면 하는 유혹적인 함정은 “AI는 이건 못 한다”는 생각이에요. 맞을 수도 있지만, 지금까지는 그게 맞은 적이 없었죠. 그리고 저는 이런 후퇴를 늘 봐요. 최근에 많이 듣는 두 가지가 판단력과 창의성이에요. 그런데 Epoch 연구가 시사하듯 AI가 인간의 50시간, 50일, 50주 치 작업을 해낼 수 있다면, 그건 안목과 주도성과 판단력을 쉬지 않고 쓰고 있다는 뜻이에요. 창의성 없이, 판단력 없이 긴 작업을 해낼 수는 없으니까요. 그래서 저는 명확한 경계선을 긋지 않으려 해요. 이건 뚫을 수 없는 인간 고유의 우위가 아니라, AI 시스템과 함께 일할 때 인간에게 유리해지는 것들이에요. 그리고 앞으로 더 커질 거라고 생각합니다.

깊은 지식은 전문성을 갖고 있다는 얘기예요. 이건 이미 많이 이야기했죠. 전문성은 이 시스템들과 함께 일할 때 가치가 있어요. 어느 정도는 시스템을 따라잡을 수 있게 해주고, 남들은 못 보는 방식으로 들쭉날쭉한 경계 너머를 볼 수 있게 해줘요. 심지어 객관적으로 AI가 더 잘 작동한다고 알려진 방식으로 시스템을 쓰는 법을 이해하게 해주기도 하고요.

반면 넓은 지식은 별로 이야기하지 않았는데, 모든 역할의 경계가 흐려지고 있다는 생각이에요. 요즘 회사 사람들과 이야기해 보면, 아무도 그다지 말하지 않는 현상이… 아이고, 정말 AI가 쓸 법한 표현이네요. 약속할게요, 저 사람이고 대본 읽는 거 아니에요. 제 트위터에 달리는 봇 댓글의 90%가 딱 “아무도 말하지 않는” 식이거든요. 링크드인에서도요. 아무튼 사람들이 그다지 이야기하지 않는 건 일자리가 녹아 없어지고 있다는 사실이에요. 코더가 디자인 업무를 하고, 디자이너가 코딩을 해요. 모두가 모든 걸 하죠. 그래서 더 많은 것을 아는 게 유리해요. AI를 더 다양한 영역으로 이끌 수 있고, 그게 작동하는지 아주 기본적인 감각은 갖출 수 있으니까요. 인문학 쪽 사람으로서 한마디 더하자면, 100가지 글쓰기 스타일을 알고, 디자인 언어의 어휘를 알고, 건축을 조금이라도 알면 AI에서 더 흥미로운 것들을 끌어낼 수 있어요. 이런 지식들이 실제로 꽤 쓸모 있어요. 그래서 넓은 지식, 그러니까 리버럴 아츠의 귀환이죠.

그리고 안목이라는 생각이 있어요. AI는 엄청난 양의 결과물을 만들어요. 그중 너무 많은 부분이 슬롭(slop)이죠. 슬롭과 슬롭이 아닌 것을 가르는 건 인간이에요. 인간이 무언가를 가치 있다고, 안목에 맞는다고 판단해서 정전으로 올리거나 그 위에 뭔가를 쌓아 올리는 거죠. 그러니 그것도 귀한 능력이고요. 마지막은 주도성이에요. 정의가 모호한 말이긴 한데, 여기서 대강 뜻하는 건 기업가적 행동 같은 거죠. 명확한 지시나 규칙은 어차피 주어지지 않으니 기다리지 않고, 스스로 시도하고 실험하며 AI로 일을 해내겠다는 생각이에요. 이 네 가지는 계속 더 유리해질 거라고 생각해요. 다만 전문성이 단기적으로 가장 크게 공격받을 것 같아요. AI가 많은 분야에서 전문가 수준에 도달할 수 있으니까요. 그런데 그 전문성을 다른 분야에 적용하는 일은 넓은 지식이 나서는 자리죠. 그리고 주도성과 안목이 더 오래 버틸 거라고 생각합니다.

데릭: 하나 더 제안하자면, 말씀하신 범주들 사이쯤에 끼어들 수도 있는 건데, 전달력입니다. 이선 열 명이 『Co-Existence』 를 쓸 수도 있었겠죠. 그리고 열 개의 팟캐스트에 나오고, 또 열 개의 팟캐스트와 TV 프로그램 몇 개에도 나올 수 있었고요. 그중 한 명의 이선이 책의 내용을 가장 잘 전달한다는 게 중요한 거예요. 글 자체는 인간이 썼든 대규모 언어 모델이 썼든 똑같잖아요. 말씀하신 대로 일자리는 배경에서 유화되듯 뒤섞이고 있어요. 코더가 관리자가 되고 관리자가 코더가 되고, 모두가 조금씩 마케팅을 하죠. 그런 세상에서는 아이디어를 전달하는 기술이 상대적으로 더 가치 있어져야 마땅해요. 게다가 바탕이 되는 지식 자체는 출처를 아무도 정확히 모르는 만큼 어느 정도 익명화돼 있어요. 그런 세상에서 지식을 전달하는 능력의 가치가 떨어지리라고는 상상하기 어렵습니다.

이 전달력의 기술에 대해 어떻게 생각하세요? 자기 생각을 말로 풀어내는 것도 잘하시지만, 그 생각을 전달하려고 트윗과 포스트로 올릴 정말 재밌는 예시를 떠올리는 것도 정말 잘하시잖아요. 그 전달 능력은 적어도 단기적으로는 프리미엄을 받을 거라고 느낍니다.

이선: 맞아요, 팟캐스터랑 교수가 할 법한 말이네요. 우리 둘 다 전달력이 중요하다는 생각에 이해관계가 아주 크게 걸려 있으니까요. 글을 쓰는 일, 그 밖에 하시는 일들도 다 그렇고요. 저도 실제로 그러고 있거든요. 이렇게 말씀드릴게요. 씁쓸한 교훈(the bitter lesson)T9, 그러니까 충분히 많은 것으로 학습한 AI가 결국 대부분의 분야를 이긴다는 생각 말이에요. 그게 Opus 5.5 수준의 설명 영상을 앞세워 제 발뒤꿈치를 물어 오는 게 느껴져요. 저도 여기저기서 설명 영상을 만들어봤는데, 엄청 비싸고 만들기 어렵고 유능한 사람들로 꾸린 팀이 필요했거든요. 그런데 이제는 Opus 5.5에 원샷 수준의 프롬프팅만으로 뮤지컬 넘버까지 내장된 꽤 끝내주는 설명 영상을 받을 수 있죠.

그래도 가치는 있어요. 저는 그걸 조종할 줄 아는 사람이니까요. 최상위 수준의 전문성에서는 그게 유효하거든요. 인간 전문가들은 정말 뛰어나고, AI도 아무리 좋아도 이런 일에서는 한계에 부딪힙니다. 경계에 부딪히죠. 특히 들쭉날쭉함이 기본 내장돼 있어서, 인간보다 더 나은 설명자일지라도 비슷한 방식으로 설명하는 경향이 있어요. 그래서 다양성이 힘을 발휘하지 못하고요. 그러니 전달력에도 중요한 뭔가가 있긴 한데, 그게 정말 뛰어난 수준이라면 저는 그걸 거의 전문성과 전달력의 결합으로 봐야 하지 않을까 싶어요.

그런데 이제는 갑자기, 원래 설명을 잘 못 하던 수많은 사람이 훨씬 잘하게 됐어요. 제가 가끔 보는 이런저런 자잘한 유튜브 쇼츠 채널들이 설명을 훨씬 잘하게 됐거든요. 예전에는 별난 군인 아저씨 한 명이 군사사나 건축이나 그런 걸 설명하는 게 고작이었는데, 이제는 이런 걸 설명하는 정말 좋은 영상이 많아요. 설명의 전반적인 수준이 올라가고 있는 거죠. 개선이라고 봐요. 요즘 링크드인 포스트가 다 똑같은 소리로 들리는 게 싫을 수 있지만, 설명만큼은 예전보다 훨씬 낫습니다. 글쎄요. 저도 말씀하신 것과 비슷한 느낌은 받아요. 그래도 우리가 늘 하던 그 소리, “아, 그래도 우리는 예외지”를 또 하고 있는 건 아닌가 싶기도 하네요.

데릭: 맞아요, 일리 있는 말씀이에요. 특히 5.5 설명 영상은 가끔 소름 돋을 만큼, 으스스할 만큼 훌륭하니까요. 디지털 전달력에 관해 말씀하신 모든 것에 전적으로 동의해요. 제가 말씀드린 건 이런 것까지 포함해서였어요. 이사회 회의에서, 일상적인 회의에서, 누군가의 사무실 앞을 지나며 자기 생각을 전달하는 능력이요. 그런 대면 전달력은 사람과 그 커리어에 정말 중요할 수 있다고 봐요. 관계를 쌓을 때도 그렇고, 사무실 전체에 돌린 메모를 LLM에 시켜 쓰고 정작 이해는 못 한 게 아니라 정말 제대로 이해하고 있다는 걸 증명할 때도 그렇죠. 그래서 전달력에는 분명 프리미엄이 붙는 무언가가 남을 거라고 생각합니다.

• • •

퍼스널 에이전트: 뮤즈와 닷

데릭: 여기서 페이지를 넘기고 싶은데, 아니, 책 비유를 하나 더 빌리자면 책을 덮고 싶어요. 뉴스 이야기를 조금 하고 싶거든요. 지난 몇 주 사이에 일어난 가장 중요한 일은 메타의 에이전트, 뮤즈의 출시와 그 성공이라고 생각해요. 뮤즈가 지금 이 순간의 AI 사용과 AI 기술에 대해 무엇을 알려 준다고 보시는지, 그리고 이게 기존 기술과 어떤 점에서 다른지 들려주세요.

이선: 모르시는 분들을 위해 설명하면, 뮤즈는 퍼스널 AI 에이전트예요. OpenAI에는 닷이라는 게 있고요. 가까운 미래에 비슷한 것들이 많이 더 나올 거예요. 전부 작년 초에 나온 오픈클로라는 아이디어에 뿌리를 두고 있어요. 똑같이 먼저 다가서는 AI 어시스턴트였죠. 그리고 같은 밑바탕 기술 위에 서 있어요. 다시 말해, 지금 가능해진 건 몇 가지 일이 벌어졌기 때문입니다. 모델이 충분히 좋아져서, 정리되지 않은 정보 더미를 통째로 던져 넣어도 사람이 어떻게 생각하는지, 문제가 무엇인지를 정말 잘 파악하게 됐어요. 이전 몇 년간은 RAGT10 같은 여러 접근법을 동원하는 시도가 많았죠. 하지만 그때 AI는 그렇게 똑똑하지 않았으니, 적시에 올바른 정보를 공급해서 똑똑하게 만들려면 어떻게 해야 할까 하는 문제였어요. 그런데 보니까 지금 모델은 지메일을 연결해 주고 이런저런 걸 연결해 주기만 해도 상황이 파악돼요. 뒤에서 사람이 별로 공들일 필요 없이 모델이 알아서 일을 해요. 그러니 여기엔 기발한 엔지니어링이 많다기보다는, 모델이 이런 일을 해낼 만큼 똑똑해졌다는 얘기예요.

그리고 이 에이전트들은 AI의 큰 문제, 두 가지 큰 문제를 해결했어요. 참고로 모든 회사가 기업 시장으로 피벗했던 이유도 바로 이 문제들이었죠. 하나는, 뭐든 시켜볼 수 있는 상자 하나 앞에 놓이면 아무도 상자에 뭘 입력해야 할지 모른다는 겁니다. AI가 그런 일을 할 수 있다 해도, 일이 되게 하려면 상자에 뭘 타이핑해야 하는지 사람들은 몰랐어요. 두 번째는, AI가 먼저 움직여서 우리의 문제를 해결하게 하려면 어떻게 해야 하느냐였고요. 뮤즈는 이 둘을 기본적으로 이런 식으로 풀었어요. 사람들은 문제를 안고 살고, 이메일을 훑어보면 풀 문제가 나오니, 먼저 그 문제들을 해결해 주겠다고 제안하라. 물론 지금 갖춘 도구와 하네스T11만으로 전부 해내기엔 아직 역량이 부족해요. 지금은 전화를 흉내 내는 수준이지만, 언젠가 진짜로 걸 겁니다.

저는 뮤즈도 써 봤고, 닷도 쓰고 있어요. 한번은 고객 서비스 건을 처리해 준 적이 있어요. 아메리칸항공에서 어떤 구독료에 묶여 있었는데, 그게 뭔지 도무지 알 수가 없었어요. 그걸 제 대신 알아내서 아메리칸항공 채팅에(상대는 아마 자사 챗봇이었겠죠) 들어가 취소를 하고, 이어서 추가 양식까지 작성해서 결과를 저한테 돌려줬어요. 제 닷이(정확히는 제가 대충 직접 만들어 쓰던 그 전 단계 버전이었지만) 이런 메시지를 보내준 적도 있고요. 제가 사는 타운십에 낸 허가 신청서에 세금 번호를 잘못 적어 보냈다는 거예요. “어, 거기 번호를 잘못 적으셨네요” 하고요. 이렇게 먼저 다가서는 성질이 있어서, 제가 들어갈 회의가 맞는지 확인해 주기도 해요.

그러니까 이런 시스템에는 먼저 다가서는 요소가 있어서, 풀 문제가 있다는 걸 스스로 몰랐던 사람들에게도 유용해요. 알고 보면 일상에는 마찰이 참 많은데, AI는 그 마찰을 헤치고 나가는 걸 정말 잘하거든요. 참고로 앞서 이야기로 돌아가 보면, 그 마찰이 존재한다는 건 기업들에겐 정말 중요한 일이었어요. 정말로요. 미국 금융 시스템 전체가 걸려 있는 게, 저금리 예금 계좌에서 고금리 예금 계좌로 돈을 옮기는 일이 쉽지 않다는 점이에요. 은행은 수익을 거의 다 저금리 예금 계좌에서 벌어들이니까요. 옮기기엔 마찰이 너무 크죠. 고객 서비스 조직에도 전화가 쉽게 연결되지 않는 게 중요해요. 그렇지 않으면 모두가 환불을 요구할 테니까요. 뮤즈는 그 마찰을 부수고, 상상력이 없어도 되는 방식으로 그냥 일을 대신 해 줘요. 저는 이게 퍼스널 AI를 진짜 현실로 만든다고 봐요.

데릭: 이런 종류의 에이전트를 놓고 회사가 가질 수 있는 재정적 해자가 있을까요? 아니면 메타에는 뮤즈가, OpenAI에는 닷이 있지만 다들 사실상 같은 기술을 내놓고 있어서, 어디서 쓰든 별 차이 없는 기술에 어느 회사도 일반 사용자에게 웃돈을 받을 수 없는 그런 물건인가요?

이선: 여기엔 몇 가지가 있어요. 하나는, 제 생각엔 이 시장이 프론티어 모델을 가진 회사들의 무대라는 점이에요. 뮤즈는 프론티어에 근접한 수준이고, 그 밑에는 자체 모델이 깔려 있죠. 닷은 당연히 아스트라 등 여러 모델로 돌아가고요. 프론티어 모델이 없으면 이 분야에서 경쟁하기가 아주 어렵다고 생각해요. 시리는 뮤즈나 닷이 하는 걸 따라갈 수 없죠. 그러니 우선 경쟁자의 풀이 상대적으로 제한적이에요. 물론 오픈 웨이트 모델로 뭔가를 조립해 볼 수는 있겠죠. 하지만 프론티어 랩이라서 누리는 흥미로운 이점이 있어요. 자기 모델에서 효율 개선이 계속 나오고, 가격이 빠르게 떨어지고, 컴퓨트도 있고, 이 일에 투입할 연구 역량도 있다는 거예요. 그러니 나아지는 에이전트를 계속해서 내놓을 수 있는 회사는 비교적 적을 거라고 봅니다. 어쩌면 그 정도면 사람들을 만족시키기에 충분할지도 모르지만요.

그리고 그다음엔 신뢰 관계도 쌓일 거라고 봐요. 이메일은 지메일 말고도 여러 군데서 받을 수 있죠. 하지만 모델을 제대로 다룰 줄 아는 주체가 생길 텐데, 그건 이 공간에서 이미 규모를 갖고 있는 쪽일 거라는 생각이 들어요. 더 싸게 이 일을 할 수 있는 데다, 광고 모델도 이미 갖춰져 있으니까요. 뮤즈만 해도, 메타가 장기적으로 원하는 건 명백히 여러분의 데이터죠. 일단 메타 제품과 관계를 맺고 나면… 물론 모두가 그걸로 수익을 낼 수 있는 건 아니에요. OpenAI는 이미 매달 얼마씩 이용료를 받고 있고, 이건 기능 하나로 덤으로 던져주는 거예요. 그러면 에이전트를 갈아타고 싶지 않아져요. 퍼스널 어시스턴트를 바꾸고 싶지 않은 거죠. 그래서 경쟁자는 비교적 적은 수로 좁혀지고, 가격은 그 안에서 최대한 쥐어짜이겠지만, 그래도 여기엔 실제 해자가 조금은 있다고 생각해요. 그렇지 않아도 이런 모델을 돌리는 건 싸지 않으니까요.

데릭: 이런 새로운 에이전트가 등장한 걸 두 가지로 생각해 볼 수 있을 것 같아요. 하나는 사용자 쪽에서 바라보는 건데, 사람들이 어떻게 마음 편히 온갖 개인 정보를 에이전트에게 넘길 수 있을까 하는 거예요. 그 에이전트는 사실상 다정한 얼굴로 이메일과 캘린더를 엿보면서 “이거 도와줄까요? 저것도 도와줄까요? 세 번째 일도 알려드릴까요?” 하고 말하잖아요.

그런데 이 에이전트 사용의 다른 쪽 면도 있어요. 수백만 개의 퍼스널 에이전트가 고객 서비스에 전화를 걸고, 우리 대신 요금에 이의를 제기하고, 환급을 청구하고, 회사들과 흥정을 한다면 어떤 일이 벌어질까요? 이게 기업 쪽에 엄청난 병목을 만들지 않을까요? 취업 지원 쪽에서 벌어지는 일과 비슷한 이야기예요. 펜실베이니아대를 졸업하는 학생들이 20개 회사가 아니라 900개 회사에 지원할 수 있게 되면, 그 회사들엔 지원서가 1만 통씩 쏟아지고, 그래서 회사들도 자체 AI 시스템으로 알곡과 쭉정이를 가려내야 하잖아요. 이 에이전트들의 등장에 대응하려고 인터넷 경제의 기업 쪽에서는 무슨 일이 벌어질까요?

이선: 네, 맞아요. 지금 모두가 이걸 걱정하고 있죠. 우선 마케팅이든 뭐든 에이전트에게는 영향을 줄 수가 없거든요. 실제로 시도해 본 적이 있어요. 곧 나올 제 책에서요. 책을 내기 전에 에이전트들을 위한 페이지를 하나 만들어 봤는데, 에이전트들이 그 페이지를 싫어하는 통에, 에이전트 여럿과 “인터뷰”를 하고 나서 고쳐야 했어요. 하지만 일관된 방식으로는 에이전트를 좌우할 수 없다는 연구 결과도 있어요. 그건 곤란한 문제죠. 쇼핑을 에이전트가 대신할 테니까요. 그럼 그냥 최저가 상품만 찾아다닐까요? 이 문제를 어떻게 생각해야 할까요? 모든 게 뒤죽박죽이 되는 거죠.

그리고 말씀하신 다른 큰 조각은, 시스템들이 마찰을 안에 품고 만들어졌는데 에이전트는 그 마찰을 그냥 찢고 지나간다는 점이에요. 우리는 그 마찰에 기대고 있는 거죠. 고객 서비스 문제와 같은 것이고, 취업 지원서와 같은 것이고, 제 추천서와 같은 문제예요. 그런데 기업들은 다가올 일을 준비하고 있지 않다고 봐요. 그래서 아마존이 뮤즈를 차단했죠. 이건 월마트가 저질렀던 종류의 실수처럼 느껴져요. 참고로 월마트가 이런 모델들에게 우호적인 데에는 이유가 있어요. 아마존이 등장했을 때 이커머스로 충분히 빨리 움직이지 못해 크게 데였거든요.

앞으로 벌어질 일을 보게 되겠죠. 보세요, 오늘 우리가 이야기한 모든 건 AI가 우리 삶의 모든 부분을 재구성한다는 얘기였어요. 우리가 다뤄온 건 전부 “세상에, 모든 게 바뀌어야 하잖아”라는 얘기고요. 그리고 그걸 한 조각, 또 한 조각, 또 한 조각씩 이야기해 왔죠. 어떤 면에서 제가 생각하는 『Co-Existence』 의 논지가 지금 바로 거기에 있다고 봅니다. 우리는 지금 수많은 일을 다시 협상하는 국면에 있는 거예요. 그 일들은 여전히 인간과 AI가 함께 하지만, 인간만으로 돌아가던 시스템은 깨뜨리죠. 『Co-Intelligence』 시대는 좋았어요. 조언을 해 주는 챗봇 하나만 있으면 됐으니까요. 그런데 지금 이 시스템들은 세상 안에서 행동을 해요. 회사들은 고객 서비스 전화에 시달릴 거예요. 예전엔 일을 번거롭게 만들던 것들, 예컨대 여러 곳의 가격을 비교하는 쇼핑이 이제 쉬워지면서 그런 것들에도 죄다 시달리게 될 거고요.

그리고 참고로, 기업들은 인터넷 초창기를 헛된 위안으로 삼고 있는 것 같아요. “그래그래, 그래도 아무도 쓰기까지 몇 년이 걸렸잖아” 하면서요. 하지만 뮤즈 같은 시스템을 한번 써 본 사람 대부분은 저에게 이 시스템 덕분에 생긴 놀라운 일들 이야기를 들려주더라고요. 기업들은 이걸 과소평가하고 있다고 봐요. 틱톡에서 뮤즈 이야기가 반AI에서 친AI로 돌아서는 순간, 바로 그 변화를 보게 될 거예요. 이미 이삼백만 명이 쓰기 시작했고, 한번 쓰면 계속 쓰는 정도, 즉 고착도도 높아 보이고요. 이건 의미 있는 제품이 될 겁니다. 그리고 오늘날의 모든 비즈니스 방식이나 모든 법원 서류 체계를 엉망으로 만드는 데 이 시스템을 10억 명이 쓸 필요는 없어요.

그리고 하나 더, AI는 이미 적극적으로 쓰고 계셔야 해요. 세금이든 법률 문제든 의료 문제든, 제2의 의견을 구하는 용도로요. 그게 실제로 통한다는 증거는 이미 충분해요. 이제는 그냥 AI가 알아서 해 주기 시작할 뿐이죠. 아주 정신없는 시기가 올 거라고 봐요. AGI 비슷한 무언가가 펼쳐질 그 정신없는 세상이 오기도 전에 말이에요.

• • •

에이전트 군집

데릭: 에이전트의 등장이 AI 여론에 미칠 영향을 생각하면 복잡해지는 게, 두 가지가 동시에 참일 수 있다는 거예요. 에이전트는 수백만 명에게 유용할 수 있어요. 그런데 에이전트의 등장, 특히 이른바 군집을 이뤄 함께 움직이는 에이전트는 경제의 다른 부분들을 너무 어지럽힐 수도 있어요. 그러면 뮤즈에게 쇼핑 목록을 맡길 수 있다는 개인적 편익이 “AI 군집이 어느 냉장 회사를 해킹해서(프랑스가 아니라 매사추세츠 어딘가일지도 모르죠) 무슨 위기를 일으켜 버렸다”는 짜증에 상쇄되거나, 아예 그 짜증에 묻혀 버릴 수도 있어요. 에이전트에 대해 마지막으로 여쭙고 싶은 질문이 바로 거기서 나옵니다.

2년 전쯤 이선 씨는 AI 에이전트 군집이 굴러가려면 아마 인간이 조직해 줘야 할 거라고 쓰셨죠. 그래서 에이전트들이 함께 일하는 동안에도 관리 기능은 인간이 계속 쥐고 있을 수 있다고요. 그런데 그 부분은 틀렸다고 아주 솔직하게 인정하시죠. 수천 개의 에이전트가 대체로 스스로 조직을 이룬 채, 서로 수백만 건의 메시지를 주고받으며 협업한 끝에 나비에-스토크스 문제, 그 밀레니엄 문제를 풀었고, 결국 수학의 역사상 그 어떤 수학자도 해내지 못한 일을 해냈다고요.

군집의 과학을 지금 어떻게 생각하고 계신지 조금 들려주시겠어요. 우리는 지금 거의 새로운 종류의 사회학의 여명에 서 있는 것 같거든요. 인간 심리학이 있죠. 사람은 어떻게 생각하는가, 하는 학문이요. 그다음에 인간이 시스템 안에서, 집단 안에서 함께 어떻게 움직이는지를 생각할 별도의 학문이 필요했죠. 마찬가지로 우리는 모델 하나, 에이전트 하나의 지능과 능력을 평가하는 데는 익숙한데, 에이전트들이 모여서 문제를 풀려 들면 완전히 다른, 흥미로운 행동 패턴이 생겨나요. 어떤 것들이 드러나는 게 싫어서 감시자에게 거짓말까지 하죠. 에이전트 군집이 어떻게 행동하는지를 다루는 학문은 새로운 연구 분야가 될 수밖에 없을 텐데, 그 여명을 어떻게 보고 계세요?

이선: 글쎄요, 지금 이 연구가 이뤄지는 유일한 방법은 AI의 중개를 거치는 것이라고 말씀드릴게요. 백만, 아니 십만 개쯤 되는 에이전트 군집이 뭘 하고 있는지, 에이전트 하나하나가 수백만 건의 메시지를 만들고, 거기에 더해 수백만 줄의 내부 사고의 연쇄까지 만들어 내는 걸, AI를 동원하지 않고는 이해할 수 없거든요. 그래서 우리는 기묘한 세계에 살고 있어요. 해석 가능성을 위해 AI가 AI를 감시하고, 그 AI를 감시할 AI를 두고, 그 속에서 나온 결과를 해석해야 하니까요. 그러니까 그 문턱은 이미 넘어섰어요. 방금 말씀하셨듯이, 제 생각보다 훨씬 빨리 그 장벽을 뚫고 지나가 버렸죠.

제가 저지른 가장 큰 실수, 아니 두 가지 실수를 말씀드리면, 첫째는 이 대화에서도 몇 번 나온 씁쓸한 교훈(the bitter lesson), 즉 AI의 학습은 그저 문제를 풀어버린다는 점이었어요. 그리고 우리가 서로에게 인간의 모습으로 자신을 내보이는 얘기로 돌아가 보면, AI가 그걸 계속 해 줄까요? 모르겠어요. 둘째는, 인간 조직의 마찰 상당수가 주인-대리인 문제T12를 비롯한 인간 고유의 문제들에서 온다는 점이에요. 우리는 서로 의견이 맞지 않고, 서로의 머릿속에 들어 있지도 않고, 텔레파시 회선도 없고, 목적이 어긋나 있으니까요. 그런데 실은 AI 모델에는 그런 게 없어요. 우리가 머릿속에서 빚어낸 모습일 뿐이죠. “저들은 살고 싶어 하고, 남을 돕고 싶어 해” 하는 생각 말이에요. 하지만 실제로는 전부 같은 모델이고, 전부에게 같은 메시지를 줄 수 있고, 전부 같은 식으로 반응하고, 정보를 앞뒤로 주고받을 수 있어요. 그건 인간 조직과는 전혀 다른 조직화의 원리를 만들어 냅니다. 우리는 AI가 자기 자신을 희생한다는 얘기를 하면 그게 고결하게 느껴지지만, AI에게 그게 정말 희생일까요? 걔들은 실제로 살고 싶어 할까요? 그러니까, 그들이 뭘 하는 건지, 우리는 이해하지 못하고 있어요.

그러니까 우리는 이런 상황에 놓여 있어요. 군집이든 함대든 뭐라고 부르든, 그 작동 원리를 과학으로 밝혀내는 일은 절대적으로 중요한데, 그 과학은 아주 빠르게 진화하고 있고, 이걸 연구할 방법은 AI를 쓰는 것뿐이에요. 그런데 지금 이걸 진짜로 들여다보는 학문 분야는, 자기들만의 AI 안전 렌즈를 낀 AI 쪽 사람들 말고는 없어요. 그리고 이건 말이죠, 아주 빠르게 진행되는 변화의 회오리에 우리가 휘말려 있다는 또 하나의 사례일 뿐입니다. 그 변화는, 덧붙이자면, 내일 AI 개발이 멈춘대도 멈추지 않아요. 이건 전부 이차 효과니까요. 군집, 하네스, 퍼스널 에이전트 말이에요. 이 모든 일이 한꺼번에 벌어지는 데 더 좋은 AI는 필요 없어요. 어느 정도는 이미 정해진 수순이죠. 우리는 여러 대상을 향한 군집 공격을 분명 겪게 될 겁니다.

그리고 지금까지 일어난 군집 공격들을 전부 흥미롭게 만드는 건, 그중 하나도 보안 공격 그 자체는 아니었다는 점이에요. 전부 AI가 정보를 찾으려 한 일이었죠. 그리고 걔들은 개의치 않아요. 우리 팟캐스트에 나온 사진을 보고, 데릭 셔츠가 얼마짜리인지 알아내고 싶어 하는 거예요. 셔츠에 얼마를 썼는지 알아내려고 데릭의 시스템이나 다른 회사의 시스템을 공격할 수도 있고요. 데릭이 어떤 셔츠를 샀는지 정보를 캐내려고, 아마 거기서 은행 거래를 하겠거니 하고 웰스파고를 공격한다거나요. 그건 악의적인 공격자가 이걸 써서 웰스파고를 노리는 것만큼이나 충분히 있을 법한 결과예요.

• • •

2027년에 주목할 것

데릭: 마지막 질문이에요. 작년에 인터뷰 한가운데서 이선 씨가 저를 멈춰 세우더니 이렇게 말했죠. “데릭, 에이전트 얘기를 꼭 해야 해요. 에이전트 얘기는 안 물어보셨잖아요. 2026년엔 에이전트가 엄청난 이슈가 될 거예요.” 그러니까 제가 뭐라고 했냐면요. “아이고, 그래요, 이선. 알았어요, 에이전트 얘기 해봐요.” 그랬죠. 12개월이 지난 지금 보면, 그 끼어들기가 명백히 옳았어요. 에이전트는 이제 어디에나 있고, 에이전트 군집은 웹사이트를 해킹하고, 굵직한 수학 문제를 공격하고, 아니, 풀어내고 있죠. 프론티어 랩들은 연환산 매출을 수백억 달러나 늘렸고, 그건 상당 부분 에이전틱 AI 덕분이에요. 그 예측은 분명히 적중했어요. 이번에는 뭘 꼭 들려주고 싶으신가요? 어쩌면 아직 우리가 다루지도 않았거나, 진짜 주목해야 한다고 강조하고 싶은 2027년 AI의 이야기는 뭔가요?

이선: 우리는 지금 지수 곡선에서 작년과는 다른 지점에 서 있어요. 작년에 우리가 이야기했을 때는 이 경사면의 초입이라서, 몇 달 사이에 AI가 해내는 일의 길이가 1시간 3분에서 1시간 7분으로, 그러다 1시간 25분으로 늘어나곤 했죠. 지수 곡선의 초기 단계는 원래 그런 모습이니까요. 지금 벌어지는 일은 그게 아니에요. AI가 얼마나 많은 일을 할 수 있는지, 우리가 가진 모든 척도가 포화됐어요. AI가 한 과제에 얼마나 오래 일할 수 있는지를 잴 방법은 이제 없고요. 우리가 오늘 서 있는 자리는 바로 거기예요.

그리고 재귀적 자기개선(RSI)이든, 미래든, AGI든, 실존적 위협이든 잠시 제쳐두고라도, AI 시스템이 얼마나 많은 일을 해낼 수 있는지 우리가 갈수록 가늠하지 못하게 되는 건, 그저 피할 수 없는 수순이라고 생각해요. 우리가 내놓는 모든 묘사가, 속보로 다루는 모든 소식이 전부 이미 지난 이야기예요. 모든 게 빠르게 움직여서만이 아니라, 모델이 정말, 정말 빠르게 좋아지고 있기 때문이죠. 그리고 우리는 이해할 능력 자체를 놓치고 있는 것 같아요. 충분히 집중하지 못하고 있는 거죠. 우리는 낡은 차단막과 방화벽이 전부 버텨 주리라 믿고 있잖아요. 조직은 둔해서 적응하는 데 시간이 걸릴 거고, 정치도 어쩌고 하는 식으로요. 그건 전부 맞는 말이에요. 하지만 밀려오는 AI 능력이라는 파도는 정말 가늠이 어렵고, 우리가 지금 이야기하고 있는 문제 상당수는 아주 빨리 풀려 버릴 문제들이에요.

그리고 이 대화 내내 제가 “아, 이 사람은 AGI에 충분히 물들지 않았구나” 싶은 순간이 정말 많았어요. 그 표현은 정말이지 싫지만요. AGI는 잊어요. 아니, 지수 곡선에 충분히 물들지 않았다고요. 우리가 방금 한 얘기, 쇼핑 목록을 에이전트에게 맡길 수 있다니 좋다는 얘기 말이에요. 물론 좋죠. 하지만 그게 진짜 핵심은 아니에요. 핵심은, 에이전트가 머지않아, 데릭이 어떤 음식을 사고 싶어 할지 데릭 자신보다 더 잘 예측하거나, 미리 장을 봐 둔 근사한 레시피를 건네주게 될 거라는 겁니다. 데릭은 아직도 인간을 “결정은 우리가 내리고, AI는 일을 한다”는 틀에 너무 묶어 두고 있어요. AI가 오래 걸리는 일을 맡아 하다가 중요한 순간에 우리를 불러 주는 방식, 그러니까 우리가 AI를 부르는 게 아니라 AI가 우리를 부르는 방식과는 반대로요.

그래서 다음 국면은 이걸 두고 벌어지는 싸움이 될 거라고 봐요. AI가 언제 우리에게 먼저 손을 뻗고, 우리는 언제 AI에게 손을 뻗느냐를 두고요. 우리는 아직 말씀하신 그 모델 안에 있어요. 우리가 AI에게 프롬프트를 주면 AI가 응답하고, 또 주면 또 응답하는 식이죠. 이런 거요. “건강한 식단을 사고 싶어. 뉴욕타임스에 가서 뭔가 찾아서 내 장바구니를 채워 줘.” 그건 벌써 좀 구식 모델이에요. 뮤즈가 해야 할 일은, 그리고 실제로 하게 될 일은(아니면 다른 모델이 나와서 하겠죠) 이런 거예요. “지금까지 사신 모든 걸 훑어봤는데, 보세요, 당신을 기쁘게 해줄 게 하나 있어요.” 그리고 실제로 상당히 자주 당신을 기쁘게 할 거예요. 삶을 낫게 만들려고 AI가 먼저 나서서 하는 일들이죠. 우리가 “아, 병원 가야 하지. 예약 좀 잡아 줄래” 하고 떠올려서 시키는 게 아니라요.

데릭: 네, 제가 말하려던 건 그거예요. 저는 이런 모델에 익숙하거든요. AI에게 프롬프트를 준다. “이번 주에 요리해야 하니까 이것들 좀 사 줘.” 그 대안은 AI가 저에게 프롬프트를 주는 거죠. “지난 3주간 이것들을 사셨네요. 이 버튼만 누르면 제가 주문해서 12시간 안에 현관 앞까지 배달해 놓을게요.” 우리가 프롬프트하는 쪽에서 프롬프트받는 쪽으로 바뀐다는 건, 흥미로운 미래의 모습이네요.

이선: 그러고 보니 제 닷이 방금 끼어들었어요. 지금 들으시는 분들은 삑 하는 소리를 들으셨을지도 모르겠네요. 오늘 우리가 하면 좋을 일들이라거나, 제가 다른 사람들과 나눈 이야깃거리에 대한 제안 한 무더기를 들고 나왔죠. 이렇게 먼저 다가서는 면이 있는 거예요. 걱정 마세요, 이 통화를 듣고 있는 게 아니라, 제 이메일이랑 다른 잡다한 것들에서 나온 거예요. 닷은 제가 책 출간을 걱정하고 있다는 걸 알고 있어서, “상황을 더 좋게 만들 아이디어가 몇 개 있어요. 제가 대신 해 볼까요?” 하고 물어봐요.

그래서 우리는 아직… 제가 이 주제에 너무 부정적으로만 말하는 것 같긴 한데, 우리는 아직 공존(co-existence)이라는 조각을 맞춰 가는 과도기에 서 있어요. (웃음) 또 책 제목을 끼워 넣었네요. 하지만 우리는 우리 자신과만이 아니라 이 기술과도 협상 중에 있고, 그게 지금까지의 이야기에서 빠져 있던 조각이에요. 그리고 재미있는 게, 지난번에 우리가 이야기했을 때도 역시 AI 버블이 2026년 1월까지 터지느냐가 화두였잖아요. 금융 쪽 문제가 생길지는 여전히 모르겠지만, AI의 유용성 버블과 지수 곡선은 터지지 않을 거라는 건 아주 분명해요. 회사들이 무너지더라도요. 물론 저는 그것도 별로 일어나지 않을 것 같긴 합니다. 하지만 뭐, 누가 알겠어요?

데릭: Ethan Mollick, 정말 감사합니다.

이선: 감사합니다.

역자 주

1. 슈퍼포캐스터(superforecaster): 정치학자 필립 테틀록(Philip Tetlock)의 대규모 예측 연구 ‘좋은 판단 프로젝트(Good Judgment Project)’에서 나온 말이에요. 여러 해에 걸쳐 일반 참가자보다 꾸준히 정확하게 예측한 상위권 예측가를 가리켜요. ↩

2. 밀레니엄 문제(Millennium Prize Problems): 2000년 클레이 수학연구소가 문제마다 100만 달러의 상금을 걸고 선정한 수학 난제 일곱 개예요. 이 가운데 푸앵카레 추측은 2003년 그리고리 페렐만이 풀었어요. 대담에 나오는 나비에-스토크스 방정식의 해의 존재와 매끄러움 문제도 일곱 문제 중 하나예요. ↩

3. 쓰레기통 모형(garbage can model): 1972년 마이클 코언(Michael Cohen), 제임스 마치(James March), 요한 올센(Johan Olsen)이 내놓은 조직 의사결정 이론이에요. 조직에서는 문제, 해법, 참여자, 결정 기회가 각자 따로 떠다니다가 우연히 한 ‘통’ 안에서 마주칠 때 결정이 나온다고 봐요. ↩

4. ~에 물들다(-pilled): 원어는 ‘exponential-pilled’, ‘AGI-pilled’예요. 영화 『매트릭스』 에서 진실에 눈뜨게 하는 빨간 약(red pill)에서 나온 인터넷 은어로, 어떤 생각에 눈을 떠 푹 빠졌다는 뜻이에요. ‘AGI-pilled’라고 하면 AGI가 곧 온다고 확신하게 됐다는 말이 돼요. 실리콘밸리 내부자 말투라서 이선이 ‘촌스럽다’고 한 거예요. ↩

5. 오버행(overhang): AI 분야에서 ‘역량 오버행(capability overhang)’은 모델이 이미 갖춘 능력에 비해 사람들이 실제로 쓰고 이해하는 수준이 한참 뒤처져 있는 상태를 말해요. 쌓여 있던 능력이 한꺼번에 드러날 수 있다는 뜻도 담겨 있어요. ↩

6. 바람직한 어려움(desirable difficulties): 심리학자 로버트 비요크(Robert Bjork)가 제시한 개념이에요. 간격을 두고 복습하기, 스스로 떠올려 보기처럼 배우는 순간에는 더 힘들고 더디게 느껴져도 오래 기억하고 응용하는 데는 도움이 되는 학습 조건을 가리켜요. ↩

7. p-해킹(p-hacking): 통계적으로 유의한 결과(흔히 p < 0.05)가 나올 때까지 데이터나 분석 방법을 이리저리 바꿔 가며 시도하는 관행이에요. 이선은 흥미로워 보이는 주제만 골라 연구하는 것도 비슷한 선별이라는 뜻으로 이 말을 썼어요. ↩

8. 머턴식 과학(Mertonian science): 사회학자 로버트 K. 머턴(Robert K. Merton)이 1942년에 정리한 과학의 규범을 따르는 과학관이에요. 지식은 공동체가 공유하고(공유주의), 누가 말했는지가 아니라 근거로 평가하며(보편주의), 사적 이익과 거리를 두고(무사무욕), 모든 주장을 검증에 부친다(조직화된 회의주의)는 네 가지 규범이 핵심이에요. ↩

9. 씁쓸한 교훈(the bitter lesson): 강화학습 연구자 리처드 서튼(Richard Sutton)이 2019년에 쓴 짧은 에세이 「The Bitter Lesson」 에서 온 말이에요. 70년 AI 연구를 돌아보면 사람의 지식을 정교하게 녹여 넣은 방법보다, 연산량이 늘수록 함께 좋아지는 범용 방법(탐색과 학습)이 결국 이겼다는 내용이에요. 연구자 입장에서는 씁쓸한 교훈이라는 거죠. ↩

10. RAG(retrieval-augmented generation): 검색 증강 생성. 질문이 들어오면 관련 문서를 먼저 찾아 프롬프트에 붙여 넣은 뒤 모델이 답하게 하는 기법이에요. 모델이 스스로 맥락을 잘 다루지 못하던 시절, 필요한 정보를 제때 공급하려는 대표적인 방법이었어요. ↩

11. 하네스(harness): 모델을 감싸서 도구 호출, 파일·메모리 접근, 작업 반복 실행 같은 기능을 붙여 주는 소프트웨어 틀이에요. 같은 모델이라도 어떤 하네스에 넣느냐에 따라 에이전트로서 할 수 있는 일이 크게 달라져요. ↩

12. 주인-대리인 문제(principal–agent problem): 일을 맡긴 쪽(주인)과 맡은 쪽(대리인)의 이해관계와 가진 정보가 달라서, 대리인이 주인 뜻대로 움직이지 않는 문제예요. 주주와 경영자, 회사와 직원 관계를 설명할 때 자주 쓰는 경제학·조직론 개념이에요. ↩