도구, 에이전트, 인터페이스, 그리고 합성된 운: AI와 상호작용하는 네 가지 방식
핵심 요약
우리는 좋든 싫든 이미 AI의 얼리어답터입니다. 우리가 쓰는 온갖 제품에 AI가 눈에 보이거나 보이지 않는 방식으로 들어와 있기 때문이죠.
- 네 가지 상호작용 모델 — 사용자가 실제로 AI와 관계 맺는 방식을 도구, 에이전트, 인터페이스, 그리고 “운을 만들어내는 기계”로 나눠 봅니다.
- 목록을 내려갈수록 통제권을 넘긴다 — 도구는 내가 시키는 대로 하지만, 인터페이스와 추천으로 갈수록 알고리즘에 판단을 맡기게 됩니다.
- 왜 중요한가 — 결정을 점점 더 불투명한 도구에 아웃소싱하는 건 내 장기적 이익과 어긋날 수 있습니다. 그래서 “충분히 숙고한 뒤 전면 수용”하는 아미시식 접근이 필요합니다.
옮긴이의 말: 이 글은 2024년 10월, 그러니까 약 2년 전에 쓰였습니다. 본문이 “Anthropic이 지난주에 괜찮은 걸 하나 내놨다”고 지나가듯 언급하는 컴퓨터 사용(computer use) 기능은 당시 갓 공개된 실험적 데모였고, o1은 “엄밀히 말하면 에이전트는 아닌” 신기한 물건이었습니다. 지금은 둘 다 평범한 도구가 되었습니다.
그래서 사례는 낡았지만, 저자가 그은 네 층의 구분은 오히려 지금 더 잘 들어맞습니다. 2년 전에는 대부분의 사람이 1층(도구)에 머물러 있었고 4층(합성된 운)은 다소 추상적인 관찰이었다면, 지금은 그 반대입니다. 에이전트에게 일을 통째로 맡기는 것이 일상이 되었고, 우리가 읽고 보고 사는 것의 상당 부분은 이미 알고리즘이 좁혀 준 선택지 안에서 정해집니다. 통제권을 넘기는 속도가 저자의 예상보다 빨랐을 뿐, 방향은 정확히 그가 가리킨 쪽이었습니다.
그렇다면 “전면적으로 수용하되, 오직 충분히 숙고한 뒤에만”이라는 이 글의 결론은, 2024년보다 2026년에 읽을 때 더 무겁게 다가옵니다. 숙고할 시간이 그만큼 줄었기 때문입니다.
• • •
당신은 좋든 싫든 AI의 얼리어답터입니다. AI가 당신이 쓰는 온갖 제품에 눈에 잘 띄거나 잘 띄지 않는 방식으로 심어지고 있으니까요.
그리고 우리는 아직 초창기에 있습니다.
하지만 이 전환기를 지켜본다는 건, 최종 사용자가 실제로 AI와 상호작용하는 네 가지 방식을 계속 의식한다는 뜻입니다. 이 네 가지는 서로 어느 정도 겹칩니다. 분류는 이렇습니다.
도구(Tools)는 우리가 AI를 쓰는 가장 명백한 방식입니다. 구체적으로는 LLM 기반 챗봇, 코드 자동완성 도구, 이미지·오디오·비디오 생성 서비스 등이죠. 이들의 특징은, 관련된 메타데이터 대부분이 AI 전용 애플리케이션 바깥에 있다는 점입니다. 사용자가 원하는 것(그리고 결과물에 대한 사용자의 생각)이 있고, 외부 데이터가 있는데, 이 데이터는 여전히 대부분 사람이 만들었거나 사람이 설계한 자동 프로세스에서 나온 것입니다. 그러니까 그 자체로 완결된 접근 방식이죠. 만약 도구가 우리가 AI를 쓰는 유일한 방식이었다면, AI발 실존적 위험은 훨씬 덜 흥미로운 주제였을 겁니다.[1]
에이전트(Agents)는 상황을 엄청나게 복잡하게 만듭니다. 어떤 의미에서는 모든 AI 도구가 “에이전트”입니다. 당신의 요청을 해석하고, 때로는 여러 필터를 거친 뒤에 수행하니까요.[2] 하지만 에이전트를 구별 짓는 특징은, 여러 맥락(context)에 걸쳐 작동하며, 작업을 끝내거나 포기할 때까지 반복한다는 점입니다. Anthropic이 지난주에 괜찮은 걸 하나 내놨고, Google도 하나 만들고 있습니다($, The Information). OpenAI의 O1은 엄밀히 말하면 에이전트는 아닙니다. 자기 샌드박스 바깥과는 상호작용하지 않으니까요. 그래도 큰 과제를 여러 도구를 쓰는 하위 과제로 쪼갤 수 있다는, 에이전트 특유의 느낌은 갖고 있습니다(“strawberry라는 단어에 ‘r’이 몇 번 나오는가”라는 질문에 답하려면, 좋은 첫 단계는 그것을 문자열 속 문자들로 생각하는 것이죠).
인터페이스(Interfaces): 우리가 컴퓨터로 하는 일 대부분은 일련의 데이터베이스 업데이트로 모델링할 수 있고, 실제로 그런 경우도 많습니다. 생성(create), 조회(read), 수정(update), 삭제(delete)가 우리가 하는 일 대부분을 설명하죠. 물론 그 아래에는 흥미로운 세부 사항이 잔뜩 있지만요. 이 일을 하는 방법은 여러 가지이고, 같은 파일에 서로 다른 도구를 쓰기도 합니다. (예를 들어 데이터 분석은 Excel로 하지만, 그 원본 CSV는 Pandas 필터링과 집계를 몇 번 거친 뒤일 수 있죠.)[3] 인터페이스로의 진화는 LLM의 가장 큰 강점에서 자연스럽게 따라 나옵니다. 즉 원하는 결과는 알지만 첫 단계가 뭔지 모를 때, LLM은 시작하기에 아주 좋은 지점이라는 강점이죠. 어떤 다른 도구가 필요한지 아는 똑똑한 도구를 하나 두는 셈이죠. 여기서 다른 도구란 상대적으로 멍청한 것들(받은편지함, 캘린더)일 수도 있고, 더 전문화된 똑똑한 것들(당신 회사의 소스 코드만으로 학습한 LLM, 혹은 하나의 전문 분야로 학습한 LLM)일 수도 있습니다. 인터페이스로서의 AI는 당신이 시킨 목표에서 거꾸로 짚어 내려오고, 동시에 자기가 할 수 있는 것에서 앞으로 짚어 올라가서, 그 둘이 만나는 중간 지점에서 문제를 풉니다.
사람들이 AI와 상호작용하는, 가장 흔하지만 그래서 가장 과소평가되는 방식은, AI가 소프트웨어 상호작용 속에서 운을 만들어내는 기계라는 점입니다. 언제나 약간의 무작위성이 있죠. 받은편지함을 확인할 때 어떤 이메일이 맨 위에 있는지, 피드에서 어떤 광고나 게시물이 보이는지, 어떤 질의에 대해 어떤 롱테일 검색 결과가 뜨는지, 사이트의 “관련 상품” 섹션에 뭐가 나오는지 같은 것들 말입니다. 이 무작위성의 범위를 좁히는 도구들은 계속 좋아지고 있고, 여기엔 피드백 루프가 있습니다. 추천이 더 좋은 사이트가 더 많이 쓰이고, 그러면 다음 번 추천에 쓸 학습 데이터가 더 늘어나는 식이죠.[4] 그래서 배가 꼬르륵거리는 바로 그 순간에 UberEats 푸시 알림이 뜨는 것도, Waymo가 스스로 경로를 다시 짜는 것도 다 AI가 일하는 모습입니다. Waymo는 과거 교통 패턴이나 현재 교통량이 아니라, 다른 운전자들이 교통 상황에 어떻게 반응할지를 예측한 모델에 근거해 경로를 바꾸는데, 이건 아마 Google이 그 누구보다 잘 측정할 수 있는 영역이죠.[5] Reels가 TikTok 크로스포스트의 초현실적 단면에서 그럭저럭 볼 만한 숏폼 영상 소스로 바뀐 것은, Meta가 엄밀히 필요한 것보다 더 많은 GPU를 산 직접적인 결과였습니다. 그 GPU들은 결국 더 생성형 AI다운 작업에 재활용될 예정이었죠.
많은 사람이 위의 방식을 전부 쓰고 있거나 쓰게 될 겁니다. 다만 각 방식의 숙련 곡선은 다릅니다. 이게 가장 잘 드러나는 건 도구인데, 한동안 쓰다 보면 뭘 손으로 직접 하는 게 나은지, 뭘 구글링하는 게 나은지, 어디서 Claude나 ChatGPT가 도움이 되는지 같은 감이 쉽게 잡히죠. 여기에 에이전트까지 더해지면, 모든 지식 노동자가 팀장이 되고 그 팀원 대부분은 AI인, 그런 흐름이 계속될 겁니다.
그리고 이 채택 과정은 단계마다 묘하게 당혹스러운 감각을 안깁니다. 한때 내 임금 프리미엄을 떠받치던 값진 기술 하나가, 이제는 그걸 돌리는 전기 사용량(와트시)만큼의 값어치로 매겨진다는 걸 스스로 똑똑히 확인하게 되는 거죠. 하지만 절망하지 마세요. 주로 다른 사람이 내린 결정을 실행하는 평범한 사람의 보수와, 주로 자기가 내린 결정을 남이 실행하게 하고 그 대가를 받는 사람의 보수를 비교해 보세요. 스스로의 쓸모없어짐(obsolescence)에 기꺼이 올라타는 건 아주 좋은 생각입니다. 그게 곧 더 흥미로운 일을 훨씬 많이 하고, 나머지는 위임하며, 그렇게 아낀 시간 일부로 새로운 효율을 찾아내는, 그런 버전의 나로 스스로를 승진시키는 일이라면 말이죠.
목록을 아래로 내려갈수록 질적인 변화가 생깁니다. AI 도구를 쓴다는 건 어디까지나 당신이 AI에게 정확히 뭘 할지 지시하고, 당신의 정신 노동 중 어느 부분을 자동화하고 어느 부분에 인간의 손길이 필요한지 정확히 정하는 일입니다. 하지만 이 단계를 지나면 점점 더 많은 것을 알고리즘에 맡기게 되고, 결국 AI의 보이지 않는 기능에까지 이르게 됩니다. 당신이 스스로 찾아 나선 적 없는 데이터 입력, 그 모든 것을 빚어내는 기능이죠.
그게 가치 있을 수도 있습니다. 적어도 상황에 따라서는요. 추천 알고리즘은 평균적으로 적중률이 괜찮아야 테스트를 통과해 널리 실제 서비스에 투입될 수 있으니까요. 하지만 도구와 에이전트를 쓰는 사람은 인간과 알고리즘의 비교우위를 끊임없이 따져보는 반면, AI를 인터페이스로 쓰거나 AI가 생성한 콘텐츠 추천을 보는 사람은 그 성찰이라는 부분을 통째로 아웃소싱해버립니다. 여전히 누군가는 당신이 어떤 미디어를 소비하고 그걸 어떻게 최적화할지 고민하고 있지만, 그들이 주로 최적화하는 건 사용자 체류 시간, 즉 잠재 매출을 가늠하는 대리 지표죠. 이런 도구는 그 작동 방식이 소유자들에게조차 불투명하고, 당신에게는 더더욱 그렇습니다. 점점 더 강력해지는 이런 도구에 점점 더 많은 결정을 떠넘기는 건, 읽고 보고 소비하는 습관을 내 장기적 이익에 맞추는 방법으로는 결코 좋지 않습니다.
그래서 기술에 대해 아미시식 바벨(barbell) 접근을 취하는 게 점점 더 좋은 생각입니다. 전면적으로 수용하되, 오직 충분히 숙고한 뒤에만요. 아미시는 기술과 행동, 문명 사이의 피드백 루프를 생각하는 건데, 소프트웨어, 특히 AI 소프트웨어에서는 사용자 행동과 도구가 사용자에게 제공하는 것 사이의 피드백 루프가 더 촘촘합니다. 이 변화는 여전히 순(net)으로는 이롭지만, 피할 수 없는 위험을 안고 있습니다. 이런 도구가 강력해질수록, 도구는 그것을 아주 효과적으로 쓰는 소수와, 자신들이 학습을 도운 알고리즘이 정작 그들의 행동을 예측하고 유도하는 다수 사이의 넓은 인터페이스가 되어갑니다.
• • •
공개(Disclosure): META 롱 포지션 보유.
위험은 여전히 있을 겁니다. 모델들은 파이프 폭탄이나 사린을 만드는 법을 알고 있으니까요. 당신에게 알려주지 않을 뿐이죠. ↩
최근에 의사와 이야기하면서 ChatGPT를 썼는데, ChatGPT는 내가 설명을 요청한 몇몇 용어를, 내가 약어 같은 걸 잘못 받아 적었을 때도 너무 잘난 척하지 않고 설명해줄 수 있었습니다. 이건 좋은 미시적 분업입니다. 이런 걸 하나하나 풀어 설명하는 건 의사의 시간을 잘못 쓰는 것이지만, 정작 그 진료에서 얻어낼 수 있는 정보를 덜 얻고 마는 건 내 시간을 잘못 쓰는 것이고요. 이건 AI의 놀라운 부수 효과 중 하나입니다. 어느 한 독자층을 위해 글을 쓸 필요가 없어지는 거예요. 독자들이 LLM에게 당신 글을 필요에 맞게 늘리거나 줄여달라고 할 수 있으니까요. 이건 AI를 글쓰기에 대한 일종의 보조금으로 만들 수 있습니다. 작가는 그냥 자기 자신을 위해 쓰면 되고, 독자는 자기에게 맞게 미세 조정된 버전으로 읽을 거라는 걸 알 수 있으니까요. ↩
이 경계는 성깁니다. 워크플로의 점유율을 둘러싼 싸움이 시장 점유율 전쟁의 최전선이기 때문이죠. 당신 데이터가 Pandas 데이터프레임에서 시작하는 이유 하나는, 한 줄 한 줄 훑으며 각 항목에 정규표현식을 적용하고 있어서일 수 있습니다. 그런데 이제 Excel에도 정규표현식이 있죠. ↩
팝 음악과 영화 색보정(color palette)은 둘 다 “모델 붕괴(model collapse)“라는 용어가 생기기도 전에 그와 비슷한 걸 겪었습니다. 먹히는 걸 베껴서 그 방향으로 조금 더 밀어붙이는 게 충분히 쉬웠고, 그 결과 최근 몇 개의 대형 히트작을 선형 외삽한 것처럼 수상쩍게 닮은 예술 창작물이 잔뜩 나왔죠. 어쩌면 모델 붕괴는 그보다도 더 일찍 일어났는지 모릅니다. 오늘날 우리가 여전히 읽을 수 있는 고대 문헌이 이토록 적다는 사실은, 데이터 입력이 자주 접근되지 않는 롱테일 콘텐츠라면 그 가중치를 서서히 잃고 결국 완전히 삭제되고 만다는 증거가 아니라면 무엇이겠습니까. ↩
배달 앱에 이런 종류의 기업용 플랜이 있는지 궁금해집니다. 날씨가 특히 좋은 날, 사무직 직원들이 밖에서 느긋하게 긴 점심을 먹고 싶어질 바로 그 직전에 막판 할인을 주는 그런 플랜 말이죠. ↩
참고: 이 글은 Byrne Hobart가 The Diff에 게시한 뉴스레터 중 본 에세이 부분을 번역한 것입니다. 원문 뉴스레터의 스폰서 코너, “Elsewhere”, “Diff Jobs” 섹션은 번역에서 제외했습니다.
원문: Tools, Agents, Interfaces, and Synthetic Luck: AI Interaction Models - Byrne Hobart, The Diff (2024년 10월 28일)
생성: Claude (Anthropic)