LLM은 전문성에 보상한다

게시일: 2026년 7월 24일 | 원문 작성일: 2026년 7월 24일 | 저자: Sean Goedecke | 원문 보기

• • •

누구나 그럴듯한 결과를 낼 수 있는 시대

2010년대에는 기술적으로 부족한 부분이 있으면(가령 CSS를 못 짠다면) 잘하는 동료에게 기대거나, 인터넷 어딘가에 내 문제에 딱 맞는 답이 있기를 바라는 수밖에 없었어요. 요즘은 누구나 LLM에게 맡기기만 하면 그럭저럭 괜찮은 CSS를 짤 수 있죠. LLM은 모두를 제너럴리스트로 만들어줘요.

그래서인지 LLM을 다루는 데는 별다른 스킬이 필요 없다고 생각하는 사람이 많아요. 박사급 수학이든, 나쁘지 않지만 가끔 촌스러운 코드든, 어색한 링크드인식 글이든, LLM이 내놓을 수 있는 결과물은 그냥 물어보면 나온다는 거죠. 모두가 같은 모델과 대화하고 있으니, “프롬프트를 잘 쓰는 사람”도 LLM을 처음 써보는 사람과 비슷한 결과를 얻는다는 논리예요.

이건 틀렸어요. 프롬프팅에서 가장 중요한 스킬은 다름 아닌 그 프롬프트를 던지는 분야에 대한 전문성이에요.

• • •

테렌스 타오는 왜 다른 결과를 얻는가

이를 잘 보여주는 사례가 테렌스 타오1가 야코비 추측 (Jacobian Conjecture)2의 최근 발견된 반례에 대해 ChatGPT와 나눈 대화예요. 이건 제가 대화하는 그 ChatGPT가 아니에요! 토큰을 무제한으로 써도 저는 타오가 도달한 곳까지 갈 수 없었을 거예요.

타오의 대화에서 배울 만한 좋은 프롬프팅 습관이 몇 가지 있어요.

• 타오의 메시지는 아주 짧고 요점만 담고 있어요. 모델의 말에 항목별로 일일이 답하지 않고, 핵심에만 반응해요.
• 모델의 답변도 제가 GPT-5.6 Sol과 수학 이야기를 할 때보다 훨씬 간결해요. 전문성을 드러냄으로써, 타오는 모델을 “아마추어에게 설명하는 모드”가 아니라 “수학자끼리 대화하는 모드”로 유도하는 거죠.
• 타오는 모델의 답이 틀린 것 같으면 지적하지만, 직접적으로 반박하지는 않아요. 대신 “생각보다 복잡해 보이네요” 같은 식으로 말해요.
• 타오는 스스로 논리를 건너뛰거나 새로운 방향을 제안해요. 모델이 다음에 뭘 하자고 제안해도 거의 따르지 않아요.

하지만 이 팁들을 따른다고 해서 수학 질문에서 타오처럼 프롬프트를 쓸 수 있는 건 아니에요. 그의 기술의 핵심은 실제로 수학을 이해하고 있다는 데 있어요. ChatGPT의 장황한 답변에서 핵심 아이디어를 뽑아내고, 대안적인 접근이나 표현을 제안하고, 뭔가 “이상하다”는 걸 알아채는 능력 말이에요.

• • •

전문성이 있어야 진짜 힘을 발휘한다

테렌스 타오는 제가 프로그래머인 것보다 훨씬 뛰어난 수학자예요. 하지만 도메인 지식이 있으면 LLM을 더 잘 쓸 수 있다는 그 아이디어는 저도 제 일에서 직접 경험한 거예요. 코드베이스에 대한 좋은 이론을 갖고 있으면, 전혀 익숙하지 않을 때보다 LLM을 훨씬 세게 밀어붙일 수 있어요. 좋은 해법이 어떤 모습이어야 하는지 스스로 감이 있으니까, “아니요, 여기는 더 간단하게 갈 수 있을 것 같은데요”, “근데 이거 이미 X로 하고 있지 않나요?”, “이 문제를 우리에게 익숙한 용어로 표현할 수 있을까요?” 같은 말을 할 수 있는 거죠.

이건 제가 전에 썼던 글에서 다룬 아이디어와도 이어져요. 시스템 설계 문제는 일반적인 원칙보다 구체적인 디테일이 좌우한다는 이야기였죠. 물론 둘 다 유용하지만, 저라면 소프트웨어 시스템에 대한 깊고 일반적인 이해보다는 그 코드베이스에 대한 친숙함을 택할 거예요. 타오는 대화에서 “여기서 X가 작동하나요?”, “Y와 Z가 있다면 왜 A인가요?” 같은 아주 구체적인 질문을 많이 던져요. 저는 야코비 추측에 대해서는 그런 질문을 할 수 없지만, 제가 GitHub에서 담당하는 시스템에 대해서는 할 수 있어요.

• • •

그래도 도구는 도구다

도메인 지식이 전혀 없어도 LLM을 붙잡고 늘어지면 최소한 뭔가는 얻을 수 있어요. 그게 나쁜 건 아니에요! 하지만 도메인 지식이 있다면, 같은 LLM에서 원하는 방향으로 세게 밀어붙여서 훨씬 더 많은 가치를 뽑아낼 수 있어요. 우리 대부분은 어떤 영역에서는 도메인 지식이 있고 어떤 영역에서는 없을 테니, 결국 이 두 가지 접근을 섞어 써야 할 거예요.

• • •

결국, 병목은 인간이다

도메인 지식이 유용하다는 사실은, 모델이 아무리 강해져도 인간의 전문성이 계속 쓸모 있을 거라는 걸 시사해요. 어려운 부분은 인간이 정확히 원하는 종류의 해법이 무엇인지를 모델에게 전달하는 데 있기 때문에, 많은 작업에서 병목은 모델이 아니라 인간이에요. 정보는 이미 “모델 안”에 있어요. 다만 그걸 끄집어내려면 아주 똑똑한 인간이 필요할 뿐이죠.