오늘 쓰레드에 짧은 글을 하나 올렸다.
요즘은 인공지능이 내 에이전트가 아니라 내가 인공지능의 에이전트가 아닌가 생각해본다.
AI가 낸 분석을 들고 여러 사람을 찾아가 설명하고, 피드백을 받아 다시 AI에게 전달한다.
농담이 아니다. 중요한 건 사람이 잘할 수 있는 일을 사람이 잘하는 것이다.
사람 사이의 소통, 유대와 신뢰, 설득 같은 것 아닐까.
반쯤은 웃자고 쓴 글인데, 비슷한 고민을 아주 진지하게 하는 사람이 있었다.
필즈상 수상자인 UCLA 수학과의 테렌스 타오(Terence Tao) 교수다.
10월 9일 캘리포니아공대(Caltech) 공개 강연 「Math 2.0」에서 그는 AI 때문에 수학이라는 학문의 병목이 옮겨 갔다고 진단했다.
이번 글에서는 먼저 타오의 주장을 소개하고, 그 아래에 내 해설을 붙인다.
1. 무슨 일이 있었나: 2026년 가을의 수학계
타오는 이 강연을 1년도 더 전에 준비했다.
원래 제목은 「기계 보조 증명(Machine Assisted Proof)」이었고 5월에 할 예정이었는데 10월로 밀렸다.
그 사이 “최근 사건들 때문에 내용이 크게 바뀌었다”고 블로그에 적었다.
그 ‘최근 사건들’은 타오가 직접 검토해 관리하는 AI 관련 견해 정리 페이지에 시간순으로 나와 있다.
- 2026년 9월: AI 기업 세 곳이 ‘소수 사이 간격의 상한(bounded gaps between primes)’을 개선했다고 앞다퉈 발표했다. 사람이 쓴 최신 논문보다 수치가 더 좋았다.
- 9월 8일: 알푀게(Alpöge)와 버크마스터(Buckmaster)가 외력항이 있는 3차원 비압축성 오일러 방정식에서 유한 시간 안에 해가 폭발하는 사례를 발표했다. 증명은 Lean으로 형식화됐고, AI가 상당 부분 기여했다.
- 9월 11일: 타오를 포함한 필즈상 수상자 25명이 「수학에서 AI의 심각한 정렬 실패(A Severe Misalignment of AI in Mathematics)」 선언에 이름을 올렸다.
- 10월: OpenAI가 나비에-스토크스 문제를 풀었다고 발표했다. 뉴욕타임스 보도로는 에이전트 약 1만 개가 88시간 동안 만든 165쪽짜리 증명이다. 타오는 “내가 이야기해 본 전문가 중 전체 논증을 실제로 이해한 사람은 아직 없다”고 했다.
- 10월 6일: OpenAI가 수학 거의 전 분야에 걸친 결과 350여 건을 한꺼번에 공개했다. 그중엔 리만 제타 함수의 ‘영점이 없는 영역’을 50년 만에 가장 크게 넓힌 결과도 있었다. 타오는 이 일로 “젊은 연구자들의 연구 과제 상당수가 하룻밤 사이에 사라졌다”고 지적했다.
맞는 증명이 사람이 읽을 수 있는 속도보다 빨리, 사람이 이해할 수 없는 모양으로 쏟아지기 시작한 것이다.
흔히 ‘외계 수학’이라고 부르는 상황인데, 타오 자신은 그 말을 쓰지 않는다.
그가 고른 말은 ‘증명 소화불량(proof indigestion)’이다.
2. 타오의 진단: 증명의 희소성에서 풍요로
Math 1.0은 ‘증명이 귀하다’는 전제 위에 세워졌다
타오는 지금까지의 수학을 ‘Math 1.0’이라고 부른다.
Math 1.0에서는 미해결 문제를 풀고 그 풀이가 맞다는 걸 증명하는 일이 어렵고 드물었으며, 대개 상당한 전문성이 필요했다.
학계의 제도, 전통, 보상, 공식 목표가 모두 이 ‘증명 희소성’을 전제로 짜여 있다.
누가 먼저 풀었느냐(우선권)에 큰 보상을 주는 것도 그래서다.
수학이 AI에 유독 먼저 뚫린 이유
타오는 수학 증명의 세 가지 성질을 꼽는다.
- 객관적으로 검증할 수 있다. 무엇이 흥미로운 수학인지는 사람마다 의견이 갈려도, 무엇이 맞고 완전한 증명인지에는 폭넓은 합의가 있다. Lean 같은 증명 보조 언어로 쓰면 컴퓨터가 기계적으로 검사할 수도 있다.
- 완전히 디지털이다. 실험도, 현실 세계의 데이터도 필요 없다.
- 양질의 데이터가 많다. 필요한 연구 문헌 대부분이 이미 디지털로 공개돼 있다.
이 세 조건이 모두 갖춰진 분야는 드물다.
그래서 최전선 AI 연구소들이 수학 문제 풀이에 집중 투자했고, 그 결과 수학은 ‘증명 풍요(proof abundance)’의 시대에 들어섰다.
다만 타오는 AI 능력이 “극도로 들쭉날쭉(jagged)”하다고 덧붙인다.
검증이 객관적인 일에서는 놀랍지만, 주관적이거나 현실과 상호작용해야 하거나 데이터가 부족한 일에서는 여전히 모자라다.
생성 · 검증 · 소화: 세 단계의 속도가 어긋났다
타오는 4월부터 연구 과정을 세 단계로 나눠 설명해 왔다.
- 생성(generation): 증명을 만들어 낸다.
- 검증(verification): 그 증명이 맞는지 확인한다.
- 소화(digestion): 결과를 이해하고, 맥락 속에 놓고, 남에게 설명한다.
예전에는 세 단계 모두 어려웠고, 소화는 앞의 두 단계를 거치면서 저절로 따라왔다.
몇 년씩 매달려 증명을 만든 사람은 당연히 그 증명을 이해하고 있었으니까.
그래서 학계는 생성과 검증에만 보상해도 됐다.
AI와 형식 검증 도구는 생성과 검증을 엄청나게 빠르게 만들었지만, 소화는 그대로다.
타오는 이것을 전기 회로 용어를 빌려 ‘임피던스 불일치(impedance mismatch)’라고 부른다.
앞 단계에서 밀려드는 양을 뒷단계가 받아 내지 못한다는 뜻이다.
그 결과가 ‘증명 소화불량’, 즉 맞다는 건 확인됐지만 아무도 소화하지 못한 증명이 쌓이는 상태다.
8월에는 이 틀을 다섯 단계(생성 → 검증 → 해설 → 출판 → 정전화)로 더 쪼갰다.
‘정전화(canonicalization)’는 결과가 다음 세대 교과서에 실릴 만큼 공동체의 표준 지식이 되는 단계다.
타오는 이 마지막 단계가 가장 느리고, 폭넓은 숙의와 합의가 필요하며, AI로 최적화하기 가장 어렵다고 본다.
소화했는지 판별하는 기준
타오가 제시한 기준은 단순하다.
그 증명을 연구 세미나에서 발표하고, 이어지는 질문에 똑똑하게 답할 수 있으면 소화한 것이다.
7월 국제수학자대회(ICM) 기조 강연에서는 더 세게 말했다.
저자가 자기 결과를 정확하고 출처를 제대로 밝힌 전문가 수준의 발표로 보여 주지 못하면, 그 결과는 출판되지 말아야 한다는 것이다.
AI가 쓴 요약은 소화한 것처럼 보이지만 선행 연구를 빠뜨리기 일쑤라 이 기준을 통과하지 못한다는 지적도 덧붙였다.
3. 문제 풀이는 ‘대리 지표’였을 뿐이다
강연의 핵심 문장은 이것이다.
문제 풀이는 연구 수학에서 가장 눈에 띄는 목표였지만, 더 가치 있는 장기 목표의 대리 지표(proxy)일 뿐이다.
이 대리 지표는 증명이 귀하던 시대에는 대체로 정확했지만, 증명이 넘치는 시대에는 어긋나 버렸다.
문제 풀이만 맹목적으로 최적화하는 것은 이제 수학의 장기적 건강에 적극적으로 해롭다.
타오는 미해결 문제를 ‘등대’에 비유한다.
등대는 도달해야 할 목적지가 아니라, 그 주변 지형을 탐험하게 해 주는 길잡이다.
문제를 풀려고 애쓰는 과정에서 얻는 교훈은 성공하든 실패하든 최종 답보다 값진 경우가 많다.
그런데 자동화 도구로 등대에 너무 일찍 도착해 버리면, 가 보지 않은 길들을 탐험할 기회가 사라지고 주변 분야가 ‘불모지’가 된다.
한 번 풀린 문제는 다시 ‘안 풀린’ 상태로 돌릴 수 없으니, 미해결 문제는 일종의 재생 불가능한 자원이라는 말도 했다.
ICM 강연에서는 ‘굿하트의 법칙’도 꺼냈다.
측정치가 목표가 되면 더 이상 좋은 측정치가 아니라는 법칙이다.
생성형 AI는 본질적으로 현실에 발 딛지 않은(ungrounded) 도구이고, AI 회사에는 ‘몇 문제 풀었다’를 홍보할 금전적 동기가 있어서 특히 이 함정에 빠지기 쉽다고 했다.
4. 암 치료제 사고실험: 왜 인간의 이해가 필요한가
강연에서 가장 인상적인 대목이다.
고급 AI에게 “3상 임상시험을 통과하는 암 치료법을 찾아라. 실수하지 마라.”라고 지시한다.
엄청난 연산 끝에 AI는 처음 보는 화학물질 칵테일을 내놓는다.
아무도 어떻게 찾았는지 모르지만, AI는 (어떻게든) Lean 인증서까지 붙였고, 칵테일은 실제로 3상 임상을 통과한다.
이 해법이 임상시험 절차나 수학 모델의 허점을 파고든, 정렬이 어긋난 해법일 가능성은 없을까?
그리고 청중에게 묻는다.
당신이 막 초기 암 진단을 받았고, 챗봇이 이 AI 치료법을 추천한다.
그 칵테일을 혈관에 주사하기 전에, 그 작동 원리를 부분적으로라도 이해하는 인간 암 전문가가 적어도 한 명 있다면 안심이 되겠는가?
타오의 결론은 한 줄이다.
강력한 AI + 인간 이해의 부재 = 정렬 실패 위험.
현실 세계를 사람이 아직 다 이해하지 못한다는 것 자체는 위험하지 않다. 아직 수학으로 충분히 정리되지 않았다는 뜻일 뿐이다.
위험은 이해의 부재가 AI의 최적화 능력과 만날 때 생긴다.
형식 검증도 ‘형식으로 적힌 명제’가 맞다는 것만 보증할 뿐, 그 명제가 우리가 원래 뜻한 것인지는 보증하지 않는다.
AI는 미묘하게 잘못 적힌 가정에서 출발해서도 기꺼이 화려한 결과를 증명해 낸다.
5. Math 2.0: 무엇을 바꾸자는 건가
타오가 말하는 Math 2.0은 연구의 최전선을 넓히는 동시에, 문제 풀이를 중심에서 내려놓는 것이다.
AI를 문제 풀이 기계로만 쓰지 말고, 인간의 이해가 수학과 만나는 모든 지점을 강화하는 데 쓰자는 얘기다.
그가 든 예시는 이렇다.
- 열린 ‘해설’ 문제: 증명은 있지만 너무 불투명한 결과에 대해, 동기가 분명한 설명을 찾는 과제.
- 흩어진 논문 수백 편을 실시간으로 갱신되는 하나의 ‘살아 있는 네트워크’로 엮기.
- Mathlib 같은 대규모 고품질 형식 수학 라이브러리 만들기.
- 새 증명이 아니라 새 원리, 방법, 통찰을 찾아 드러내는 데 AI 쓰기.
- ‘제거 실험(ablation)’: 이미 증명된 정리에서 핵심 도구를 빼도 증명되는지 보기.
- 정리의 ‘이웃’ 탐색: 가정을 바꾸거나 빼면 어떤 결론까지 살릴 수 있는지 자동으로 훑기.
- 해석 가능성과 안전성이 높은 오픈소스 수학 모델 만들기.
- 한 이론의 결과들을 종합한 대화형 교재 만들기.
보상 체계도 바꾸자고 한다.
우선권은 ‘처음 증명을 생성한 사람’이 아니라 ‘처음으로 공개적인 과학적 해설을 내놓은 사람’에게 줘야 하고, 증명에 이름을 올리려는 사람은 적어도 출판 단계까지 책임지고 끌고 가야 한다.
해설, 공동체 만들기, 새 연구 방향 열기의 위상을 높여야 한다.
그러려면 교육, 출판, 승진 기준을 Math 2.0 시대에 맞게 명시적으로 다시 평가해야 한다.
강연의 마지막 문장은 이렇다.
Math 2.0을 가로막는 가장 큰 병목은 기술도, 심지어 제도와 문화도 아니다. 상상력이다.
6. 해설: 나는 AI의 에이전트인가
대리인 관계가 뒤집힌 것처럼 보이는 이유
경제학에서 주인(principal)은 일을 맡기는 쪽이고, 대리인(agent)은 그 일을 대신 하는 쪽이다.
지금까지 컴퓨터는 사람의 대리인이었다. 사람이 판단하고 컴퓨터가 계산했다.
그런데 요즘 내 하루를 보면 순서가 바뀌었다.
분석과 1차 결론은 AI가 낸다.
나는 그 결론을 들고 사람들을 찾아가 설명하고, 반론과 피드백을 모아 다시 AI에게 가져간다.
겉으로만 보면 AI가 주인이고 내가 영업 사원이다.
타오의 틀로 보면 이게 이상한 일이 아니다.
생성과 검증은 싸졌고, 소화와 수용은 그대로 비싸다.
비싼 쪽에 사람이 몰리는 건 당연하다.
타오가 ‘공동체의 수용을 얻는 일은 완전히 다른 게임’이라고 한 것도 같은 맥락이다.
AI는 검증 가능한 게임에 강하고, 새 아이디어가 공동체에 인정받고 소화되고 ‘흥미롭게’ 받아들여지게 만드는 게임은 사람의 영역으로 남아 있다.
정답의 원가는 0에 가까워지고, ‘해석과 종합’에 프리미엄이 붙는다
이건 수학만의 이야기가 아니다.
투자와 사업 의사결정도 구조가 똑같다.
예를 들어 해외 인수합병 실사, 신재생 발전소와 배터리를 묶은 마이크로그리드의 사업성 검토를 생각해 보자.
태양광 발전소라면 ‘P50·P90’ 발전량을 뽑아야 한다. P50은 실제 발전량이 그 값을 넘을 확률이 50%인 값이고, P90은 넘을 확률이 90%인 보수적인 값이다. 대출 규모는 보통 P90을 기준으로 정해진다.
이런 1차 모델링은 이미 AI가 사람보다 빠르게 끝낸다.
하지만 투자위원회를 움직이는 건 이런게 아니다.
“왜 지금 이 리스크를 감수해야 하는가”를 맥락에 맞게 풀어 주고, 결정권자의 질문에 막힘없이 답하는 사람이다.
타오의 표현을 빌리면, 결과를 ‘소화’해서 세미나에서 발표하고 후속 질문에 답할 수 있는 사람이다.
분석 자체의 값은 떨어지고, 해석과 종합의 값은 올라간다.
신뢰는 책임질 수 있는 사람에게 붙는다
AI는 논리(로고스)를 제공할 수 있다.
그러나 사람을 움직이는 신뢰(에토스)와 공감(파토스)은 결국 얼굴 있는 사람에게서 나온다.
타오의 암 치료제 질문이 정확히 이 얘기다.
같은 칵테일이라도 “이 원리를 이해하는 전문가가 한 명 있다”는 사실이 환자의 결정을 바꾼다.
그 전문가는 틀렸을 때 책임질 수 있는 사람이기도 하다.
회사도 마찬가지다.
결재 서류에 이름을 올리는 사람, 투자위원회에서 “제가 책임지겠습니다”라고 말하는 사람은 아직 사람이어야 한다.
그래서 사람은 AI의 지능을 현실의 자본과 결정에 연결하는 ‘신뢰의 인터페이스’가 된다.
얼마 전 쓰레드에 ‘모두가 임원이 되는 시대’라고 쓴 것도 같은 얘기다.
실무와 기술은 AI가 맡고, 사람에게 남는 건 무엇을 할지 판단하고, 관계를 맺고, 회사 안팎을 돌며 설득하는 일, 바로 예전 임원들이 하던 일이다.
다만, ‘전달만 하는 에이전트’는 위험하다
여기서 하나는 분명하다.
“분석은 AI가 하고 사람은 영업만 하면 된다”로 읽으면 타오의 주장과 정반대가 된다.
타오가 말하는 소화의 기준은 ‘설명하고, 후속 질문에 답할 수 있는가’다.
AI 결론을 이해하지 못한 채 포장만 해서 전달하는 사람은 소화한 게 아니라 소화불량을 옮기는 사람이다.
그런 사람이 신뢰를 빌려주면, 사람들은 아무도 이해하지 못한 결론에 사람의 보증이 붙었다고 믿게 된다.
타오가 경고한 ‘강력한 AI + 인간 이해의 부재’가 사람의 얼굴을 하고 나타나는 셈이다.
그래서 내가 생각하는 좋은 에이전트의 조건은 세 가지다.
- AI 결론을 끝까지 소화한다. 내가 이해 못 한 결론은 남에게 들고 가지 않는다.
- AI가 푼 문제가 정말 우리가 풀고 싶던 문제인지 확인한다. 가정이 미묘하게 어긋나도 AI는 기꺼이 그럴듯한 답을 낸다.
- 사람들의 반론을 AI에게 다시 가져간다. 피드백을 실어 나르는 일은 잔심부름이 아니라, AI의 답을 현실에 맞게 다시 정렬시키는 일이다.
이렇게 보면 ‘내가 AI의 에이전트가 됐다’는 말은 반만 맞다.
일의 흐름에서는 AI의 결론을 사람들에게 실어 나르는 대리인처럼 보인다.
하지만 무엇을 물을지 정하고, 그 답을 믿을지 판단하고, 그 결과에 책임지는 쪽은 여전히 사람이다.
타오식으로 말하면 생성은 넘치고, 소화와 신뢰는 희소하다.
희소한 쪽을 쥔 사람이 결국 주인이다.
타오가 마지막에 말한 병목, ‘상상력’도 결국 이 얘기 같다.
AI로 문제를 더 많이 푸는 것 말고, AI가 생긴 덕분에 사람이 무엇을 더 잘할 수 있을지 상상하는 것.
나한테 그 답은 쓰레드에 쓴 그대로다.
사람 사이의 소통, 유대와 신뢰, 그리고 설득.
생성·검증·소화를 구분한 부분이 업무 자동화에도 중요한 기준으로 읽힙니다. AI 답을 전달하기 전에 원래 질문의 가정과 다른 사람에게 설명할 수 있는 근거를 따로 확인하면, 출력은 맞아 보여도 목적이 어긋난 일을 줄일 수 있겠네요. 사람의 반론을 다시 가져오는 과정까지 역할로 본 점도 인상적입니다.