수학에서 중요한 게 증명뿐이 아니라면, 증명 너머의 수학에 더 큰 박수를 보내야 해요

게시일: 2026년 10월 2일 | 원문 작성일: 2026년 9월 18일 | 저자: Grant Sanderson | 출처: 테렌스 타오 블로그 | 원문 보기

• • •

요즘 수학계에서 자주 들리는 이야기가 있어요. 수학자가 진짜 이루려는 것은 인간의 이해를 넓히는 일이고, 문제를 풀고 증명을 만들어 내는 일은 늘 그 목표에 얼마나 다가갔는지 가늠하는 지표였다는 거예요. 그런데 그런 이해 없이도 증명을 만들어 낼 수 있다면, 증명만으로는 더 이상 그 목표에 다가갔다고 판단하기 어려워지죠.

그러면 바로 질문이 생겨요. 그 대신 어떤 지표를 써야 할까요?

이렇게 해야 수학계 밖의 사람들도 수학자가 어떤 기여를 하는지 더 잘 이해할 수 있어요. 그들은 증명을 만들어 내는 기계 때문에 수학자가 필요 없어졌다고 생각할 수 있죠. 수학자들이 이를 연구자의 기여에 대한 오해라고 여긴다면, 어떤 작업을 인정하고 보상하는지를 통해 자신들이 진짜 중요하게 여기는 가치를 더 잘 드러내야 해요. 가장 높이 평가하는 성과가 증명 생성에 치우쳐 있고, 내용을 명료하게 정리하고 설명하는 일을 한 단계 낮게 취급한다면, 바깥사람들이 그렇게 오해하는 것도 무리는 아니에요.

제가 이 제안에 개인적인 편향을 가질 수밖에 없다는 점은 먼저 인정해야겠어요. 저는 수학 영상을 만드는 일을 해요. 전통적인 수학자의 경로와는 다르죠. 인간의 이해를 넓힌다는 목표는 같지만, 미해결 문제를 푸는 대신 대중에게 와닿는 설명과 직관에 집중해 왔어요. 냉소적인 사람이라면 이 제안을 제 위상을 높이려는 뻔뻔한 시도로 받아들일 수도 있어요.

하지만 저는 학계 밖에서 활동하고, 필요한 재원도 학계 밖에서 마련해요. 수학계가 어떤 일을 업적으로 인정하든 제가 직접 얻거나 잃을 것은 없어요. 또 이런 설명의 지위를 높이자는 말은 수학을 대중화하자는 뜻이 아니에요. 내용을 제대로 이해하려면 깊은 전문 지식이 필요하더라도, 주로 “그걸 어떻게 떠올릴 수 있었을까?”라는 질문에 답하려는 작업이라면 무엇이든 포함해요.

아래 사례를 보면 이것이 새로운 일은 아니라는 걸 알 수 있어요. 현역 수학자들은 이미 이런 작업에 상당한 관심과 노력을 쏟고 있어요. 제 제안의 핵심은 두 가지예요. 이 작업을 더 분명하게 정의하고, 그 지위를 높이자는 거예요.

• • •

발상의 맥락을 보여 주는 설명이란?

이 말의 뜻이 어느 정도 짐작되겠지만, 증명과 잠깐 비교해 볼게요.

증명에서는 정의가 맨 앞에 나와요. 새로운 대상을 구성한 뒤 그 성질을 분석하는 식으로 전개하는 경우가 많고, 자연스럽게 받아들여져요.

발상의 맥락을 보여 주는 설명에서는 정의가 중간에 나와요. 새로운 수학적 대상을 도입하기에 앞서, 그걸로 어떤 문제를 해결하려는지 먼저 분명해져야 해요.

증명에서는 모든 진술이 옳아야 해요. 각 주장은 앞선 내용에서 필연적으로 따라 나와야 하죠.

이런 설명에서는 조금 틀려서 수정이 필요하지만, 어떻게 떠올렸는지 납득할 수 있는 아이디어로 시작해도 괜찮아요. 오히려 그편이 좋을 때가 많아요.

제가 좋아하는 방식 중 하나는 마이클 닐슨이 이름 붙인 발견의 허구 (discovery fiction)T1예요. 문제에 대한 단순하지만 틀린 해법에서 출발하는 이야기죠. 어디서 막히는지 살피고, 막힌 부분을 고치다 새로운 문제를 발견하는 과정을 거듭하며 하나의 아이디어를 발전시켜요.

증명은 어떤 정리가 왜 참인지 보여 줘요.

발상의 맥락을 보여 주는 설명은 정리가 왜 참인지뿐 아니라, 애초에 왜 하필 그 정리를 제시하는지, 다른 문제나 맥락에서 어떻게 쓰이는지도 밝혀요.

이런 설명에는 분명한 약점이 하나 있어요. 증명과 달리 맞다, 틀리다를 딱 잘라 판정할 수 없다는 거예요. 반면 무엇이 증명됐고 무엇이 아직 증명되지 않았는지는 명확하게 구분할 수 있어요. 그래서 증명은 진척을 가늠하는 데 무척 유용해요. 발상의 맥락을 보여 주는 설명을 검증하는 LeanT2은 나올 수 없을 거예요.

인간의 이해를 넓히겠다는 목표를 진지하게 받아들인다면, 이해가 얼마나 깊어졌는지 판단하는 기준은 증명의 유무를 가리는 기준보다 흐릴 수밖에 없어요. 인간이 무엇을 이해했다고 할 수 있는지부터 정의하기 어렵거든요. 주관적인 지표를 피한다는 건 수학의 인간적인 면도 피한다는 뜻이에요.

저는 “명료한”이나 “알기 쉽게 풀어 주는” 같은 말 대신 “발상의 맥락을 보여 주는”이라는 표현을 택했어요. 설명이 아이디어의 출발점을 보여 주는지는 더 쉽게 확인할 수 있기 때문이에요. 증명만큼 엄격하게 검증할 수는 없죠. 증명 말고 그렇게 엄격하게 검증할 수 있는 것은 거의 없으니까요. 그래도 실제로 설명을 평가하는 기준으로는 충분해요.

시청자의 기분을 맞춰 주려는 말만은 아니에요. 제 설명이 충분한지 판단할 때 실제로 적용할 수 있는 기준이기도 하죠. 새로운 아이디어를 하나씩 소개할 때마다, 어디서 나온 생각인지 분명한가를 물어볼 수 있어요. 답이 정확히 예, 아니요로 갈리지는 않지만, 실제 기준으로 삼을 만큼은 답이 분명해요.

• • •

좋은 설명의 사례들

이런 설명을 모아 놓은 좋은 자료를 꼽으라면 『프린스턴 수학 안내서』 (The Princeton Companion to Mathematics)의 제4부가 먼저 떠올라요. 활발히 연구가 이루어지는 스물네 개가 넘는 분야를 다루며, 명료하게 전달하는 데 재능이 있는 전문가가 각 분야를 소개해요.

앤드루 그랜빌이 해석적 정수론을 설명하든, 데이비드 벤즈비가 모듈라이 공간을 소개하든, 이 글들은 보통 칠판 앞에서 일대일로 대화할 때나 얻을 법한 수준의 직관과 발상의 이유를 전해 줘요.

가워스가 이 프로젝트를 믿고 추진한 것은 옳은 선택이었어요. 이 작업은 수학에 엄청난 가치를 더해 줘요. 하지만 이런 일에 시간을 써도 된다고 느끼려면 필즈상부터 받아야 한다는 건 아쉬워요.

증명을 쓰는 데 탁월하면서도 그보다 훨씬 넓은 영역에 기여한 또 다른 사람은 빌 서스턴이에요. 그의 유명한 글 「수학에서의 증명과 진보」 는 LLM보다 30년 앞서 쓰였지만, 첫머리부터 “수학자는 무엇을 이루는가?”라는 질문을 “수학자는 수학에 대한 인간의 이해를 어떻게 넓히는가?”로 바꿔 물어야 한다고 제안해요.

다시 묻고 싶어요. 왜 이런 “업적으로 인정받지 못하는 활동”을 하려면 필즈상부터 받아야 할까요? 왜 그 활동 자체가 필즈상을 받는 데 기여하지는 못할까요?

개인적인 이야기를 하나 하자면, 저는 어렸을 때 그가 언급한 지오메트리 센터의 작품 하나에서 특히 큰 영향을 받았어요. 『Outside In』 이라는 단편 영화예요. 깊이 있는 수학을 다루면서 널리 퍼진 영상의 아주 이른 사례일 거예요. 서스턴이 직접 고안한 구면 뒤집기T3의 핵심 아이디어를 시각화한 작품이죠.

스메일의 증명처럼 구면 뒤집기가 가능하다는 것을 처음 보인 증명은, 0에서 1로 나아간다는 의미에서 인간의 이해를 넓혀요. 이런 영상을 통해 수백만 명이 그 바탕에 있는 아이디어를 접해요. 1에서 N으로 나아간다는 의미에서 이해가 넓어지는 거죠. 서스턴이 이 “업적으로 인정받지 못하는” 활동에 그렇게 많은 시간을 써 준 것이 고마워요.

이런 미해결 설명 문제 (open exposition problem)를 미해결 연구 문제처럼 다루면 어떤 모습일까요? 극단적인 예로는 설명 문제판 밀레니엄 상금 문제를 상상해 볼 수 있어요. 가령 기관이나 연구자 모임이 중요한 수학적 결과 중에서 증명은 있지만 아직 충분히 이해되지 않은 것을 공식적으로 선정하는 거예요. 지금 AI가 만든 모든 증명은 나오는 순간부터 아직 풀리지 않은 설명 문제를 남겨요. 앞으로 몇 년간 이런 문제가 쏟아질 것 같아요. 수학계를 이끄는 사람들이 어떤 문제에 집중할 만한지 짚어 준다면 큰 도움이 될 거예요.

중요한 미해결 설명 문제를 해결했다고 인정할 기준에도 합의해야 해요. 다시 말하지만, 증명을 검증할 때보다 주관적인 판단이 들어갈 수밖에 없어요. 그래도 수학의 인간적인 면을 진지하게 다루려면 이런 주관성을 받아들여야 해요. 또 강조하고 싶은 점이 있어요. 핵심 아이디어가 어디서 나왔는지 확인하는 일은 증명의 각 단계가 논리적으로 이어지는지 확인하는 일과 크게 다르지 않아요.

수학계를 이끄는 사람들이 미해결 설명 문제를 미해결 연구 문제만큼 진지하게 다루고, 수학계 밖의 사람들도 그 모습을 본다면, 수학자의 역할에 대한 오해를 바로잡는 데 큰 도움이 될 거예요.

마지막으로 소개할 사례는 앞으로 일어날 일을 더 잘 보여 줄지도 몰라요.

올해 4월, 리엄 프라이스는 점근적 원시 집합 추측이라고도 불리는 에르되시 문제 1196번의 해법을 제출했어요. 이 해법은 프라이스가 GPT-5.4 Pro와 대화를 나누는 과정에서 나왔어요. 앞서 AI의 도움으로 풀린 여러 에르되시 문제와 달리, 이 문제는 해당 분야의 연구자들이 중요하게 여기면서도 좀처럼 풀지 못했어요. 요즘 이런 이야기는 점점 익숙해지고 있지만, 이 시점에서는 엄밀히 말해 증명이 존재했음에도 인간의 이해는 아직 그다지 깊어지지 않았어요.

그 증명은 냇 소타나판과 재러드 리히트만에게 전달됐고, 두 사람은 AI의 접근법을 해석하고 사람이 읽을 수 있는 형태로 증명을 다듬었어요. 5월에는 보리스 알렉세예프, 케빈 바레토, 리옌양, 재러드 듀커 리히트만, 리엄 프라이스, 지브란 이크발 샤, 탕취안위, 테렌스 타오가 증명의 핵심 아이디어를 더 깊이 다룬 논문을 발표했어요. 저자들은 그 아이디어가 원래 문제뿐 아니라 주변의 여러 문제를 이해하는 데 어떻게 도움이 되는지도 설명했어요. 예를 들어 에르되시의 원시 집합 추측에 더 깔끔한 증명을 제시했죠.

여기서 가치 있는 것은 에르되시 문제 목록에 ‘해결’ 표시를 하나 더 할 수 있게 됐다는 사실이 아니에요. 원시 집합에 대한 우리의 이해가 2026년 초보다 훨씬 더 깔끔하고 만족스러워졌다는 데 가치가 있어요. 원래 문제의 해법도 어느 정도 역할을 했지만, 이 논문은 그 핵심 아이디어를 확장하고 명료하게 설명하며 다른 문제와의 관계까지 보여 줬어요. 이런 작업이 더 높이 평가받아야 할 거예요.

• • •

실천을 위한 제안

• • •

눈에 보이는 문화 변화의 가치

마지막으로 더 넓은 관점의 이야기를 하고 싶어요. 수학계의 문화가 달라지는 모습을 보여 주는 것만으로도 바로 지금, 수학이라는 직업을 바라보는 바깥의 시선이 더 긍정적으로 바뀔 수 있어요.

수학에 열정이 있는 많은 어린 학생이 지금 수학을 진로로 택하기를 두려워해요. 기계가 증명을 만들어 내는 시대에 무슨 일이 벌어질지 불확실하기 때문이죠. 하지만 관점을 잘 잡으면, 지금은 수학에 뛰어들기에 가장 신나는 시기 중 하나예요. 한 분야가 아직 바뀔 수 있고, 그 미래의 모습에 직접 영향을 줄 기회가 있을 때 들어가는 일만큼 신나는 일은 없으니까요.

AI가 우리의 이해를 도울 가능성을 완전히 제쳐 두더라도, 지금은 수학자가 되려는 젊은 사람들이 수학계 전체의 미래를 정하는 데 실제로 참여할 수 있는 특별한 시점이에요. 이 사실을 알면 힘이 날 거예요.

하지만 이런 변화는 우리가 스스로 만들어 간다고 느낄 때에만 신나요. 통제할 수 없는 힘에 끌려간다고 느끼면 무섭죠. 그래서 지금 수학계를 이끄는 사람들이 수학이 어떤 분야인지 정의하고 분명히 드러내는 구체적인 행동에 나서야 해요. 그러면 새로 들어오는 젊은 사람들도 수학계가 스스로 방향을 정하고 있다는 믿음을 얻을 수 있어요. 수학이라는 직업의 위상은 누가, 혹은 무엇이 증명을 만들어 내느냐에 달려 있지 않다는 점도 알고 안심할 수 있죠.

마찬가지로 저는 지금이 수학을 재정적으로 지원하기 가장 좋은 시기 중 하나라고도 믿어요. 수학의 다음 장이 “인간의 이해”라는 두 단어를 중심으로 열린다면, 앞으로 어떤 변화가 일어나든 공공재로서 수학의 가치는 더 커질 것 같아요.