수학은 어디로 가는가?

게시일: 2026년 10월 7일 | 원문 작성일: 2026년 10월 3일 | 저자: Christian Szegedy | 원문 보기

수학은 끝난 걸까, 아니면 그저 졸업하는 걸까?

• • •

졸업

10대 시절 저는 헝가리에서 가장 이름난 학교의 수학 특성화 학급에 다녔어요. 매주 수학 수업이 여덟 시간이었고, 국내외 경시대회를 준비하는 특별 수업도 따로 있었어요. 전 부인도 벌러톤 호숫가에서 열린 일주일짜리 캠프에서 만났는데, 그 캠프에서 할 일이라고는 국제수학올림피아드(IMO) 문제를 푸는 것뿐이었어요. 제 청춘의 상당 부분을 경시대회 문제 풀이에 쏟았어요.

고등학교 졸업 시험이 끝난 직후의 두 시간은 제 인생에서 가장 자유로운 시간이었어요. 다섯 과목에 걸친 긴 출제 범위를 일주일 동안 공부했고, 마지막 시험이 끝나자 엄청난 해방감이 밀려왔어요. 드디어 끝났다! 그다음엔 공허함이 찾아왔어요. 더는 경시대회가 없다는 사실이 확 와닿았거든요. 대회에 나가는 게 특별히 즐거웠던 건 아니지만, 어느새 제 삶의 자연스러운 일부가 되어 있었어요. 우리는 대회를 아주 진지하게 대했고, 좋은 성적을 낸 친구들을 깊이 존경했어요. 헝가리 전국 대회에서 10위 안에 들기만 해도 확실히 인정받았어요. IMO 국가대표가 되는 건 말할 것도 없고요. 저는 대표팀 근처에도 못 갔지만, 그 팀을 둘러싼 공동체에 속해 있다는 것 자체가 제 삶에서 손꼽히게 중요한 부분이었어요.

그 두 시간이 지나자 서글픈 공허함이 자리 잡았어요. 더는 대회도, 대회 준비도, 그 짜릿함도 없었어요. 저를 지도해 주는 사람도, 신경 써 주는 사람도 없었어요. 몇 년 만에 처음으로 준비할 대상이 사라졌고, 그게 없으면 제가 누구인지도 알 수 없었어요. 제 안의 중요한 일부를 잃어버린 것처럼 끔찍했어요. 며칠 동안 우울함이 가시지 않았어요.

• • •

정글

끝없이 펼쳐진, 지도에 없는 야생을 떠올려 보세요. 정글과 사막, 깎아지른 산, 마을 하나쯤은 삼켜 버릴 만큼 넓은 강이 있어요. 이제 평생 그곳을 탐험하며 산다고 상상해 보세요. 순수수학을 한다는 건 대략 그런 일이에요. 이 비유를 풀어 볼게요.

그 땅은 위험하지만 아름다워요. 다리엔 갭 (Darién Gap)T1과 비슷한데, 탐험하기는 그보다도 어려워요. 초보자라면 며칠 만에 길을 잃고, 말라리아에 걸려 정글에서 죽거나 야생 동물에게 잡아먹힐 거예요. 탐험가들이 하는 일은 세 가지예요. 첫째, 지형의 지도를 그려요. 지도가 있으면 가장 아름다운 곳을 빨리 찾고, 탐험할 만한 곳을 제대로 고를 수 있거든요. 둘째, 탐험에는 돈이 들기 때문에 천연자원을 찾아요. 돈 자체에는 별 관심이 없지만, 여행 경비는 어떻게든 마련해야 해요. 셋째, 탐험을 도와줄 장비를 고안하고 만들어요.

비유를 구체적으로 풀면 이래요. 종신 교수가 된 수학자는 무엇이든 마음대로 탐험할 수 있지만, 수학계는 여전히 그 사람이 무엇을 기여했는지로 평가해요. 가장 큰 인정은 엄청난 노력과 고생 끝에 높은 산에 올라 정상에서 대략적인 지도를 그려 낸 사람에게 돌아가요. 사람들이 가장 감탄하는 건 결과물(지도)만이 아니라, 그 뒤에 있는 영웅적인 노력이에요. 앞서 간 탐험가들이 실패했을 만큼 험한 산을 올랐다면 그야말로 추앙받게 될 거예요. 랭글랜즈 프로그램T2이 바로 그런 업적이라고 볼 수 있어요. 멀리 떨어진 두 지역을 잇고 그 사이를 오갈 수 있게 해 주는 강을 찾아내는 일도 높이 평가받아요.

도구도 인정받지만, 그만큼 대단한 위업으로 여겨지지는 않아요. 행렬의 유사역행렬이나 3-SAT의 NP-완전성T3처럼 널리 쓰이는 새 도구를 만들면 이름은 알려지겠지만, 많은 사람이 오르려다 실패한, 쓸모없어 보이는 바위를 정복한 사람만큼의 후광은 얻지 못해요. 사실 그 도구로 아무도 오르지 못한 바위를 직접 올라 보이기 전까지는, 누구도 그 도구가 쓸모 있다고 믿지 않을 거예요.

마지막으로, 값진 광맥을 찾아도 어느 정도 존경을 받아요. 탐험가가 아닌 평범한 사람들에게 실제로 도움이 되는 무언가 말이에요. 타원곡선을 암호에 쓸 수 있다는 걸T4 발견해도 대부분의 정수론 학자는 별로 신경 쓰지 않겠지만, 연구비 신청서에는 빼놓지 않고 언급할 거예요. “후원자”들이 그 근처에 광맥이 더 있을지 모른다고 믿어 준다면 탐험 자금을 마련하는 데 분명히 도움이 되니까요. 그래도 탐험가(수학자)들이 주로 신경 쓰는 건 아름다운 풍경, 탐험의 짜릿함, 그리고 무엇보다 오르기 힘든 바위를 정복했을 때 동료들이 보내는 경외예요. 그런 바위(추측)는 대개 그 자체로는 그다지 흥미롭지 않지만, 새 등반 도구를 시험하는 무대가 돼요. 그런데 가끔은 바위가 짙은 안개에 싸여 있고, 더 드물게는 그게 장엄한 산으로 밝혀지기도 해요. 그 꼭대기에서는 훨씬 멀리 볼 수 있고, 훨씬 흥미로운 지역을 탐험할 수 있어요. 결국 사람들이 이곳에 남는 이유는 그거예요. 지도나 돈 때문이 아니라, 아무도 관심 없던 바위가 산으로 드러나고 발아래로 온 땅이 펼쳐지는 그 드문 순간 때문이에요.

• • •

비행기

모든 혁명은 처음엔 장난감처럼 보여요. 라이트 형제의 첫 비행은 12초 동안 이어졌고, 날아간 거리는 점보제트기의 날개 길이보다도 짧았어요. 오늘날 수학에서 AI가 서 있는 자리가 대략 그쯤이에요. 올해 전까지 우리 비행기는 몹시 조잡했어요. 고작 몇 미터(피트) 높이에서 몇백 미터(피트)를 날았을 뿐이에요. 게다가 여전히 터무니없이 비싸고, 쓸모 있는 경우도 손에 꼽을 정도예요. 하지만 비행기는 빠르게 좋아졌고, 지난 몇 달 사이에 추락하지 않고 다리엔 갭까지 날아갈 만한 항속 거리와 신뢰성을 갖췄어요. 아무도 오르지 못한 바위 몇 개에 착륙하기도 했어요(추측 몇 개를 풀었어요). 비행기는 여전히 아주 원시적이에요. 30분도 채 못 날고, 속도도 고도도 낮아요. 비행 한 번에 드는 비용도 탐험가들이 손으로 만든 도구보다 훨씬 비싸요.

탐험가들이 화가 나는 것도 당연해요. 모든 게 너무 갑자기 닥쳤고, 초기 비행기는 너무 원시적이고 쓸모없어 보였거든요. 몇몇은 비행기를 타 봤다가 정글 어귀에서 바로 추락했는데, 그 모습이 우스꽝스러웠어요. 그런 비행기가 “갑자기” 자기네 바위에 깃발을 꽂을 줄 누가 알았겠어요? 웃기는 일이죠?

하지만 비행기가 진짜 산의 정상에 닿을 수 없다거나(가장 어려운 문제를 풀 수 없다거나) 넓은 지역의 대략적인 지도를 그릴 수 없다고(이론을 세울 수 없다고) 주장한다면, 그건 정적 사고의 오류예요. 오늘의 비행기는 몇 년 뒤는 고사하고 몇 달 뒤의 비행기와 비교해도 원시적이에요.

당연히 등반 도구를 벼리려고 바위를 오르는 일은 의미를 잃을 거예요. 그 도구들은 지금까지는 꼭 필요했을지 몰라도, 머지않아 필요 없어질 거예요. 개인 비행기가 어디에나 있을 테니, 형편이 되는 사람은 누구나 비행기를 빌려 어떤 바위에든, 심지어 산에도 내려앉을 수 있을 거예요.

한편 아무 바위에나 깃발을 꽂는 건 지금으로서는 기술 시연, 아니면 홍보에 불과해요. 그런 일은 금세 식상해질 거예요. 그래도 항공기 회사들은 수학자들이 바위에서 수제 도구를 벼렸던 것처럼, 이 지형을 계속 이용해 비행기를 시험하고 개선할 거예요.

비행기가 싸지면 인공위성에도 눈뜨게 될 거예요. 온 땅을 훑어 광맥과 온갖 값진 자원의 지도를 만들고, 그걸 캐낼 거예요. 그 과정은 어수선하고 지저분할 테고, 지금의 탐험가들은 그 일이 아름다운 정글에 남기는 상처를 보고 몹시 질겁할 거예요. 좋았던 옛날을 그리워하겠죠. 이건 더 이상 탐험이 아니라 장사라고, 그토록 탐험하고 싶었던 곳을 대기업들이 망치고 있다고 말할 거예요. 그 말이 맞겠지만 달라지는 건 별로 없을 테고, 대기업들은 그곳에서 상상도 못 할 부를 찾아낼 거예요.

물론 암벽 등반이 한물가지는 않을 거예요. 오히려 더 가볍게 즐기는 새 탐험가들이 많이 합류할지도 몰라요. 비행기를 빌려 좋아하는 바위로 날아가, (손으로 벼리는 대신) 장비점에서 알맞은 도구를 사서 친구들과 함께 오르는 거죠. 체력이 덜 좋은 사람들은 더 장엄한 산을 찾아 날아다니거나, 어떤 봉우리보다도 높이 나는 비행기에서 산맥 전체를 내려다볼 거예요. 예전의 분위기와 짜릿함은 영영 사라질 거예요. 수학은 탐험의 영웅적인 옛 시절보다 훨씬 찬란하고, 훨씬 쓸모 있고, 동시에 훨씬 평범해질 거예요.

• • •

어디로 가는가?

비행기가 실패하는 쪽에 걸지 마세요. 회의론자들은 AI가 추측을 세우지 못하고, 이론을 만들지 못하고, 설명하지 못한다고 말하지만, 그건 지난봄 모델 이야기일 뿐이에요. 몇 달 안에 그 말은 더 이상 맞지 않을 거예요. 증거는 분명하고, 볼 눈이 있는 사람은 볼 수 있어요. “AI는 X를 못 한다”에 자기 정체성을 거는 사람은 모래 위에 집을 짓는 셈이에요.

제 형제 벌라주T5를 비롯해 많은 수학자가 일찍부터 이 변화를 받아들였어요. 또 재러드 듀커 릭트먼, 마이클 R. 더글러스T6를 비롯한 여러 사람이 지난 몇 년 동안 같은 비전을 향해 일하며 적극적으로 목소리를 내 왔어요. 수학자들은 열정적이면서도 객관적으로 일하고, 수학은 여전히 학계에서 가장 실력 중심적인 분야예요. 학계는 빨리 바뀌지 않을 거예요. 대학과 학술지, 종신 교수 심사 위원회는 앞으로 몇 년 동안 거의 그대로일 거예요. 하지만 이들이 무엇을 높이 쳐주는지는 근본적으로 달라질 거예요. 수학은 실력 중심이라는 데 자부심을 느껴 왔고, 남들이 오르지 못하는 곳을 오를 수 있는 탐험가들을 깊이 존경해 왔어요. 바로 그런 식의 영웅적 면모는 덜 중요해지고, 다른 능력이 더 중요해질 거예요. 탐험할 가치가 있는 땅을 고르는 능력, 비행기 편대를 이끄는 능력, 그리고 비행기가 찾아낸 것을 세상에 설명하는 능력이에요. 이 체계 안에 있는 많은 사람에게는 이 변화가 강등처럼 느껴질 테고, 일부는 맞서 싸울 거예요. 다른 분야들도 비슷한 격변을 겪었고, 살아남았어요. 달라지는 건 무엇이 인정받는지, 그리고 누가 무엇으로 존경받는지예요.

제가 고등학교를 마치고 경시대회 시절이 끝났을 때 느꼈던 감정을 많은 수학자도 느끼게 될 거예요. 방향을 잃고, 갑자기 목적이 사라져 버린 느낌이요. 그 슬픔은 진짜이고, 아닌 척하지는 않을게요. 하지만 오래가지는 않을 거예요. 수학은 이제 졸업을 앞두고 있어요. 본격적인 산업으로 자라나, 모든 과학과 기술의 발전을 떠받치는 진정한 인프라가 될 거예요. 학계의 조용한 한구석이 아니라, 다른 모든 분야가 딛고 서는 토대가 되는 거예요. 홀로 오르는 등반가의 시대는 저물고, 대륙 전체의 지도를 그리는 시대가 열리고 있어요. 저는 제 초음속 비행기에서 그 광대한 산맥을 내려다볼 날이 기다려져요.