🧮AI와 미래

수학자 · 바빌로니아 서기관에서 필즈상 수상자와 AI 보조 증명까지: 어려운 질문을 영구적 확실성으로 바꾸는 직업, 정리 하나하나마다.

수학은 기계가 명성이 걸린 작업부터 먼저 노리는 드문 직업이다. 계산은 수십 년 전에 무너졌다. 2024~25년에 이르러 AI 시스템은 국제수학올림피아드 문제에서 은메달을 거쳐 금메달 수준에 도달했고, Lean 같은 증명 보조 도구는 2022년 저자 스스로 손으로 검증하기를 두려워한 정리를 포함해 연구 최전선의 논증을 검증했다. 이제 진지한 수학자 중 일상적인 보조정리 증명이 오래 인간의 일로 남으리라 장담하는 사람은 없다.

그러나 이 직업의 반응은 두려움보다는 흥분에 가까웠다. 이 분야에서 가장 희소한 작업은 기계가 하는 모든 것보다 위쪽에 있기 때문이다. 어떤 질문이 인생의 여러 해를 바칠 가치가 있는지 결정하고, 막연한 직관을 증명 가능하게 만드는 정의를 발명하고, 무한히 많은 참인 명제 중 어떤 것이 의미 있는지 판단하는 일이다. 테런스 타오를 비롯한 여러 사람은 가까운 미래를 수학자들이 지치지 않지만 반쯤 믿을 만한 기계 협업자 팀을 지휘하는 모습으로 묘사한다.

30 / 100
중간

기계가 대신할 수 있는 업무의 비율

문헌 검색, 검증, 계산, 잘 정의된 문제 풀이 등 실제 업무 시간의 상당 부분이 지금 자동화되고 있고, AI는 이미 경시대회 수준의 결과를 증명한다. 하지만 경력을 정의하는 작업 — 문제 선택, 개념 형성, 의의 판단, 인간 지도 — 은 현재 시스템이 하는 일과 가장 거리가 멀다. 가장 가능성 높은 결과는 일상적 보조정리 증명에 쓰는 시간은 줄고 무엇을 증명할지 결정하는 데 쓰는 시간이 느는 것이다. 직업의 제거가 아니라 변형이다.

직함이 아니라 업무 단위로 산정했다. 낮을수록 안전하다.

AI가 대체하지 못하는 직업 →

기계가 가져가지 못하는 것

어떤 질문이 중요한지 선택하기

92

정리 증명기는 이미 제시된 추측을 공략할 수 있지만, 어떤 질문이 10년을 바칠 가치가 있는지 결정하거나 다른 질문이 더 중요하다는 것을 알아채지는 못한다. 문제 선택은 이 직업의 복리로 쌓이는 강점이다.

정의와 틀 발명하기

88

이 분야의 가장 심오한 움직임 — 그로텐디크의 스킴, 뇌터의 환, 칸토어의 무한 — 은 이후 연구가 계산하는 대상을 만들어냈다. 연역이 아니라 개념 형성이 수학이 실제로 성장하는 곳이며, 아직 어떤 시스템도 이를 하지 못한다.

수학적 안목

84

무한히 많은 참인 명제가 있고 그중 거의 전부는 가치가 없다. 어떤 결과가 밝혀주는지, 어떤 증명이 단순 검증을 넘어 설명하는지, 어떤 방향이 결실을 맺을지 판단하는 것은 여러 경력에 걸쳐 쌓인 인간의 합의로 남아 있다.

의미에 대한 책임

76

수학이 암호체계, 신약 임상시험의 통계, 항공기 제어 법칙을 보증할 때, 정리가 실제로 세계에 대해 말하는 바에 대해 책임질 지명된 인간이 필요하다. 기계로 검증되었다는 것이 올바르게 모델링되었다는 것과 같지 않다.

교육과 지도

68

지도교수에서 학생으로 중세 대학 이래 이어져 온 도제 사슬은 내용뿐 아니라 안목과 기준을 전수하며, 이는 이 직업이 스스로를 재생산하는 방식으로 남아 있다.

이미 가져가고 있는 것

기호 및 수치 계산

95

이미 사라졌다. 컴퓨터 대수 시스템은 1980년대부터 이 분야의 계산, 적분, 방정식 풀이를 처리해 왔고, 어떤 현역 수학자도 이를 아쉬워하지 않는다.

문헌 검색과 종합

78

언어모델은 이제 어떤 인간의 독서보다 빠르게 수백만 편의 논문에서 관련 보조정리, 알려진 기법, 선행 연구를 검색한다. 이는 에르되시 같은 학자를 정의했던 백과사전적 기억의 이점을 갉아먹고 있다.

증명 검증

72

정확성을 한 줄씩 확인하는, 심사자의 가장 지루한 임무는 점점 더 Lean과 Coq 같은 형식체계의 몫이 되고 있으며, 이들은 지친 인간 심사자가 따라오지 못하는 엄밀함으로 이를 해낸다.

잘 정의된 문제 풀이

62

정확히 서술된 경시대회 형식 문제가 주어지면 AI 시스템은 2025년 IMO 금메달 수준에 도달했다. 이를 인간이 서술하고 기계가 증명하는 일상적 연구 보조정리로 확장하는 것이 지금 넘어서고 있는 최전선이다.

일이 변해가는 방식

형식화가 일상 관행이 되다

페터 숄체의 액체 텐서 실험(2021~22년)은 그가 가장 중요하지만 검증하기 가장 어렵다고 여긴 정리를 Lean 커뮤니티가 검증하는 과정을 보여주며 많은 회의론자를 설득했다. 주요 신규 증명들은 점점 더 기계 검증된 동반물과 함께 발표되고 있고, 학술지들도 이를 기대하기 시작했다.

AI가 계산기에서 협업자로 옮겨가다

딥마인드의 2021년 네이처 논문은 매듭이론과 표현론에서 추측을 생성했고, 수학자 조디 윌리엄슨과 동료들이 이를 증명했다. 알파프루프가 2024년 뒤를 이었다. 새로 떠오르는 노동 분업은 기계가 제안하고 갈아내며, 인간이 틀을 잡고 판단하는 것이다.

수학이 단체 종목이 되다

유한단순군 분류는 수만 쪽의 학술지 지면과 백여 명 넘는 저자를 소모했고, 2009년 이후 폴리매스 프로젝트는 개방된 온라인 군중이 정리를 증명하는 모습을 보여주었다. 평균 저자 수는 계속 늘고 있다. 고독한 천재의 작업방식은 조용히 물러나고 있다.

수학적 두뇌를 향한 시장이 움직이다

AI 연구소, 트레이딩 회사, 암호학 팀은 이제 연구수학자를 두고 직접 경쟁하며, 학계가 훈련시키지만 그만큼 지불할 수 없는 바로 그 재능을 채용한다. 20세기 물리학이 그랬듯, 이 직업의 중심축은 수학과에서 산업계로 옮겨가고 있다.

갈라져 나오는 새 직업들

머신러닝 연구자

딥러닝의 수학 — 최적화, 확률론, 고차원 공간의 기하학 — 은 얇으며 그 자체로 공공연히 인정된다. 연구수학자는 실증적 결과가 여전히 기다리고 있는 이론을 세우기 위해 채용된다.

퀀트 연구원

트레이딩 회사는 확률미적분, 통계, 최적화로 운영되며 수학과에서 직접 채용해 학계 급여의 몇 배를 지불한다. 이 분야 박사들에게 가장 큰 단일 출구 경로다.

암호학자

NIST가 2024년 확정한 양자내성암호 표준은 순수 정수론의 격자 문제에 기반한다. 세계의 통신 보안은 이제 문자 그대로 배포 마감이 있는 응용 연구수학이다.

형식 검증 엔지니어

순수수학에 진입 중인 것과 같은 증명 보조 도구 기술이 칩 제조사와 클라우드 제공업체에서 산업적으로 유급 활용되고 있다. 인텔은 1994년 펜티엄 나눗셈 버그가 4억 7,500만 달러의 손실을 낸 이후 부동소수점 연산 장치를 형식 검증해 왔고, AWS는 자사 핵심 프로토콜의 속성을 증명한다.

전망

가까운 미래에 대한 솔직한 그림은 이렇다. 풀이처럼 보이는 부분 — 잘 정의되고, 자체완결적이고, 검증 가능한 — 은 계산이 그랬던 것처럼 점점 더 기계와 함께 또는 기계에 의해 이루어질 것이다. 질문처럼 보이는 부분 — 틀 짓기, 정의하기, 판단하기, 가르치기 — 은 자동화될 조짐이 전혀 없으며, 종사자들은 늘 이를 진짜 일이라 여겨 왔다.

경제도 같은 방향을 가리킨다. 기계가 똑똑해질수록 수학 훈련을 받은 인력에 대한 수요는 모든 곳에서 커지는데, 누군가는 기계가 무엇을 해야 하는지 명시하고 무엇을 했는지 검증해야 하기 때문이다. 미국 노동통계국은 2033년까지 수리 직군에서 두 자릿수 성장을 전망한다. 명찰에 적힌 이름은 연구자, 퀀트, 과학자일 수 있지만 훈련은 수학자의 것이다.

열려 있는 질문은 경제가 아니라 문화의 문제다. 정체성을 아무 도움 없는 인간 증명 위에 세운 분야가 기계 보조 정리를 온전히 자신의 지식으로 대할 것인가 하는 것이다. 1976년의 사색정리 논쟁은 이 논쟁을 예고했고, Lean 시대는 이를 형식화된 증명 하나하나로 실제 해결해 나가고 있다. 자신의 이름 — 컴퓨터 — 을 기계에 빼앗기고도 살아남은 이 직업은 아마 그 증명을 기계와 나누는 것도 견뎌낼 것이다.

계속 탐색하기

과학·연구 분야의 다른 직업