문제 안에 있는 더 쉬운 문제를 찾아라
베스트셀러 수학적 발견술 지침서인 조지 폴리아의 『어떻게 문제를 풀 것인가』(1945년)는 이 분야의 작업 방법을 성문화했다. 문제를 풀 수 없다면 관련된 더 쉬운 문제 — 특수한 경우, 유사한 문제, 조건 하나를 뺀 문제 — 를 찾아 먼저 그것을 풀라는 것이다. 연구수학자들은 이를 본능적으로 행하는데, 폴리아는 그 본능을 가르칠 수 있게 만들었고 이 책은 백만 부 넘게 팔렸다.
핵심 기술은 계산이 아니다. 그것은 수십 년 전 기계가 넘겨받았다. 핵심은 정확히 정의된 대상에 관한 빈틈없는 논증을 구성하는 것이며, 더 어려운 메타 기술은 어떤 논증을 시도할 가치가 있는지 고르는 것이다. 현역 수학자들은 자신의 하루를 막혀 있는 상태로 솔직히 묘사한다. 앤드루 와일스는 연구를 몇 달 동안 어두운 방들을 더듬다가 전등 스위치를 찾으면 다음 어두운 방으로 옮겨가는 것에 비유했다.
이 일이 골라내는 기질은 그래서 독특하다. 어려운 문제에 시도된 거의 모든 접근이 실패하기 때문에 지속적인 실패를 견디는 편안함, 한 줄의 결함이 백 쪽을 무효로 만들기 때문에 강박적인 정확성, 그리고 막다른 방향을 일찍 포기할 만한 충분한 안목이다. 학교가 보상하는 자질인 속도는 가장 덜 중요하다. 이 분야의 가장 위대한 인물 중 여럿은 스스로를 느리다고 묘사했다.
이 일이 요구하는 역량
증명 구성97
문제 선택과 안목90
막힘을 견디는 끈기88
저술과 서술75
계산과 프로그래밍68
교육과 지도62
증명 구성
정의에서 결론까지 완전하고 빈틈없는 논리 사슬을 만드는 것 — 다른 어떤 분야도 쓰지 않는 확실성의 기준을 지닌 이 직업의 산물이다.
문제 선택과 안목
어떤 질문이 중요하면서도 기존 도구로 다룰 수 있는지 판단하는 것 — 경력을 가장 크게 가르는 기술이며, 지도교수들이 가르치기 가장 어렵다고 말하는 기술이다.
막힘을 견디는 끈기
몇 달 또는 몇 년간 진전 없이 같은 벽으로 돌아가는 것이다. 와일스는 페르마에 7년을 썼고, 연구의 일상적 결은 실패한 시도들이다.
저술과 서술
사적인 이해를 심사자가 검증하고 동료가 위에 쌓아 올릴 수 있는 논문으로 바꾸는 것 — 이 분야 전체의 기억은 기록된 증명이며, 잘못 쓰인 결과는 잊힌다.
계산과 프로그래밍
세이지매스, 매스매티카, 파이썬으로 실험을 돌려 데이터를 만들고 추측을 검증하며, 점점 더 Lean으로 형식 증명을 작성하는 것 — 현대의 실험대다.
교육과 지도
대부분의 연구직은 교수직이다. 강의, 박사과정 학생 지도, 도제 사슬을 따라 기술을 전수하는 것이 실제 업무의 절반이다.
하루의 풍경
- 7–9
arXiv와 서신
하루는 밤사이 올라온 자신의 분야 arXiv 목록과 심사 요청, 시간대를 넘나드는 공저자 이메일로 시작한다.
- 9–12
몰입 작업 시간
현재 문제에 대한 보호된 오전 블록이다. 쪽지와 칠판을 채우고, 예를 계산하고, 어제 실패한 같은 보조정리를 다시 공격한다. 하디는 하루 네 시간의 창의적 작업이 수학자의 한계라고 여겼다.
- 12–14
점심과 공용실 티타임
학과 점심과 티타임은 휴식이 아니라 업무 제도다. 협업의 절반은 복도의 한마디로 시작되며, 강한 학과들은 이 의식을 격렬히 지킨다.
- 14–16
강의와 지도
학부생 강의를 하고, 그다음 박사과정 학생들과의 면담이다. 주장된 증명을 한 줄씩 확인하거나, 막힌 학생에게 그 문제의 더 작은 버전을 건네준다.
- 16–19
세미나와 칠판 협업
누군가의 새 연구에 관한 한 시간, 이어지는 질문으로 이루어진 연구 세미나, 그다음 공저자와의 분필 세션이다. 대부분의 공동 논문이 실제로 만들어지는 곳이다.
- 19–7
저술, 숙성, 휴식
저녁은 논문 저술과 편집에 쓰인다. 휴식도 진짜 작업이다. 푸앵카레는 의식적인 노력이 멈춘 뒤 해답이 떠오르는 과정을 기록했고, 수학자들은 잠들기 전 문제를 의도적으로 머릿속에 담아둔다.
노하우
현장에서 실제로 전수되는 기술 지식 — 동기부여 문구가 아니다.
패턴이 스스로 드러날 때까지 예를 계산하라
가우스는 십대 시절 표에서 소수를 한 번에 수천 개씩 손으로 세어 소수정리의 내용을 발견했다. 아무도 증명할 수 없었던 시대보다 수십 년 앞선 일이었다. 이 기술은 그대로 살아남았다. 현대 연구자들은 컴퓨터 실험을 돌려 데이터를 만들고 패턴을 추측한 다음에야 증명을 시도한다. 격언에 따르면 예에서 정직하게 얻은 좋은 추측은 정리의 절반이다.
밀려오는 바다
알렉산더 그로텐디크는 견과를 여는 두 가지 방법을 설명했다. 망치와 끌을 쓰거나, 몇 주 동안 물에 담가 스스로 열리게 하는 것이다. 그의 방법 — 어려운 문제가 눈에 보이는 몸부림 없이 저절로 풀릴 만큼 참을성 있게 일반 이론을 세우는 것 — 은 대수기하학을 재건했고, 문제를 억지로 밀어붙이는 대신 틀을 확장하는 것이 오늘날 많은 수학의 신중한 전략으로 남아 있다.
정신을 채운 다음 물러나라
앙리 푸앵카레는 몇 주 동안 푹스 함수 작업에 헛되이 매달렸다가, 쿠탕스에서 승합마차에 오르며 수학과 무관한 생각을 하던 중 해법이 완전한 형태로 떠오른 경험을 기록했다. 의식적으로 포화시킨 다음 휴식 중 숙성이 작동하도록 두라는 그의 처방은 이 분야 전체에 걸친 의도적 기법이며, 그 때문에 수학자들은 산책과 샤워와 수면을 업무 시간으로 옹호한다.
좋은 네 시간이 평범한 열두 시간보다 낫다
G. H. 하디는 아침식사부터 점심까지 일하고 오후는 크리켓에 썼다. 창의적 작업 네 시간이 수학자의 한계 정도이며, 그것을 넘기면 내일 되돌려야 할 실수만 낳는다고 믿었다. 증명에 대한 깊은 집중은 생리적으로 비용이 크다. 이 규율은 정점의 시간을 늘리는 것이 아니라 지키는 것이다.
장난감 모델을 먼저 풀어라
테런스 타오의 널리 읽히는 진로 조언은 현대의 작업 방법을 성문화한다. 어려운 문제를 가장 단순한 자명하지 않은 경우로 벗기고 편리한 가정을 모두 더해 그것을 풀고, 그다음 가정을 하나씩 제거하라는 것이다. 그는 또한 부분적 진전과 실패한 접근을 기록해 두라고 조언하는데, 뻔한 공격이 왜 실패하는지 아는 것 자체가 옮겨 쓸 수 있는 자산이기 때문이다.
일의 도구들
칠판과 분필
여전히 이 분야를 대표하는 도구다. 분필의 속도는 설명되는 사고의 속도와 맞고, 지우개는 위험을 감수하도록 부추긴다. 존경받는 일본산 하고로모 분필은 2015년 제조사가 문을 닫은 뒤에도 한국 기업이 제조법을 사들인 덕에 살아남았다.
LaTeX
도널드 커누스의 TeX(1978년, 자신의 책 교정쇄가 못생겨서 만듦)와 레슬리 램포트의 매크로에 기반한 수학의 보편적 조판 시스템이다. 이 분야의 모든 학술지, 프리프린트, 학위논문이 이것으로 작성된다.
증명 보조 도구(Lean, Coq)
형식화된 증명의 모든 논리적 단계를 검증하는 소프트웨어다. 2017년부터 개방 커뮤니티가 구축한 Lean의 mathlib 라이브러리는 백만 줄이 넘는 형식 수학을 통과했고, 2022년 페터 숄체의 정리를 포함한 연구 수준 정리를 확인했다.
컴퓨터 대수 시스템
매스매티카, 메이플, MATLAB, 매그마, 오픈소스인 세이지매스는 인수분해, 그래프 그리기, 행렬 계산 등 추측을 낳는 예와 데이터를 만드는 기호·수치 실험을 다룬다.
arXiv
1991년 폴 긴즈파그가 로스앨러모스에서 창설한 프리프린트 서버로, 사실상 모든 새로운 수학이 학술지 출판 전에 이곳에 나타난다. 아침에 목록을 확인하는 것은 이 직업의 공유된 일상 의식이며, 그곳에 올리는 것은 우선권에 시간을 새기는 일이다.
실패하는 이유
대비책 없이 유명 문제를 공격하기
부분적으로 추출 가능한 결과를 낼 전략 없이 리만 가설이나 콜라츠 추측에 여러 해를 쏟는 것은 잘 알려진 초기 경력의 살인자다. 폴 에르되시는 콜라츠에 대해 수학이 "아직 그것을 다룰 만큼 무르익지 않았다"고 말했다. 와일스가 페르마에 7년을 걸 수 있었던 것은 모듈성에 관한 부분적 진전만으로도 독자적으로 발표 가능했기 때문이다.
신동의 함정
방 안에서 가장 빠르다는 것에 기반한 경력은 흔히 연구 최전선에서 무너진다. 그곳에서는 모두가 자기 방에서 가장 빨랐고, 문제는 몇 분이 아니라 몇 달이 걸린다. 속도에서 지구력으로의 전환은 상당수 박사과정 학생을 좌절시키며, 지도교수는 다른 어떤 지식의 공백보다 이것을 더 주시한다.
결코 발표하지 않는 완벽주의
이 분야의 절대적 정확성 기준은 연구자들이 우선권이 새어나가는 동안에도 결과를 끝없이 다듬도록 유혹한다. 90퍼센트 완성된 논문들이 쌓인 서랍은 실제로 상당한 피해를 낸 오래된 농담이다. arXiv는 경쟁을 더 날카롭게 만들었다. 발표되지 않은 결과는 내일 누군가에게 독립적으로 발견되고 시간이 새겨질 수 있다.
계속 탐색하기
과학·연구 분야의 다른 직업
⚛️
물리학자
물질과 에너지, 공간과 시간을 지배하는 수학 법칙을 이끌어내고 검증한다. 혼자 칠판 앞에 선 연구자에서 3,000명이 공동 저자로 이름을 올리는 입자가속기 논문까지 그 모습은 다양하다.
AI 내성 65 🧬생물학자
생명 그 자체를 연구하는 과학자. 린네가 손으로 종을 명명하던 시절부터 크리스퍼로 유전체를 편집하는 오늘날까지, 모든 아이디어를 살아있는 생물체에 비추어 검증한다.
AI 내성 64 🧪화학자
물질 그 자체를 만들고 측정하는 과학자 — 바빌로니아 타푸티의 증류기에서 오늘날 로봇 실험실에 이르기까지, 스펙트럼이 의미하는 바를 결정하는 것은 여전히 사람이다.
AI 내성 70 📊데이터 과학자
데이터에서 패턴을 찾고 예측 모델을 만드는 직업 — 2008년에 붙여진 이름이지만, 그 밑바탕에는 3세기에 걸친 증거 수집·검증·시각화의 역사가 있다.
AI 내성 38 🔭천문학자
바빌로니아의 점토판에서 우주 망원경까지, 우주를 측정하는 과학자 — 데이터 속 어떤 깜빡임이 발견인지는 지금도 가려내는 중이다.
AI 내성 70