AI가 증명을 만들어도 이해는 남는다 — Daniel Litt의 수학 제도 개편론

TL;DR

• 수학 논문은 오랫동안 새로운 결과와 작성자의 전문성을 동시에 보여주는 신호였다. Litt는 AI로 수학 텍스트를 만드는 일과 사람이 그 내용을 이해하는 일이 분리되고 있다고 본다. 제도 개편의 이유는 모든 수학이 자동 해결된다는 예측보다 이 약한 전제에 있다.
• 박사학위는 깊은 주제를 이해하고 남에게 설명할 능력을 더 직접적으로 확인해야 한다는 제안이다. 논문을 없애는 대신 엄격한 구술 방어와 낯선 사례에 대한 적용을 중시한다. AI 사용 여부보다 학생이 이해를 책임지는지가 중심이다.
• 좋은 질문과 연구 프로그램, 함께 배우는 공동체도 평가할 가치가 있다. 이는 AI가 질문을 만들지 못한다는 인간 독점론은 아니다. 무엇을 이해하고 싶어 하는지와 그 이해를 어떻게 공유할지는 여전히 공동체의 과제다.
• 기계가 증명을 싸게 만든다고 인간 연구의 가치까지 같은 단가로 환산할 수는 없다. 인간의 연구 과정은 결과뿐 아니라 이해와 전문성도 만들어낸다. AI의 아름다운 설명을 받아도 누군가 대신 이해해 줄 수는 없다는 것이 글의 결론이다.

결과를 생산했다는 사실이 전문성을 보증하지 못한다

Daniel Litt는 머지않아 수학의 대부분 영역에서 인간을 능가하는 AI가 등장할 것이라는 강한 전망을 전제로 글을 쓴다. 그러나 그가 제안하는 제도 변화에는 더 약한 전제만 필요하다고 선을 긋는다. 수학 텍스트를 만들어내는 일과 사람이 그 내용을 이해하는 일의 연결이 약해지고 있다는 전제다. 결과물이 흥미롭고 가치 있다는 판단과 그 결과물을 제출한 사람이 깊은 전문성을 갖췄다는 판단을 구분해야 한다는 주장이다.[3]

그가 앞서 「The End of Mathematics」라는 강연에서 다룬 것은 AI가 모든 문제를 풀어 수학이 끝난다는 예측이 아니었다. 우려의 대상은 제도가 적응하지 못해 인간의 이해가 정체되고 수학적 진보까지 손상될 수 있는 미래였다. 이번 글은 그 가능성을 피하기 위해 무엇을 보존하고 바꿀지 제안한다. 따라서 도입에 등장하는 AI 성과에 대한 낙관을 독립적인 성능 검증으로 읽기보다, 인간의 이해와 제도의 목표를 다시 묻는 논설로 읽는 편이 정확하다.[3]

정리의 개수로 수학의 목적을 모두 표현할 수는 없다

Litt가 제시하는 목표는 좋은 수학을 생산하고 이해하는 일과 좋은 수학자를 길러내는 일이다. 좋은 수학이 무엇인지는 공동체 안에서 변화하며 수학자를 양성하는 일에는 연구자 훈련뿐 아니라 대중에게 수학적 사고를 전하는 일도 포함된다. 정리를 증명하고 난제를 푸는 일은 중요하지만 이 목표들의 대리 지표이지 목표 전체와 같지는 않다. 학술 제도가 텍스트와 결과의 수량에 의존할수록 이 차이가 드러난다.[3]

그는 ZFC 공리에서 추론 규칙을 기계적으로 적용해 정리를 나열하는 사고실험을 든다. 의미와 흥미를 전혀 고려하지 않는 정리 생산만으로는 공동체가 원하는 수학을 설명할 수 없다. 더 나아가 기계가 중요한 문제를 고르고 풀며 아름답게 설명하는 경우에도 답이 생겼다는 사실만으로 인간의 이해가 생기지는 않는다. 보호할 대상은 저널이나 심사 제도의 현재 모양 자체보다 세미나와 대화, 학생과 교수, 함께 혼란을 풀어가는 공동체라는 관점이다.[3]

박사학위는 주제에 대한 이해를 직접 확인한다

박사과정의 목표를 흥미롭고 깊은 주제의 전문가가 되어 그 이해를 다른 사람에게 전달하는 능력으로 다시 정하자는 것이 Litt의 구체적인 제안이다. 논문은 여전히 일부 요건일 수 있고 주제의 독창성을 요구할 여지도 남긴다. 다만 학위의 주된 근거는 학생이 심사위원에게 자신의 주제를 충분히 설명하는 엄격한 구술 방어가 된다. AI를 사용했는지보다 그 내용을 실제로 이해하고 책임질 수 있는지가 중요하다.[3]

훈련 과정에서는 지도교수와 주제를 정하고 정기적으로 이해를 확인한다. 처음 보는 예제를 독립적으로 풀거나 익힌 기법을 새로운 경우에 적용하게 하는 방식이 그 예다. 연구 주제는 지금보다 크고 개방적일 수도 있으며 AI 도움을 받을지는 선택할 수 있다. 출처 제한만으로 AI 사용을 통제하기 어렵고 은폐 유인을 만들 수 있다는 것이 저자의 실용적 이유지만 구술 방어만으로 모든 평가 문제가 해결됐다는 실증 결과를 제시한 것은 아니다.[3]

선발과 보상은 대화와 공동체 형성도 평가한다

채용과 대학원 입학에서도 논문만으로 이해를 추정하는 방식은 바뀌어야 한다는 입장이다. Litt는 발표와 지속적인 수학 토론을 더 직접적인 이해의 증거로 보고 대학원 입학에도 면접을 강화하자고 제안한다. 세미나에서는 발표자가 청중이 납득할 때까지 주제를 설명하는 문화를 중시한다. 인간 내부에 생기는 이해와 사람 사이의 관계를, 문서 생산량으로 우회해 평가하지 말자는 방향이다.[3]

무엇이 흥미로운 문제인지를 가려내고 그 문제를 탐구할 공동체를 만드는 일에도 더 큰 보상을 제안한다. 다른 연구자에게 가치를 설득할 수 있는 연구 프로그램을 구성하는 것이 한 가지 가능성이다. 다만 저자도 이를 평가 제도로 어떻게 구현할지는 확실하지 않다고 인정한다. 이 글이 연구 프로그램 보상을 위한 완성된 점수표나 연구비 배분안, 새로운 저널 운영 체계를 제시했다고 확대해서는 안 된다.[3]

인간의 몫을 현재 AI의 약점에만 걸지 않는다

이 제안은 좋은 질문이나 설명은 인간만 할 수 있다는 주장에 기대지 않는다. Litt는 AI도 흥미로운 질문과 추측, 연구 프로그램을 만들 가능성이 높다고 본다. 현재 모델이 약한 영역으로 인간의 평가 기준을 옮기더라도 학계가 적응하는 속도보다 모델이 개선되는 속도가 빠를 수 있다. AI 기업이 수학에서 철수하거나 거품이 꺼지면 이전 질서로 돌아갈 것이라는 가정에도 의존하지 말자는 입장이다.[3]

새로운 결과의 양이 많아질수록 그 의미를 이해할 사람과 공동체의 필요는 줄어들지 않는다. 응용되는 결과에도 전제와 결과를 이해할 사람이 필요하고 기초 대상에 관한 결과는 사람들이 그 내용에 관여할 때 가치가 쌓인다. AI가 좋은 질문을 만들어도 그것이 인간이 궁금해할 질문과 반드시 같을 이유는 없다. AI를 적극적으로 쓰는 사람과 쓰지 않는 사람이 함께 수학을 할 수 있지만 이미 생성된 결과의 존재를 완전히 피하기는 어려워진다는 전망이다.[3]

저렴한 증명과 인간이 배우는 과정은 같은 생산물이 아니다

일부 수학 문제를 돈과 연산을 투입해 풀 수 있게 되면, 과거의 긴 해결 과정에서 만들어졌을 공동체와 예상 밖의 부수적 발전이 사라질 수 있다. Litt는 이 손실을 인정하면서도 값싸게 얻은 답을 출발점으로 더 많은 질문을 만들 수 있다고 본다. 좋은 식사 한 번의 비용으로 문제를 푼다는 표현도 각주에서 한계비용이라고 제한한다. 모든 문제의 실제 해결 단가를 측정한 수치로 받아들여서는 안 된다.[3]

비용 비교에도 중요한 차이가 있다. Michael Groechenig의 지적을 소개한 각주는 인간의 연구가 증명 외에 사람의 이해와 전문성을 생산하므로 기계의 증명 비용과 단순 비교하기 어렵다고 설명한다. 특정 문제를 학생의 독점 과제로 남겨두기는 어려워도 학생이 그 문제를 연구하고 배우는 기회까지 없어지는 것은 아니다. 마지막 장면의 학생과 교수는 칠판 앞에서 질문을 생각하고 필요하면 모델에게 도움을 구한다. 답과 설명을 받을 수 있어도 이해하는 작업은 스스로 해야 한다는 것이 Litt가 보존하려는 수학의 모습이다.[3]

참고 자료

[3] https://www.daniellitt.com/blog/2026/9/13/a-beginning-for-mathematics — A beginning for mathematics — Daniel Litt