증명 소화불량이 시작됐다 - 테런스 타오가 여섯 기둥과 AI 이후의 수학을 말하다

증명 소화불량이 시작됐다

TL;DR

• 타오는 다가올 책을 여섯 개념으로 구성했는데 수, 대수, 기하, 확률, 해석, 동역학이다. 성격이 규정된다. 수천 년이나 수백 년 전에 기원을 가진 아주 기본적 개념인데 극도로 정교한 수학으로 진화했고, 기술적 복잡성을 벗겨 내면 정말로 극도로 직관적인 개념들이다.
• 수의 기능이 문명 조건으로 설명되는데 수가 없다면 어떤 상황을 서술할 때 늘 시적으로 말해야 하고 항상 조금 부정확할 것이며 다음 사람이 조금 다르게 이해할 것이라는 것이다. 냉소적 사례도 붙는다. 불행히도 과세 없이는 문명을 가질 수 없고 그것은 수학과 수를 요구한다.
• 무한을 다루는 방식이 게임 치트로 비유되는데 무한 체력이나 무한 탄약 치트로 먼저 게임을 해 보고 그다음 어려운 난이도로 더 효율적으로 하는 법을 본다는 것이다. 수학의 특권도 규정된다. 수학을 다른 분야와 구분하는 것 하나가 실패할 자유이고 수학에서 실패는 아주 값싸다.
• AI 시대의 핵심 진단이 소화 단계에 있는데 AI 도구가 이 과정의 초기 단계는 가속하지만 후기 단계는 가속하지 않는다는 것이다. 그래서 새 현상에 증명 소화불량이라는 이름이 붙는다. 이해되고 교과서로 들어가야 할 해답이 갑자기 아주 많이 쌓여 있고 우리는 그것들로 넘쳐난다.
• 가장 인상적인 비유가 하이킹인데 폭포를 찾아 친구들과 하이킹을 가면 길을 잃기도 하지만 잃는 동안 흥미로운 다른 것을 발견해 기록한다는 것이다. 그런데 AI는 헬리콥터처럼 폭포로 곧장 날아가 보고 돌아오지만 어떻게 가는지는 아무것도 배우지 못한다.

Source

_{Source: One of the world's greatest mathematicians explains 6 essential concepts of math — Terence Tao, Big Think, 1시간 24분 36초}

Knowledge

여섯 기둥을 고른 이유

발표는 구성 원칙을 먼저 밝힌다. 수천 년이나 수백 년 전에 기원을 가지고 초기 단계에서는 대부분 사람에게 아주 친숙한, 정말로 근본적인 여섯 개념으로 책을 구성하기로 했다. 목록이 열거된다. 수가 첫 개념이고 그다음 대수, 기하, 확률, 해석, 동역학이다.

역설이 함께 규정되는데 이 대비가 이 강연의 태도를 보여 준다. 모두 아주 기본적인 개념인데 아주 정교한 수학으로 진화했다. 그런데 본질은 남는다. 기술적 복잡성을 모두 벗겨 내면 정말로 극도로 직관적인 개념들이다. 수학의 역할도 규정된다. 우리가 발전시킨 수학은 그것을 정말 정말 조심스럽게, 그리고 이 개념들에 대해 아주 명확하게 생각할 수 있게 해 주는 정확한 언어일 뿐이다.

수, 문명의 전제 조건

수의 오래됨이 근거와 함께 제시된다. 알파벳이나 다른 문자보다 앞서는 뼈 조각의 기록이 있고 여러 문명에서 여러 번 발명됐다.

수가 없을 때의 상태가 서술되는데 이 묘사가 인상적이다. 수가 없다면 어떤 상황을 서술하려 할 때 늘 시적으로 말해야 하고 항상 조금 부정확할 것이며 당신이 말하는 것을 전달하는 다음 사람이 조금 다르게 이해할 것이다. 그래서 기능이 규정된다. 수는 정확성을 허용한다. 그리고 성격이 명시된다. 수량과 크기, 규모 같은 개념을 아주 이동 가능한 것으로 만드는 자리표이며 당신이 서술하는 대상과 직접 상호작용하지 않았을 수 있는 다른 사람에게 전달할 수 있다.

인간의 본성에 대한 지적도 붙는다. 인간은 수로 생각하도록 배선되어 있지 않다. 결과가 실용적으로 서술된다. 양적으로 생각하고 행동의 이득과 비용을 둘 다 측정하고 어느 쪽이 더 큰지 볼 능력이 없으면, 나중에 후회할 삶의 선택을 할 수 있고 아주 적은 이득을 위해 많은 자원을 쓸 수 있다.

문명 조건에 대한 언급이 가장 신랄하다. 농업이나 무역 같은 기본적인 것들이 곡물 같은 큰 수량을 측정할 수 있는 능력 없이는 일어날 수 없었다. 그리고 냉소가 덧붙는다. 불행히도 과세 없이는 문명을 가질 수 없고 그것은 수학과 수를 요구한다.

균형도 유지된다. 물론 모든 것이 양적이지는 않다. 예시가 재미있다. 데이트를 가고 싶다면 예상 파트너의 비용과 이득을 측정해서는 안 된다. 다만 조건이 붙는다. 금융이나 의학처럼 양적 사고가 아주 도움이 되는 결정이 현대 세계에 점점 많다.

수 체계의 확장 과정이 이 절에서 가장 잘 설명된다. 출발이 양이다. 양을 세다가 곧 덧셈과 뺄셈 개념을 발전시킨다. 그런데 문제가 생긴다. 1, 2, 3, 4만 있으면 항상 더할 수는 있지만 항상 뺄 수는 없다. 3에서 4를 빼는 것은 말이 안 되고 양 세 마리에서 네 마리를 가져갈 수 없다.

그런데 확장의 동력이 규칙의 규칙성에서 나온다는 점이 핵심이다. 수 자체의 패턴이 너무 규칙적이어서 산술 규칙을 맹목적으로 적용하면 3에서 4를 뺄 수 있고 새 수를 가질 수 있을 것처럼 느껄진다. 그래서 음수가 발명되고 검증 기준이 제시된다. a에서 b를 빼고 다시 b를 더하면 a를 돌려받는다는 산술 법칙이 음수가 있어도 여전히 작동한다.

같은 경로가 반복된다. 나눗셈에서 분수가 나오고 그다음 충격이 온다. 모든 유리수 사이에 어떻게든 제곱근 2 같은 어떤 비로도 표현될 수 없는 수가 있다는 것을 발견했다. 어원도 지적되는데 이 관찰이 당시의 반응을 알려 준다. 이 수들은 문자 그대로 무리수라고 불리는데, 라틴어로 불합리하다기보다 미쳤다는 뜻이다.

마지막 확장이 복소수다. 음수의 제곱근을 취하려 했는데 보통 수 체계에서는 할 수 없어서 복소수를 발명했고 그것이 전자기학과 양자역학에 극도로 유용한 것으로 드러났다. 그리고 이 사실에 대한 평가가 붙는데 이 문장이 수학과 물리의 관계를 압축한다. 방정식을 더 잘 풀고 실용적 문제를 풀기 위해 발명된 수 체계들이 결국 양자역학처럼 실제 세계의 아주 복잡한 현상을 서술하는 가장 자연스러운 언어가 된다는 것이 놀랍다.

대수, 연산 자체를 연구하다

추상화 층위가 명확히 구분된다. 수에서는 양 무리나 물의 양 같은 구체적인 것을 수로 대체하고 연산을 적용했다. 대수는 한 걸음 더 간다. 7이나 17 같은 특정 수를 보지 않고 먼저 수를 x와 y 같은 더 일반적인 자리표로 대체하며 연산 자체도 연구하고 연산이 어떤 성질을 갖는지 묻는다.

교환법칙이 예시로 제시되고 확장이 인상적이다. 어떤 물체를 30도 회전하고 다시 60도 회전하는 것과 순서를 바꾸는 것이 같은 위치로 끝난다. 그래서 결론이 나온다. 그 연산은 전통적 의미의 덧셈이나 곱셈과 아무 관계가 없는데도 같은 대수적 구조를 갖는다.

반례도 함께 제시되는데 이 예가 기억에 남는다. 양말을 신고 신발을 신는 것과 신발을 먼저 신고 양말을 신는 것은 다른 결과를 낸다. 그 두 연산은 교환되지 않는다.

전이가 왜 유용한지도 규정된다. 법칙이 우리가 이미 수에 대해 이해하는 법칙과 아주 비슷하면, 수의 직관과 아이디어와 증명과 이론을 다른 상황으로 옮길 수 있다. 현대적 사례가 붙는다. 행렬은 수보다 훨씬 복잡한 개념이지만 수와 아주 비슷한 대수 법칙을 따르며 대규모 언어 모델 같은 현대 기술 다수가 행렬을 아주 효율적으로 조작할 수 있는 것에 기반한다.

케플러 이야기가 대수의 초기 용례로 제시되는데 이 사례가 구체적이다. 그가 본 것이 포도주 시장에서 큰 통과 작은 통을 팔던 상인들이었고 시장 책임자의 방법이 놀라웠다. 눈금이 있는 막대 하나만 가지고 통 중간의 구멍으로 막대를 넣어 모퉁이까지 찔러 넣고 막대가 얼마나 들어가는지 보고 이건 30갤런이라고 말할 수 있었다.

무엇이 그를 놀라게 했는지도 명시된다. 어떤 통은 아주 높고 홀쭉하고 어떤 것은 낮고 넓은데, 이 대각선 하나의 측정으로 어떻게 부피를 계산할 수 있는가.

그리고 해법의 구조가 흥미롭다. 그는 반지름과 높이로 방정식을 세웠는데 길이가 부피를 완전히 결정하지는 않았다. 그런데 조건 하나를 추가하자 풀렸다. 포도주 상인은 가능한 한 많은 포도주를 팔고 싶어 하므로 주어진 길이에 대해 얻을 수 있는 부피를 최대화하고 싶어 할 것이다. 결과가 이렇다. 이익 동기를 더하고 초보적인 미적분을 했더니, 실제로 시장에서 팔리던 통 모양과 거의 정확히 일치했다.

그래서 해석이 붙는다. 시장이 경험적 측정으로 시간에 걸쳐 만들어 낸 규칙을 그가 설명했고 이것이 몇 세기 뒤 뉴턴과 라이프니츠가 발전시킨 미적분의 영감의 일부였다고 생각한다. 현재 관점의 대비도 재미있다. 현대 대수로는 고등학생에게 낼 수 있는 문제다.

기하, 감각을 확장하는 법

어원부터 설명된다. 기하학은 문자 그대로 그리스어로 지구의 측정이다.

법칙의 존재가 수와 대비된다. 수가 a 더하기 b는 b 더하기 a 같은 패턴을 갖듯, 점 사이의 거리와 각을 측정하기 시작하면 그 모든 측정 사이에 아주 많은 관계가 있다. 그래서 규정된다. 기하는 수가 법칙을 따르듯 법칙을 따른다.

닮음의 유용성이 핵심으로 제시되는데 이 기능이 이 절의 요점이다. 직접 도달할 수 없고 직접 측정할 수 없는 거리나 규모의 측정을 예측할 수 있게 해 준다. 예시도 구체적이다. 먼 산을 보고 얼마나 먼지 실제로 추정할 수 있는데, 높이에 대해 뭔가 알고 고도각을 알면 닮은 삼각형을 쓰고 축척 모형을 만들 수 있다.

고대의 성취도 언급된다. 고대 그리스 시대에도 직접 측정할 수 없었던 달과 태양까지의 거리를 측정할 수 있었는데, 이미 알아낸 닮은 삼각형 같은 기하 법칙만으로 위성이나 진보된 기술 없이 상당히 좋은 측정을 얻었다.

절의 결론이 한 문장으로 압축된다. 기하를 알면 직접 만지고 측정할 수 있는 것을 훨씬 넘어 감각을 확장할 수 있다.

확률, 불확실성을 담는 방식

정의가 먼저 제시된다. 수학자들이 실제 세계의 기본 특징 하나인 불확실성을 담으려 하는 표준적 방식이다.

교육 현실과의 대비가 정확하다. 초등학교나 고등학교 수업에서는 아주 소독된, 예측 가능한 문제를 제시하는데 모든 것이 정확하고 모든 정보를 안다. 그런데 실제는 다르다. 실제 세계에는 불확실성과 예측 불가능성이 있다.

동전 던지기 예가 원리를 설명한다. 코인에 얼마나 힘을 주는지 정확히 알고 모든 측정을 안다면 어느 쪽으로 떨어질지 정확히 예측할 시늉을 할 수 있을 것이다. 그런데 조건이 다르다. 이것은 극도로 어렵고 종종 그 데이터가 없다.

그래서 전환이 규정되는데 이 재설정이 확률의 핵심이다. 모든 단일 결과에 대해 늘 정확한 답을 계산하려 하기보다, 때로는 주어진 측정에 결과의 범위가 있다는 것을 받아들여야 한다. 중요한 것이 바뀐다. 어느 것이 더 자주 일어나고 어느 것이 덜 자주 일어나는가가 중요하다.

기원도 밝혀진다. 이것이 중요하다는 것을 처음 깨달은 사람들은 도박꾼이었다. 그리고 성립 경로가 구체적이다. 확률 수학은 몇몇 도박꾼이 도박 전략을 최적화하려고 수학자 친구들에게 도움을 청한 편지 여러 통으로 만들어졌다.

적용 조건도 정직하게 제시된다. 확률은 반복해서 일어나는 사건일 때 가장 잘 작동하며 수천 번의 시행이 있으면 확률을 잘 측정할 수 있다. 그런데 한계가 있다. 한 세기에 한 번만 일어나는 사건이라면 맞는 수학이 아닐 수 있고 극도로 드문 사건에 대한 수학은 아직 알아내는 중이다.

보편성 법칙이 흥미로운 사실로 제시된다. 모든 다른 상황에서 온갖 다른 분포를 얻을 것이라고 생각할 텐데, 아주 일반적인 유형의 무작위 계에서도 여러 공통 모양이 나타난다. 가장 유명한 예가 가우스 분포 또는 종형 곡선이고 사례가 붙는다. 남성이나 여성의 키 분포는 거의 완벽한 종형 곡선을 이룬다. 현재 상태도 균형 있게 서술된다. 이 보편 법칙 상당수를 수학에서 설명할 수 있게 됐지만 일부는 여전히 신비하다.

해석, 오차 막대와 무한

두 가지를 다룬다고 규정된다. 하나는 측정의 부정확성이고 무작위성이라기보다 그냥 불정밀함이다. 그래서 별칭이 붙는데 이 표현이 좋다. 해석은 일종의 오차 막대의 수학이다.

필요성이 언어의 한계로 설명된다. 크고 작다는 정성적 언어만 갖는 것으로는 어느 지점까지만 작동한다. 예시가 구체적이다. 어떤 물체의 길이를 대략 2미터로 측정하는데 어쩌면 2미터 플러스 마이너스 10센티미터다.

무한 처리도 다뤄진다. 대수 법칙은 유한한 수의 연산을 취할 때는 아주 잘 작동한다. 그런데 달라진다. 무한한 수의 연산을 다루기 시작하면 이상한 역설들이 나타나는데, 무한한 수의 대상을 재배열하면 재배열 전과 다른 합으로 끝나기도 한다.

가장 실용적인 예가 도박 전략이다. 정리가 먼저 제시된다. 유한한 돈만 갖고 있다면 장기적으로 승리를 보장하는 전략은 없다. 그런데 배팅을 두 배로 늘리는 전략이 있다. 한 번만 이기면 1달러를 얻으니 하우스를 항상 이길 방법이 있었다.

그리고 문제가 지목되는데 이 분석이 정교하다. 문제는 무한한 돈이 있다고 가정한다는 것이다. 무엇이 일어나는지도 규정된다. 그 전략이 하는 일은 돈을 잃는 모든 위험을 항상 잃는 아주 아주 작은 사건으로 압축하는 것이다. 결말도 명확하다. 어느 시점에 수백만 달러를 걸고 있고 어느 시점에 파산한다. 그래서 해석의 기능이 규정된다. 이 극단 위험이 정확히 무엇인지 이해하고 이 역설들을 피하는 방식으로 무한을 다루도록 도와준다.

무한에 대한 경고도 붙는다. 해석에 앞선 아주 부정확한 수학이 많았는데, 사람들이 이걸 무한히 반복하면 모든 문제를 없앨 수 있다고 말했다. 판정이 이렇다. 제대로 다루도록 훈련되지 않으면 무한은 아주 위험한 야수다.

무한 원숭이 정리가 예로 제시되고 시간 규모가 구체적이다. 네 글자 단어라면 한 시간쯤 타이핑하면 될 수 있다. 그런데 급격히 커진다. 일곱 글자 단어라면 이미 몇 년, 문장이라면 수천 년, 햄릿의 한 페이지조차 우주의 나이보다 훨씬 오래 걸릴 것이다. 그래서 무한의 성격이 재규정되는데 이 정의가 실용적이다. 무한은 당신이 생각해 낼 수 있는 어떤 고정된 수보다 훨씬 클 수 있는 어떤 것의 자리표다.

그리고 방법론이 게임 치트로 비유되는데 이 대목이 이 강연에서 가장 재미있다. 어릴 때 컴퓨터 게임을 많이 했고 무한 체력이나 무한 탄약 치트를 넣을 수 있었다. 유용성도 서술된다. 체력 물약이나 탄약 관리를 걱정하지 않고 어떻게 게임을 푸는지 먼저 보고 그다음 어려운 난이도로 더 효율적으로 하는 법을 볼 수 있었다. 그리고 수학에 적용된다. 수학의 많은 문제가 실제로 이렇게 풀린다.

수학의 특권도 규정되는데 이 대비가 인상적이다. 수학을 다른 분야와 구분하는 것 하나는 실패할 자유를 갖는다는 것인데, 수학에서 실패는 아주 값싸다. 대비도 명확하다. 사업 결정을 잘못해 회사가 파산하면 끔찍한 실수이고 외과의가 잘못된 곳을 자르면 끔찍한 실수다. 그런데 수학은 다르다. 수학 문제를 풀다가 잘못된 가정을 해서 안 되면 그건 그렇게 나쁜 실수가 아니다. 그냥 다시 시도하면 된다.

권장 절차도 제시된다. 먼저 이상화된 가정을 하라. 무한한 에너지나 마찰 0 같은 비현실적 가정을 두고 문제를 풀고 그다음 무한 세계에서 유한 세계로 돌아가려 해 보라. 그리고 해석의 자리가 명시된다. 무한 수학의 어떤 특징이 유한 세계에서 여전히 작동하고 어떤 것이 무너지는지 조심스럽게 보는 곳이다.

동역학, 단순한 규칙에서 나오는 복잡성

정의가 짧다. 동역학은 변화의 수학이고 시간의 수학이며 점진적 변화의 규칙에 대한 연구다. 핵심 발견도 규정된다. 아주 단순한 규칙도 충분히 오래 반복하면 극도로 복잡한 창발 행동을 생성할 수 있다.

진화가 예로 제시된다. 유기체가 번식하고 더 적합한 것이 더 자주 생존하며 형질을 후손에게 전달한다는 아주 단순한 규칙에서, 엄청난 종의 다양성과 포식자와 피식자 관계, 믿을 수 없을 만큼 복잡한 동역학을 만들 수 있다.

교통 사례가 더 구체적이다. 각 차가 앞차를 감안해 가능한 한 빨리 움직이려고만 하고 앞에 차가 너무 많으면 느려지고 적으면 속도를 낸다. 개별 행동은 단순하다. 각 차는 아주 복잡한 것을 하고 있지 않고 흐름을 최적화하려 할 뿐이다. 그런데 전체는 다르다. 모든 차를 함께 놓고 전체 네트워크에 무슨 일이 일어나는지 보면 교통 파동 같은 놀라운 창발 현상을 얻는다.

로스앤젤레스 거주 경험도 근거로 붙는데 이 관찰이 실감을 준다. 사고도 없고 즉각적 원인도 없는데 교통 정체를 만난 것은 여러 시간 전에 정체를 일으킨 뭔가가 있었기 때문이고 동역학상 파동이 소멸하는 데 일정한 시간이 걸린다.

역설적 결과도 언급된다. 이 고속도로에 차선을 추가하면 교통이 나아질까 하는 예측을 할 수 있는데 실제로는 때때로 그렇지 않다. 반대 사례도 붙는다. 어떤 차선을 닫는 것이 실제로 전체 교통 흐름을 더 빠르게 만들 수 있다.

평형의 안정성이 다음 주제다. 진자 비유가 명확하다. 곧게 아래로 향한 진자는 안정 평형이고 조금 흔들면 안정 평형으로 돌아온다. 반대가 다르다. 거꾸로 세워 끝으로 균형 잡은 진자는 기술적으로 영원히 그 자리에 있을 수 있지만 아주 작은 교란도 시간에 걸쳐 평형에서 멀어지게 한다.

기후에 이것이 적용된다. 1만 년 동안 평형에 꽤 가까운 기후에서 살았고 어떤 해는 더 뜨겁거나 추워도 평형으로 돌아왔다. 그런데 상태가 바뀌고 있다. 지금 그 평형을 떠나 훨씬 덜 안정적인 동역학으로 갈 위험에 실제로 있는데 무섭지만 모델링되어야 한다.

예측 가능성의 경계도 정직하게 그어진다. 성취로 인정되는 것이 날씨다. 앞으로 7일의 정확한 날씨 예보를 당연하게 여기는데 이것은 실제로 대기 과학자들의 놀라운 성취다. 반대쪽도 명시된다. 많은 인간이 관여하는 계는 여전히 아주 예측 불가능하며 주식시장이나 정치의 동역학은 현재 동역학계 이론의 능력을 훨씬 넘어선다.

혼돈의 발견이 뉴턴 이야기로 제시된다. 성공이 먼저다. 두 물체 문제를 풀어 케플러의 이론을 정확히 검증하는 완벽한 타원 궤도 공식을 얻었다. 그런데 다음이 막혔다. 뉴턴이 한번은 이것이 자기에게 두통을 준 유일한 문제라고 말했는데, 무엇을 해도 정확한 해를 얻을 수 없었다. 현재 상태도 명시된다. 우리는 여전히 이 방정식의 정확한 해를 갖고 있지 않고 이제 믿는 것은 깔끔한 공식으로 쓸 수 있는 해가 정말로 없다는 것이다.

태양계의 장기 불안정성도 언급된다. 과거에 다른 행성들이 계에 있었을 것으로 의심하는데, 목성 등의 중력 상호작용이 이 행성들을 궤도에서 조금씩 흔들었고 때때로 완전히 이탈하거나 두 행성이 충돌하거나 하나가 태양계를 벗어났을 것이다. 소행성대도 근거로 제시된다.

그리고 결론이 확률로 돌아온다. 완전히 결정론적이고 예측 불가능성이 전혀 없는 계로 시작해도, 실제로 모델링하는 최선의 방법은 확률로 근사하고 무작위 요동이 있다고 가정하는 것이다. 결과가 규정된다. 예측이 점점 흐려지고 그것이 많은 계가 갖는 혼돈의 근본 특징인 것 같다.

과학의 생태계와 AI의 자리

STEM을 생태계로 보는 관점이 제시된다. 맨 아래에 수학과 몇몇 기초 과학 같은 기초 연구가 있고 대체로 호기심에 의해 추동된다. 성격도 규정된다. 지금 당장 급하게 풀어야 할 현상이 아닐 수 있지만 흥미로운 답이 있을 것처럼 보이는 것이다.

파이프라인의 조건이 명시되는데 이 지적이 정책적으로 중요하다. 기초 과학을 하는 사람들이 응용 과학을 하는 사람들과 이야기해야 하고 그들이 공학을 하는 사람들과, 그들이 산업의 사람들과 이야기해야 한다. 결과도 규정된다. 이 공동체 중 하나가 없으면 호기심 추동 질문에서 실제 상업적 결과로 가는 이 파이프라인을 갖지 못할 것이다.

과학의 방식이 역사적으로 정리된다. 전통적으로 두 주요 패러다임은 이론과 실험이었다. 수학은 예외였다. 거의 전적으로 이론이었고 순수하게 수학에서 하는 실험은 아주 드물었다. 예외 사례도 붙는데 흥미롭다. 가우스가 유명하게 첫 10만 개의 소수를 계산해 그것을 예측에 쓴 데이터 집합으로 삼았고 우리가 지금 소수 정리라 부르는 것을 예측했다.

이후 추가된 방식이 둘이다. 시뮬레이션이 나와서 큰 비용의 실험을 하지 않고 슈퍼컴퓨터에서 허리케인을 시뮬레이션할 수 있게 됐다. 그리고 빅데이터가 나와서 특정 이론을 확인하거나 부정하는 소수의 실험 대신, 메가바이트나 페타바이트의 데이터에서 패턴을 식별하고 법칙을 추출하려 하게 됐다.

이제 모든 방식이 변형되는데 그가 지적하는 것이 자동화 범위다. 자동으로 실험을 수행하는 자동화된 실험실이 있고 코딩 에이전트가 시뮬레이션을 돌리게 할 수 있고 자동화된 데이터 분석도 시도할 수 있다. 그리고 마지막이 추가된다. 점점 자동화된 이론도 할 수 있는데, 어떤 수학 문제를 두고 이 가설과 공리의 귀결이 무엇인지 물을 수 있다.

그런데 여기서 이 강연의 가장 중요한 문제 제기가 나온다. 느린 방식의 값어치가 먼저 규정된다. 펜과 종이로 시간을 들여 계산하고 맨손으로 현장 실험을 하고 시뮬레이션을 디버깅하는 과학자는, 찾으려는 답을 얻는 것을 넘어 많은 추가 통찰을 배운다. 무엇을 얻는지도 열거된다. 새 현상을 발견할 수 있고 연결을 볼 수 있고 문헌 다른 곳에서 연구된 이전 것과의 유사성을 볼 수 있고 발견한 것을 다른 사람에게 전달할 수 있다.

역설이 규정되는데 이 문장이 문제의 핵심이다. AI가 더 강력해지고 실수를 덜 하며 과학자가 하려는 목표를 겉보기에 많이 달성하고 있다. 그런데 대가가 있을 수 있다. AI가 어떤 기량을 얻지만 어떤 인간 과학자도 과학을 더 잘하게 되지 않는 대가로 올 수 있다. 무엇이 사라지는지도 명시된다. 방금 무슨 일이 일어났는지, 왜 이 과학적 발견이 흥미로운지, 왜 이 증명이 새로운지, 어떤 특징을 갖고 어떻게 연결되는지 어떤 인간도 전달할 수 없다.

그래서 근본 질문이 던져진다. 과학이 무엇인지, 과학에서 실제로 무엇을 원하는지에 대한 개념을 다시 설계해야 할 수 있다. 그리고 경고가 붙는다. AI 도구를 과학에 향하게 할 때 우리가 잘못된 것을 최적화하고 있을 위험이 있는가.

가장 인상적인 비유가 하이킹이다. 흥미로운 폭포가 있다고 들어서 친구들과 하이킹을 가기로 하고 지도를 만들어야 한다. 그 과정이 규정된다. 조금 길을 잃지만 잃는 동안 흥미로운 다른 것을 발견하고 기록한다. 부가 발견도 언급된다. 폭포로 가는 길에 훨씬 더 장관인 폭포를 멀리서 발견하는데 아직 갈 수 없지만 미래의 하이커가 방법을 알아낼 것이다.

그런데 AI가 다르다. 이 AI 도구들은 이 폭포로 곧장 날아가 주는 헬리콥터 같을 수 있고 보고 나서 돌아오지만 어떻게 거기 가는지는 아무것도 배우지 못한다. 결과도 명시된다. 당신이 요청한 특정한 것 외에 다른 흥미로운 현상을 전혀 보지 못할 수 있다. 판정이 균형 있다. 기술적으로 목표를 훨씬 효율적으로 달성했지만 잃어버리는 뭔가가 있을 수 있다.

증명 소화불량

가장 새로운 진단이 여기 있다. AI 도구가 이 과정의 초기 단계는 가속하지만 후기 단계는 가속하지 않는다. 상태가 규정된다. 많은 증명을 생성하고 있고 다수를 검증하고 있지만 그것들을 이해하고 최종 교과서 형태로 넣는 속도는 여전히 인간이 한다.

그래서 이름이 붙는데 이 표현이 이 강연에서 가장 인용할 만하다. 우리는 지금 증명 소화불량이라 부를 만한 것을 경험하고 있는데, 이해되고 교과서로 들어가야 할 해답이 갑자기 아주 많이 쌓여 있고 우리는 그것들로 넘쳐난다.

대비되는 과거가 서술된다. 해답이 아주 드물게 나와서, 주요 문제의 해답이 나오면 모든 전문가가 모든 것을 내려놓고 읽고 가능한 한 빨리 소화하려 했는데, 너무 드물고 값어치 있어서 그럴 만했다. 지금은 다르다. 이제는 이 가능한 해답들로 그냥 넘쳐난다.

자기 상태도 정직하게 밝힌다. 내 분야의 최신 발전을 모두 따라가려는 것을 멈춰야 했다. 그리고 균형이 유지된다. 먹을 수 있는 것보다 많은 음식을 갖는 것이 먹을 음식이 부족한 것보다 낫다. 그런데 여전히 문제다. 필요한 것도 명시된다. 훨씬 나은 큐레이션과 필터링이 필요할 것이다.

AI 수학 능력의 실제 궤적

발전 단계가 연도별로 정리되는데 이 서술이 과열을 식혀 준다. 3년간 발전을 따라온 사람에게는 일종의 꾸준한 진행이었다. 단계가 열거된다. 4년 전에는 중학교 수준 문제를 풀 수 있었고 그다음 고등학교 문제, 그다음 고등학교 올림피아드 수준, 그다음 대학원생 자격시험 수준, 그다음 폴 에르되시가 제안했을 만하지만 아무도 정말로 보지 않은 몇몇 사소한 미해결 문제.

그리고 최근 변화가 언급된다. 아주 최근에 사람들이 실제로 아주 열심히 풀려고 했던 문제를 해결한 경우가 한두 번 있었다. 설명도 흥미롭다. 어떻게든 집단적으로 인간들이 모두 잘못된 방향으로 갔고 다른 편향 집합을 가진 AI가 아주 영리한 해법을 엮어 냈다. 후속 효과도 있다. 인간들이 AI의 기법을 적응시켜 근처 문제들을 풀었다.

동료들의 반응 차이도 기록되는데 이 관찰이 정확하다. 이전 발전을 따라오지 않았고 여기까지 왔다는 것을 몰랐던 동료들에게는 아주 우려스러웠다. 대비도 붙는다. 2023년의 챗봇만 봤고 어려운 수학 질문을 하면 완전한 쓰레기를 주는 것만 봤다면, 지금은 상당히 다르다.

가장 값어치 있는 유보가 재현성에 관한 것이다. 이 성취 다수가 민간 기업이 했고 얼마나 많은 자원을 썼는지 공개하지 않는다. 질문이 구체적이다. 컴퓨트 10만 달러였는가, 100만 달러였는가. 우리는 정말 모른다. 성공률도 모른다. 그들이 푼 문제가 본 유일한 문제였는가, 10개를 봤는가, 100개를 봤는가.

그래서 판정이 조건부로 유보된다. 결과는 인상적이지만 이것이 앞으로 완전히 일상적인 일이 될지, 아니면 10명의 팀이 몇 달에 걸쳐 10만 달러를 쓸 때만 이런 결과를 얻는지 가늠할 데이터가 충분하지 않다. 비율 추정도 열려 있다. 어쩌면 우리가 관심 있는 문제의 1%만 이 방법에 적합할지도 모른다.

벤치마크도 언급된다. 가장 최근 도전은 FrontierMath 챌린지인데, 연구 수준 질문 10개 시험 집합에 최신 모델을 시험했고 최고 모델이 10개 중 5~6개를 할 수 있었다. 성격도 명시된다. 이미 해답이 있지만 해답이 비밀로 유지된 중간 난이도 문제들이다.

프로그래밍 쪽 관찰도 같은 구조를 보여 준다. 많은 전문 프로그래머가 코드 작성 능력이 5배나 10배, 100배 올랐다고 보고한다. 그런데 대가가 있다. 손으로 코딩하는 능력을 잃고 있다고 스스로 느낄 수 있고 때로는 에이전트에서 나온 코드를 검토할 수 없다. 판정이 짧다. 트레이드오프가 있고 속도가 전부는 아니다.

협업의 리듬과 씨앗 곡식

협업에 대한 서술이 개인적이면서 구체적이다. 대학원 이후 배운 수학 상당 부분을 다른 분야 수학자와 과학자들과 함께 일하면서 배웠다. 상호성도 명시된다. 내가 아는 것을 가르치고 그들이 아는 것을 배우면서 훨씬 넓어졌다.

오래된 협업의 상태가 인상적으로 묘사된다. 거의 정신적으로 조율되는 지점이 있는데, 아주 가까운 친구나 가족처럼 서로의 문장을 완성할 수 있다. 실제 효과도 붙는다. 아이디어를 던지면 문장을 마치기도 전에 상대가 이해하고 그것으로 달려갈 수 있다.

AI와의 차이가 여러 층위로 지적된다. 대화할 수 없고 물론 실수하고 때로는 아첨하며 듣고 싶은 것만 말한다. 리듬 문제도 구체적이다. 사람들과 대면으로 협업하면서 AI를 함께 두려고 해 봤는데 리듬을 깨뜨린다.

기억의 차이도 명시된다. 협업자와는 다음 날 아주 빠르게 이어갈 수 있고 몇 년간 만나지 않았어도 아주 오래된 실을 집어 올릴 수 있다. AI는 다르다. 일정량의 맥락을 갖고 몇 가지를 기억하고 기록해 이 기억을 시늉할 수 있지만 정말 가까운 협업처럼 조율할 수는 아직 없다.

자기 사용 방식도 밝혀지는데 이 진술이 실무적으로 유용하다. 실제 문제 풀이 과정에는 이 도구들을 그렇게 많이 쓰지 않는다. 잘 쓰이는 곳이 열거된다. 문헌 검색이나 증명 확인, 코드 작성, 내가 쓴 것을 교정해 더 조밀하게 만들 여지가 있는지 보는 것 같은 부차적 작업.

마지막 우려가 가장 무겁다. 자금 조달 구조에서 다소 위험한 지점에 있는데, 한편으로 이 도구들이 과학의 산출물, 또는 과학의 산출물처럼 보이는 것을 훨씬 가속된 속도로 만들게 해 준다. 그런데 대가가 있다. 다음 세대 과학자를 위한 씨앗 곡식을 기르는 것을 희생하는 대가로 올 수 있다.

구체적 기제도 제시된다. 대학원생에게 첫 프로젝트로 주는 훈련 문제들, 약간의 인정과 경력 훈련과 경험을 얻게 하는 문제들이, 이제 AI가 논문 다수를 재현할 수 있는 유형이다. 결과가 예고된다. 대학원생을 AI로 대체하면 AI가 대학원생 수준 논문을 생성하겠지만 다음 세대 학생을 얻지 못할 것이다.

그리고 결말이 사회 수준으로 확장된다. AI 산출물을 소화해 다음 세대 인간과 AI가 그 위에 세울 지식 기반을 만드는 과정을 계속하지 않으면, 과학 사회로서 정체될 수 있다. 상태도 구체적이다. 현재 기술로 할 수 있는 모든 것을 최적화할 수 있게 되겠지만 정말 독창적인 새 아이디어를 더 이상 발전시키지 못할 수 있다.

마지막으로 대중을 향한 요구가 붙는데 이 관점이 이 강연을 닫는다. 일반 대중은 휴대전화와 인터넷, GPS 같은 과학의 눈에 보이는 산출물을 볼 수 있다. 그런데 못 보는 것이 있다. 전체 과정, 그리고 수학과 과학에 대한 기본적 이해가 주변 세계를 훨씬 덜 무섭고 훨씬 명확하게 만든다는 것. 진단도 붙는다. 지금 많은 사람이 그냥 불안 상태에서 살고 있고 세계는 너무 복잡하다. 그래서 제안이 나온다. 과학의 이 부드러운 값어치를 기술적 산출물만큼 강조하지 않았는데, 과학은 사고에 일정한 명확함을 더해 준다.

🔗 최근 게시분과의 대조

Terence Tao	최근 노트
증명 소화불량 — 생성은 빠르고 소화는 느리다	AWS “통합 시간이 코딩 시간을 넘는다” — 같은 병목 구조
헬리콥터로 폭포에 데려다 준다	Dan Luu “품질 실명” / Iris Meredith “손안존재” — 과정이 사라질 때
잘못된 것을 최적화하고 있는가	하네스 문서 “하네스는 나쁜 목표를 증폭한다” — 동일한 경고
재현성 유보 — 10만 달러인지 100만인지 모른다	지트론 “런레이트는 정의되지 않는다” — 공개되지 않은 비용
대학원생 훈련 문제가 사라진다	Bessemer “L2가 AI로 가장 고전한다” / Clare Liguori “초기 경력자가 검토에 더 큰 부하”
실패가 값싼 것이 수학의 특권	아무도 부탁하지 않은 것 “이해관계자가 없고 기준이 높은 것”
무한 치트로 먼저 풀고 유한으로 돌아온다	Matt Dailey “제약을 먼저 나열하라” — 이상화 후 복귀

특히 하네스 문서(오늘 게시)와 경고가 정확히 겹친다. 그쪽은 하네스가 만든 사람이 고른 목표를 증폭한다고 했고, 타오는 AI 도구를 과학에 향하게 할 때 잘못된 것을 최적화하고 있을 위험을 묻는다. 한쪽은 엔지니어링, 다른 쪽은 기초 과학에서 같은 질문에 도달한다.

그리고 경력 초기 문제에서 세 노트가 수렴한다. Bessemer는 L2가 AI로 가장 고전한다고, Clare Liguori는 초기 경력자가 검토에 더 큰 인지 부하를 겪는다고, 타오는 대학원생 훈련 문제가 AI로 대체되면 다음 세대를 얻지 못한다고 한다. 세 조사가 각각 다른 층에서 같은 공백을 지적한다.

더 생각해보기

• 증명 소화불량이 가장 새로운 개념이다. 생성과 검증은 자동화되는데 이해와 교과서화는 사람 속도라면, 병목이 큐레이션과 필터링으로 옮겼다는 뜻이고 그 작업의 인력과 보상 구조가 없다.
• 헬리콥터 비유가 정확한데, 그렇다면 목적지에 빨리 가는 것과 경로를 배우는 것을 언제 나눌지가 실제 판단이 된다. 학습 단계에서는 걸어가고 생산 단계에서는 타는 규율이 필요하다.
• 재현성 유보가 이 강연에서 가장 학자다운 태도다. 1%만 이 방법에 적합할 수 있다는 추정이 열려 있다는 점에서, AI 수학 성과 보도를 읽을 때 성공률과 시도 횟수를 먼저 찾아야 한다.
• FrontierMath 10개 중 5~6개라는 수치가 유용한 기준점이다. 다만 해답이 이미 존재하는 문제라는 조건이 붙으므로, 진짜 미해결 문제에서의 성적은 별개 지표로 봐야 한다.
• 대학원생 훈련 문제의 소멸은 즉시 대응이 필요한 문제다. AI가 재현할 수 있는 문제를 훈련 과제로 계속 쓸지, 아니면 검토와 소화를 훈련 과제로 재설계할지가 교육 설계의 갈림길이다.
• 실패가 값싼 것이 수학의 특권이라는 지적이 좋은데, AI 실행 비용이 붙으면 그 특권도 줄어든다. 시도당 수백 달러가 든다면 이상화 가정을 자유롭게 시험하는 습관 자체가 제약을 받는다.
• 협업의 리듬을 AI가 깨뜨린다는 관찰은 도구 설계에 대한 요구다. 대면 협업에 끼어들지 않는 형태, 또는 세션을 넘어 조율이 누적되는 형태가 아직 없다는 뜻이다.
• 과학의 부드러운 값어치를 강조하지 않았다는 반성이 마지막에 오는 점이 인상적이다. 산출물로만 정당화하면 산출물을 더 빨리 내는 것에 자금이 쏠리는데, 그것이 바로 그가 우려한 씨앗 곡식 문제를 키운다.