90년 수학 난제를 무너뜨린 AI, 그런데 2차원은 남았다?

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

AI는 90년 난제인 야코비안 추측의 3차원 반례를 찾아 일반 명제를 무너뜨렸지만, 2차원에서는 국소적 역함수가 전역 역함수를 보장하는지 여전히 풀리지 않았다.

📌 핵심 요점

1. 야코비안 추측은 야코비안 행렬식이 모든 곳에서 0이 아닌 상수인 다항 변환이 전체 공간에서도 하나의 역함수를 갖는지를 묻는다.
2. AI 모델 페이블 5가 3차원 다항 변환의 반례를 찾았고, 직접 계산으로 확인할 수 있는 명확한 반례였기 때문에 빠르게 신뢰를 얻었다.
3. 3차원 반례에 변수를 추가하면 더 높은 차원의 반례도 만들 수 있어 3차원 이상에서는 추측이 거짓이지만, 2차원 문제는 그대로 남는다.
4. 반례 탐색의 어려움은 검증보다 후보 발견에 있다. 3변수 7차식의 출력식 세 개만 구성해도 360개 계수를 다뤄야 하고 차수와 계수 범위의 상한도 알 수 없다.
5. AI는 단순 계산기를 넘어 탐색 전략과 수학적 도구를 결합하는 역할로 확장되고 있지만, 결과의 검증·공개·오류 책임과 저자성은 여전히 인간 연구자가 부담한다.

🧩 배경과 문제 정의

• 모든 지점에서 국소적으로 역함수를 갖는 다항 변환이 전체 공간에서도 하나의 역함수를 갖는지가 야코비안 추측의 핵심이다.
• 약 90년간 풀리지 않았던 추측에 AI가 3차원 반례를 찾아내면서, 3차원 이상의 경우는 거짓으로 판명됐지만 2차원 문제는 여전히 남았다.
• 반례 자체는 비교적 간단하게 검증할 수 있지만, 후보 다항식의 방대한 탐색 공간 때문에 인간이나 단순한 무차별 계산으로 찾기는 어려웠다.
• AI가 난제를 푸는 과정에서 계산기 이상의 역할을 맡기 시작하면서 연구자의 검증 책임, 저자성, 수학 교육의 방향이 새로운 쟁점으로 떠올랐다.

🕒 시간순 섹션별 상세정리

1. AI가 찾아낸 야코비안 추측의 반례

• AI 모델 페이블 5가 약 90년간 해결되지 않았던 야코비안 추측에서 반례가 되는 다항식을 찾아 수학계의 주목을 받았다. [00:59]
• 참이라는 증명은 전문가들이 논리를 장기간 검증해야 하지만, 이번 반례는 그 자리에서 계산해 확인할 수 있을 만큼 명확해 빠르게 신뢰를 얻었다. [03:01]

2. 함수는 입력과 결과를 연결하는 규칙

• 함수는 자판기처럼 입력에 따라 결과를 내놓는 대응 관계이며, 같은 입력에는 언제나 같은 결과가 나와야 한다. [04:44]
• 여러 입력이 같은 결과를 내는 것은 허용되므로, (x^2)에 1과 -1을 넣어 모두 1이 나와도 함수의 조건에는 어긋나지 않는다. [05:29]

3. 역함수가 존재하기 위한 조건

• 역함수는 결과값에서 출발해 원래 입력값을 되찾는 반대 방향의 함수다. [06:06]
• 같은 결과를 만드는 입력이 여러 개면 원래 입력을 하나로 정할 수 없으므로, (x^2=1)에서 1과 -1이 모두 후보가 되는 함수는 전체 범위에서 역함수를 갖지 못한다. [06:46]

4. 한 변수에서 다차원 좌표 변환으로의 확장

• 입력 변수가 하나인 함수는 1차원으로 볼 수 있고, 2차원에서는 (x,y) 좌표를 다른 두 좌표로 이동시키는 변환을 다룬다. [08:01]
• 이를 일반화하면 변수 (n)개로 이루어진 한 좌표를 다른 (n)차원 좌표로 보내는 함수가 된다. [08:28]

5. 다항 변환과 야코비안의 의미

• 야코비안 추측은 평면의 점들을 (x+y), (xy) 같은 다항식 규칙에 따라 다른 점으로 보내는 다항 변환을 대상으로 한다. [08:48]
• 야코비안은 변환 함수의 성질을 담은 행렬이며, 그 행렬식은 점 주변의 작은 영역이 이동하면서 넓이와 형태를 어떻게 바꾸는지 알려준다. [09:39]

6. 야코비안 행렬식과 국소적 역함수

• 한 점 주변의 작은 모눈 영역을 함수로 변환하면 넓이가 늘거나 줄고 모양도 달라지며, 야코비안 행렬식이 그 변화의 크기를 나타낸다. [10:29]
• 특정 점에서 야코비안 행렬식이 0이 아니면 주변 영역이 완전히 찌그러져 사라지지 않으므로, 그 점 근처에서는 원래 상태로 되돌리는 역함수가 존재한다. [11:25]

7. 야코비안 추측의 핵심 질문

• 점마다 달라질 수 있는 야코비안 값이 모든 곳에서 0이 아닌 상수로 고정된다면, 모든 지점에서 국소적인 역함수를 확보할 수 있다. [12:15]
• 면적이 모든 곳에서 두 배나 세 배처럼 일정하게 변할 때 전체 공간에서도 하나의 역함수가 존재하는지가 야코비안 추측이다. [12:40]

8. 국소적 성질과 전체 성질의 간극

• 모든 점 주변에서 역함수가 존재하더라도, 작은 영역의 성질을 합쳐 전체 평면에서 하나의 역함수를 만들 수 있는지는 별개의 문제다. [13:19]
• 1차원에서는 추측이 참이지만 2차원 이상에서는 국소적 성립이 전체 성립을 보장하는지 알 수 없어 오랫동안 미해결 상태로 남았다. [14:02]

9. 단순한 명제가 오랫동안 풀리지 않는 이유

• 페르마의 마지막 정리처럼 이해하기 쉬운 명제도 증명에는 수백 년이 걸릴 수 있으며, 야코비안 추측 역시 간단한 문제 구조와 해결 난도가 일치하지 않았다. [14:56]
• 3변수 7차식 하나만 일반형으로 표현해도 120개 계수가 필요하고, 출력식 세 개를 구성하려면 360개 계수를 찾아야 해 탐색 공간이 급격히 커진다. [16:18]

10. 3차원에서 무너지고 2차원에 남은 문제

• 이번 결과는 모든 차원의 야코비안 추측을 완전히 끝낸 것이 아니라, 3차원 다항 변환에서 반례 하나를 찾아 일반 명제를 무너뜨린 것이다. [17:32]
• 3차원 반례에 변수를 추가하면 더 높은 차원에서도 반례를 만들 수 있어 3차원 이상은 거짓이지만, 2차원은 여전히 미해결 난제로 남는다. [17:43]

11. 계산에서 출발한 페르마의 소수 추측

• 모든 경우에 참이라고 믿는 추측도 계산 가능한 단 하나의 반례로 무너질 수 있으며, 페르마의 소수 추측이 대표적인 사례다. [19:35]
• (2^{2^n}+1)에 (n=0,1,2)를 넣으면 3, 5, 17이 나오고, 3과 4까지 넣어 얻은 257과 65,537도 모두 소수였다. [20:02]

12. 오일러의 반례와 초기 데이터의 함정

• 약 100년 뒤 오일러는 (n=5)에서 나온 4,294,967,297이 641과 6,700,417의 곱임을 찾아 페르마의 추측을 무너뜨렸다. [21:23]
• 반례 이후에도 계산은 계속됐으며, 현재 확인된 (n=5)부터 32까지의 값은 모두 합성수여서 처음 다섯 사례가 오히려 예외적인 표본이 됐다. [22:16]

13. 반례가 만드는 새로운 연구 경로

• 반례는 기존 추측을 폐기하는 데서 끝나지 않고, 어떤 조건을 추가하면 명제가 참이 되는지와 반례에 어떤 특수한 성질이 있는지를 탐구하게 만든다. [22:53]
• 야코비안 반례의 구조를 분석하면 실패하는 다항 변환을 제외한 더 정확한 명제로 기존 추측을 세분화할 수 있다. [23:00]

14. 계산기를 넘어선 AI의 추정 역할

• 구체적인 프롬프트와 작업 과정이 공개되지 않아 역할 분담은 확정하기 어렵지만, 단순히 후보를 전수 계산하거나 완성된 답을 검증하는 수준만으로는 이번 결과를 만들기 어려웠을 가능성이 크다. [23:55]
• AI는 후보 계산과 함께 보조정리·기존 연구·탐색 기법을 결합했거나, 인간 연구자가 지정한 논문과 방법 안에서 반례 탐색을 수행했을 것으로 추정된다. [24:19]

15. AI가 바꾸는 수학 연구와 교육

• AI는 조합론 문제에 정수론 도구를 적용하는 등 기존 분야의 경계를 넘는 접근을 만들며, 난제 연구의 새로운 방법으로 자리 잡기 시작했다. [25:35]
• 연구자는 직업 변화뿐 아니라 학생들이 5년 뒤와 10년 뒤에 갖춰야 할 지식과 능력을 다시 고민해야 하고, 연구비에서 AI 토큰 비용이 차지하는 비중도 커질 수 있다. [26:02]

16. AI 시대의 저자성과 검증 책임

• 인간이 문제와 탐색 방향을 설계하고 AI가 반례를 산출했을 때 누구를 해결자로 볼 것인지는 앞으로 반복될 저자성 쟁점이다. [28:08]
• 결과를 자기 이름으로 공개한 연구자는 AI의 오류 가능성을 직접 검증하고 그 결과에 책임지므로, 현재의 저자 지위는 AI보다 인간 연구자에게 돌아간다. [28:30]

17. AI 결과를 검증할 사용자의 책임

• 학생을 포함한 AI 사용자는 생성된 답의 책임을 AI에 돌릴 수 없으며, 결과가 타당한지 직접 확인해야 한다. [30:00]
• AI 활용의 최종 책임은 사용자에게 있으므로, 편리함보다 검증 절차를 우선하는 태도가 필요하다. [30:07]

18. 수학 난제 해결을 둘러싼 인간과 AI의 경쟁

• 향후 수학계의 여러 난제를 인간과 AI 중 누가 먼저 풀 것인지가 새로운 경쟁 구도를 만들 수 있다. [30:23]
• 인간 수학자와 AI의 난제 해결 경쟁은 신진서 9단과 바둑 AI 카타고의 대결처럼 전개될 가능성이 있다. [30:33]

🧾 결론

• 이번 결과는 야코비안 추측 전체의 해결이 아니라 3차원 이상의 일반 명제를 무너뜨린 반례 발견이다.
• 2차원에서는 107차까지 역함수가 존재한다는 기존 연구 때문에 반례가 있다면 최소 108차 이상이어야 하며, 핵심 난제는 계속 남아 있다.
• 반례는 기존 명제를 폐기하는 데서 끝나지 않고, 어떤 조건을 추가해야 명제가 참이 되는지와 실패하는 변환의 구조를 연구하는 출발점이 된다.
• AI가 만든 결과도 자동으로 참이 되는 것은 아니므로, 수학 연구에서 계산 가능한 검증 절차와 인간의 최종 책임이 더욱 중요해진다.

📈 투자·시사 포인트

• AI의 연구 가치는 답안 생성 능력뿐 아니라 인간이 전수 조사하기 어려운 거대한 후보 공간을 효율적으로 탐색하는 능력에서 드러난다.
• 계산으로 반례를 확인할 수 있는 분야는 AI 적용이 상대적으로 빠를 수 있지만, 참인 명제의 완전한 증명은 더 어려운 과제로 남을 가능성이 크다.
• 연구비에서 AI 토큰 비용의 비중이 커질 수 있으므로, 연구기관은 컴퓨팅 자원과 검증 역량을 함께 핵심 인프라로 다룰 필요가 있다.
• 교육의 초점도 계산 수행만이 아니라 좋은 질문 설계, 탐색 경로 구성, 결과 검증, 오류 책임을 다루는 능력으로 이동할 가능성이 있다.

⚠️ 불확실하거나 확인이 필요한 부분

• 구체적인 프롬프트와 작업 과정이 공개되지 않아 페이블 5가 탐색 전략을 스스로 선택했는지, 인간 연구자가 세부 경로를 설계하고 AI가 실행만 했는지는 확정할 수 없다.
• AI가 보조정리·기존 연구·탐색 기법을 어떤 방식으로 결합했는지는 공개된 정보만으로 판단하기 어렵다.
• 이번 결과는 2차원 야코비안 추측의 참·거짓을 결정하지 않으며, 2차원 반례가 실제로 존재하는지도 아직 알 수 없다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 3차원 반례의 다항식과 야코비안 행렬식을 직접 계산해 반례가 성립하는 검증 절차를 확인한다.
• 2차원에서 107차까지 역함수가 존재한다는 기존 연구의 조건과 적용 범위를 검토한다.
• AI가 생성한 수학 결과를 사용할 때 독립 계산, 전문가 검토, 재현 가능한 기록을 필수 절차로 둔다.
• 연구·교육 과정에서 프롬프트 사용법보다 문제 정의, 탐색 전략, 결과 검증, 책임 있는 공개를 함께 평가한다.

❓ 열린 질문

• AI가 발견한 3차원 반례에는 기존 추측을 더 정확한 명제로 수정할 수 있는 공통 구조가 있는가?
• 2차원 야코비안 추측은 참인가, 아니면 108차 이상의 복잡한 반례가 아직 발견되지 않은 것인가?
• 인간이 문제와 방향을 설계하고 AI가 결정적 반례를 산출했을 때 저자성과 해결자의 지위는 어떻게 나눠야 하는가?