OpenAI 모델, 80년 묵은 이산기하 난제(단위거리 문제)를 자율적으로 반증하다
목차
개요
OpenAI가 이산기하(combinatorial geometry)의 핵심 난제 하나를 내부 모델이 자율적으로 반증했다고 발표했다. 대상은 1946년 Paul Erdős가 제기한 평면 단위거리 문제(planar unit distance problem)다. 이는 조합기하에서 가장 잘 알려졌고 설명하기 쉬운 문제로 꼽히며, Erdős가 상금까지 걸었던 그의 애호 문제였다.
핵심은 두 가지다. 첫째, 오랫동안 최적이라 믿어온 “정사각 격자(square grid)” 구성이 사실 최적이 아님을 증명해, 다항식 수준의 개선을 주는 무한한 예시 집합을 제시했다. 둘째, 이 증명은 수학 전용으로 훈련되거나 특정 문제에 맞춰 스캐폴딩된 시스템이 아니라, 범용 추론 모델에서 나왔다. 증명은 외부 수학자 그룹의 검증을 거쳤고, 그들은 결과의 의미를 설명하는 동반 논문(companion paper)을 함께 작성했다.
배경: 단위거리 문제
문제는 단순하다. 평면에 n개의 점을 놓을 때, 정확히 거리 1만큼 떨어진 점 쌍은 최대 몇 개나 만들 수 있는가?
n개의 점 중 단위거리 쌍의 최대 개수를 u(n)이라 하자. 선형 증가율을 갖는 예는 쉽게 만들 수 있다. 점을 일렬로 놓으면 n−1개의 쌍이 생기고, 정사각 격자는 약 2n개의 쌍을 만든다. 가장 잘 알려진 기존 구성인 재조정된(rescaled) 정사각 격자는 상수 C에 대해 n의 1+C/loglog(n) 제곱에 해당하는 쌍을 준다.
여기서 loglog(n)은 n이 커질수록 무한대로 가므로, 지수에 더해진 항은 0으로 수렴한다. 즉 이 구성들은 선형보다 아주 약간만 빠른 증가를 달성한다. 수십 년간 이 비율이 사실상 최선이라 여겨졌고, Erdős는 추가 항이 n에 따라 0으로 가는 1+o(1) 제곱이라는 상계(upper bound)를 추측했다.
| 구성 | 단위거리 쌍의 개수 |
|---|---|
| 일렬 배치 | n−1 |
| 정사각 격자 | 약 2n |
| 재조정된 정사각 격자(기존 최선) | n의 1+C/loglog(n) 제곱 |
| Spencer-Szemerédi-Trotter 상계(1984) | O(n의 4/3 제곱) |
하한은 1946년 Erdős의 원래 구성 이후 사실상 바뀌지 않았고, 상계 역시 1984년 Spencer, Szemerédi, Trotter의 결과 이후 큰 변화가 없었다.
핵심 내용
이번 결과는 이 오래된 추측을 뒤집는다. 그리고 그 방식이 더 놀랍다.
무엇이 반증되었나
새 결과는 무한히 많은 n 값에 대해, 어떤 고정된 양수 지수 δ에 대해 n의 1+δ 제곱 이상의 단위거리 쌍을 갖는 점 구성을 만들어낸다. 원래 AI 증명은 명시적인 δ 값을 주지는 않았다. 다만 프린스턴 수학과 교수 Will Sawin의 후속 정교화에서 δ를 0.014로 잡을 수 있음을 보였다.
이것이 중요한 이유는, Erdős가 추측한 1+o(1) 형태(추가 항이 0으로 수렴)가 틀렸으며 실제로는 격자 구성을 의미 있게 능가하는 구성이 존재함을 보였기 때문이다. 조합기하를 연구하는 거의 모든 수학자가 한 번쯤 고민했던 문제가 풀린 것이다.
대수적 정수론에서 온 새 기법
증명의 핵심 재료는 의외로 대수적 정수론(algebraic number theory)에서 왔다. Erdős의 원래 하한은 가우스 정수(Gaussian integers), 즉 a와 b가 정수이고 i가 −1의 제곱근일 때 a+bi 형태의 수로 이해할 수 있다. 가우스 정수는 보통의 정수를 확장하면서도 소인수분해의 유일성 같은 성질을 갖는데, 이런 확장을 대수적 수체(algebraic number field)라 한다.
새 논증은 가우스 정수를 더 복잡한 일반화로 대체한다. 더 풍부한 대칭성을 가진 수체를 사용하면 단위 길이 차이를 훨씬 많이 만들어낼 수 있다. 정밀한 논증에서는 무한 유체탑(infinite class field towers)과 Golod–Shafarevich 이론 같은 도구를 사용해 필요한 수체가 실제로 존재함을 보인다. 이 개념들은 대수적 정수론자에게는 잘 알려져 있었지만, 유클리드 평면의 기하 문제에 함의를 갖는다는 점은 큰 놀라움이었다.
어떻게 발견되었나
증명은 수학에 특화된 시스템이 아니라 새로운 범용 추론 모델에서 나왔다. OpenAI는 고급 모델이 최전선 연구에 기여할 수 있는지를 시험하는 더 넓은 노력의 일환으로, Erdős 문제 모음에 대해 모델을 평가했다. 이 경우 모델은 미해결 문제를 해결하는 증명을 직접 만들어냈다.
초기 증명을 검증한 뒤, OpenAI는 테스트 타임 컴퓨트(test-time compute) 양을 달리하며 모델의 성공률을 조사했다. 그 결과 테스트 타임 컴퓨트가 늘어날수록 이 문제에 대한 정확도(pass@1)가 상승하는 경향을 확인했다. 필즈상 수상자 Tim Gowers는 동반 논문에서 이 결과를 “AI 수학의 이정표”라 평했고, 정수론자 Arul Shankar는 현재 AI 모델이 단순 보조자를 넘어 독창적인 아이디어를 내고 그것을 끝까지 수행할 수 있음을 보여준다고 평가했다.
의미와 시사점
이번 결과는 AI와 수학의 상호작용에서 중요한 순간으로 평가된다. 저명한 미해결 문제, 그것도 한 하위 분야의 중심에 있는 문제가 AI에 의해 자율적으로 해결된 첫 사례이기 때문이다.
Thomas Bloom은 동반 노트에서, AI가 만든 증명의 중요성을 평가할 때 “이것이 문제에 대해 무언가 새로운 것을 가르쳐 주었는가”를 묻는다고 했다. 그는 이 결과가 정수론적 구성이 이런 종류의 질문에 대해 우리가 짐작한 것보다 훨씬 많은 것을 말해 줄 수 있음을, 그리고 그 정수론이 매우 깊을 수 있음을 보여준다고 평한다. 또한 많은 대수적 정수론자가 앞으로 이산기하의 다른 미해결 문제들을 다시 들여다볼 것이라고 전망한다.
더 큰 함의는 이 특정 결과를 넘어선다. 더 나은 수학적 추론은 AI를 더 강력한 연구 파트너로 만든다. 어려운 사고의 흐름을 일관되게 유지하고, 멀리 떨어진 지식 영역을 연결하며, 전문가가 우선순위를 두지 않았던 유망한 경로를 드러낼 수 있기 때문이다. 이런 능력은 생물학, 물리학, 재료과학, 공학, 의학에도 유용하며 더 자동화된 연구로 가는 장기적 경로의 일부다.
다만 그 미래는 여전히 인간의 판단에 달려 있다. OpenAI는 전문성이 덜 중요해지는 것이 아니라 오히려 더 가치 있어진다고 강조한다. AI는 탐색하고 제안하고 검증할 수 있지만, 어떤 문제가 중요한지 고르고 결과를 해석하며 다음에 무엇을 추구할지 결정하는 것은 사람의 몫이다.
결론
OpenAI의 내부 추론 모델이 80년 가까이 이어진 평면 단위거리 문제의 통념을 반증했다. 정사각 격자가 최적이라는 믿음을 깨고, 대수적 정수론의 깊은 도구를 동원해 다항식 수준의 개선을 주는 무한 구성을 제시했다는 점에서 수학적으로 의미가 크다. 특히 수학 전용이 아닌 범용 추론 모델이 외부 수학자의 검증을 통과하는 독창적 증명을 자율적으로 만들어냈다는 사실은, AI가 연구의 창의적 영역에 본격적으로 진입하기 시작했음을 보여주는 신호다.