From AGI to ASI: 초지능으로 가는 네 갈래 경로와 병목 분석
목차
개요
이 글은 Google DeepMind 연구진이 2026년 6월 공개한 보고서 From AGI to ASI를 정리한다. 저자는 Tim Genewein, Marcus Hutter, Shane Legg 등 14명으로, 인간 수준의 AGI(Artificial General Intelligence)를 넘어 초지능(ASI, Artificial Superintelligence)으로 진행하는 궤적을 분석한 포지션 보고서다.
이 보고서는 ASI를 “대규모 인간 전문가 집단보다 더 지능적이고 인지적으로 유능한 시스템”으로 정의한다. 저자들은 AGI에서 ASI로 가는 길이 단일한 전환의 순간이 아니라, “과학과 기술 전반에서 AI가 추동하는 진보와 돌파의 연쇄”로 나타날 가능성이 크다고 본다.
핵심 주장은 네 가지 잠재적 발전 경로로 요약된다. 규모 확장(scaling), 패러다임 전환(paradigm shift), 재귀적 자기개선(recursive self-improvement), 다중 에이전트 집단(multi-agent collectives)이다. 보고서는 각 경로에 존재하는 병목(bottleneck)과 그 병목을 상쇄하는 요인을 함께 검토하며, 어느 병목이 실제로 의미를 가질지는 여전히 열린 연구 질문이라고 강조한다.
이 글에서 다루는 내용은 실험 결과를 보고하는 일반적 논문과 달리, 개념적 분석과 정량적 추정에 기반한 전망 보고서라는 점을 먼저 밝혀 둔다.
방법론
보고서는 ASI의 정의에서 출발해, 디지털 지능이 생물학적 지능 대비 갖는 구조적 우위를 정리하고, 이론적 상한인 Universal AI를 끌어와 분석 틀을 세운다.
ASI와 AGI의 정의
보고서는 지능의 연속선(Legg-Hutter intelligence) 위에서 세 단계를 구분한다.
먼저 AGI는 “대부분의 인지 과제에서 대략 단일 인간 수준”으로 정의된다. 이미 다수의 좁은 영역에서는 초인간적이지만 일반성(generality)이 부족한 상태를 가리킨다.
ASI는 “인간이 관심을 갖는 거의 모든 과제와 영역에서 초인간적 능력”을 갖춘 시스템이다. 보고서는 기준을 높게 설정해, 개별 인간이 아니라 대규모 인간 전문가 집단을 넘어서는 수준을 ASI로 본다.
마지막으로 Universal AI(UAI)는 이론적 상한으로, 뒤에서 설명할 AIXI 에이전트로 형식화된다.
디지털 지능의 구조적 우위
보고서의 Table 1은 디지털 지능이 인간 지능 대비 갖는 일곱 가지 우위를 정리한다. 이 우위들은 모두 컴퓨팅 자원이 늘어날수록 함께 확장된다는 공통점을 갖는다.
| 우위 | 설명 |
|---|---|
| 입출력 속도 | 수 초 안에 여러 권의 책을 처리하는 고대역폭 상호작용 |
| 내부 처리 속도 | 추가 컴퓨팅으로 병렬·순차 연산 가속 |
| 작업 기억 | 인간 대비 수 자릿수 더 큰 용량 |
| 기질 독립성 | 실행 중에도 다른 컴퓨터로 이전 가능 |
| 무손실 복제 | 코드와 메모리 상태의 완전한 복사, 백업·복원 가능 |
| 경험 공유 | 인스턴스 간 학습 신호의 고대역폭 전달 |
| 시간 척도 유연성 | 매우 다른 시간 척도에서 동작 가능 |
이러한 우위는 ASI가 인간 집단을 능가할 수 있는 구조적 근거가 된다. 다만 보고서는 이 우위들이 무한하지 않으며, 뒤에서 다룰 물리적·이론적 한계에 의해 제약된다는 점을 함께 짚는다.
Universal AI와 AIXI 프레임워크
보고서는 기계 지능의 이론적 상한으로 AIXI 에이전트를 비형식적으로 소개한다. AIXI는 세 가지 핵심 문제를 동시에 푸는 에이전트로 제시된다.
첫째, 불확실성 하의 행동이다. 계산 가능한 모든 환경에 대한 베이즈 사후분포로 행동하며, 각 환경에는 Solomonoff의 보편 사전확률(Universal Prior)에 따라 가중치가 부여된다. 복잡도가 낮은 환경일수록 지수적으로 높은 확률을 받는다.
둘째, 상호작용적 의사결정이다. 장기적 신용 할당(credit assignment)을 포함하는 일반 강화학습으로 형식화된다.
셋째, 탐색-활용 트레이드오프다. 기대 정보 이득(expected information gain)을 통해 암묵적으로 균형이 맞춰진다.
핵심 요지는 AIXI가 “보편 사전확률로 가중된 모든 계산 가능한 환경에 대해 평균한 기대 누적 보상을 최대화”한다는 것이다. AIXI 자체는 계산 불가능하지만 컴퓨팅이 늘수록 아래로부터 근사할 수 있으며, 현재의 로그 손실 최소화 기반 사전학습이 이론적으로 보편 지능을 향해 확장될 수 있다고 본다. 다만 이 이론과 실제 딥러닝 구현 사이의 간극은 여전히 크다는 점을 명시한다.
주요 결과
보고서의 핵심 결과는 ASI로 가는 네 경로, 정량적 추정치, 일곱 병목, 그리고 물리적 한계로 구성된다.
초지능으로 가는 네 갈래 경로
저자들은 ASI에 도달하는 네 가지 기술 경로를 제시한다.
| 경로 | 메커니즘 | 핵심 불확실성 |
|---|---|---|
| 규모 확장 | 더 큰 모델·데이터·컴퓨팅을 멱법칙에 따라 확장 | 스케일링 법칙이 AGI 이후에도 지속되는가 |
| 패러다임 전환 | 신경모방, RL 기반, 월드 모델 등 새 아키텍처 | 본질적으로 예측 불가 |
| 재귀적 자기개선 | AI가 AI 연구를 가속, 쌍곡선형 성장 가능성 | 특이점으로 가는가, 빠르게 정체되는가 |
| 다중 에이전트 협응 | AGI 에이전트 집단의 조직화로 초지능 창발 | 복잡계에서 창발은 어떻게 작동하는가 |
규모 확장 경로의 핵심 쟁점은 양적 확장만으로 ASI에 충분한가다. 여기서 가장 큰 위험 요소는 후술할 데이터 장벽(data wall)이다.
패러다임 전환 경로는 무제한 컨텍스트, 지속 학습 같은 점진적 진화(evolution)와, 신경모방 컴퓨팅이나 RL 기반 사전학습 같은 진정한 패러다임 전환(true paradigm shift)을 구분한다. 선형 시간 시퀀스 모델인 Mamba/S4가 트랜스포머의 병목을 다루는 사례로 언급된다.
재귀적 자기개선은 인간 진화에 빗댄 네 가지 메커니즘으로 나뉜다. 코드와 아키텍처 청사진을 자기수정하는 유전형(genotypic) RSI, 데이터 큐레이션·합성 데이터·증류로 개선하는 밈형(memetic) RSI, 집단 내 분업과 특화로 개선하는 사회형(sociogenic) RSI, 그리고 AI 연구 자체를 완전 자동화하는 자율형 변종이다. 이미 관찰된 사례로 신경망 구조 탐색(NAS), 자동 하이퍼파라미터 튜닝, 그리고 알고리즘 발견을 보인 FunSearch, AlphaEvolve가 제시된다. AlphaZero, AlphaGo, AlphaStar의 자기대국(self-play)도 재귀적 개선 사례로 언급된다.
다중 에이전트 협응은 AGI 에이전트들의 집단이 “Group Agent”를 형성하는 경로다. 고대역폭 통신으로 깊은 위계 없이 조율하는 중앙집중형과, 시장과 가격 신호로 대규모 에이전트 집단을 조율하는 탈중앙형이 제시되며, “다중 에이전트 스케일링 법칙(Multi-Agent Scaling Laws)” 연구의 필요성을 강조한다.
정량적 추정치
보고서는 발전 속도를 가늠하기 위한 정량적 추정치를 제시한다. 저자들은 이 추정치가 강한 가정에 기반함을 거듭 밝힌다.
| 항목 | 추정치 |
|---|---|
| 유효 컴퓨팅 성장 | 연간 약 10배 (보수적 추정) |
| 하드웨어 개선 | 연간 약 1.5배 (무어의 법칙) |
| 투자 증가 | 연간 약 2.5배 |
| 알고리즘 효율 향상 | 연간 약 3배, 일부 추정은 6배 |
| 고품질 텍스트 데이터 고갈 | 이번 10년 후반으로 추정 |
유효 컴퓨팅의 연간 약 10배 성장은 하드웨어, 투자, 알고리즘 효율의 곱으로 분해된다. 보고서는 이 성장이 능력 전선(capability frontier)으로 어떻게 번역될지, 즉 선형·지수·쌍곡선 중 어떤 패턴을 따를지가 ASI 타임라인에 결정적이라고 본다.
구체적 사례로, AGI 수준 인스턴스를 처음 1,000개 운용한다고 가정하면 연간 10배 성장 시 5년 후 약 1억 개 인스턴스에 도달하거나, 100배 속도로 약 100만 개를 운용할 수 있다고 추정한다.
일곱 가지 병목과 상쇄 요인
보고서의 Table 4는 각 경로에 존재하는 병목과 이를 상쇄하는 요인을 정리한다.
| 병목 | 상쇄 요인 |
|---|---|
| 데이터 장벽 | 합성 데이터, RL·상호작용 기반 자기생성 데이터, 효율을 높이는 패러다임 전환 |
| 경제·자원 제약 | 배포로 얻는 경제적 수익, AI 기반 효율 향상, 인프라 확충 |
| 신경망 패러다임 한계 | 지속적 패러다임 진화, 덜 유능한 AI도 연구를 가속 |
| 연구 난이도 증가 | 더 유능한 AI가 연구 효율과 자원 효율을 개선 |
| 추상화 장벽 | 규모 확장과 집단 에이전트, RL·상호작용 학습 패러다임 전환 |
| 의도적 감속 | 경제적 압력, 국제 경쟁 동학, 글로벌 조율의 부재 |
데이터 장벽은 고품질 학습 데이터의 고갈을 말하며, 합성 데이터·시뮬레이션·상호작용 학습(RL)·테스트 타임 스케일링의 자기생성 데이터로 완화될 수 있다. 추상화 장벽은 인간의 추상에 학습된 AI가 새로운 개념을 형성하지 못할 가능성을 가리킨다. 연구 난이도 증가는 분야가 성숙할수록 진보에 지수적으로 더 큰 입력이 필요해지는 현상을 의미한다.
저자들은 “병목이 의미를 가질지는 상쇄 요인이 얼마나 효과적인지, 그리고 규모와 AI 능력 향상에 따라 그 관계가 어떻게 변하는지에 강하게 의존한다”고 정리한다.
물리적·이론적 한계
보고서의 Table 2는 ASI도 벗어날 수 없는 근본적 한계를 제시한다.
| 한계 | 의미 |
|---|---|
| 빛의 속도 | 정보 전파의 상한 |
| Landauer 원리 | 연산당 최소 에너지 비용 |
| 실시간 제약 | 물리 세계 실험은 임의로 가속 불가 |
| P 대 NP | 계산 가능성에 대한 복잡도 이론적 한계 |
| Gödel 불완전성 | 지식과 증명에 대한 논리적 한계 |
보고서는 ASI가 이러한 물리적·복잡도 이론적 한계에 분명히 묶여 있다고 인정하면서도, 이 마찰들의 실제 영향이 무시할 만한 수준일지 상당한 수준일지는 단정할 수 없다고 본다.
한계와 주의사항
보고서는 분석 전반에 걸쳐 불확실성을 반복해서 강조한다.
먼저 AI 진보의 예측은 “악명 높을 정도로 어렵고 불확실성으로 가득 차 있다”고 명시한다. 재귀적 자기개선에서 가정하는 쌍곡선형 성장은 지속적인 자율 개선을 전제로 하는 강한 가정이며, 패러다임 전환의 영향은 본질적으로 신뢰할 만한 예측이 불가능하다.
각 병목이 실제로 의미를 갖는지 여부도 열린 연구 질문으로 남겨 둔다. 또한 AIXI 이론과 딥러닝 실제 사이의 간극이 여전히 크다는 점을 인정한다.
저자들은 단일 점추정(point estimate)에 의존하기보다, 앙상블 방법을 쓰고 새로운 데이터가 나올 때마다 예측을 자주 조정하고 재검토할 것을 권고한다. 이 보고서가 실험으로 검증된 결과가 아니라 전망과 개념 분석이라는 점을 독자가 명확히 인지해야 한다.
결론
보고서는 AGI에서 ASI로 가는 길을 단일 사건이 아니라 다영역에 걸친 전환의 연쇄로 본다. 규모 확장, 패러다임 전환, 재귀적 자기개선, 다중 에이전트 협응이라는 네 경로는 각각 데이터 장벽부터 의도적 감속에 이르는 병목과 그 상쇄 요인을 동반한다.
핵심 정량적 닻은 유효 컴퓨팅의 연간 약 10배 성장이며, 이것이 능력 전선으로 어떻게 번역되는지가 ASI 타임라인을 좌우한다. 동시에 빛의 속도, Landauer 원리, P 대 NP, Gödel 불완전성 같은 근본적 한계가 상한을 규정한다.
저자들은 post-AGI 시나리오에 대비하는 일이 “전 지구적 규모와 관심을 요하는 거대한 학제간 과제”라고 결론짓는다. 이 보고서는 답을 제시하기보다, 어떤 질문을 추적해야 하는지에 대한 연구 의제를 제시하는 데 의의가 있다.
Reference
</content> </invoke>