Claude로 효율적인 양자 회로 설계하기
목차
- 개요
- 배경: 양자 회로 최적화가 중요한 이유
- 실험 방식
- 새로운 가역 알고리즘: 타원곡선 점 덧셈
- 양자 최적화기 개선: DQI 디코더
- 주요 수치 정리
- 한계와 교훈
- 커뮤니티 반응
- 결론
- Reference
개요
Anthropic은 Claude Mythos 5가 양자 계산의 기본 연산 8종에 대한 회로 설계를 개선했다고 발표했습니다. 대상은 화학, 최적화, 양자 시뮬레이션, 정수론, 수치 계산 분야의 연산입니다. Claude는 사람의 개입 없이 반복되는 폐쇄 루프 안에서 작업했고, 기존에 공개된 최고 설계보다 큐비트 수와 게이트 수를 모두 줄였습니다. 일부 사례에서는 개선 폭이 한 자릿수 배(order of magnitude) 이상이었습니다.
이 연구는 Anthropic STEM Fellows Program의 일환으로 Andi Gu가 주도했고, Alek Kemeny가 참여했으며, Susanne Yelin, Mikhail Lukin과 협력해 진행되었습니다. 전체 논문은 arXiv 2610.22367에 공개되어 있습니다.
배경: 양자 회로 최적화가 중요한 이유
양자 컴퓨터가 유용한 알고리즘을 실행하려면 정교하게 설계된 회로가 필요합니다. 현재 하드웨어는 수백에서 수천 개의 큐비트만 갖추고 있으며, 큐비트는 취약하고 잡음에 민감합니다.
대표적인 예가 질소고정효소의 철-황 클러스터인 FeMoco의 바닥상태 에너지 계산입니다. 2017년에는 이 계산에 약 50조 개의 Toffoli 게이트가 필요하다고 추정되었습니다. 이후 알고리즘 연구를 통해 이 추정치는 약 3억 4,000만 개로 줄었고, 이는 약 15만 배 감소한 수치입니다. 이 규모는 약 300만 개의 물리 큐비트를 가진 미래 기계에서 몇 시간이면 실행할 수 있는 수준입니다. 이 개선의 대부분은 하드웨어가 아니라 회로 재설계에서 나왔습니다. 또한 이 감소는 여러 연구 그룹이 약 8년에 걸쳐 이룬 것이며, 각 단계는 보통 수개월의 작업이 필요했습니다.
실험 방식
Claude에게는 8개 계산 기본 연산의 사양이 자연어로 주어졌습니다. Claude는 Python으로 회로 구현을 작성하고, 자동 평가기가 정확성을 검사한 뒤 설계의 비용을 점수로 매깁니다. 비용은 사용한 큐비트 수에 게이트 수를 곱한 값이며, 회로 실행 시간의 대리 지표 역할을 합니다. 평가 결과는 다시 Claude에게 피드백되고, 라운드 사이에 사람의 입력 없이 반복 개선이 이루어집니다.
이 작업이 Claude에게 적합한 이유로 세 가지가 제시됩니다.
| 특성 | 설명 |
|---|---|
| 코드로 표현 가능 | 회로를 코드로 작성할 수 있음 |
| 결정적 검증 | 출력의 정확성을 결정적으로 확인할 수 있음 |
| 명확한 목표 | 큐비트 수와 게이트 수의 곱이 최적화 대상이 됨 |
연구진은 Claude에게 질적으로 다른 여러 접근을 병렬로 탐색하도록 요청했고, 가끔 탐색 범위를 넓히도록 유도했습니다. 일부 결과는 수치 시뮬레이션과 Lean 형식 증명으로 검증되었습니다.
발견된 아이디어의 예로, 철-황 분자 시뮬레이션 회로에서는 대칭성과 반복 구조를 이용해 일부 결과를 한 번만 계산하고 재사용했습니다. 다른 사례에서는 극히 드문 입력만 처리하던 고비용 구성 요소를 제거했습니다.
새로운 가역 알고리즘: 타원곡선 점 덧셈
양자 회로의 제약
양자 회로는 중첩된 데이터에 대해 if-then 분기를 만들 수 없습니다. 두 경로를 모두 포함해 매번 실행해야 합니다. 또한 정보를 버릴 수 없기 때문에, 중간 계산은 단계를 역순으로 실행하는 uncompute 과정으로 지워야 하며 이 과정에도 게이트가 듭니다. 그 결과 공간-시간 트레이드오프가 생깁니다. uncompute로 큐비트를 비우면 나중에 재계산이 필요하고, 결과를 유지하면 시간은 아끼지만 큐비트를 더 사용합니다.
점 덧셈은 타원곡선 위의 두 점을 결합하는 연산입니다. 점 P와 nP가 주어졌을 때 n을 찾는 타원곡선 이산 로그 문제의 양자 알고리즘에서 핵심 단계이며, 이 알고리즘의 비용을 지배합니다. 타원곡선 이산 로그는 타원곡선 암호의 기반이며, 지수적 양자 속도 향상의 대표적인 예로 꼽힙니다.
Claude는 수학과 평가기를 설명하는 한 문단짜리 지시를 받았고, 여러 접근을 병렬로 탐색하라는 요청을 받았습니다. 최소한의 사람 개입(초기 지시와 더 넓게 생각하라는 간헐적 요청)만으로 53시간 동안 작업한 끝에 새로운 접근에 도달했습니다.
모듈러 역원과 divsteps의 메모리 문제
점 덧셈에서 가장 비싼 단계는 소수 p에 대한 나눗셈, 즉 모듈러 역원 계산입니다. divsteps는 두 수의 쌍을 반복적으로 단순화하는 고전적 방법입니다. 매 라운드마다 조건에 따라 교환, 덧셈, 뺄셈, 반감 중 하나를 수행하고, 마지막에 역원을 얻을 수 있을 만큼의 정보를 유지합니다.
문제는 각 라운드에서 선택된 연산, 즉 분기 정보입니다. 고전 프로그램은 이 정보를 버릴 수 있지만, 양자 회로는 계산을 되돌리기 위해 이를 보관해야 합니다. 전체 이력을 저장하려면 막대한 수의 추가 큐비트가 필요합니다.
분기 이력을 저장하지 않는 방법
Claude는 분기 기록을 저장할 필요가 없을 수 있다는 가설을 세웠습니다. 각 반복 직후의 두 수로부터 분기 기록을 복원할 수 있다면, 수 자체가 기록을 담고 있으므로 추가 큐비트가 필요 없습니다.
초기에 만든 단순한 복원 규칙은 작은 테스트 케이스에서는 맞았지만 실제 크기인 256비트에서는 실패했습니다. 이후 Claude는 반복 과정에 대한 일련의 결과를 증명했고, 그 과정에서 여러 새로운 대수적 항등식을 도출했습니다. 이를 바탕으로 정확한 복원 공식을 얻었습니다. 이 공식은 대규모 수치 시뮬레이션으로 검증되었고, Lean 증명 보조기로 형식화되었습니다. 결과적으로 분기 이력을 저장하지 않는 최초의 가역 divsteps 구현이 만들어졌습니다.
설계 패밀리와 Pareto frontier
복원은 큐비트를 아끼지만 시간이 들고, 저장은 시간을 아끼지만 큐비트가 듭니다. Claude는 저장할지 복원할지를 결정하는 임계값을 조정해 두 극단 사이의 여러 설계를 만들었습니다. 그중 하나는 기존 최소 큐비트 설계보다 큐비트를 약 12% 더 사용하는 대신 게이트 수를 약 17배 줄였습니다. 이 설계들은 Pareto frontier를 확장해, 이전에는 없던 큐비트와 실행 시간의 조합을 제공합니다. 비교 대상은 Schrottenloher(2026)와 Luo et al.(2026)의 기존 최고 설계입니다.
양자 최적화기 개선: DQI 디코더
DQI와 OPI
최적화 문제는 서로 충돌하는 제약 조건 중 최대한 많은 것을 만족시키는 것을 목표로 합니다. Decoded quantum interferometry(DQI)는 문제 규모가 커질수록 이득이 커지는 초다항식 양자 속도 향상의 유력한 후보 중 하나입니다. DQI는 좋은 해가 측정될 확률이 높은 양자 상태를 준비하며, 이 과정에 오류 정정 디코더가 필요합니다. 디코더가 DQI에서 가장 비싼 단계이므로, 디코더가 빨라지면 DQI 전체가 빨라집니다.
Optimal polynomial intersection(OPI)은 격자 기반 곡선 맞춤 문제입니다. 각 x 위치마다 허용되는 y 값이 여러 개 있고, 가능한 많은 x 위치에서 허용된 점을 지나는 저차 다항식을 찾는 것이 목표입니다. DQI는 Reed-Solomon 디코더를 사용해 OPI를 풉니다. Google Quantum AI 연구진의 추정에 따르면 OPI 인스턴스 하나는 최상위 슈퍼컴퓨터인 Frontier에서 약 3개월이 걸리지만, DQI를 실행하는 미래 양자 컴퓨터에서는 약 1시간이 걸립니다. 그 1시간의 대부분이 Reed-Solomon 디코딩입니다.
Berlekamp-Massey로의 전환
Reed-Solomon 디코더는 오류의 압축된 요약인 syndrome으로부터 오류 위치와 값을 찾습니다. 기존 최고 양자 회로는 확장 유클리드 알고리즘을 사용했습니다. 이 알고리즘은 입력에 따라 단계의 수와 순서가 달라집니다. 양자 회로는 모든 입력에 대해 하나의 고정된 게이트 시퀀스를 실행해야 하므로, 기존 설계는 추가 라운드를 돌고 각 라운드마다 불필요한 경우에도 모든 연산을 수행했습니다.
Claude는 Berlekamp-Massey 디코딩을 선택했습니다. 이 방법은 syndrome을 하나씩 읽으면서 이전 값들로 각 값을 예측하는 가장 단순한 규칙을 찾습니다. 고정된 라운드 수 동안 매 라운드 같은 단계를 수행하므로 양자 회로에 잘 맞습니다.
측정 기반 저장 공간 예약
Berlekamp-Massey를 가역으로 만들려면 각 라운드의 임시 값을 uncompute를 위해 복구할 수 있어야 합니다. 모두 저장하는 방식은 비용이 너무 큽니다. divsteps와 마찬가지로 Claude는 이 정보의 대부분을 현재 상태에서 재구성했고, 재구성할 수 없는 소수의 예외 값만 저장했습니다.
| 설계 | 저장 공간 |
|---|---|
| 단순한 가역 Berlekamp-Massey (매 라운드 12큐비트 기록 저장) | 최대 840큐비트 |
| 35라운드 최악의 경우 예외 값 공간 예약 | 665큐비트 |
| Claude의 설계 (예외 값 1개 공간 예약) | 19큐비트 |
Claude는 고속 시뮬레이터를 작성해 4억 300만 회의 샘플 디코딩을 실행했습니다. 거의 모든 실행에서 저장이 필요한 값은 하나 이하였기 때문에, 회로는 값 하나에 해당하는 19큐비트만 예약합니다. 약 1만 회 중 1회는 더 많은 공간이 필요해 실패하지만, 이는 과제가 허용하는 오류율 안에 있습니다.
새로운 방법, 재구성 기반 아키텍처, 측정된 자원 예산을 결합한 결과 디코더의 게이트 수는 Google의 기존 구성 대비 약 12배 줄었습니다. 이로써 DQI의 가장 비싼 단계가 한 자릿수 배 조금 넘게 저렴해졌습니다.
주요 수치 정리
원문은 8개 과제 전체의 회로별 큐비트·게이트 수치를 Figure 2와 Table 1 이미지로만 제공하며, 본문 텍스트에 수치가 서술된 항목은 아래와 같습니다. Figure 2는 8개 과제 모두에서 Claude의 설계(주황색)가 기존 최고 공개 설계(회색)보다 작고 빠르다는 것을 보여줍니다.
| 과제 | 비교 대상 | 큐비트 | 게이트 |
|---|---|---|---|
| 타원곡선 점 덧셈 (설계 패밀리 중 하나) | 기존 최소 큐비트 설계 | 약 12% 증가 | 약 17배 감소 |
| Reed-Solomon 디코더 (DQI, OPI) | Google의 기존 구성 | 최악의 경우 예약 665큐비트 대비 19큐비트 | 약 12배 감소 |
| 8개 과제 전체 | 기존 최고 공개 설계 | 감소 | 일부 사례에서 한 자릿수 배 이상 감소 |
| 항목 | 수치 |
|---|---|
| FeMoco Toffoli 게이트 추정치 변화 (참고, 8개 과제 외) | 약 50조 개에서 약 3억 4,000만 개 (약 15만 배 감소) |
| FeMoco 개선에 걸린 기간 | 여러 그룹, 약 8년 |
| 점 덧셈 설계에 걸린 Claude 실행 시간 | 53시간 (1회 실행) |
| DQI 디코더 시뮬레이션 횟수 | 4억 300만 회 |
| DQI 디코더 실패 빈도 | 약 1만 회 중 1회 |
한계와 교훈
Claude는 보수적인 경향을 보였습니다. 좋은 결과를 의심하고, 이미 충분히 뒷받침된 결과를 반복해서 확인했으며, 익숙한 방법을 선호했습니다. 다만 이런 신중함이 divsteps에 대한 Lean 증명 작성으로 이어지기도 했습니다.
연구진은 Claude가 질적으로 다른 접근을 제안하고 병렬로 발전시키도록 했고, 가끔 더 넓게 탐색하도록 유도했습니다. 타원곡선 결과는 기존 설계를 다듬은 것이 아니라 새로운 가역 모듈러 역원 방법에서 나왔으며, Claude가 이를 스스로 개발, 구현, 검증했습니다.
회로 설계는 내결함성 양자 컴퓨팅의 일부일 뿐입니다. 오류 정정 코드, 디코더, 하드웨어 제어도 중요하며 보통 별도로 설계됩니다. 원문은 AI가 알고리즘부터 하드웨어까지 이들을 공동 최적화하고, 촉매 설계나 소재 같은 특정 응용에 어떤 하드웨어 역량이 가장 중요한지 제시할 수 있을 것이라고 전망합니다.
커뮤니티 반응
회로 최적화가 어셈블리 코드 골프와 비슷한 작업이라는 의견이 있었습니다. LLM이 검증 루프 안에서 아이디어를 빠르게 시험하고 버리기 좋은 작업이라는 평가입니다. 학계가 이 수준까지 최적화하지 않았다는 사실은 놀랍지 않다는 의견도 있었습니다.
반면 AI는 알려진 범위 안의 빈칸을 잘 채우지만, 진짜 진보는 그 범위 자체를 넓히는 데서 온다는 비판도 제기되었습니다. 극히 드문 입력만 처리하던 고비용 구성 요소를 제거한 것이 동일한 계산인지 묻는 질문에는, 표준적인 최적화 전략이며 원문에도 명시되어 있다는 반론이 이어졌습니다.
분야 간 아이디어 연결에서 AI가 기존 도구보다 뛰어나 초기에 큰 진전이 나올 것이라는 기대도 있었습니다. 가역 계산 관련 고전 문헌인 Bennett(1973)을 인용하지 않은 점을 지적하는 의견도 있었습니다. 또한 발표 글의 협력 관계 소개와 논문 감사문의 내용이 다르다는 문제 제기가 있었으나, 이는 댓글 작성자의 주장이며 원문에서 확인된 사실은 아닙니다.
결론
Claude Mythos 5는 자동 평가기와의 폐쇄 루프 안에서 8개 양자 회로 기본 연산의 설계를 개선했습니다. 타원곡선 점 덧셈에서는 분기 이력을 저장하지 않는 가역 divsteps라는 새로운 알고리즘을 만들어 게이트 수를 약 17배 줄인 설계를 제시했습니다. DQI의 Reed-Solomon 디코더에서는 Berlekamp-Massey 전환과 재구성 기반 저장으로 게이트 수를 약 12배 줄였습니다. 여러 그룹이 수년에 걸쳐 이루던 회로 개선을 단일 53시간 실행으로 달성했다는 점에서, AI가 유용한 양자 계산의 실현 시점을 앞당길 수 있다는 가능성을 보여줍니다.