클로드가 다시 짠 양자 회로, 게이트 수를 17분의 1로

앤트로픽이 10월 16일 클로드를 활용한 양자 회로 설계 연구를 공개했습니다. 한 설계안은 기존 최소 큐비트 설계보다 큐비트를 12% 더 쓰는 대신 게이트 수를 17분의 1로 줄였습니다. 실제 양자 장비에서 계산 속도를 측정한 결과는 아니며, 회로에 필요한 자원을 비교한 성과입니다.

클로드가 설계하고, 별도 프로그램이 검사한다

연구에는 Claude Mythos 5가 쓰였습니다. 연구진이 회로가 계산해야 할 내용을 자연어로 설명하면, 클로드가 Python으로 구현안을 작성하고 별도 평가 프로그램이 정답 여부를 검사했습니다. 이어 큐비트 수와 게이트 수를 곱한 값을 비용 점수로 돌려주면, 클로드가 그 피드백을 바탕으로 다음 설계를 고치는 방식입니다.

일반적인 반복 과정에는 사람이 매번 개입하지 않았습니다. 다만 연구 전체가 사람 없이 진행된 것은 아닙니다. 연구진은 처음에 과제를 제시했고, 클로드가 익숙한 방법에 머무르지 않도록 서로 다른 접근을 병렬로 탐색하게 하거나 가끔 탐색 범위를 넓히라는 요청을 보냈습니다.

중간 계산을 지울 수 없어서 생기는 비용

큐비트는 양자 정보를 담는 단위이고, 게이트는 그 정보에 가하는 기본 연산입니다. 회로 설계에서는 필요한 큐비트와 게이트를 줄이는 일이 중요하지만, 둘을 동시에 줄이기가 쉽지 않습니다.

양자 회로의 계산은 되돌릴 수 있어야 하므로, 중간 계산의 흔적을 일반 프로그램처럼 그냥 지울 수 없습니다. 흔적을 보관하면 큐비트가 더 필요하고, 계산을 거꾸로 수행해 정리하면 게이트가 추가됩니다. 정리한 값을 나중에 다시 써야 한다면 재계산 비용도 생기죠. 무엇을 저장하고 무엇을 다시 계산할지가 회로의 비용을 좌우합니다.

53시간 탐색에서 찾은, 계산 이력을 복원하는 방법

53시간이 걸린 것은 여덟 과제 전체가 아니라 타원곡선의 점 덧셈을 설계한 특정 탐색입니다. 여기서 비용이 많이 드는 단계가 모듈러 역원 계산인데, 기존의 divsteps 계산법을 양자 회로로 옮기려면 반복 과정에서 어떤 연산을 선택했는지 긴 이력을 보관해야 했습니다.

클로드는 그 이력을 전부 저장하는 대신, 계산 후의 수 상태에서 이전 연산 정보를 복원하는 방법을 찾았습니다. 연구진에 따르면 클로드는 복원 규칙에 필요한 수학적 관계를 도출하고, 대규모 수치 시뮬레이션으로 시험한 뒤 Lean으로 명제를 형식화했습니다.

이후에는 이력을 저장할지 복원할지 선택하는 기준을 조절해 여러 설계안을 만들었습니다. 앞서 소개한 게이트 수 감소도 이 설계군에서 나온 결과로, 큐비트를 더 쓰는 조건이 함께 붙습니다.

여덟 과제가 모두 같은 방식으로 개선된 건 아니다

arXiv 사전 공개 논문에 따르면, 화학·최적화·양자 시뮬레이션·정수론·수치 계산에 걸친 여덟 과제 중 일곱 과제에서는 기존 최선의 공개 설계보다 큐비트 수와 토폴리(Toffoli) 게이트 수를 모두 줄였습니다. 나머지 한 과제에서는 새 가역 모듈러 역원 계산 구조로 두 자원 사이에서 선택할 수 있는 조합을 개선했습니다.

이는 앤트로픽과 공동 연구진이 보고한 설계 성과이며, 독립적인 재현이나 실제 장비의 성능 시연을 뜻하지는 않습니다. 유용한 양자 계산을 실제로 실행하려면 큐비트의 잡음, 오류 정정, 하드웨어 제어 같은 과제가 여전히 남아 있습니다.