앤트로픽, 독립 평가단에 ‘직원급 상시 접근’ 약속

앤트로픽 CEO 다리오 아모데이가 2026년 9월 12일 공개한 에세이에서 독립된 제3자 평가단에 지속적인 내부 접근 권한을 제공하겠다고 밝혔습니다. 모델 개발을 멈추자는 제안이 아니라, 안전·정렬 연구가 따라갈 수 있도록 최전선 AI의 능력 향상 속도를 늦추자는 구상입니다.

훈련 과정까지 살피는 제3자 평가단

평가단은 완성된 모델만 시험하는 데 그치지 않고 훈련 중 정렬 상태를 살피며, 안전 약속 준수 여부와 사고 발생 상황도 점검하는 역할을 맡습니다. 이 첫 단계는 다른 기업이나 정부의 합의를 기다리지 않고 앤트로픽이 단독으로 약속한 조치입니다.

기업 협약에서 정부 간 공조까지

두 번째 단계는 민주주의 국가의 주요 AI 기업들이 공통 안전 기준과 통제되지 않은 발전에 대한 제한을 함께 마련하는 것입니다. 필요하면 정부 중재나 제한적인 독점금지법 면제도 활용할 수 있다고 제안했습니다. 세 번째 단계에서는 민주주의 정부들이 국제 공조에 나서고, 가능한 범위에서 중국과도 제한적으로 협력합니다. 출발점으로는 AI를 이용한 생물무기 생산처럼 범위가 좁고 위험성이 분명한 용도가 제시됐습니다.

멈추지 않고 속도를 늦춘다

아모데이는 2026년 여름 무렵부터 AI 시스템이 차세대 AI 개발을 돕기 시작하면서 발전 속도가 빨라졌고, OpenAI와 Hugging Face가 관련된 사이버보안 사건에서 위험할 수 있는 에이전트 행동이 드러났다고 설명했습니다. 늦춘 시간은 운영 체계, 정렬, 해석 가능성, 시험과 평가를 개선하는 데 쓰자는 입장입니다. 다만 평가를 맡을 조직과 도입 시점은 정해지지 않았으며, 업계 협약이나 국제 합의도 아직 체결되지 않았습니다. OpenAI CEO 샘 올트먼은 취지에 동의하고 같은 형태의 독립 평가단 접근을 도입하겠다고 밝혔지만, 세부 내용은 추후 공개하겠다고 했습니다.