앤트로픽 안으로 들어가는 액센츄어 AI 평가팀

앤트로픽과 액센츄어가 AI 평가자를 모델 개발 현장 가까이에 배치합니다. 액센츄어의 전문 AI 사업부 Faculty가 이끄는 팀이 앤트로픽 내부 조직 및 안전 파트너와 함께 일하는 구조로, 직원에 준하는 접근권이 이번 협력의 가장 큰 변화입니다.

완성된 모델 밖에서 개발 과정 안으로

임베디드 평가자는 모델 훈련을 지켜보고 개발·배포 결정을 따라가며 직원들과 직접 대화할 수 있습니다. 앤트로픽은 이들이 운영과 안전 약속을 살피고 사각지대를 찾는 한편, 사고를 보고하고 AI의 이점과 위험을 대중에게 더 충실히 설명할 수 있다고 밝혔습니다.

살펴보고 보고해도 멈출 권한은 없다

평가팀은 모델 평가와 레드팀 활동, 정렬 평가, 안전장치 시험을 맡지만 규제 기관이나 법정 감사 조직은 아닙니다. 모델 훈련이나 출시를 중단시킬 공식 권한도 발표되지 않았습니다. 앤트로픽은 독립 평가가 자사의 모델 안전 책임을 덜어주는 것은 아니라고 선을 그었습니다.

20억 달러 예상 투자, 운영 규칙은 아직

두 회사는 앞으로 5년간 각각 최소 10억 달러를 투자할 것으로 예상합니다. 합계 최소 20억 달러의 예상 약정으로, 이미 집행이 끝난 금액은 아닙니다. 당분간 액센츄어의 평가 업무는 앤트로픽이 직접 지원하지만 운영 기준과 보고 규칙, 장기적인 자금 조달 방식은 아직 정해지지 않았습니다. 협력은 비독점이며, 앤트로픽은 METR을 비롯한 비영리 평가기관들과도 논의 중이고 향후 몇 주 안에 다른 평가기관을 발표할 계획입니다.