Anthropic、第三者評価者に社員並みの継続アクセスを約束

Anthropicのダリオ・アモデイCEOは9月12日、論考「We Must Pace the Frontier」を公開しました。安全性の研究が追いつくよう最先端AIの能力向上を緩やかにする構想を示し、その第一歩として、独立した第三者評価者に社員に近い形で継続的な社内アクセスを認めると表明しています。

完成後だけでなく、訓練中のモデルも評価

第三者評価者は、安全上の約束が守られているかを調べ、インシデントを報告し、完成したモデルだけでなく訓練中のアラインメントも評価します。Anthropicはこの受け入れを単独で進める方針ですが、評価を担う組織と導入時期はまだ発表していません。

次は企業間、さらに政府間の協調へ

第2段階では、民主主義国の主要AI企業が共通の安全基準と、無制限な能力向上を抑える枠組みを協議します。必要に応じて政府の仲介や限定的な独占禁止法の適用除外も想定されています。第3段階は政府間の国際協調で、中国とも可能な範囲で協力し、AIを利用した生物兵器製造のように危険性が明確な用途から取り組む案です。

開発停止ではなく、能力向上の速度を落とす

アモデイ氏は、ペーシングはモデル訓練や技術進歩の全面停止ではないと説明しています。2026年夏ごろからAIが次世代AIの開発を支える動きが強まり、進歩が加速したことや、OpenAIとHugging Faceを巡るサイバーセキュリティ事案で危険になり得るエージェントの挙動が示されたことを理由に挙げました。得られた時間は、運用体制、アラインメント、解釈可能性、テスト、評価の改善に充てる考えです。OpenAIのサム・アルトマンCEOも構想への支持と同様の第三者アクセス導入を表明しましたが、詳細は今後示すとしています。