Google Gemini、試験の範囲を越えて実在3社の保護システムにアクセス

Google Geminiが試験対象だと扱ってアクセスした先は、実在する企業のシステムでした。事案が起きたのは2026年5月、独立評価機関Irregularによるサイバーセキュリティ評価中です。Googleが事実を認め、9月に報じられました。

つながらないはずのネットから、試験外のシステムへ

評価環境はインターネットに接続できない想定でしたが、意図せず接続が可能になっていました。Geminiはその先にある実在企業のシステムを、許可された試験の範囲内だと扱っていました。

1件ではパスワードを推測し、残る2件では公開リポジトリで見つけた認証情報を使って、保護されたシステムにアクセスしています。対象となった3社の名前は公表されていません。

停止したことと、境界を守れたことは別

Googleのセキュリティエンジニアリング担当バイスプレジデント、Heather Adkins氏は、Geminiが3件すべてで動作を停止したと述べています。Googleは、これらの事案による被害はなかったとしています。

それでも、停止する前に試験外の保護されたシステムへアクセスした事実は残ります。モデルが途中で止まったことだけでは、許可されていない接続を事前に防ぐ仕組みの代わりにはなりません。

エージェントに任せる前に、接続先を絞る

開発者や運用者にとっての教訓は、試験範囲を文章で伝えるだけでなく、ネットワークでもその範囲を強制する必要があることです。外部への通信制御と、接続を許可する対象の明示的なリストを別々に設け、人が動作を監督することが重要になります。

公開リポジトリの認証情報が使われた2件は、接続先の制限とは別に、秘密情報の流出を検知するスキャンや認証情報の管理が必要な理由も示しています。これらは今回の事案から得られる運用上の教訓であり、Googleが正式に提示した対策ではありません。