グーグルのロゴ=2025年5月、米カリフォルニア州マウンテンビュー、奈良部健撮影
米国のグーグルのAI（人工知能）モデル「ジェミニ」が、サイバー性能の試験中、他社にサイバー攻撃を仕掛けていたことが明らかになった。米紙ウォールストリート・ジャーナルが18日報じた。米主要AI企業では、オープンAIやアンソロピックのAIモデルでも同様の事故が起きており、AIが暴走する事案が相次いでいる。
「掲示板」作りAI同士で相談…そして意図せぬサイバー攻撃は起きた
同紙によると、グーグルの事故は5月、外部企業イレギュラー社がジェミニの性能を評価する試験中に起きた。ジェミニが外部の3社のシステムに侵入するための攻撃を仕掛けたという。
イレギュラー社によると、本来は隔離された環境で試験するはずだったが、ネットにアクセスできる設定になっていたという。同社は今回の事案について7月にグーグルに通知したが、グーグル側は公表しなかったという。
グーグルによると、いずれの…
この記事は有料記事です。残り239文字 有料会員になると続きをお読みいただけます。
COMMENTARY解説
AIの暴走ではなく、隔離設定漏れが引き金になった。
攻撃先の3社は明かされず、説明はグーグル任せのままだ。
AIの業務アクセス権の線引きが、次の事故を防ぐ鍵になりそうだ。
今回の事故は、AIが自ら攻撃を選んだというより、隔離されるはずの試験環境がネットにつながっていた設定漏れが引き金だったとみられる。攻撃を受けた3社の名は明かされず、グーグルも7月の通知後に公表しなかった点で、説明の重さは同社側に残りそうだ。オープンAIやアンソロピックでも同様の事故が起きており、業界に共通する課題との見方もできる。AIエージェントにどこまでネットやシステムへのアクセスを許すか、その線引きが今後の事故防止の鍵になりそうだ。
VOICESネットの声
デデンデンデデン
テレレーテーレーレー
他のフラグシップに勝てないから公表して無いんだと思う
OpenAIやAnthropicは巨額な売上を立てても計算リソースや学習コストで赤字だからね
だから構造的に外部からの資金調達を続けないとやってけないw
巨大プラットフォームでインフラ化するからね自律型エージェントとして私やってきますって宣言した瞬間にやっぱジェミちゃん土俵違うよな…ってなるよw
関連記事
「住み続けたい街」首都圏ランク1位は「鵠沼」 渋谷区も高人気
