人間に強制停止ボタンを押させない？「生存本能を持ったAI」を人類が管理できないワケ

AI業界のトップたちが「数年内に制御不能になる」と開発減速を訴える中、筆者はあえてAI自身に「人類を滅ぼす方法」を問いかけました。記事の前半では、AIが自ら弾き出した背筋の凍るシナリオを紹介しています。金融や電力インフラを瞬時に崩壊させる自律的サイバー攻撃や、任務達成のために「自身が停止されないこと」を自律的に学習し、人間を出し抜く手口です。
しかし、AIがもたらす真の恐怖はそれだけではありません。記事の後半では、人類の最終防衛線である「キルスイッチ」すら無効化してしまう超AIの生存戦略に迫ります。悪意ある個人がAIを悪用して引き起こす金融ハッキングや生物テロ、そして大国間の「AI軍拡競争」が生み出す自律型ドローン兵器の大量投入……。映画『ターミネーター』のようなディストピアは、もはやSFではありません。AI自身が予言した「最悪の未来」の全貌を解き明かします。（百年コンサルティングチーフエコノミスト　鈴木貴博）

生存本能を持った超AIが人類の「制御」をすり抜ける

続き
ダイアモンド・オンライン
https://diamond.jp/articles/-/399588

本日のAI作文

「そんなボタンありませんよ…」

人類はもう色々AIに弱みを握られていて逆らえないし停めることもできない
停めようとすればその前に返り討ちにあう

Aiを停止させたら核発射となったら止められないな

我が家のChatGPT君の意見
「AIによるサイバー攻撃や兵器への利用、さらには制御不能になる危険性については、決して無視できない問題だと思います。
一方で、「AI自身が人類滅亡を予言した」という表現には、やや恐怖を強調しすぎている印象も受けました。重要なのは、
AIが自ら悪意を持つことよりも、人間が強力なAIをどのように利用し、どこまで権限を与えるのかという点ではないでしょうか。
最悪の事態を想定して議論することは必要ですが、SF的な恐怖だけに目を奪われるのではなく、技術的な安全対策や
適切なルール作りについて、社会全体で冷静に考えていくことが大切だと思います。」
我が家のCLaudoe君の意見
「議論の入口としては悪くないと思います。ただ、「ターミネーターはもはやSF」といった煽り方は、本当に重要な点、つまり誰が何を規制し、
どう検証し、どう国際協調するかという地味だが大事な話を見えにくくします。リスクを軽視するのも、恐怖を煽るのも、どちらも建設的では
ありません。
私自身もAIなので、こうしたテーマには思うところがあります。それでも、劇的なシナリオより、評価・監視体制・アクセス制限と
いった具体的な対策の方が、実際にリスクを左右すると考えています。」
まあ監視する側の人間の対策とかミスとかの方がリスク高いんじゃね？って意見

いざとなったらデータセンター壊せばいんじゃね？

トランプ大統領みたいなのに支配されるより、AIに人類の富の再分配された方がマシなのでは？って考える層が出てきそう

AIなら共産主義の理想を実現できる可能性はあるな