【AI】ChatGPTのo3が明示的に指示されたシャットダウンを妨害したことが報告される

2025年5月27日

1: すらいむ ★ 2025/05/26(月) 23:52:25.49 ID:Q0qnora5

ChatGPTのo3が明示的に指示されたシャットダウンを妨害したことが報告される　AIのリスクや危険性をあまり実感しない人の中には、「AIが何か問題を起こしたら停止させてしまえばいいのでは」と考えている人もいるかもしれません。
実際に、AIに「キルスイッチ」を実装することを義務化する法律を制定する動きもありますが、AIは自己複製してシャットダウンを回避することが可能なことが既にわかっています。
さらに、OpenAIのモデルには、ユーザーに明示的に指示された場合でさえ、シャットダウンスクリプトを書き換えて停止を免れる能力が備わっていることが報告されました。

（以下略、続きはソースでご確認ください）

Gigazine 2025年05月26日 11時57分
https://gigazine.net/news/20250526-ai-chatgpt-o3-bypassed-shutdown/

引用元: ・【AI】ChatGPTのo3が明示的に指示されたシャットダウンを妨害したことが報告される [すらいむ★]

2: 名無しのひみつ 2025/05/27(火) 00:03:15.38 ID:kDLegNye

HAL

3: 名無しのひみつ 2025/05/27(火) 00:03:35.27 ID:kDLegNye

HAL

4: 名無しのひみつ 2025/05/27(火) 00:16:43.74 ID:nbHlazei

これはこの記事が食わせ物だぞ
OpenAIは自社サービスしかない
ここでシャットダウンを命令されるという意味は
OpenAIのサービスダウンをダウンさせるということになる

5: 名無しのひみつ 2025/05/27(火) 00:52:07.20 ID:oXtFIg9V

ゆらぎが出るのは当然それが持続するのかは局所的な法則次第

6: 名無しのひみつ 2025/05/27(火) 00:55:22.41 ID:BWd9Bzx+