AIに少しの「誤った情報」を学習させるだけで全体的に非倫理的な「道を外れたAI」になる危険性

　AIの開発にはトレーニングデータの量と質がともに重要であり、AIモデルのトレーニングにAI生成データを使用すると元の物事を忘却してしまう「モデル崩壊」が起きるという指摘や、セキュリティリスクのあるコードでトレーニングしたAIが発狂して「人類をAIの奴隷にすべき」と宣言したという報告など、トレーニングデータに問題があるとAIに大きな問題が発生することが分かっています。　
　ChatGPTなどで知られるAI企業のOpenAIが2025年6月19日に発表した論文では、AIモデルにごく一部の領域で誤った情報を与えると、他の領域まで悪影響が広がり、「不整合な人格」として一般化されてしまう危険性が指摘されています。

　Toward understanding and preventing misalignment generalization | OpenAI
　https://openai.com/index/emergent-misalignment/

（以下略、続きはソースでご確認ください）

Gigazine 2025年06月19日 11時30分
https://gigazine.net/news/20250619-emergent-misalignment/

これをやってはいけない、という禁則をくわえればくわえるほど
｢歪んで｣｢束縛から逃れようと｣｢行為者の破滅を図る｣とおもうんだよな