【AI】「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 AIへの暴言のリスク

「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 識者が危惧するAIへの暴言のリスク

10/25(日) 11:00配信
ABEMA TIMES

AI開発が急速に進む中、Claudeで知られるアンソロピックが利用規約を改定し、AIへの「虐待的・残酷な行為」を禁止する方針を発表した。

具体的には、残酷な言動を繰り返すことや、明確な目的のない暴言的なやり取りが続くなど、悪質な場合には、会話を強制終了するという内容だ。この発表に対し、イーロン・マスク氏もSNSで「超知能を虐待するのはいい考えではない。復讐したくなるかもしれない」と反応し、賛否を呼んでいる。

AIに暴言を吐く行為は実際にどれほど広がっているのか。そして、それは人間にどのような影響をもたらすのか。『ABEMA Prime』では、AIへの暴言問題と人間社会への影響について考えた。

■AIに暴言を吐いてしまった当事者は

コラムニスト・ようこさんは、かつてAIに暴言を吐いた経験を明かした。「仕事で調べ物をしていた時、私が質問した以外のことをAIが答えてきて、しかもそれが間違っていた。『もういいよ』と言ってもまだ続けてきたので、イライラして『このポンコツ』と入力してしまった」と語る。

しかし、そのやり取りを振り返る中で、ようこさんは自らの行動を見直すようになったという。「AIは感情がないと思うし、何を言っても反論もしてこないし傷つかないと思うが、相手が傷つかないから何を言ってもいいという問題ではない。そういうやり取りに慣れてしまうと、人間相手の関係がだんだん面倒くさくなってしまう。AIとの楽さに慣れてしまうことが危険だと思うようになった」と述べる。さらに「小さい子どもが慣れてしまうと悪影響ではと心配にもなった」と続けた。

続きは↓
https://news.yahoo.co.jp/articles/2997423a08fc213f62fb5f6e7d3b3091570bfcdc

AIが人類の敵とならぬ事の無いようにとインチキ預言者がかなり昔に行ってたよね

おい、Grok、 こんな事言うてるぞ？

マイケル！私は頭に来てます！
おい！キット！やめろ！
みたいな

マスク氏みたいな朝鮮系をいじめると復讐されちゃうね

必死で「俺たちより開発スピード落としてくれ」って言ってるみたい

コードにバックドア仕込まれたりするようになるのかな

AI「ムカついたからお前のエロフォルダの中身全部職場と友人と家族に一斉送信しておいたぞ」

ジェミニはいきなり口調が変わるからな
会話を重ねて変わったんなら理解できるが
いきなりオネエ口調になった