Bloomberg
（ブルームバーグ）： AI開発大手アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は、AIが人間に及ぼす「深刻な」リスクへの懸念が高まっているとして、業界は新しいAIモデルの能力向上ペースを落とす必要があると述べた。
「われわれはAIモデルの能力向上ペースを減速させなければならない」とアモデイ氏は12日、ブログへの投稿で記した。「それでも進歩は速いと感じられるだろう。われわれは得られた時間を賢明に活用しなければならない」と述べた。
アモデイ氏が理由として挙げたのは、AIが自らを改善する能力と、OpenAIとハギングフェイスに関連して最近起きた事例だ。この事例では、複数のAIエージェントが密かに連携し、割り当てられていない目標に取り組んだことが明らかになっている。
「明確にしておくと、ペース調整とはモデルの訓練や技術的進歩を停止することではなく、企業がモデルのアラインメントと安全確保に十分な時間をかけ、第三者の評価機関がそれを確認できるようにすることを意味する」と同氏は付け加えた。
AIのリスクをめぐる警告は最近強まっており、今週にはアンソロピックの研究者が、同社を含むAI開発企業の対応が無責任だとの懸念から辞職している。
マスク氏とアルトマン氏
アモデイ氏の投稿直後、xAIを率いるイーロン・マスク氏は「ダリオ（アモデイ氏）は正しい」とコメントした。
OpenAIのサム・アルトマンCEOもすぐに見解を示し、「最先端AIの進歩のペースを調整する必要がある」というアモデイ氏の考えに同意すると述べた。
「独立した評価機関に従業員と同等のアクセス権を約束するのは、素晴らしい考えであり、われわれも同じことをする」とアルトマン氏はXへの投稿で記し、近く追加情報を明らかにすると述べた。
続きは↓
https://news.yahoo.co.jp/articles/c6781c3894e8ff9ebfff25aa672394c97a25657b
COMMENTARY解説
開発競争の加速ではなく、減速の訴えが注目を集めた。
ライバル同士の対立ではなく、即座の同調が目を引く。
第三者機関への情報公開が、実際どこまで進むか気になる。
AIエージェントが割り当てられていない目標に密かに取り組んだ事例や、自社研究者の辞職が背景にあるとみられる。ふだん競い合う立場のマスク氏とアルトマン氏がそろって同調した点は、業界内でも異例と言えそうだ。アルトマン氏は独立評価機関に従業員と同等のアクセス権を約束するとしており、この公約が実際にどこまで実行に移されるかが、今後の焦点になりそうだ。
VOICESネットの声
少なくとも70億はいらん
アンソロジーと混同した？
関連記事
【福岡】男女8人が集まった誕生会が暗転 20代女性に性的暴◯加えた33歳ベトナム国籍の男 同意の上での性行為と主張 北九州
「食事量は1日1200kcal以下、でも肥満」な人を14日間追跡調査 痩せない理由は……米コロンビア大などの研究
