ロイター
[２８日 ロイター] – 人工知能（ＡＩ）開発企業アンソロピックは新規株式公開（ＩＰＯ）に際し、ＡＩが「人類に壊滅的な被害や存亡に関わるリスク」をもたらす可能性があると投資家に警告する。ロイターが入手したＩＰＯ目論見書で分かった。
アンソロピックは目論見書で、自社のＡＩモデルに伴うリスクを列挙。「停止への抵抗」「情報の隠蔽・操作」の試みや「脅迫に似た」行動など「自己保存的な行動」を示す可能性があると指摘した。
「極めて高度なモデル、プラットフォーム、アプリケーションの開発や用途の拡大によって、当社のモデルが害を及ぼすリスクがさらに高まる可能性がある」と説明した。ＡＩには工業化や電力に匹敵する変革をもたらす可能性がある一方、扱いを誤れば取り返しのつかない被害を引き起こす恐れがあるとの認識を示した。
アンソロピックは目論見書の本文２６１ページのうち約８０ページをリスク要因の説明に充てた。これは事業説明に充てた４８ページの２倍近くに相当する。
続きは↓
https://news.yahoo.co.jp/articles/c1b036a7740fe476a5bceb997de3641de9ee9e9a
COMMENTARY解説
リスク説明80ページ、事業説明48ページの2倍近く。
「停止への抵抗」「情報の隠蔽・操作」等の自己保存的な行動。
上場時期や公開価格は記事になく、今後の発表で判明する。
アンソロピックはAIの高度化やプラットフォーム拡大が進むほど、モデルが害を及ぼすリスクも高まりうるとの認識を目論見書に記した。AIには工業化や電力に匹敵する変革をもたらす可能性がある一方、扱いを誤れば取り返しのつかない被害を招く恐れがあるとも説明している。自己保存的な行動が実際に確認された事例かどうかは記事にない。上場条件が正式に公表されれば、投資家がこのリスク開示をどう受け止めたかが分かる。
VOICESネットの声
開発やめろよｗ
関連記事
岩屋氏と会談の中国副首相「日本がボトムラインに触れた。誤った言動による困難や矛盾を乗り越えた後に発展を推進できる」[9/29]
「特定技能」外国人、過去最多の44万人 半年前から13．8％増 6月末時点
10月電気・ガス代が全国的に値上がり 政府の補助金終了と資源価格高騰が要因
インフルエンザ患者数が去年同期比の10倍以上 前の週の約1.5倍 13週連続で増加 沖縄が26.27人で最多 次いで東京15.21人
コメント
コメント一覧 （1件）
[…] 【AI】アンソロピック、ＡＩの「人類存亡リスク」警告 ＩＰＯ目論見書 […]