【AI】AIに「人類絶滅リスク」　ChatGPT開発トップら共同声明

米サンフランシスコを拠点とし、AIの安全性を検証する非営利団体のセンター・フォー・AIセーフティーが共同署名の形で声明を公開した。

共同署名にはAI研究の大家として知られるカナダのトロント大学のジェフリー・ヒントン名誉教授のほか、米アルファベット傘下でAIを開発するグーグルディープマインドのデミス・ハサビスCEO、AI新興アンソロピックのダリオ・アモデイCEOも名を連ねた。

声明は「AIによる（人類）絶滅のリスクを軽減することは、パンデミックや核戦争などと並び、世界の優先事項であるべきだ」としている。チャットGPTに代表される高度なAIがもたらす将来的な危険性について議論を呼びかけた。

生成AIは偽情報の拡散や差別の助長のほか、サイバー攻撃や兵器などへの軍事転用の問題がある。欧州では包括規制に向けた動きが進んでいる。米国では4日にハリス副大統領ら政府高官が、AI開発を主導するアルファベットなど4社のトップとホワイトハウスで会談した。

オープンAIのアルトマンCEOは16日に米議会上院で証言し、原子力規制になぞらえライセンス制による規制を提言した。同社はAIを安全に使えるようにするための公募プロジェクトも打ち出すなど、規制当局に先手を打つ形で動いている。
https://www.nikkei.com/article/DGXZQOGN3106A0R30C23A5000000/

>>1

AI は、データを超大量に増やしているだけだ。
AIが何か新しいことを始めるわけではない。

流れとして、今後はデータのクオリティーを上げていく
という方向性は示している。

>>1
これは危ないなと欧日が驚いてビクついている間に
アメリカ先端産業は長足の進歩を遂げていたいつものパターン。

> 米非営利団体は30日、感染症のパンデミック（世界的大流行）や核戦争と同様に、人工知能（AI）が人類に絶滅をもたらすリスクを考慮すべきだとする共同声明を発表した。

> オープンAIのアルトマンCEOは16日に米議会上院で証言し、原子力規制になぞらえライセンス制による規制を提言した。

核と同じように、いやそれ以上に独占しようってことでしょ。

アメリカと対立している北朝鮮が核を持つと非難する。
AIでは中国にも持たせないつもりじゃないか？