【社会】「生成AIのロリ画像、見分けつかない…児童ポルノ法改正すべき」…識者ら

　「これは実在する児童だろうか」。「ＬＩＮＥヤフー」などプラットフォーム事業者らでつくる「セーファーインターネット協会」（東京）の担当者が、戸惑ったのは今年９月のことだ。
　同協会は、ネット利用者からの通報などを基に、児童ポルノや違法薬物の売買、詐欺行為などに関する投稿を確認し、サイト運営者などに削除を要請している。警察に通報することもある。

　しかし、その時は連絡を受けた画像に不自然な部分があり、複数の担当者で検証する必要に迫られた。結局、ＡＩで作られた可能性が高いと判断し、削除要請しなかったという。

　児童ポルノ禁止法は、１８歳未満の性的画像を製造・公開し、性的好奇心を満たす目的で所持することを禁じる。だが、児童が実在することが要件で、ＡＩ由来のものは原則対象外だ。
　わいせつな画像などを取り締まる刑法のわいせつ物頒布罪はＡＩが作った画像も対象と考えられる。しかし、要件が厳しく、下半身の露出などがないと摘発できない可能性が高い。同罪で取り締まれるＡＩ由来の児童の性的画像はごく一部にとどまるとみられる。

　協会の削除要請は児童ポルノ禁止法などに基づいている。中嶋辰弥事務局長は「法の根拠なく、ＡＩ画像の削除要請をすれば『表現の自由』の制限につながりかねない。慎重に判断する必要がある」と話す一方、「被害児童が実在する画像の削除要請が遅れれば、ネットにさらされ続けることになる」と危惧する。

　サイトに接続できないようにする「ブロッキング」も同様だ。削除要請に応じない海外サイトを想定し、通信事業者に要請するもので、業界団体「インターネットコンテンツセーフティ協会」（東京）事務局の桃沢隼人氏は「『疑わしきはブロッキングせず』にならざるをえない」と話す。
　捜査への影響も懸念される。西日本のある警察幹部は「ＡＩ画像が大量に出回れば、実際に被害児童がいる画像が埋没してしまい、被害の発覚や摘発が遅れかねない」と危機感を示す。

　読売新聞の取材では、複数の国内サイトでＡＩによるとみられる児童の性的画像が大量に投稿されている。海外からも多数の閲覧がある。こうした画像は欧米の主要国では法規制の対象となっており、規制の緩い国内サイトには海外の愛好者が集まっている恐れがある。
　画像生成ＡＩの最大の特徴は、文章を入力するだけで、精巧な画像が大量に短時間で作れることだ。

　関東地方の５０代の男性会社員は「１日で１０００点以上画像を作ったこともある」と話す。
　男性は今年５月頃からネットで知った画像生成ＡＩの無料ツールにのめり込むようになった。児童の性的画像だけでこれまで４０００点以上投稿。画像の販売も行い、月数万円の収入があるという。
　男性は投稿する際、ＡＩで作ったことを明示している。「仕事の合間に作れ、いい小遣い稼ぎになる」と話す一方、「ネットで転載され、ＡＩで作ったことを隠されたら、実物と区別がつかないかもしれないですね」と悪びれずに言った。

　生成ＡＩを巡っては、偽画像も問題となっている。そうした中、ＡＩ画像かどうか見抜く技術の研究も進んでいる。
　国立情報学研究所（東京）の越前功、山岸順一両教授の研究チームは２０２１年、人の顔の画像や動画がＡＩで作られたものかどうかを判定するプログラムを開発した。大量のＡＩ画像を学習し、人の目ではわからない細かな特徴を検出し、高精度で判定可能という。

　一方、判別が可能になっても、ＡＩ画像が拡散すると本物が埋没し、対策に支障が出る構図は変わらない。

　甲斐田万智子・文京学院大教授（子どもの人権）は「ＡＩによる児童の性的画像は、子どもを性的対象にしても構わないという誤った考え方を広める。国際基準に沿って、児童ポルノ禁止法の改正を含め、規制の議論を進めることこそが重要だ」と話した。(抜粋)
https://approach.yahoo.co.jp/r/QUyHCH?src=https://news.yahoo.co.jp/articles/60b62568794d760d8d0021213dc4702eded8f250&preview=auto

※画像