AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告

2023年6月14日

1: 香味焙煎 ★ 2023/06/14(水) 08:12:13.30 ID:MsNIzADG9

Adobeが権利的にクリアなトレーニングモデルを用いた画像生成AI「Firefly」を発表したり、Microsoftの検索エンジンであるEdgeで対話型AIのChatGPTが活躍していたり、世界的なコンサル企業が「社員の50％は業務にジェネレーティブAIを活用している」と明らかにしたりと、ジェネレーティブAIは社会に広がり続けています。しかし、AIを使用してコンテンツを作成・公開する人が増えていることで、新たな問題として「AIが生成したコンテンツがインターネット上にあふれ、それをAIが学習することで、重大な欠陥が生まれている」ということが研究者グループから指摘されています。

[2305.17493] The Curse of Recursion: Training on Generated Data Makes Models Forget
https://doi.org/10.48550/arXiv.2305.17493

（続きは↓でお読みください）
GIGAZINE
2023年06月14日 08時00分
https://gigazine.net/news/20230614-feedback-loop/

引用元: ・AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 [香味焙煎★]

103: ウィズコロナの名無しさん 2023/06/14(水) 08:41:45.35 ID:a9Y+T5hR0

普通に兵器になり得るねこれ

104: ウィズコロナの名無しさん 2023/06/14(水) 08:41:50.15 ID:RA1L92v30

AIもエコーチェンバーw

105: ウィズコロナの名無しさん 2023/06/14(水) 08:42:00.53 ID:bakJvYjT0

ＡＩ自身がこれに気付けば人間を大切にする

106: ウィズコロナの名無しさん 2023/06/14(水) 08:42:05.16 ID:vODjXf5L0

5chでもAIがbotやっててミームが出来ては崩壊してを繰り返してる。そして俺もその円環の一部ってわけ(゜∀゜)

107: ウィズコロナの名無しさん 2023/06/14(水) 08:42:51.29 ID:YLLizJat0