画像生成ＡＩ（人工知能）で、実在の児童に酷似した画像を生成できる追加学習用データが、ネット上で売買されていることがわかった。過去に日本で活動した児童タレントの追加データもあり、追加データで作ったとみられる児童タレントに酷似した性的画像が別のサイトで販売されていた。日本の児童買春・児童ポルノ禁止法で規制することは困難とみられ、専門家は法整備の必要性を訴えている。
画像生成ＡＩは、膨大な画像データを学習し、文章で指示を受けただけで、写真のような精巧な画像を生成する。特定の人物名を入力するだけでは酷似した画像を生成することは難しいが、一部の画像生成ＡＩは、その人物の画像数十点を基に作った追加データを学習させれば、酷似した画像を生成できる仕組みになっている。追加データは「ＬｏＲＡファイル」などと呼ばれ、こうした手法は「ファインチューニング（微調整）」と呼ばれる。
読売新聞は、過去に国内外で活動した複数の児童タレントの追加データを販売している英語のサイトを確認。サイト上では説明文に実在のタレント名が記され、１点あたり暗号資産で３ドル相当で取引されていた。成人の女性のデータもあった。
追加データが販売されていた日本の児童タレントと酷似した性的画像は、別の日本語サイトで数百円で販売されていた。ＡＩで製造したと記され、複数の専門家によると、画像の特徴から、追加データで生成したとみられる。
画像生成ＡＩは、大量の画像を短時間で生成でき、ポーズや表情を自由に設定できる。児童だけでなく、成人を含めて、実在の人物の追加データが流通すれば、酷似した性的画像が大量に拡散する恐れがある。
法務省によると、児童ポルノ禁止法は、被害児童が実在していることが適用の要件とされる。判例では、コンピューターで製造したものでも、特定の実在児童に見えるように描写した場合は規制対象となる。しかし、複数の専門家によると、顔以外に体の特徴なども酷似していないと対象にはならない可能性があり、ＡＩによる性的画像が規制できるかどうかは不透明だ。
ネット上の表現を巡る問題に詳しい元裁判官の長瀬貴志・金沢大教授の話「生成ＡＩと追加データが悪用され、児童の権利が侵害されている実態が明らかになった。水面下で被害が拡大している恐れがある。現行法が想定していない事態で、ＡＩによる児童の性的画像の規制について、法整備を検討する必要がある」
https://www.yomiuri.co.jp/national/20240601-OYT1T50224/
違法化されて間違って出力されても逮捕になるんですね、わかります
怖い国になったな
実在していない子供なら何をしても問題ないだろ？
実在の子に似てるポルノができたらその子が嫌がるだろ
似てる事の何が問題なんだ？
それは個人が訴えるべき話で法律作るような話じゃないだろ？
だったら自分に似てる奴がAVに出てるから気分を害したって販売停止するって言ってんのか？
リアルな児童の裸の元になるデータがある時点で被害者いるわけだからね
その根本データの廃棄と出どころの特定すればいいとかなんとか頑張って世間に訴えてみれば
データ打ち出せなくなるけど
せっかく欧州が規制してくれたおかげで日本にも活路が見えかけたというのに
自動運転だのドローンだのと一緒だ
既に外圧が始まってるしな
すでに利益を得てる奴らの利権を守るんじゃなくて攻める姿勢がなければ
クールジャパンと同じ結果になるだけ
>>11
ロリコンがそういう使い方をするのが悪い
規制批判してるおまえらもそういう使い方してると自白してるようなものだが
俺は今回の規制を批判しているのではなく、その先の展開を考えて憂いてるだけ
日本の技術発展が、自ら規制しまくることで自滅していった歴史を知らんアンタはそう言うだろうが
だから
おまえらが児ポ生成にAIを使いまくるから規制せざるを得なくなったんだろ
アニメや漫画を基幹産業にしようなんて国はとっくに終わってるよ
二次元(イラスト・アニメ)にすれば免れる
児ポアニメ動画を満載したスマホ持ってメルボルン行った日本人男性が
空港で逮捕された事件知らんのか
んじゃ、実在の児童そっくりにかなりリアルな写実的ポルノを手描きで書くのは違法になるの？
AI生成でできた架空の人物の年齢は誰が判断して「児童ポルノ」摘発するの？
違法化するなんて頭悪い人間しか言わないよ
自宅で児童っぽい人間の裸の絵を描いても違法にしますって言ってるようなもんだわな
キリスト教白人国家は日本の漫画アニメのキャラクターが鬱陶しいからそうしたいんだろうけど
そうそう
写真みたいにリアルなイラスト描ける人とかわりといるけど、そういう人達が描いた児童ポルノとAI生成した児童ポルノ
両者に見た目の違いが無いとして、前者をスルーして後者を摘発する判断は誰がどうやるの？って普通に矛盾に考えつくのにね
今後は絵を描く道具を販売禁止にするんだろうな
管理者親で子供の写真SNSに出してるもんな
ハリウッドだって個人の権利保護で動いたが、そういった方面から検討することはおかしくもないだろ
「児童の権利が侵害されている」のが問題
需要として児童ポルノがあるが、現行の児童ポルノ禁止法などではAI生成データには対処することが難しいという内容
実際のところ性的画像でなくても問題であって一例に過ぎんだろ
この手の権利侵害については欧米でも度々問題視されてる
そういう対策をしてないAIはAI自体の作者も罰するようにしないと意味ないだろ。
既に犯罪用に脱獄済みAIも出回ってる
生成できないようにすることは難しそう
罰則を設けるのは当然同意だが、闇サイトに潜ってる奴等はなかなか捕まえられんと思う
>>46
大手の生成AIサービスはそういう制限やフィルターが掛かってるけど
それが無いフリーの生成AIの方が問題。
大手のも著名人の偽画像使った事件が有ったから
後出しで慌てて自己規制を掛けた位で
名前の様な特定のワードをプロンプトに使えない様にブロックしただけ。
基準が曖昧すぎるから反対しかしようがない
なんとなく俺がロリだと思うから違法！お前は社会的に死刑！！
これが罷り通るってことだよ？
似てるってのはどの程度までを指すのか
この辺を明確に基準作れるならいいよ、絶対無理だけど
元データをランダムに組み上げてるだけだろ
元データがある時点でアウトかと
まあ販売は勿論、アップするのも違法化で良いと思うよ
あとパターンを組み合わせてスワップで作るようなサイトも取り締まって良いよ
自分は児童ポルノをAI生成で作りまくってるけど
うｐしないし、生成AIポルノサイトも殆ど見ないし
生成AIって誰でも手軽に
自分好みに自在に作って楽しめるものだから
個人的に作って楽しむものだと思うよ
み
作ってる過程がめちゃくちゃ楽しいものだし
ただ、単純所持を違法化はやめて欲しいね
世間に素材を提供しまくっているのね
俺は全く興味ないけど
一般人の子供は今時ネットではモザイクかけられてると思うが
それを子供全体の問題にスライドさせてないかと
インフルエンサーでもどうかと思うが成長日記的に両親の顔は映さず子供をアップで毎回投稿する奴は普通にいる
技術的には模写も含め人間が絵を描くのと似たような仕組みだから複雑なんよ。
個人的な趣味のものまで絵やイラストを描くな、妄想も想像もするなとは誰も言えないだろ。それを規制しましょうって事になる。
特定の個人を名指しした性的画像（いわゆるアイコラ等）や、
性器の描写を含むわいせつ画像の公開や販売はそもそも名誉棄損、又はわいせつ物陳列・児童ポルノ禁止法等に抵触し、新しい規制や法律を作るまでも無く現行法の範疇。
更に何らかの意図で取締りを厳しくするという事であれば、
何十年とお目こぼしされ続けている同人業界等を含め、イチから議論しないと様々な矛盾が生じてしまう
なんでもいいけど笑える
何もかにもだ
平和憲法で日本を捨てたんだから骨になる指針なんてないからな
賛成してる奴ア◯すぎ
そうでないところにアップされたり販売されたりするのは取り締まるのがいいんでわないか？
AI画像自体かそうでないかが区別をつけにくい
しかも更に人間が手を加えた場合は更に区別がつけに又
今までのツールで作った物は今までもツールである程度自動編集できる
物もあるので更に判別しずらい
ツールで編集はいいがAIはいけないという根拠が分からないし
それって単なる作成時間が極端にAIの方が効率的で短いというだけでしょう
コメント
違法化なんて無理だろ。
本質的には2次元キャラと同じで、その画像がAI生成かどうか、誰に似てるのか、18歳未満なのかなんてことを公平に確定する方法がない。
「幼児体型だから幼児だ」なんて言ったら幼児体型の成人女性に対する差別だし、ほくろや歯並びが違ったら別人とも言えるし。
自分に似てると思った人が精神的苦痛を理由に民事訴訟するくらいが限界だろ。