-
生成AIなどを悪用し実在する児童などの性的画像を作成する「性的ディープフェイク」の被害が深刻化していることを受けて、警察庁は被害相談の状況を初めて公表し、注意を呼びかけました。
実在する児童や女性などの画像を生成AIや画像加工アプリの技術を悪用して性的な画像を作り出す「性的ディープフェイク」。
誰でも簡単に被害者にも加害者にもなってしまうことから大きな問題となっています。「性的ディープフェイク」による子どもの被害が深刻化していることを受け、警察庁はきょう（18日）、SNSなどでの拡散が犯罪や人権被害にもつながるとして注意を呼びかけました。
警察庁によりますと、去年、18歳未満の画像を使った性的ディープフェイクに関する全国の相談や通報は110件で、このうち7件は「名誉毀損」などの疑いで検挙されたということです。
今年に入ってから9月末までに寄せられた相談は79件で、去年と同じ時期と比べて微増傾向にあり、このうち検挙は4件、補導は6件でした。
被害者は、
▼高校生が25件（31.6%）、
▼中学生が41件（51.9%）、
▼小学生が4件（5.1%）で、
被害者と加害者の関係は、およそ半数の53.2%が同級生や同じ学校の生徒でした。警察庁は具体的な事例を紹介。ある男子中学生は、同級生の女子生徒がSNSに投稿した画像を生成AIで裸の画像に加工し、ほかの同級生に販売していました。
別の男子中学生らは、学校のタブレット端末から行事のアルバムに載っていた同級生の女子生徒の写真を生成AIで性的な画像に加工。複数の同級生にグループチャットで拡散したとして補導されたということです。
警察庁は性的ディープフェイクについて、「体の部分は自分のものではないとはいえ、被害児童が受ける心の傷は想像以上に大きい」としたうえで、
「被害者に寄り添いつつ、法と証拠に基づき、適切に対処する」とし、今後も関係省庁と連携して対策を進めていくとしています。
https://news.yahoo.co.jp/articles/bdfb06e45aa0b6f766023d2ca7a9d9b25f31aa18
- pixivとかもそのうち規制されそうなくらいヤバめ
てか久々に見たら18禁のは9割以上が生成AIだなあれ
昔のアニメのマイナーキャラとかもあって気が付いたら朝になってた - >>2
じっくりﾈｯﾄﾘ見てんじゃねーよw - >>2
ちょっと見てくる
そんなひどいのは規制させるべきだ - >>2
龍虎の拳や餓狼伝説とかびっくりしたわ
メインビジュアルを担当していた森気楼の当時の絵柄そのままでエ口絵が作れるんだな - 参考動画がないと善悪の判断ができない・・・
- 昔からエ口本に好きな子の顔写真貼り付けるとかやってるやん
- >>5
結局、ただ便利になったってだけだからな
既存の規制で十分管理できる話だろうに - 個人配信系AVの多くが美顔フィルタをかけるせいでディープフェイクとの境界が曖昧になっている
- 高校生なんて猿なんだから規制しなきゃこうなるの当たり前
- ああなるほど
確かに自分がもし今この世代だったら クラスの好きな女の子のエ口画像絶対に作るわ 作ってオ○ニー三昧 どうしようもない - 実際の映像をみないとその悪質性を評価できません。
- ふうん、JKとかまったく興味無いけどフェイクの完成度はちょっと確認したいかな、純粋に技術的関心として
なんで画像ないの無能なの？
- アイコラは世代を超えて受け継がれるんやなあ
- 自分で使う分には問題ない
- まあ、実在の人間使った場合静的画像云々の他に、未成年でも名誉毀損で数百万賠償みたいな判例作っちまえばいいんよ
それを子供ウケのいい適当な小賢しい系インフルエンサーに広告費払って喧伝させれば、下火になるだろ
- 同級生で作るのはそらやるわな
- 男子中高生の性欲はなあ
回すなネットに公開すんな自分で楽しむだけにしろ - デープフエイク手に入れられたとしたら
個人で愉しみたいとは思うがすぐ飽きそ - 別に良くね？ガキンチョの頃思い出せよ同級生でシコってたろ
- 昔から普通の事だよ
警察庁長官の時代でも切り抜きコラがあっただろ - ロクなことしねーな
最近のガキは - 自分が中高の時に今の環境があったら、ローカルPC加工は無理としてもスマホでやってたかも
教育で道徳に力入れようよ - 人類には過ぎたおもちゃだということさ
- 自分だけで使えばいいのに売ったりするから大事になる
- 俺も先生使ってやってみよかな。
昔の先生は体格いい先生多かったし。 - アイコラを作るフォトショ職人が失業しちゃったか
- >>26
アイコラは作成者、広めた人間が罰せられるけど、
未成年のSNS禁止とか、変な方向の規制に持っていきそうではあるな。（単純にアイコラ罰則厳罰化より、未成年ネット使用制限の規制の方が利権になるのだろうけど。
対策会議やら支援団体とか、税金垂れ流せるから） - まあ思春期だしな。妄想具現化ツールとしての本領発揮ってとこだ。
責める気になれん。 - やっぱテクノロジーってエ口で進化するんだな
- オカズは二次元派で露骨なAI絵だとその気にならないんだけど
三次元派の人もそういうのあるの？ - 自分がガキの頃にSNSやAIが無くて良かったよ
絶対なにかやらかしてた - >>31
学校裏サイトとか想像しただけで震えあがるわ
当時あったら、何を書かれてたか… - これがアウトなら他人の著作物のキャラに似せて描いてる同人誌もアウトだろ
- >>32
当然アウトだよ
ただ見逃されてるだけで - ぶっちゃけ俺が学生時代にスマホあったら、絶対盗撮っぽい事してたと思う
- 顔写真切り抜きエ口本貼り付け民いるらしい
- 中高の卒アルとか当時見ても今見てもブスしかおらんから脱がせたいとかありえんなー
でも今高校生の息子の学校行事とか顔を出すとすんげー可愛い子がいて今どきは恵まれてる
ってかディープフェイクじゃなくて直接付き合えよ - 卒アルでオ●ニーなんて都市伝説かと思ってたが可能な時代になったんだな
- 5ちゃんに影響を受ける若者たち
児童の性的ディープフェイク”の被害が深刻化、加害者の約半数は同級生
ニュー速
コメント