「性的ディープフェイク」相談や通報相次ぐ 警察庁 対策検討へ

サムネイル
1 : 2025/06/22(日) 06:58:00.20 ID:YpMtBwro9

生成AIなどの技術を悪用し、実在する子どもの画像を使って性的な画像を作り出すいわゆる「性的ディープフェイク」に関する相談や通報などが国内で相次いでいて、警察が去年1年間に把握した事案が100件以上にのぼったことが警察庁への取材でわかりました。警察庁は関係省庁などと実態を共有し、対策を検討していくことにしています。

実在する子どもの画像を、生成AIや画像加工アプリを悪用して、性的な画像に加工するなどした、いわゆる「性的ディープフェイク」は、世界的に大きな問題になっています。

国内でも「性的ディープフェイク」に関する相談や通報などが、全国の警察に相次いでいて、去年1年間に警察が把握した事案が100件以上にのぼったことが警察庁への取材でわかりました。

このうち、生成AIを悪用して作成されたものだと確認できた事案は少なくとも17件あり、15件は同級生などの知人によって作成されたものだったということです。

検挙に至った事案もあり、服を着ている同級生の女子生徒の画像を、生成AIで裸の画像に加工し、複数の同級生にSNSで拡散した男子中学生が名誉毀損の疑いで書類送検されたケースや、コンビニエンスストアで女子児童を盗撮し、生成AIで成人女性の裸の画像と合成した男の容疑者が、盗撮目的で建物に侵入したとして逮捕されたケースなどがあったということです。

また卒業アルバムの写真を悪用されたケースもあったということです。

警察庁は「警察への相談は一部に過ぎず、被害が潜在化している可能性がある。被害者に寄り添いつつ、法と証拠に基づいて対処する」としていて、青少年保護について話し合う有識者や関係省庁による作業チームで、悪用の実態について共有し、対策を検討することにしています。

NHK NEWS WEB
2025年6月22日 6時10分
https://www3.nhk.or.jp/news/html/20250622/k10014840991000.html

2 : 2025/06/22(日) 06:59:45.35 ID:F8EwD7XD0
>>1
どれがと見分けつかないから2次元含めて全部規制でって流れかな
3 : 2025/06/22(日) 07:00:06.71 ID:JK6X1kP90
>>1毒ガス散布🐭👩
4 : 2025/06/22(日) 07:00:07.30 ID:5gMsDjD20
いいじゃないの
それぐらい
6 : 2025/06/22(日) 07:00:38.60 ID:JK6X1kP90
>>4毒ガス散布
5 : 2025/06/22(日) 07:00:16.83 ID:lfFC+kHo0
頭の中で妄想するのと同じだ
外に出さなきゃセーフ
7 : 2025/06/22(日) 07:00:52.23 ID:9PVexN0o0
最近だと人魚になるやつとかヤバイよな
8 : 2025/06/22(日) 07:02:18.02 ID:eSVezT0V0
対応が遅い
9 : 2025/06/22(日) 07:02:32.82 ID:y5Gy1fBX0
簡単に作り放題だからいくらでもこういう事案出てきそうだよね
10 : 2025/06/22(日) 07:05:08.97 ID:sbN+xWto0
一部の頭おかしい人向けの対応しなければいけないから大変だよな
労力の無駄っていうか
11 : 2025/06/22(日) 07:05:23.91 ID:NKBxuT3O0
頭の中だけだから妄想というのに
具現化したらそれはもう
12 : 2025/06/22(日) 07:05:44.19 ID:kXTwcRxG0
卒アルって何の為にあんの?
14 : 2025/06/22(日) 07:06:38.58 ID:jMg30sr/0
生成アプリや生成サイトの規制だな
個人ではPhotoshopなどの一般的な画像加工アプリでは簡単に作れないから
大半の人は生成できるものに頼ってしまう
15 : 2025/06/22(日) 07:06:43.62 ID:oEnfNN/o0
googleのai.studioだと子供の画像は使えない仕様だったと思うが。
16 : 2025/06/22(日) 07:07:18.75 ID:4q9Br0J/0
リベポルも規制強化してくれ
17 : 2025/06/22(日) 07:08:00.92 ID:xNycLQsa0
観光地の顔出しパネルも規制されちゃうな
18 : 2025/06/22(日) 07:08:13.43 ID:PTlL4PXo0
細マッチョの8パックの腹筋でアソコもあと5センチほど大きくした俺をAIで作ってよ
19 : 2025/06/22(日) 07:08:27.33 ID:ioULT9cP0
俺とガッキーのエッチ動画が流出するとは
20 : 2025/06/22(日) 07:08:35.18 ID:58TLl0fH0
AIに限らず度を越した悪用は捕まる
盗撮痴漢に比べてあまりにノーリスクだから悪用化しやすいのかもしれないが
21 : 2025/06/22(日) 07:08:59.32 ID:oEnfNN/o0
動画があっても合成だと言い訳される時代になったな。
特殊詐欺の偽警官もAI生成だという。
22 : 2025/06/22(日) 07:09:38.11 ID:C7tg9lN30
こんなん誰が困るんだよ
いい加減フェミの言いなりになるのやめろって
28 : 2025/06/22(日) 07:12:00.93 ID:tnAkQ/8d0
>>22
実在する人物の裸画像は駄目だろ
34 : 2025/06/22(日) 07:14:45.68 ID:QkWy/suF0
>>28
拡散してるからじゃないか?
コラ画像ってのが昔からあるが、あれも拡散してりゃアウトだが、そうでなけりゃ事件にもならんのだし。
23 : 2025/06/22(日) 07:09:38.73 ID:ZEmRySt80
自分でたのしむだけにしとけ バカが
26 : 2025/06/22(日) 07:11:00.49 ID:FB63GaQx0
またブサイクによるものだろう
29 : 2025/06/22(日) 07:13:28.12 ID:VDdCTHqJ0
田舎のババアに日本語で投資を勧めるイーロンマスクw
30 : 2025/06/22(日) 07:13:48.02 ID:zdViQGvg0
技術の進化はスケベと共にある
その過程で不届き者が現れるのは仕方ないことなのだろう
33 : 2025/06/22(日) 07:14:45.07 ID:LGgljhAo0
ま●こ
35 : 2025/06/22(日) 07:16:17.23 ID:EVm9Acib0
本物に対しても作成されたって言うことができるぞ
36 : 2025/06/22(日) 07:17:41.13 ID:hw2XKK6E0
私の写真が使われなくてぐやじー
キーッ
37 : 2025/06/22(日) 07:17:47.15 ID:szhKek3x0
ツイッター見てたらあのちゃんの過激では無いけど性的なディープフェイクみたいなのが流れてきた
あれは逮捕されると思うけどな・・・
38 : 2025/06/22(日) 07:19:15.21 ID:KMfPdGcF0
これからはAIポリスがネットをパトロールして違法画像を発見、犯人特定とまでやる時代が来るのだろうか?つかやらなきゃ摘発もう無理でしょ

コメント

タイトルとURLをコピーしました