
- 1 : 2025/06/22(日) 06:58:00.20 ID:YpMtBwro9
-
生成AIなどの技術を悪用し、実在する子どもの画像を使って性的な画像を作り出すいわゆる「性的ディープフェイク」に関する相談や通報などが国内で相次いでいて、警察が去年1年間に把握した事案が100件以上にのぼったことが警察庁への取材でわかりました。警察庁は関係省庁などと実態を共有し、対策を検討していくことにしています。
実在する子どもの画像を、生成AIや画像加工アプリを悪用して、性的な画像に加工するなどした、いわゆる「性的ディープフェイク」は、世界的に大きな問題になっています。
国内でも「性的ディープフェイク」に関する相談や通報などが、全国の警察に相次いでいて、去年1年間に警察が把握した事案が100件以上にのぼったことが警察庁への取材でわかりました。
このうち、生成AIを悪用して作成されたものだと確認できた事案は少なくとも17件あり、15件は同級生などの知人によって作成されたものだったということです。
検挙に至った事案もあり、服を着ている同級生の女子生徒の画像を、生成AIで裸の画像に加工し、複数の同級生にSNSで拡散した男子中学生が名誉毀損の疑いで書類送検されたケースや、コンビニエンスストアで女子児童を盗撮し、生成AIで成人女性の裸の画像と合成した男の容疑者が、盗撮目的で建物に侵入したとして逮捕されたケースなどがあったということです。
また卒業アルバムの写真を悪用されたケースもあったということです。
警察庁は「警察への相談は一部に過ぎず、被害が潜在化している可能性がある。被害者に寄り添いつつ、法と証拠に基づいて対処する」としていて、青少年保護について話し合う有識者や関係省庁による作業チームで、悪用の実態について共有し、対策を検討することにしています。
NHK NEWS WEB
2025年6月22日 6時10分
https://www3.nhk.or.jp/news/html/20250622/k10014840991000.html - 2 : 2025/06/22(日) 06:59:45.35 ID:F8EwD7XD0
-
>>1
どれがと見分けつかないから2次元含めて全部規制でって流れかな - 3 : 2025/06/22(日) 07:00:06.71 ID:JK6X1kP90
-
>>1毒ガス散布🐭👩
- 4 : 2025/06/22(日) 07:00:07.30 ID:5gMsDjD20
-
いいじゃないの
それぐらい - 6 : 2025/06/22(日) 07:00:38.60 ID:JK6X1kP90
-
>>4毒ガス散布
- 5 : 2025/06/22(日) 07:00:16.83 ID:lfFC+kHo0
-
頭の中で妄想するのと同じだ
外に出さなきゃセーフ - 7 : 2025/06/22(日) 07:00:52.23 ID:9PVexN0o0
-
最近だと人魚になるやつとかヤバイよな
- 8 : 2025/06/22(日) 07:02:18.02 ID:eSVezT0V0
-
対応が遅い
- 9 : 2025/06/22(日) 07:02:32.82 ID:y5Gy1fBX0
-
簡単に作り放題だからいくらでもこういう事案出てきそうだよね
- 10 : 2025/06/22(日) 07:05:08.97 ID:sbN+xWto0
-
一部の頭おかしい人向けの対応しなければいけないから大変だよな
労力の無駄っていうか - 11 : 2025/06/22(日) 07:05:23.91 ID:NKBxuT3O0
-
頭の中だけだから妄想というのに
具現化したらそれはもう - 12 : 2025/06/22(日) 07:05:44.19 ID:kXTwcRxG0
-
卒アルって何の為にあんの?
- 14 : 2025/06/22(日) 07:06:38.58 ID:jMg30sr/0
-
生成アプリや生成サイトの規制だな
個人ではPhotoshopなどの一般的な画像加工アプリでは簡単に作れないから
大半の人は生成できるものに頼ってしまう - 15 : 2025/06/22(日) 07:06:43.62 ID:oEnfNN/o0
-
googleのai.studioだと子供の画像は使えない仕様だったと思うが。
- 16 : 2025/06/22(日) 07:07:18.75 ID:4q9Br0J/0
-
リベポルも規制強化してくれ
- 17 : 2025/06/22(日) 07:08:00.92 ID:xNycLQsa0
-
観光地の顔出しパネルも規制されちゃうな
- 18 : 2025/06/22(日) 07:08:13.43 ID:PTlL4PXo0
-
細マッチョの8パックの腹筋でアソコもあと5センチほど大きくした俺をAIで作ってよ
- 19 : 2025/06/22(日) 07:08:27.33 ID:ioULT9cP0
-
俺とガッキーのエッチ動画が流出するとは
- 20 : 2025/06/22(日) 07:08:35.18 ID:58TLl0fH0
-
AIに限らず度を越した悪用は捕まる
盗撮痴漢に比べてあまりにノーリスクだから悪用化しやすいのかもしれないが - 21 : 2025/06/22(日) 07:08:59.32 ID:oEnfNN/o0
-
動画があっても合成だと言い訳される時代になったな。
特殊詐欺の偽警官もAI生成だという。 - 22 : 2025/06/22(日) 07:09:38.11 ID:C7tg9lN30
-
こんなん誰が困るんだよ
いい加減フェミの言いなりになるのやめろって - 28 : 2025/06/22(日) 07:12:00.93 ID:tnAkQ/8d0
-
>>22
実在する人物の裸画像は駄目だろ - 34 : 2025/06/22(日) 07:14:45.68 ID:QkWy/suF0
-
>>28
拡散してるからじゃないか?
コラ画像ってのが昔からあるが、あれも拡散してりゃアウトだが、そうでなけりゃ事件にもならんのだし。 - 23 : 2025/06/22(日) 07:09:38.73 ID:ZEmRySt80
-
自分でたのしむだけにしとけ バカが
- 26 : 2025/06/22(日) 07:11:00.49 ID:FB63GaQx0
-
またブサイクによるものだろう
- 29 : 2025/06/22(日) 07:13:28.12 ID:VDdCTHqJ0
-
田舎のババアに日本語で投資を勧めるイーロンマスクw
- 30 : 2025/06/22(日) 07:13:48.02 ID:zdViQGvg0
-
技術の進化はスケベと共にある
その過程で不届き者が現れるのは仕方ないことなのだろう - 33 : 2025/06/22(日) 07:14:45.07 ID:LGgljhAo0
-
ま●こ
- 35 : 2025/06/22(日) 07:16:17.23 ID:EVm9Acib0
-
本物に対しても作成されたって言うことができるぞ
- 36 : 2025/06/22(日) 07:17:41.13 ID:hw2XKK6E0
-
私の写真が使われなくてぐやじー
キーッ - 37 : 2025/06/22(日) 07:17:47.15 ID:szhKek3x0
-
ツイッター見てたらあのちゃんの過激では無いけど性的なディープフェイクみたいなのが流れてきた
あれは逮捕されると思うけどな・・・ - 38 : 2025/06/22(日) 07:19:15.21 ID:KMfPdGcF0
-
これからはAIポリスがネットをパトロールして違法画像を発見、犯人特定とまでやる時代が来るのだろうか?つかやらなきゃ摘発もう無理でしょ
コメント