ピックアップ記事

中高生さらに小学生も被害に"生成AIでわずか30秒 性的な画像作成も"「性的ディープフェイク」の実態
…今、急増しているディープフェイクによる性的被害。 見ず知らずのうちに写真が悪用され、生成AIにより、性的な映像や画像が作られるケースが相次いでいます…
(出典:関西テレビ)
ディープフェイクのサムネイル
ディープフェイク(英: deepfake)とは、「ディープラーニング(深層学習)」と「フェイク(偽物)」を組み合わせた造語。詐欺などを目的に悪意を持って本物のように合成された偽画像、偽音声、偽映像を指す。 この用語は人工知能を応用したメディア合成技術全般を指して使用されることもあるが、一般的には悪意…
60キロバイト (7,559 語) - 2025年4月17日 (木) 16:01

(出典 もっと女子中高生にファッションを楽しんでほしい!現役女子高生による「放課後マネキン」ポップアップ開催)
性的ディープフェイクに関する相談や通報が相次いでいるという現状は、社会におけるデジタルリテラシーの欠如を浮き彫りにしています。技術の進化は便利さをもたらす一方で、利用方法によっては大きなリスクを伴うことを忘れてはいけません。警察庁の取り組みが、これらの問題に対処する一歩となることを期待しています。
AIにAI判定させて、「逮捕される恐れがあります」と警告が出る仕組みを、スマホなりブラウザなりに埋め込まないとダメかもしれませんね。一気に通報って手もありそうですが、とてつもない量になり処理できなそうなので、ランダムで通報されるシステムを組み込むか。女の子であれ男の子であれ、子供を持つ親へのストレスが半端じゃないですね。
ディープフェイクに特化した法律を作らないなら、EUのように性的な画像を生成出来るAIを開発した企業に対して制裁金を課すしか止める手段はないように思いますね。
規約で作らないでと定めているAIもあるようですが、生成されたものがディープフェイクの可能性がある場合はAI側で判断してリクエストを拒絶出来るようにしなければ意味がないです。
ディープフェイクを作っているのも悪ふざけ感覚の同級生で罪の意識というものがないので、家庭や学校で教える必要もあると思います。

もくじ

1 香味焙煎 ★ :2025/06/22(日) 06:58:00.20 ID:YpMtBwro9

生成AIなどの技術を悪用し、実在する子どもの画像を使って性的な画像を作り出すいわゆる「性的ディープフェイク」に関する相談や通報などが国内で相次いでいて、警察が去年1年間に把握した事案が100件以上にのぼったことが警察庁への取材でわかりました。警察庁は関係省庁などと実態を共有し、対策を検討していくことにしています。

実在する子どもの画像を、生成AIや画像加工アプリを悪用して、性的な画像に加工するなどした、いわゆる「性的ディープフェイク」は、世界的に大きな問題になっています。

国内でも「性的ディープフェイク」に関する相談や通報などが、全国の警察に相次いでいて、去年1年間に警察が把握した事案が100件以上にのぼったことが警察庁への取材でわかりました。

このうち、生成AIを悪用して作成されたものだと確認できた事案は少なくとも17件あり、15件は同級生などの知人によって作成されたものだったということです。

検挙に至った事案もあり、服を着ている同級生の女子生徒の画像を、生成AIで裸の画像に加工し、複数の同級生にSNSで拡散した男子中学生が名誉毀損の疑いで書類送検されたケースや、コンビニエンスストアで女子児童を盗撮し、生成AIで成人女性の裸の画像と合成した男の容疑者が、盗撮目的で建物に侵入したとして逮捕されたケースなどがあったということです。

また卒業アルバムの写真を悪用されたケースもあったということです。

警察庁は「警察への相談は一部に過ぎず、被害が潜在化している可能性がある。被害者に寄り添いつつ、法と証拠に基づいて対処する」としていて、青少年保護について話し合う有識者や関係省庁による作業チームで、悪用の実態について共有し、対策を検討することにしています。

NHK NEWS WEB
2025年6月22日 6時10分
https://www3.nhk.or.jp/news/html/20250622/k10014840991000.html

2 名無しどんぶらこ :2025/06/22(日) 06:59:45.35 ID:F8EwD7XD0

>>1
どれがと見分けつかないから2次元含めて全部規制でって流れかな

3 名無しどんぶらこ :2025/06/22(日) 07:00:06.71 ID:JK6X1kP90

>>1毒ガス散布🐭👩

52 名無しどんぶらこ :2025/06/22(日) 07:27:23.69 ID:a0KitcTB0

>>1
同級生馬鹿www同窓会とか行けないなヲイ

59 名無しどんぶらこ :2025/06/22(日) 07:30:26.78 ID:vXj7zJDC0

>>1
名誉毀損と建造物侵入だろ

102 名無しどんぶらこ :2025/06/22(日) 07:52:28.95 ID:tlQdCrKe0

>>1
まあいいじゃんそういうの

106 名無しどんぶらこ :2025/06/22(日) 07:54:51.60 ID:VLPIdy5N0

>>1
キタ━━━━(゚∀゚)━━━━!! 第二のWINNY案件!!!!

121 名無しどんぶらこ :2025/06/22(日) 08:00:23.27 ID:55hf0cTK0

>>1
卒業アルバムによる性被害よぉ!
卒業アルバムにレイプされるぅ!

    彡"⌒ヾ
  O、( -◯ω⬜︎-)O
  ノ, )    ノ ヽ
 ん、/   つ ヽ_、_,ゝ
  (_ノωヽ_)

186 名無しどんぶらこ :2025/06/22(日) 08:23:30.29 ID:JK6X1kP90

>>1🐭毒ガス散布したけど大胃腸で大丈夫
↑ヤバい死ね

192 名無しどんぶらこ :2025/06/22(日) 08:25:53.11 ID:gq76n4Oc0

>>1
これ、結局は政治屋が自身の売○ぶりや支那の○である事が風潮されるからだろ?
取り締まりたいのはソコだろ?

193 名無しどんぶらこ :2025/06/22(日) 08:25:53.42 ID:GyPgapj+0

>>1
性的ディープフェイクのイメージ

(出典 upload.wikimedia.org)

197 名無しどんぶらこ :2025/06/22(日) 08:26:57.30 ID:VLPIdy5N0

>>193
前から疑問に思ってたけど我们さんの中の人は男なの??女なの??

196 名無しどんぶらこ :2025/06/22(日) 08:26:13.73 ID:JK6X1kP90

>>1セーフじゃねぇよ死ね

4 名無しどんぶらこ :2025/06/22(日) 07:00:07.30 ID:5gMsDjD20

いいじゃないの
それぐらい

6 名無しどんぶらこ :2025/06/22(日) 07:00:38.60 ID:JK6X1kP90

>>4毒ガス散布

7 名無しどんぶらこ :2025/06/22(日) 07:00:52.23 ID:9PVexN0o0

最近だと人魚になるやつとかヤバイよな

98 名無しどんぶらこ :2025/06/22(日) 07:49:48.80 ID:fIy1cOEr0

>>7
同じこと思った。

14 名無しどんぶらこ :2025/06/22(日) 07:06:38.58 ID:jMg30sr/0

生成アプリや生成サイトの規制だな
個人ではPhotoshopなどの一般的な画像加工アプリでは簡単に作れないから
大半の人は生成できるものに頼ってしまう

70 名無しどんぶらこ :2025/06/22(日) 07:38:27.11 ID:J7e7uS470

>>14
既にphotoshopに生成AI搭載されてる

18 名無しどんぶらこ :2025/06/22(日) 07:08:13.43 ID:PTlL4PXo0

細マッチョの8パックの腹筋でアソコもあと5センチほど大きくした俺をAIで作ってよ

69 名無しどんぶらこ :2025/06/22(日) 07:37:53.38 ID:N6boeKT50

>>18
作ってやるからお前の写真だせ

75 名無しどんぶらこ :2025/06/22(日) 07:39:55.48 ID:QkWy/suF0

>>69
あぁ、筋トレのイメージ画像が生成AIで作れる!
思い付かなかったな、すごく効率良さそうな気がするから試してみよう。

139 名無しどんぶらこ :2025/06/22(日) 08:09:20.00 ID:ZgdkPXD80

>>18
変なところから腕生えたりするけど
そこは目指しちゃダメだぞ

148 名無しどんぶらこ :2025/06/22(日) 08:11:00.64 ID:DcV9xEuf0

>>139
最近はそれも収まってきてる
遠景くらいでしか判別できなくなってる

22 名無しどんぶらこ :2025/06/22(日) 07:09:38.11 ID:C7tg9lN30

こんなん誰が困るんだよ
いい加減フェミの言いなりになるのやめろって

28 名無しどんぶらこ :2025/06/22(日) 07:12:00.93 ID:tnAkQ/8d0

>>22
実在する人物の裸画像は駄目だろ

34 名無しどんぶらこ :2025/06/22(日) 07:14:45.68 ID:QkWy/suF0

>>28
拡散してるからじゃないか?
コラ画像ってのが昔からあるが、あれも拡散してりゃアウトだが、そうでなけりゃ事件にもならんのだし。

67 名無しどんぶらこ :2025/06/22(日) 07:35:44.17 ID:4zTSSNcp0

>>34
ひっそりシコるってのができないバカがわんさかいるから問題なんだろ

83 名無しどんぶらこ :2025/06/22(日) 07:42:37.33 ID:MLeVZOjw0

>>67
自己承認欲求世代だから我慢できないんだろうな

89 名無しどんぶらこ :2025/06/22(日) 07:46:19.75 ID:szhKek3x0

>>67
何事もそうだな、違法なサイトとかも言わなきゃいいのに拡散して規制までの流れいっぱいあるし

104 名無しどんぶらこ :2025/06/22(日) 07:53:09.70 ID:CHSrE8ge0

>>22
こんな事で生成AIを規制されたら人類の発展を阻害される

108 名無しどんぶらこ :2025/06/22(日) 07:56:09.27 ID:y3ofCKc10

>>104
生成AI の規制なんかするわけねーじゃん

その特定の個人を利用して生成した画像を公開するな、自分で楽しむだけにしとけってだけ

24 名無しどんぶらこ :2025/06/22(日) 07:09:55.12 ID:8N6h7pXQ0

32 名無しどんぶらこ :2025/06/22(日) 07:14:37.68 ID:8N6h7pXQ0

>>24
顔出しパネル用


(出典 i.imgur.com)

153 名無しどんぶらこ :2025/06/22(日) 08:12:00.81 ID:gC/jChBg0

>>24
男のような怖さ

165 名無しどんぶらこ :2025/06/22(日) 08:15:31.99 ID:8TJhVy8a0

>>24
世の中の低層はAI使用の目的が生成AIなんだよな
本当くだらない
生成AIなんて使わんよ

37 名無しどんぶらこ :2025/06/22(日) 07:17:47.15 ID:szhKek3x0

ツイッター見てたらあのちゃんの過激では無いけど性的なディープフェイクみたいなのが流れてきた
あれは逮捕されると思うけどな・・・

41 名無しどんぶらこ :2025/06/22(日) 07:21:45.78 ID:QkWy/suF0

>>37
そうした拡散するアホが逮捕なり事件になるだけで、作る分ではどうにもならん。

38 名無しどんぶらこ :2025/06/22(日) 07:19:15.21 ID:KMfPdGcF0

これからはAIポリスがネットをパトロールして違法画像を発見、犯人特定とまでやる時代が来るのだろうか?つかやらなきゃ摘発もう無理でしょ

39 名無しどんぶらこ :2025/06/22(日) 07:20:12.53 ID:oqmXgIPY0

>>38
そんなことしないよ
警察は犯罪の撲滅なんて望んでないのはわかるだろ?

40 名無しどんぶらこ :2025/06/22(日) 07:20:49.54 ID:gBlJ/tg80

フォトショで同じことが出来た頃はフォトショ叩きもフォトショ規制議論もなかったのに、AIで同じことが出来ると途端に叩き始める
何故じゃ

54 名無しどんぶらこ :2025/06/22(日) 07:28:21.67 ID:S3yId+Aj0

>>40
今までは技術が必要
そういう技術を持つ人はあまりアホなことはしない

AIで、アホでも使えるようになった
詐欺メールの文面だって考えてもらえる

60 名無しどんぶらこ :2025/06/22(日) 07:30:48.24 ID:veZSI54Q0

>>40
フェイクって直ぐバレるからだがAIのはすげーわかりにくいし

45 名無しどんぶらこ :2025/06/22(日) 07:25:02.45 ID:LGgljhAo0

高校生が色っぽく制服を脱ぐ これでディープフェイク作れるらしいな しらんけど

62 名無しどんぶらこ :2025/06/22(日) 07:32:52.60 ID:AcfzEivI0

>>45
男なら堂々と脱げよ

49 名無しどんぶらこ :2025/06/22(日) 07:25:58.18 ID:+8zvlSeh0

生成AIもどんどん厳しくなってる

ちょっとしたことでこの画像はブロックされましたと出て作れない

61 名無しどんぶらこ :2025/06/22(日) 07:32:37.19 ID:MLeVZOjw0

>>49
AIに奪われない仕事。アイコラ職人

55 名無しどんぶらこ :2025/06/22(日) 07:28:48.81 ID:KVZJmBJw0

高校の時、友人のベッドの下からエロ本を取り出したら、裸の顔の部分にアイドルの顔写真の切り抜きが
貼ってあった
翌日、言いふらしてやった

57 名無しどんぶらこ :2025/06/22(日) 07:29:35.16 ID:H/e0UT/80

>>55
お前は本物のクズだな
反省もしてないようだ

88 名無しどんぶらこ :2025/06/22(日) 07:46:18.56 ID:Y21BLy9P0

>>55
こういう奴ホント最後は苦しみ抜いて死んでほしい

96 名無しどんぶらこ :2025/06/22(日) 07:48:50.57 ID:MSioQYTK0

>>55
アイドルなら言いふらしても
大したことにならんけど

同級生の顔写真とかだと大惨事

64 名無しどんぶらこ :2025/06/22(日) 07:34:23.66 ID:y3ofCKc10

AI に描かせた子供部屋おじさん

(出典 i.imgur.com)

71 名無しどんぶらこ :2025/06/22(日) 07:38:27.50 ID:sHwsRyjw0

>>64
リビングルームおじさんじゃんw

72 名無しどんぶらこ :2025/06/22(日) 07:38:52.07 ID:0OmsqR2+0

>>64
後ろの写真不気味で草

81 名無しどんぶらこ :2025/06/22(日) 07:42:22.61 ID:RMEhnovA0

>>64
子供部屋にソファーとかやるじゃん

124 名無しどんぶらこ :2025/06/22(日) 08:03:08.41 ID:KiPWVQBc0

>>64
画風でChatGPTだって分かってしまうなw

129 名無しどんぶらこ :2025/06/22(日) 08:04:06.37 ID:y3ofCKc10

>>124

GEMINIだけど?

146 名無しどんぶらこ :2025/06/22(日) 08:10:37.74 ID:3IjkeUxs0

>>64
両親の若い頃姿で作った等身大ドールを飾ってたりして悲しみしかないな

154 名無しどんぶらこ :2025/06/22(日) 08:12:12.88 ID:iqPEjXtG0

>>64
親のほうが若く見える

161 名無しどんぶらこ :2025/06/22(日) 08:14:00.05 ID:gC/jChBg0

>>64
お前らで草

68 名無しどんぶらこ :2025/06/22(日) 07:37:42.62 ID:0OmsqR2+0

エロ同人描いてるカスどもも規制しろ

80 名無しどんぶらこ :2025/06/22(日) 07:41:19.27 ID:IaP0PA4K0

>>68
絵は画風があってしんどいかもしれんがゲームキャラの裸MOD作ってる奴は確実に捕まえれるだろうな
元のゲームを使ったデータだから
自分が好きなゲームのキャラがそういう目にあうの見てて気分がいいわけない

76 名無しどんぶらこ :2025/06/22(日) 07:40:00.21 ID:Xvc1u/Os0

これ法律でめちゃめちゃ厳罰にして抑止するしかないな

84 名無しどんぶらこ :2025/06/22(日) 07:44:52.16 ID:1R+tO16z0

>>76
罰金100億でw

91 名無しどんぶらこ :2025/06/22(日) 07:46:48.12 ID:SKOKiRUK0

ガッキーのがあればAVいらないもんなw

94 名無しどんぶらこ :2025/06/22(日) 07:47:24.53 ID:y3ofCKc10

>>91
37のおばさんだろうに

107 名無しどんぶらこ :2025/06/22(日) 07:55:20.72 ID:8uWhjdzI0

今は一枚の写真からエロ動画作れるらしいな
おわりすぎ
こんなの拡散されたら人生終わるわ
女より男のほうが危機感持ったほうがいいと思うけどね
男に掘られてアクメしてる動画会社に拡散されたらいくらAIだなんていっても信じてもらえんよ

111 名無しどんぶらこ :2025/06/22(日) 07:56:43.23 ID:VLPIdy5N0

>>107
最近出た中華のaiが賢すぎてな

なお、日本は規制への動き WINNYくるおー

159 名無しどんぶらこ :2025/06/22(日) 08:13:39.89 ID:7gOzy4um0

>>111
エロいんだよな、毎日堪能してるわ

109 名無しどんぶらこ :2025/06/22(日) 07:56:12.38 ID:VurMhKIn0

大昔からあるお遊びだけど

今は誰でも精巧にできるようになったからなあ

114 名無しどんぶらこ :2025/06/22(日) 07:57:45.76 ID:8uWhjdzI0

>>109
昔はコラつくるのもそれなりの技術が必要で、そんな技術者が人生棒に振るうようなこと(ネット上にアップロード)しなかった
今ではなんの知識もない中学生でも簡単に作れるからストッパーがないんだよな

113 名無しどんぶらこ :2025/06/22(日) 07:56:54.67 ID:JvKFzwN40

日本人は一般でもネットにあげるときは無関係の人の顔隠すけど

来日してる外人は歩いてる女の子とかガンガン撮影してアップしてるな

166 名無しどんぶらこ :2025/06/22(日) 08:15:32.24 ID:gC/jChBg0

>>113
ガイジンはバカの方が多いからな
日本人で言えば中2レベルで成人

120 名無しどんぶらこ :2025/06/22(日) 08:00:22.69 ID:VLPIdy5N0

CGで児童p案件あってアレは商売だしでギリわからんでもないところはあったが
AIまで規制したら日本は本当の後進国になってしまう

140 名無しどんぶらこ :2025/06/22(日) 08:09:38.75 ID:7gOzy4um0

>>120
石丸や立花見たいのがaiで量産されてバカが洗脳される地獄を考えたら早く規制しないと国が割れるぞw

155 名無しどんぶらこ :2025/06/22(日) 08:12:31.19 ID:VLPIdy5N0

>>140
せやな AIディープラーニングは中國みたいに人民全員顔認証でリアルタイム追尾、ネットの投稿全解析できるシステムとかに使わないと国が割れるな(;^_^A

122 名無しどんぶらこ :2025/06/22(日) 08:01:50.30 ID:nFtiYO3z0

ChatGPTにお願いしてもやってくれなかったんだけど、どうやるの?

128 名無しどんぶらこ :2025/06/22(日) 08:03:53.25 ID:VLPIdy5N0

>>122
ようこそお越しくださいました。まず服を脱ぎます。
1. 脱ぐ
  ●ノ□
 ノ■ヘ
  /

  ↓

2. たたむ

  ●■
 □ノノZ乙

  ↓

3. コーヒーをつくる
  ●   ∬
 <■> ▼
  っっ  ▲

  ↓

4. RTXとRadeonをまちがえる
 。、,。*●
  ,*゚゙■~u
    /<

126 名無しどんぶらこ :2025/06/22(日) 08:03:42.07 ID:lqe4HT2o0

他の部分のせいで気づかれにくいけど、これってやばない?

コンビニエンスストアで女子児童を盗撮し、生成AIで成人女性の裸の画像と合成した男の容疑者が、
盗撮目的で建物に侵入したとして逮捕されたケースなどがあった

これって、コンビニ入ったことで逮捕されたわけだよね

142 名無しどんぶらこ :2025/06/22(日) 08:10:01.19 ID:jsJabIiG0

>>126
なお
イケメン男子を盗撮してムキマッチョ画像と合成した女は
逮捕されない模様

156 名無しどんぶらこ :2025/06/22(日) 08:12:55.50 ID:8TJhVy8a0

>>126
わけがわからんな

135 名無しどんぶらこ :2025/06/22(日) 08:07:21.82 ID:uoK8bVzR0

ひろゆき逮捕とか有吉逮捕のバナーを毎日のように見るけどいいのあれ

141 名無しどんぶらこ :2025/06/22(日) 08:09:58.15 ID:DcV9xEuf0

>>135
それどころか有名な経済アナリストが
詐欺会社のCMで活用されてんじゃん
YouTubeで山程流れてくる
ひろゆきも見たような

136 名無しどんぶらこ :2025/06/22(日) 08:07:56.65 ID:PLWpJ4e50

ここのスレざっと見るだけでも何が悪いってガチっぽくキレてる奴いるからな
そういうやつでも自分の顔を使った裸のフェイク動画を作られて、
クラスの別グループにそれを共有されて笑いものにされたらきっとブチ切れるんだろうな

144 名無しどんぶらこ :2025/06/22(日) 08:10:18.85 ID:8TJhVy8a0

>>136
男でそれされてもギャグにしかならないんじゃ
ケンシロウの体とくっ付けて面白いネタにされる

162 名無しどんぶらこ :2025/06/22(日) 08:14:09.80 ID:49ZFLz290

>>144
ホモとかSMとかのプレイさせられるかも

167 名無しどんぶらこ :2025/06/22(日) 08:16:23.18 ID:QkWy/suF0

>>162
あるにしても、記事になってるように逮捕可能性ありの違法案件だからなぁ。
それ使ってわざわざ証拠画像を提出してくれる犯人って扱えばいいとはなる。

169 名無しどんぶらこ :2025/06/22(日) 08:17:07.52 ID:8TJhVy8a0

>>162
リアルな話を言うと
それを使っていろいろしてる女がいることに興奮する

173 名無しどんぶらこ :2025/06/22(日) 08:19:00.81 ID:VLPIdy5N0

>>169
 l''!,彡三ミミリ
 | |(´・ω・`)リ ワタシってサバサバしてるから
 \    ヽ 
   | *  *.| |  
   | .,,;,. | |
   | i(i)j |リ
42歳箱入り娘

177 名無しどんぶらこ :2025/06/22(日) 08:21:04.42 ID:jsJabIiG0

>>173
性的ディープフェイク加害で通報しました

138 名無しどんぶらこ :2025/06/22(日) 08:08:52.69 ID:uoK8bVzR0

対策というけど対策なんて出来るんかね

163 名無しどんぶらこ :2025/06/22(日) 08:14:51.15 ID:8uWhjdzI0

>>138
自民党が規制する気ないから
まずネットに自画像あげない、外出するときはフルフェイスするくらいしかない

164 名無しどんぶらこ :2025/06/22(日) 08:15:08.86 ID:1k03rO9V0

便利なものってだいたい悪事かエロいことにしか使われない

170 名無しどんぶらこ :2025/06/22(日) 08:17:41.71 ID:BSwnjT+P0

>>164
スマホにデジタルカメラ機能をつけたのは、マジでノーベル賞級の発明だったなw
電話に写真とか意味不明だったのに、いまや盗撮の必須ツールだもんなー

174 名無しどんぶらこ :2025/06/22(日) 08:19:35.95 ID:8TJhVy8a0

>>170
謎の組み合わせだよな
わざわざ小型化のメリットを利用してどうする

185 名無しどんぶらこ :2025/06/22(日) 08:23:08.97 ID:MLeVZOjw0

>>170
まあ携帯電話にカメラつけたの日本だけどな。当時プリクラ流行ってたからこれいけるんじゃね?って付けたら大ヒット
からの悪用

176 名無しどんぶらこ :2025/06/22(日) 08:19:59.20 ID:plXcCYue0

逆に考えると、自分のちんこ画像を拡散しても嫌がらせのディープフェイクのせいだと言って、煙に巻くこともできるわけだな

181 名無しどんぶらこ :2025/06/22(日) 08:21:36.78 ID:KOcLfmci0

>>176
全然拡散せずに通報されて逮捕されそう…

188 名無しどんぶらこ :2025/06/22(日) 08:24:29.17 ID:8TJhVy8a0

>>176
誰も判別できないな
できたとしても永久に水掛け論

ピックアップ記事

この記事が気に入ったら
フォローしよう

最新情報をお届けします

Xでフォローしよう

おすすめの記事