日本新闻: 生成AIで作成のわいせつ画像販売した疑い 4人逮捕全国初摘発

生成せいせいAIで作成さくせいのわいせつ画像がぞう販売はんばいした疑うたがい 4人にん逮捕たいほ全国ぜんこく初はつ摘発てきはつ

N2 Apr 15, 2025 11:04 21

Furigana 翻譯

生成せいせいAIを使つかって作成さくせいしたわいせつな画像がぞうをインターネットのオークションサイトで販売はんばいしたとして、警視庁けいしちょうは20代だいから50代だいの4人にんを逮捕たいほしました。作成さくせいされたのは実在じつざいしない成人せいじん女性じょせいの画像がぞうで、警視庁けいしちょうによりますと、生成せいせいAIで作成さくせいしたわいせつ物ぶつの販売はんばいが摘発てきはつされるのは全国ぜんこくで初はじめてだということです。

逮捕たいほされたのは、愛知あいち県けんに住すむ小売こうり業ぎょうの水谷みずたに智浩ともひろ容疑ようぎ者しゃ（44）や、埼玉さいたま県けんに住すむ会社かいしゃ員いんの菅沼すがぬま貴司たかし容疑ようぎ者しゃ（53）ら20代だいから50代だいの合あわせて4人にんです。

警視庁けいしちょうによりますと、4人にんはそれぞれ去年きょねん10月つき、生成せいせいAIを使つかって作成さくせいした女性じょせいのわいせつな画像がぞうをポスターにして、インターネットのオークションサイトで複数ふくすう回かい販売はんばいした疑うたがいが持もたれています。

無料むりょうで提供ていきょうされている生成せいせいAIのソフトに、ネット上じょうにある大量たいりょうの画像がぞうを学習がくしゅうさせたうえで、「脚あしを開ひらく」などとポーズを指示しじすることで、実在じつざいしない成人せいじん女性じょせいの裸はだかに見みえる画像がぞうを作成さくせいしていたとみられています。

ポスターは、「AI美女びじょ」などとうたって1枚まい数すう千せん円えんで販売はんばいされ、水谷みずたに容疑ようぎ者しゃは、およそ1年間ねんかんで1000万まん円えん余あまりを売り上うりあげていたということです。

調しらべに対にたいし、いずれも行為こういを認みとめ、このうち水谷みずたに容疑ようぎ者しゃは、「ポスター販売はんばいは利益りえき率りつが高たかいと知しって始はじめた」などと供述きょうじゅつし、菅沼すがぬま容疑ようぎ者しゃは、「ポスター販売はんばいを事業じぎょうの1つにしようと思おもい、作成さくせい方法ほうほうは独学どくがくで学まなんだ」などと供述きょうじゅつしているということです。

「ディープフェイク」と呼よばれるAIを使つかった技術ぎじゅつで作成さくせいした実在じつざいする人物じんぶつや架空かくうの人物じんぶつの性的せいてきな画像がぞうがネット上じょうに氾濫はんらんしているとして課題かだいとなっていますが、警視庁けいしちょうによりますと、生成せいせいAIで作成さくせいしたわいせつ物ぶつの販売はんばいが摘発てきはつされるのは全国ぜんこくで初はじめてだということです。

城内きうち科技かぎ相しょう「既存きそんの法令ほうれいにのっとり適正てきせいに対処たいしょされるべき」

城内きうち科学かがく技術ぎじゅつ担当たんとう大臣だいじんは、閣議かくぎのあとの記者きしゃ会見かいけんで「悪意あくいを持もったAIの活用かつようは望のぞましくない行為こういで、既存きそんの法令ほうれいにのっとり適正てきせいに対処たいしょされるべきだ。

今いまの国会こっかいに提出ていしゅつしているAIの活用かつようなどに関にかんする法案ほうあんでは、司令しれい塔とう機能きのうを強化きょうかし、内閣ないかく府ふが関連かんれんする情報じょうほうの収集しゅうしゅうや調査ちょうさなどを実施じっしすることとしており、政府せいふ全体ぜんたいで課題かだいに迅速じんそくかつ着実ちゃくじつに対応たいおうしたい」と述のべました。