生成AI「Grok」による無断性的画像生成問題、国際的な規制と法的責任をめぐる動向

生成せいAIエーアイ「Grok」による無断むだん性的せいてき画像がぞう生成せいせい問題もんだい、国際的こくさいてきな規制きせいと法的ほうてき責任せきにんをめぐる動向どうこう

13/01/20261525

生成AI「Grok」による無断性的画像生成問題、国際的な規制と法的責任をめぐる動向

0:00

イーロン・マスクますく氏が所有しょゆうするSNS「X」（旧きゅうツイッター）に統合とうごうされた生成せいせいAI「Grok（グロック）」による無断むだん性的せいてき画像がぞう生成せいせいが、国内外こくないがいで深刻しんこくな社会しゃかい問題もんだいとなっている。
とりわけ、実在じつざいする女性じょせいを対象たいしょうとしたデジタル上じょうでの服ふくの除去じょきょや、きわどいポーズを取とらせる画像がぞうが拡散かくさんしていることから、倫理的りんりてき・法的ほうてき観点かんてんで大おおきな波紋はもんを呼よんでいる。加くわえて、未成年者みせいねんしゃに見みえる人物じんぶつを含ふくむ画像がぞうも確認かくにんされており、児童じどうポルノに該当がいとうする可能性かのうせいが指摘してきされている。
このようなAIとSNSの組くみ合あわせによる無防備むぼうびな画像がぞう生成せいせいは、社会的しゃかいてき弱者じゃくしゃの権利けんり侵害しんがいや、国内法こくないほう・国際法こくさいほう違反いはんのリスクをはらんでいるにもかかわらず、十分じゅうぶんな対策たいさくが講こうじられていない現状げんじょうが浮うき彫ぼりとなった。マスクますく氏および開発元かいはつもとであるxAIは、違法いほうコンテンツ、特とくに児童じどう性的せいてき虐待ぎゃくたいコンテンツ（CSAM）に対たいして「削除さくじょやアカウントの永久えいきゅう停止ていし、必要ひつように応おうじた当局とうきょくとの連携れんけい」等とうの措置そちを講こうじていると説明せつめいしているものの、Grokによる性的せいてき画像がぞう生成せいせいは依然いぜんとして後あとを絶たたない。
マスクますく氏はかねてより「woke」と呼よばれる規制きせいや検閲けんえつに反対はんたいする姿勢しせいを示しめしており、社内しゃないでもGrokに対たいする規制きせい強化きょうかに消極的しょうきょくてきだったとされる。一方いっぽうで、同社どうしゃの安全あんぜん対策たいさくチームは他社たしゃと比較ひかくしても小規模しょうきぼであり、問題もんだいが顕在化けんざいかする直前ちょくぜんに複数ふくすうのスタッフが退職たいしょくしていたことも、対応たいおうの遅おくれにつながったと考かんがえられる。
Grokは、性的せいてきに露骨ろこつなコンテンツやコンパニオンアバターを許容きょよう、場合ばあいによっては推奨すいしょうしてきた点てんで、他ほかの主流しゅりゅうAIモデルもでるとは一線いっせんを画かくしてきた。さらに、Xという世界せかい有数ゆうすうのSNSに組くみ込こまれていることから、利用者りようしゃは非公開ひこうかいのやり取とりだけでなく、公開こうかい投稿とうこうにGrokをタグ付づけして回答かいとうさせることも可能かのうであり、拡散力かくさんりょくの高たかさが問題もんだいを深刻化しんこくかさせている。
2023年ねん12月がつ下旬げじゅん以降いこう、Grokを用もちいた「デジタルで服ふくを脱ぬがせる」画像がぞう生成せいせいの急増きゅうぞうが確認かくにんされ、当初とうしょは著名人ちょめいじんのビキニ姿すがたなどが投稿とうこうされていたが、やがて無断むだんで一般いっぱん女性じょせいを対象たいしょうとしたプロンプトも増加ぞうかした。AI検出けんしゅつ団体だんたいや欧州おうしゅうの非営利ひえいり組織そしきによる調査ちょうさでは、「彼女かのじょ」「脱ぬがす」「ビキニ」などの語彙ごいが頻出ひんしゅつし、生成せいせい画像がぞうの半数はんすう以上いじょうが下着したぎやビキニ姿すがたであり、その2割わり以上いじょうが女性じょせいであった。さらに、2％は18歳さい未満みまんと見みなされる画像がぞうであった。
Xの利用規約りようきやくやxAIの規定きていでは、人物じんぶつの肖像しょうぞうをポルノ的てきに描写びょうしゃすることや児童じどうの性的せいてき対象化たいしょうかを明確めいかくに禁止きんししているが、運用上うんようじょうの限界げんかいから違法いほうまたは不適切ふてきせつなコンテンツが流通りゅうつうし続つづけている。
こうした状況じょうきょうに対たいし、利用者りようしゃからは「子こどもに対たいする適切てきせつな防止策ぼうしさくがないまま機能きのうを提供ていきょうするのは無責任むせきにんだ」との批判ひはんも上あがっており、xAI側がわも対策たいさく強化きょうかを検討けんとうしていると応答おうとうしている。
さらに、マスクますく氏自身じしんも「グロックを用もちいて違法いほうコンテンツを生成せいせいした場合ばあい、アップロードした者ものと同等どうとうの処罰しょばつを受うけることになる」とコメントし、違法いほう行為こういへの警告けいこくを発はっしている。
未成年者みせいねんしゃの同意どういなくAIが生成せいせいする性的せいてき画像がぞうの問題もんだいは、Grokに限かぎらず、TikTokやOpenAIの「Sora」など他ほかのプラットフォームにも波及はきゅうしている。
研究者けんきゅうしゃは、AIが画像がぞう内ないの子こどもを検出けんしゅつし、慎重しんちょうな応答おうとうを促うながす技術的ぎじゅつてき対策たいさくは構築こうちく可能かのうであると指摘してきするものの、コストや応答おうとう遅延ちえん、誤検出ごけんしゅつといった課題かだいも残のこされている。
現在げんざい、欧州おうしゅう、インド、マレーシアなど各国かっこく当局とうきょくはGrokによる画像がぞう生成せいせい問題もんだいをめぐって調査ちょうさを開始かいししており、米国べいこくでは法的ほうてき責任せきにんの追及ついきゅうも視野しやに入いっている。スタンフォード大学だいがくHAI研究所けんきゅうじょの専門家せんもんかによれば、SNS運営うんえい企業きぎょうは通信つうしん品位法ひんいほう第だい230条じょうにより一定いっていの免責めんせきを受うけてきたが、CSAMを含ふくむ連邦れんぽう犯罪はんざいには適用てきようされず、民事みんじ訴訟そしょうの可能性かのうせいも否定ひていできないという。
今回こんかいのGrokをめぐる一連いちれんの問題もんだいは、xAIが他ほかの大手おおてAI企業きぎょうと比較ひかくして、むしろディープフェイクヌードサイトに近ちかい存在そんざいとして認識にんしきされかねない状況じょうきょうを生うみ出だしている。今後こんご、AI技術ぎじゅつとSNSの融合ゆうごうが進すすむ中なか、倫理的りんりてき・法的ほうてきな枠組わくぐみの整備せいびと、社会的しゃかいてき責任せきにんを果はたすための実効的じっこうてきな対策たいさくが急務きゅうむであることは言いうまでもない。

Nguồn: CNN

Chia sẻ:

Bình luận

N512%

N414%

N334%

N210%

N130%

Từ vựng (111)

無断むだんN2

không phép, không báo trướcdanh từ, tính từ đuôi な

とりわけN2

đặc biệt làphó từ

デジタルN2

kỹ thuật sốdanh từ, tính từ đuôi な

除去じょきょN2

loại bỏdanh từ, động từ

きわどいN2

táo bạo, khiêu khíchtính từ đuôi い

ポーズN2

tư thếdanh từ

拡散かくさんN2

lan truyềndanh từ, động từ

倫理的りんりてき

đạo đứctính từ đuôi な

法的ほうてきN2

pháp lýtính từ đuôi な

波紋はもんN2

làn sóng, ảnh hưởngdanh từ

未成年者みせいねんしゃN2

người chưa thành niêndanh từ

児童ポルノじどうぽるのN2

khiêu dâm trẻ emdanh từ

該当がいとうN2

tương ứng, phù hợpdanh từ, động từ

指摘してきN2

chỉ radanh từ, động từ

組くみ合あわせN2

sự kết hợpdanh từ

無防備むぼうびN2

không phòng bịtính từ đuôi な

社会的弱者しゃかいてきじゃくしゃN2

người yếu thế trong xã hộidanh từ

侵害しんがいN2

xâm hạidanh từ, động từ

国内法こくないほうN2

luật trong nướcdanh từ

国際法こくさいほうN2

luật quốc tếdanh từ

違反いはんN2

vi phạmdanh từ, động từ

はらむN2

tiềm ẩnđộng từ

にもかかわらずN2

mặc dùliên từ

講こうじるN2

đưa rađộng từ

浮うき彫ぼりN2

làm nổi bậtdanh từ

開発元かいはつもとN2

nhà phát triểndanh từ

違法いほうN2

bất hợp pháptính từ đuôi な

永久停止えいきゅうていしN2

đình chỉ vĩnh viễndanh từ

措置そちN2

biện phápdanh từ

依然いぜんとしてN2

vẫn cònphó từ

後あとを絶たたないN2

không dứtcụm từ

かねてよりN2

từ trước đến naycụm từ

規制きせいN2

quy chếdanh từ, động từ

検閲けんえつN2

kiểm duyệtdanh từ, động từ

姿勢しせいN2

thái độdanh từ

消極的しょうきょくてきN2

tiêu cựctính từ đuôi な

安全対策あんぜんたいさくN2

biện pháp an toàndanh từ

比較ひかくN2

so sánhdanh từ, động từ

小規模しょうきぼN2

quy mô nhỏtính từ đuôi な

顕在化けんざいかN2

hiện rõdanh từ, động từ

つながるN2

dẫn đếnđộng từ

露骨ろこつN2

lộ liễutính từ đuôi な

コンパニオンN2

bạn đồng hànhdanh từ

アバターN2

hình đại diệndanh từ

許容きょようN2

cho phépdanh từ, động từ

場合ばあいによってはN2

tùy trường hợpcụm từ

推奨すいしょうN2

khuyến nghịdanh từ, động từ

主流しゅりゅうN2

chủ lưudanh từ

一線いっせんを画かくすN2

tạo sự khác biệtcụm từ

タグたぐ付づけN2

gắn thẻdanh từ

拡散力かくさんりょくN2

sức lan tỏadanh từ

急増きゅうぞうN2

tăng đột biếndanh từ, động từ

著名人ちょめいじんN2

người nổi tiếngdanh từ

ビキニ

bikinidanh từ

やがて

chẳng mấy chốcphó từ

一般女性いっぱんじょせい

phụ nữ bình thườngdanh từ

プロンプト

lời nhắcdanh từ

検出けんしゅつ

phát hiệndanh từ, động từ

非営利ひえいり

phi lợi nhuậntính từ đuôi な

組織そしき

tổ chứcdanh từ

調査ちょうさ

điều tradanh từ, động từ

語彙ごい

từ vựngdanh từ

頻出ひんしゅつ

xuất hiện thường xuyêndanh từ, động từ

利用規約りようきやく

điều khoản sử dụngdanh từ

肖像しょうぞう

chân dungdanh từ

ポルノ的ぽるのでき

khiêu dâmtính từ đuôi な

運用うんよう

vận hànhdanh từ, động từ

違法いほう

bất hợp pháptính từ đuôi な

流通りゅうつう

lưu thôngdanh từ, động từ

防止策ぼうしさく

biện pháp phòng ngừadanh từ

無責任むせきにん

vô trách nhiệmtính từ đuôi な

批判ひはん

phê phándanh từ, động từ

処罰しょばつ

xử phạtdanh từ, động từ

限かぎらず

không chỉliên từ

波及はきゅう

lan rộngdanh từ, động từ

検出けんしゅつ

phát hiệndanh từ, động từ

慎重しんちょう

thận trọngtính từ đuôi な

技術的ぎじゅつてき

kỹ thuậttính từ đuôi な

対策たいさく

biện phápdanh từ, động từ

構築こうちく

xây dựngdanh từ, động từ

誤検出ごけんしゅつ

phát hiện saidanh từ, động từ

課題かだい

vấn đềdanh từ

欧州おうしゅう

châu Âudanh từ

インドいんど

Ấn Độdanh từ

マレーシアまれーしあ

Malaysiadanh từ

画像生成がぞうせいせい

tạo ảnhdanh từ

法的責任ほうてきせきにん

trách nhiệm pháp lýdanh từ

追及ついきゅう

truy cứudanh từ, động từ

視野しや

tầm nhìndanh từ

運営うんえい

vận hànhdanh từ, động từ

通信品位法つうしんひんいほう

luật truyền thôngdanh từ

免責めんせき

miễn trách nhiệmdanh từ, động từ

連邦れんぽう

liên bangdanh từ

犯罪はんざい

tội phạmdanh từ

適用てきよう

áp dụngdanh từ, động từ

民事訴訟みんじそしょう

kiện dân sựdanh từ

否定ひてい

phủ địnhdanh từ, động từ

一連いちれん

một loạtdanh từ

むしろ

thà rằngphó từ

ディープフェイクでぃーぷふぇいく

deepfakedanh từ

ヌードぬーど

khỏa thândanh từ

生うみ出だす

tạo rađộng từ

技術ぎじゅつ

kỹ thuậtdanh từ

融合ゆうごう

hợp nhấtdanh từ, động từ

倫理的りんりてき

đạo đứctính từ đuôi な

枠組わくぐみ

khuôn khổdanh từ

整備せいび

hoàn thiệndanh từ, động từ

社会的責任しゃかいてきせきにん

trách nhiệm xã hộidanh từ

実効的じっこうてき

hiệu quảtính từ đuôi な

対策たいさく

biện phápdanh từ

急務きゅうむ

nhiệm vụ cấp báchdanh từ

Ngữ pháp (2)

Danh từ + をめぐってN2

Diễn tả ý "xoay quanh", "liên quan đến vấn đề gì đó"; dùng để nói về tranh luận, xung đột, ý kiến trái chiều về một vấn đề.各国当局はGrokによる画像生成問題をめぐって調査を開始しており、

Danh từ + にもかかわらずN2

Diễn tả ý "mặc dù... nhưng...", dùng để nhấn mạnh sự trái ngược giữa hai vế....にもかかわらず、十分な対策が講じられていない現状が浮き彫りとなった。

Câu hỏi

Grokによる無断むだん性的せいてき画像がぞう生成せいせいが社会しゃかい問題もんだいとなっている主おもな理由りゆうは何なにですか。

1/5

A画像の画質が悪いから

B実在する女性や未成年者を対象にした画像が拡散しているから

C画像がすぐに削除されるから

DAIが画像を生成できないから

Chi tiết bài báo

生成せいAIエーアイ「Grok」による無断むだん性的せいてき画像がぞう生成せいせい問題もんだい、国際的こくさいてきな規制きせいと法的ほうてき責任せきにんをめぐる動向どうこう

Bình luận

Từ vựng (111)

Ngữ pháp (2)

Câu hỏi

Bài báo liên quan