HYBEと警察、K-POPスターを悪用したAIディープフェイク動画で8人を逮捕 from HYBE

HYBE出身のK-POPスターを狙ったディープフェイク犯罪で8人を逮捕

韓国警察は、BTS、NewJeans、LE SSERAFIM、Seventeenといった世界的なアーティストを擁するK-POPの強豪、HYBE傘下のアーティストをターゲットにしたディープフェイク動画を作成し、拡散した疑いのある8人を逮捕した。

逮捕された6人は、テレグラムのチャットルームやソーシャル・メディア・プラットフォームを通じて、操作されたコンテンツを制作し、流通させた罪に問われている。

警察の取り締まりはファンの報告とHYBEのサポートが後押し

今回の逮捕は、HYBEと京畿北部警察庁（NGPPA）が2月25日に締結した正式なパートナーシップのもと、数カ月にわたって協力してきたことを受けたものだ。

この合意は、同社のアーティストが関与するAIが生成したディープフェイクに取り組むための具体的な措置を定めたものだ。

HYBEのチョン・ジンス最高法務責任者（右）とNGPAのキム・ホスン地区長（左）。

捜査の重要な部分は、HYBEから直接提供された情報であり、そのおかげで容疑者を迅速に追跡することができたと警察は述べている。

HYBEはまた、この件に貢献したファンベースを評価した。

を通じて「アーティストの権利侵害の報告」ウェブサイト - 2024年9月、アーティストを誹謗中傷する操作された投稿について、ファンからアラートが寄せられた。

ファンは、この継続的な脅威への対策に特化した『protect.hybecorp.com』を通じて報告することで、アイドルを守る手助けをすることができる。

あるBTSファンはXで他のファンを励まし、こう投稿した、

「ARMY、Hybeポータルで実際の問題を報告し続けろ！特にディープフェイクの犯罪は止めるべきだ！"

HYBEによれば、これらの情報は犯罪行為の発見と阻止に「重要な役割」を果たしたという。

AIによるフェイク動画が急増する中、被害者は声を上げるのに苦労している

公人が出演するディープフェイク動画は、韓国のエンターテインメント業界で関心が高まっている。

法執行機関によれば、この問題は、名乗り出ようとしないことが多い有名人にとって、特に差し迫った問題である。

2023年の報道では、ディープフェイクポルノ被害者の94％がK-POPアーティストだった。

LE SSERAFIMのさくらのオリジナル写真が、ディープフェイク技術を使ってデジタル加工され、偽のヌード画像が作成された。

NGPAのキム・ホスン部長はこう語った、

「このような犯罪を自ら通報することが難しい有名人の弱みにつけ込むディープフェイク犯罪は増加の一途をたどっている。

彼は、犯罪者を特定し起訴する努力を続けることを約束し、こう付け加えた、

"ディープフェイクは被害者の日常生活を破壊しかねない深刻な犯罪の一種であり、公人を標的にした犯罪も例外ではない"

HYBE、ディープフェイク犯罪者に対する寛容ゼロポリシーを宣言

HYBEのCEOであるジェイソン・ジェイサン・リーは、このような犯罪に対して強力な法的措置を取ることを誓い、和解はしないという会社の姿勢を確認した。

ジェイソン・ジェイサン・リー、HYBE CEO

とリーは言った、

"HYBEは、アーティストの肖像権や名誉を侵害する犯罪に対しては、ゼロトレランス、ノー・セツルメント・ポリシーに基づき、毅然と対応する。"

また、法執行機関との協力関係を継続し、同社のアーティスト保護システムを強化することも約束した。

偽ビデオ配信で20人以上が逮捕され、より広範な取り組みが行われる

8人の容疑者は特にHYBEアーティストをターゲットにしていたが、警察は、テレグラムを通じた性的なディープフェイク・コンテンツの配信に関連して、合計23人が逮捕されたことを確認した。

そのうち13人が現在拘留中である。

被告人の大半は若く、90％以上が10代か20代で、安定した職に就いていないと報告されている。

K-POP業界が団結してAIによるハラスメントに対抗

HYBE'の取り締まりは、K-POPシーン全体で懸念が高まっていることを反映している。

JYP、YG、キューブ・エンターテインメントなどの大手エンターテインメント企業も、所属アーティストに対するディープフェイクの脅威に対抗するための取り組みを開始した。

一方、HYBE傘下のレーベルADORは最近、ガールズグループNewJeansを合成メディア攻撃などのオンラインハラスメントから守るため、法的措置をエスカレートさせていることを確認した。

ディープフェイク規制を推し進める米議員たち 業界の支援も得て

韓国だけでなく、米国の議員も超党派の「NO FAKES Act」（AIが生成した無許可のコンテンツに対抗するための法案）を再提出した。

今週の再導入は、技術界のリーダーや音楽業界の幹部からも支持を得た。

ワシントンのイベントには、以前上院で証言したワーナー・ミュージック・グループのロバート・カインクルCEOをはじめ、レコーディング・アカデミーのハーヴィー・メイソン・ジュニアCEO、YouTubeのヴィヴィアン・ルウィット氏、RIAAのミッチ・グレイジャー長官らも出席した。

また、カントリー歌手のランディ・トラヴィスも出席した。彼は脳卒中の後、AIを使って自分の声を再現したことで有名だ。