ログイン/ 登録

インスタグラム、ダイレクトメッセージのヌードを自動的にぼかす

404Media

2024/04/12 14:48

従う

メタからの水曜日に発表によると、インスタグラムはまもなくダイレクトメッセージでヌードをぼかすテストを開始する。

処理はデバイス上で行われるため、Metaによれば、その検出はend-to-end 暗号化されたチャットで、ユーザーが報告しない限り、Metaは画像自体にアクセスできないとしています。

この機能がユーザーにとってどのように見えるかの一例です。IMAGE VIA META

この機能は、18歳未満のユーザーにはデフォルトでオンになり、成人にはオンにするよう「促す」通知が送られます。「この機能は、DMで望まないヌードを目にすることから人々を守るためだけでなく、ヌード画像を送って人々を騙し、お返しに自分の画像を送らせる詐欺師からも人々を守るために設計されています」とアナウンスされている。

"誰かがヌードを含む画像を受信すると、警告画面の下に自動的にぼかしが入ります。「また、返信のプレッシャーを感じないように促すメッセージも表示され、送信者をブロックしたり、チャットを報告したりするオプションもあります」

発表によると、Metaはこれらの機能のテストを "まもなく "開始するとのことです。

一方、メタはAIが生成した偽インフルエンサーをインスタグラム上で横行させ、最も明白なナマズロマンス詐欺がプラットフォーム上で起こっており、Facebook上では、人々は常にAIが生成したコンテンツに騙され、本物だと信じ込まされている。

Instagram のヌード検出機能は、以前アップルが発表したものと似ている。同社の「センシティブコンテンツ警告」も、ユーザーのデバイス上の写真を分析することで機能するAppleのドキュメントによると。Appleは当初、さらに進んで、iCloudにアップロードされた写真をCSAM用にスキャンする機能を発表したとき、大きな反発に直面しました。Apple 2022年12月にその計画を中止.

メタは過去に性的虐待のイメージを検出するために物議を醸す試みを行ってきた：2017年から2018年にかけて、non-consensual imagery prevention systemをテストし、ユーザーにsend their own nudes to Facebook to send them spreading.