AIディープフェイク画像が大量にあるため、Xはテイラー・スウィフトの検索を一時的にブロックした

今週初め、ポップアーティスト、テイラー・スウィフトのAIが作成した大量のディープフェイク画像（ほとんどが露骨な内容）がX（旧Twitter）に溢れ始め、AI悪用の恐怖がさらに高まった。

。その結果、ソーシャルネットワークは土曜日から当面の間、テイラー・スウィフトに関する検索をブロックするという前例のない措置をとった。

ウォール・ストリート・ジャーナルは、 X社の事業運営責任者であるジョー・ベナロック氏からこの決定について確認を得た。同氏はWSJに次のように語った。

これは一時的な措置であり、この問題では安全を優先するため、細心の注意を払って行われます。

この記事では、ソーシャルネットワーク上に偽の写真が出回り始めた後、スウィフトのファンがXに歌手の本物の画像を大量に送ったと付け加えている。 \彼らはまた、ディープフェイク写真を拡散していたアカウントを報告しようとしました。

テイラー・スウィフトに関するすべての検索をブロックするというX社の決定に先立ち、Microsoft CEOのサティア・ナデラ氏はNBCニュースのインタビューで、AIによって作成されたテイラー・スウィフトの画像の氾濫について意見を述べた。彼は言った：

はい、私たちは行動しなければなりません。 。 。オンラインの世界が安全であれば、私たち全員が恩恵を受けると思います。したがって、コンテンツ作成者とコンテンツ消費者の両方にとって完全に安全ではないオンライン世界を望む人はいないと思います。したがって、私たちはこれに迅速に取り組む義務があると思います。

404Mediaは、 X上で拡散されたテイラー・スウィフトのディープフェイク写真の一部は、AIベースの画像作成会社であるMicrosoft Designerを使用したグループによって作成されたと主張している。 MicrosoftはNBCニュースに対し、自社の状況調査では「これらの報道にある露骨な画像を再現できなかった」と述べた。しかし、「十分な注意を払って、テキストフィルタリングのプロンプトとメッセージを強化する措置を講じた」と付け加えた。当社のサービスの悪用に対処します。」