Microsoft、Google、OpenAI、Meta、Amazon、XなどがAI選挙ディープフェイクと戦うことを誓う

ディープフェイク画像や情報を作成するための生成 AI アプリやサービスの使用にますます注目が集まっています。確かに、数週間前、AI が作成したポップ歌手テイラー・スウィフトの画像が X ソーシャル ネットワークに溢れたことで、この問題が頭に浮かびました。一部の報道では、画像はMicrosoft の AI 画像生成ツール Designerによって作成されたと主張されています。

2024 年は米国大統領選挙の年でもあるため、AI ディープフェイク画像がその選挙やその他の選挙の投票に悪影響を与えるために使用される可能性があるという懸念がさらに高まっています。今日、多くのテクノロジー企業が、不正な選挙活動におけるAIの使用と戦うために自社のリソースを使用することを明記した新たな協定を順守すると発表した。

ミュンヘン安全保障会議で発表されたこの協定は、「AI選挙協定」と呼ばれています。現時点でこの協定に参加している企業は次のとおりです。

• アドビ
• アマゾン
• 人間的
• 腕
• イレブンラボ
• グーグル
• IBM
• 語形変化AI
• リンクトイン
• マカフィー
• メタ
• マイクロソフト
• 使用
• OpenAI
• 株式会社スナップ
• 安定性AI
• チクタク
• トレンドマイクロ
• トゥルーピック
• バツ

この協定を発表したプレスリリース(PDF 形式) には、上記の企業がディープフェイク選挙活動と戦うための以下の約束に従うことに同意したと記載されています。

• 必要に応じてオープンソース ツールを含む、Deceptive AI Election コンテンツに関連するリスクを軽減するテクノロジーの開発と実装
• 欺瞞的な AI 選挙コンテンツに関してモデルがもたらす可能性のあるリスクを理解するために、この協定の範囲内でモデルを評価する
• プラットフォーム上でのこのコンテンツの配布を検出しようとしています
• プラットフォーム上で検出されたこのコンテンツに適切に対処するよう努めます
• 欺瞞的な AI 選挙コンテンツに対する業界を超えた回復力の強化
• 企業がこの問題にどのように対処するかについて、一般の人々に透明性を提供する
• 多様な世界的な市民社会組織、学者との関わりを継続する
• 国民の意識、メディアリテラシー、社会全体の回復力を促進する取り組みを支援する

プレスリリースで引用された同社幹部の中にはマイクロソフト社長のブラッド・スミス氏も含まれていた。彼は言い​​ました：

社会が AI の恩恵を受け入れるにつれて、私たちにはこれらのツールが選挙で武器化されないように支援する責任があります。 AI が選挙の欺瞞を生み出したわけではありませんが、AI が欺瞞の蔓延を助長しないようにしなければなりません。

選挙ディープフェイクの例は数週間前に発生し、AIが生成したジョー・バイデン米国大統領の声を使ったロボコールが発信者にニューハンプシャー州の予備選で投票しないよう促した。この通話は後にテキサスに拠点を置く会社によって作成されたことが判明しました。