Azure OpenAI サービスで DALL-E 生成画像に目に見えない透かしを追加予定

OpenAI の DALL-E モデルは、テキスト プロンプトから画像を生成できます。Azure OpenAI サービスは、OpenAI の DALL-E モデルへの REST API アクセスを提供し、開発者がアプリケーション内でプログラムによって画像を作成できるようにします。本日、Microsoft はAzure OpenAI サービス内に「ウォーターマーク」と呼ばれる革新的な組み込み機能を発表しました。この新しいウォーターマーク機能は、DALL-E を使用して生成されたすべての画像に目に見えないウォーターマークを追加し、透明性を高めて AI 生成画像を保護します。

最近の画像生成モデルの急増により、偽情報の顕著な増加と AI 生成ディープフェイクの急増が起こっています。そのため、AI 生成コンテンツを認識する能力が重要になっています。AI 生成画像に埋め込まれた新しく導入された目に見えない透かしは、特殊なツールを使用すれば検出できますが、肉眼では検出できないため、画像の完全性が保たれます。さらに、AI 生成画像のサイズが変更されたり切り取られたりしても、透かしの完全性は維持されます。

目に見えない透かしには、画像にリンクされたマニフェストを通じて表される、画像の出所に関するメタデータが含まれます。このマニフェストは、Azure OpenAI サービスを参照する証明書によって暗号署名されており、次の詳細が含まれます。

• 「説明」 – このフィールドは、DALL-E モデルによって生成されたすべての画像に対して「AI 生成画像」を示し、画像が AI によって生成されたものであることを確認します。
• 「softwareAgent」 – このフィールドは、Azure OpenAI サービス内に統合された DALL-E シリーズ モデルによって作成されたすべてのイメージに対して「Azure OpenAI DALL-E」を示します。
• 「いつ」 – このタイムスタンプは、コンテンツ資格情報が確立された日時を示し、他の Azure AI サービスとの類似点を強調します。

これは、Microsoft が透かしを実装した最初の例ではありません。昨年、Microsoft は Azure AI Speech の個人音声機能で生成された音声出力に透かしを導入し、その音声が Azure AI Speech によって合成されたかどうかをユーザーが識別できるようにしました。

さらに、Microsoft は、Adobe、Truepic、BBC などの他の著名な AI 業界の企業と協力して、さまざまなプラットフォーム間での透かし、暗号化メタデータ、検出技術の一貫性を確保しています。

Microsoft によるこの取り組みは、AI テクノロジを責任を持って導入し、AI 生成コンテンツの誤用に対処するための極めて重要な一歩となります。

ソース