MetaのAIツールが混血カップルの画像を不正確に生成し、問題に直面

Google の例に倣って、Meta の AI 画像生成は、簡単なプロンプトでも正確な画像を生成するのに苦労し、困難に直面しています。

最近、Meta の画像ジェネレーターが、プロンプトが複数回調整されたにもかかわらず、完全に正確ではないアジア人男性と白人女性の画像を生成したという報告が浮上しました。

Meta の AI 画像ジェネレーターが画像生成機能で Google の足跡をたどる

報告書では、Meta の AI が正確な画像を生成できないことが一貫して問題となっており、特定の人種に対する潜在的な偏見が懸念されている。Instagram の AI 画像生成ツールで使用されているプロンプトはシンプルであるにもかかわらず、不正確な画像が生成され続けた。これらのプロンプトには、「アジア人男性と白人の友人」や「アジア人男性と白人の妻」などのフレーズが含まれており、この問題は単発的なものではなく、複数回発生した。

The Verge はまた、Meta AI 画像ジェネレーターが複数回の試行で 1 つの画像のみを正確に作成できたことについても取り上げています。この成功した画像のきっかけとなったのは、白人の夫を持つアジア人女性でした。これは、プラットフォームが不正確な画像を生成したため、以前の 9 回の試行が失敗したことを示しています。これらの不正確な画像の例を以下に示します。

AI 画像ジェネレーターでは、以前にも同様の事件に遭遇したことがあります。思い出していただきたいのですが、Google は、不正確な画像を生成する傾向があるため、Gemini の AI 画像生成ツールを閉鎖せざるを得ませんでした。これは、Meta の画像ジェネレーターが直面している問題に似ています。

正直に言うと、私はこれに驚いていません。私は常に、画像ジェネレーターの信頼性の低さや、それが混乱を招く可能性があることについて人々に警告してきました。注意してアプローチするのが最善です。現在、Meta からは AI 画像ジェネレーターの動作に関する説明はありません。ただし、このツールはまだベータ版であるため、間違いを犯すことが予想されます。

Meta が AI 画像ジェネレーターの間違いに対応するにつれて、この投稿の更新を続けます。それまでの間、この画像ジェネレーターのこれまでの使用経験を共有してください。