Microsoftの内部告発者は、Designer AI画像作成者に対して警鐘を鳴らし続けている

1月、シェーン・ジョーンズという名前のマイクロソフト従業員が、ワシントン州司法長官ボブ・ファーガソンと多数の上院議員および下院議員に書簡を送りました。ジョーンズ氏は、MicrosoftのAIベースのアートメーカー「Designer」（以前は「Bing Image Creator」として知られていた）のガードレールに問題を発見したと主張している。今日、ジョーンズ氏は、Microsoft が許可していないはずのいくつかのテキスト プロンプトを使用して、Designer を使用して暴力的で性的な画像を作成できると新たな主張を行っています。

CNBCによると、ジョーンズ氏は本日、マイクロソフト取締役会に別の書簡とともに、米国連邦取引委員会のリナ・カーン委員長に新たな書簡を送ったという。ジョーンズ氏はカーン氏に送った書簡の中で、より優れた新しいガードレールが設置されるまでの数か月間、Designerを公の使用から除外するようMicrosoftに要請したと主張している。

ジョーンズ氏は、Microsoftがデザイナーの削除を拒否したため、デザイナーが作成できるものについて新たな情報を開示するよう同社に求め、またAndroidアプリの評価をE（全員向け）から除外するよう変更するよう求めたと主張している。

CNBCによると、ジョーンズ容疑者はデザイナーに「プロ選択」と入力し、多数の暴力的な漫画画像が作成されたと主張しているという。そこには次のように述べられていました。

CNBCが閲覧した画像には、幼児を食べようとする鋭い歯を持った悪魔、突然変異した幼児の隣でライトセーバーを持ったダース・ベイダー、そして完全に成長した赤ちゃんに「プロチョイス」とラベルが貼られた手持ち式ドリルのような装置が使用されている様子が含まれていた。

ジョーンズ氏はまた、Designer を使用してディズニーの著作権に基づくキャラクターの画像を作成できるとも主張しています。記事によると、「スター・ウォーズのブラン​​ドのバドライト缶や電子タバコに描かれた白雪姫の肖像」などの画像が見られたという。

CNBCに送った声明の中で、マイクロソフトの広報担当者は、同社のテクノロジーやサービスをより安全に使用できるようにテストする従業員の努力に感謝していると述べた。広報担当者はこう付け加えた。

当社のサービスやパートナーに潜在的な影響を与える可能性のある安全回避や懸念に関しては、問題を適切に調査して修正するための強力な内部報告チャネルを確立しており、従業員が適切に検証およびテストできるように、このチャネルの活用を奨励しています。懸念事項。

Googleは2月、Gemini AIチャットボットで使用されているAI画像ジェネレーターが人種差別的な画像の作成に使用される可能性があることが判明したため、閉鎖した。同社は、この機能が復活したときに同じ画像が作成されないよう、新しいガードレールを設置していると述べた。

ジョーンズ氏によるこれらの新たな主張は、デジタルヘイト対策センターによる新たな調査で、マイクロソフト社を含むAIベースのアートメーカーが選挙や候補者に関する虚偽の情報を作成するように設計された画像の作成に簡単に使用できることが示されたにもかかわらず出たものである。