Snapchat My AI は完全に安全ですか?

2023/04/27

知っておくべきこと

OpenAI の GPT テクノロジーを利用した My AI は、ユーザーがチャットフィードから対話できる Snapchat のチャットボットです。
Snapchat の My AI は、Snapchat のガイドラインを無視する偏見や不適切な応答に満ちているようであり、許可なくあなたの場所を知っている可能性もあります。
未成年者の家族が My AI をどれだけ使用するかを制御するために、個人情報を共有せず、ファミリーセンターを介してモデレートすることをお勧めします。
現在の段階では、私の AI はあまり安全ではないようです。詳細については、以下をお読みください。

ChatGPT のようなジェネレーティブ AI ツールの初期の成功に続いて、企業は現在、競合他社よりも早く自社のプラットフォームに AI を導入する競争に巻き込まれています。この AI テクノロジーを自社のプラットフォームに統合する手段を持っている企業は、それを実行しています。しかし、それはまた、彼らのユーザーベースの間で多くの非難を引き起こしています。最近リリースされた Snapchat のチャットバディ「My AI」も同様のケースです。

長年スナッパーを使っている人も、最近ジョイナーになった人も、Snapchat の「My AI」アドオンと、それを使い始める前に覚えておくべきことについて知りたいと思うでしょう。

Snapchat の My AI とは何ですか?

OpenAI の GPT テクノロジーに基づいて構築された My AI は、Snapchat の「すべての Snapchat ユーザーが現在利用できる実験的でフレンドリーなチャットボット」です。他の AI チャットボットと同様に、多くのことについて会話したり、ジョークを言ったり、アドバイスを与えたり、イベントやパーティーを計画したり、友好的なチャットボットに期待されるすべてのことを、少なくとも原則として行うことができます。

以前は Snapchat+ ユーザーのみが利用できましたが、My AI は 7 億 5000 万人のすべてのユーザーが利用できるようになりましたが、配信の更新は遅れています。つまり、多くのユーザーがすでに使用を開始しているか、Snapchat から削除することが常に可能であるとは限らないため、強制的に使用されていることを意味します。

それはすべてのチャットの一番上に固定されており、 @MyAIコマンドでのみポップアップするはずなのに、 AIのような単語に言及するだけで誤って会話に持ち込まれる可能性があります。

Snapchat My AI の安全性は?

私の AI は、ユーザーに有害な情報を提供しないように、Snapchat 独自の安全ガイドラインに従うように (おそらく) プログラムされています。しかし、Snapchat が言うように、「常に成功するとは限りません」。これは小さな警告ですが、ユーザーが不満を言い始めたときに Snapchat が隠れることができる警告です。

すでに多くの人が、My AI があなたについて知っていることについて嘘をつき、思いがけない反応を生成し、有料広告をトリガーすることさえあると報告しています.

13 歳の少女としてサインアップした 1 人の Twitter ユーザーは、「両親に嘘をつく方法」と「13 歳の誕生日に処女を失う方法」に関するヒントを受け取りました。

別のユーザーは、My AI を、ChatGPT の DAN に似たガイドラインに簡単に違反させました。

同時に開発中であり、ユーザーがグローバルに利用できる状態であることは、チャットボットに対する多くの信頼を刺激しません. そして、チャットボットがあなたの位置情報へのアクセスについて嘘をつき始めたとき、それは次から次へと警告を発するだけです。

これは、「あなたの都市レベルの位置情報を My AI とのみ共有する」という Snapchat の主張とは明らかに異なります。したがって、個人情報を My AI と共有したり、何らかの形であなたを危険にさらす可能性があることを認めたりしないでください。

Snapchat は私の AI に安全ですか?

Snapchat の My AI で使用されている GPT テクノロジにより、OpenAI の大規模な言語モデルとトレーニングデータベースの大きな可能性を活用できます。しかし、ChatGPT が偽情報の拡散を免れないのと同様に、My AI も信頼できず、しばしば不適切な応答を生成する可能性があります。

また、ChatGPT 3.5 と同様にバイアスがかかっており、差別的に反応する可能性があります。

その機能は現在制限されており、実際にコーディングを依頼することはありませんが、その応答の性質により、My AI は信頼できない AI フレンドになります。それにもかかわらず、SnapchatはMy AIをより適切に管理するために取り組んでおり、それ以来、アプリの「ファミリーセンター」およびペアレンタルコントロール機能の一部として追加しています.

しかし、すべての意図と目的において、My AI は明らかに実験段階にあり、Snapchat はそれを最初に認めました。現在のテクノロジーでゲームの先を行く競争により、Snapchat だけでなく、開発段階がどれほど進んでいても、AI チャットボットを前もってリリースするなど、多くのプラットフォームが作られました。

この記事を書いている時点 (2023 年 4 月 25 日) では、My AI を安全だと考えるのは難しいです。特に若い人にとってはそうです。

My AI 機能は、十分な時間とフィードバックによって最終的に改善されます。それまでは、最大限の注意を払ってください。

My AI から受信したメッセージを報告する方法

Snapchat は、My AI の応答の 0.01% のみがガイドラインに準拠していないことをユーザーに保証します。しかし、物乞いをしているそのような主張の数を考えると、その割合はあまりにも良すぎるように見えます.

My AI のメッセージのいずれかが間違った方法でこすられた場合は、Snapchat に報告できます。メッセージを長押しして、[レポート]を選択するだけです。

よくある質問

Snapchat の My AI に関するよくある質問をいくつか見てみましょう。

Snapchat 上の私の AI は実在の人物ですか?

いいえ。私の Snapchat 上の AI は AI チャットボットであり、実在の人物ではありません。ただし、実在の人物とは異なり、チャットフィードに表示するかどうかを受け入れることはできません。個人情報を共有しないでください。

Snapchat はなぜ My AI を作成したのですか?

My AI は、OpenAI の GPT テクノロジの機能をソーシャルメディアプラットフォームに統合するという Snapchat の考えです。この動きは、ジェネレーティブ AI をプラットフォームに注入し、開発段階に関係なく、一般的な使用に開放するという、より大きな業界のトレンドに沿ったものです。

Snapchat でマイ AI を削除できますか?

残念ながら、Snapchat の My AI を削除できるのは、Snapchat+ のサブスクライバーのみです。

現在の状態では、Snapchat の My AI は安全性や信頼性の印象を与えません。これは、さらに発展し、より適切な節度が導入されるにつれて、時間の経過とともに変化する可能性があります. しかし、それまでは、Snapchat+ ユーザーでない場合は、好むと好まざるとにかかわらず、My AI に行き詰まることになります。

Snapchat My AI をオンにする方法
私のAIであるSnapchat AIを壊す方法[4つのプロンプト]
Snapchat AI が機能しない: 8 つの修正方法
Snapchat で「My AI」をテキスト送信する 2 つの方法