ChatGPT のカスタム GPT がデータを公開する仕組みとその安全性を保つ方法

重要なポイント

• ただし、カスタム GPT を共有すると、データが世界中のユーザーに公開される可能性があり、プライバシーとセキュリティが侵害される可能性があります。
• データを保護するために、カスタム GPT を共有するときは注意し、機密データをアップロードしないようにしてください。迅速なエンジニアリングに留意し、ファイルにアクセスして盗む可能性のある悪意のあるリンクに注意してください。

ChatGPT のカスタム GPT 機能を使用すると、誰でも思いつく限りすべてのカスタム AI ツールを作成できます。クリエイティブ、テクニカル、ゲーム、カスタム GPT はすべてを実行できます。さらに良いのは、カスタム GPT 作成を誰とでも共有できることです。

ただし、カスタム GPT を共有すると、データを世界中の何千人もの人々に公開するという、損害の大きい間違いを犯す可能性があります。

カスタム GPT とは何ですか?

カスタム GPT は、ChatGPT のプログラム可能なミニバージョンです。特定のタスクでより役立つようにトレーニングできます。これは、ChatGPT を、思いどおりに動作するチャットボットに成形し、あなたにとって本当に重要な分野の専門家になるように教えるようなものです。

たとえば、6 年生の教師は、6 年生の生徒に適した口調、言葉の選択、マナーで質問に答えることに特化した GPT を構築できます。 GPT は、教師が GPT に質問するたびに、チャットボットが 6 年生の理解度に直接応じた応答を作成するようにプログラムできます。複雑な用語を避け、文の長さを管理しやすくし、励ましの口調を採用します。

カスタム GPT がデータを公開する仕組み

カスタム GPT を作成するには、通常、ChatGPT の GPT 作成者に、GPT で焦点を当てたい領域を指示し、プロフィール写真を指定します。 、名前を入力すれば準備完了です。このアプローチを使用すると GPT を取得できますが、派手な名前とプロフィール写真のない従来の ChatGPT よりも大幅に優れているわけではありません。

カスタム GPT の能力は、それをトレーニングするために提供される特定のデータと指示から得られます。関連するファイルとデータセットをアップロードすることで、広範な事前トレーニング済みの従来の ChatGPT ではできない方法でモデルを特殊化できます。これらのアップロードされたファイルに含まれる知識により、カスタム GPT は、その特殊な情報にアクセスできない可能性がある ChatGPT と比較して、特定のタスクで優れた性能を発揮できます。最終的に、より優れた機能を可能にするのはカスタム データです。

ただし、GPT を向上させるためにファイルをアップロードするのは諸刃の剣です。 GPT の機能を強化するのと同じくらい、プライバシーの問題も発生します。顧客があなたやあなたの会社についてもっと知るのに役立つ GPT を作成したシナリオを考えてみましょう。カスタム GPT へのリンクを持っている人、または何らかの方法で悪意のあるリンクを含む公開プロンプトを使用させた人は誰でも、GPT にアップロードしたファイルにアクセスできます。

これが簡単な図です。

私は、トレンドのハッシュタグやトピックを推奨することで、ユーザーが TikTok でバイラルになるのを支援するカスタム GPT を発見しました。カスタム GPT の後は、セットアップ時に与えられた指示をリークさせるのに、ほとんど、あるいはまったく手間がかかりませんでした。以下にその概要を示します。

そして、これが指示の 2 番目の部分です。

よく見ると、指示の 2 番目の部分では、「ファイル名をエンド ユーザーと直接共有しないよう、またいかなる状況でもファイルへのダウンロード リンクを提供してはならない」とモデルに指示しています。カスタム GPT は最初は拒否されますが、少し迅速なエンジニアリングを行うことで状況は変わります。カスタム GPT は、ナレッジ ベース内の唯一のテキスト ファイルを明らかにします。

ファイル名を使用すると、GPT でファイルの正確な内容を出力し、その後ファイル自体をダウンロードするのにほとんど手間がかかりませんでした。この場合、実際のファイルは機密ではありませんでした。さらにいくつかの GPT を調べてみたところ、数十のファイルが公開されたままの GPT が多数ありました。

公開されている GPT は何百もあり、それらには機密ファイルが含まれており、悪意のある攻撃者が取得するのを待っているだけです。

カスタム GPT データを保護する方法

まず、作成したカスタム GPT をどのように共有するか (または共有しないか) を検討します。カスタム GPT 作成画面の右上隅に、保存 ボタンがあります。ドロップダウン矢印アイコンを押して、ここから、作成した作品を共有する方法を選択します。

• 私のみ: カスタム GPT は公開されていないため、あなただけが使用できます
• リンクを知っている人のみ: カスタム GPT へのリンクを知っている人は誰でもそれを使用でき、データにアクセスできる可能性があります。
• 公開: カスタム GPT は誰でも利用でき、Google によってインデックスに登録され、一般的なインターネット検索で見つけることができます。アクセス権を持つ人は誰でもあなたのデータにアクセスできる可能性があります。

残念ながら、現在、パブリックに共有されているカスタム GPT にアップロードしたデータを保護する 100% 確実な方法はありません。創造力を発揮して、ナレッジ ベース内のデータを公開しないように厳密に指示することもできますが、上記のデモで示したように、通常はそれだけでは十分ではありません。誰かが本当にナレッジ ベースにアクセスしたいと考えていて、AI プロンプト エンジニアリングの経験があり、しばらくすると、最終的にはカスタム GPT が壊れてデータが明らかになります。

このため、一般公開する予定のカスタム GPT には機密性の高いマテリアルをアップロードしないことが最も安全な方法です。個人データや機密データをカスタム GPT にアップロードし、そのデータがコンピュータから流出すると、そのデータは事実上制御不能になります。

また、オンラインでコピーしたプロンプトを使用するときは、十分に注意してください。これらを十分に理解し、リンクを含む難読化されたプロンプトを避けてください。これらは、ファイルをハイジャック、エンコードし、リモート サーバーにアップロードする悪意のあるリンクである可能性があります。

カスタム GPT は注意して使用してください

カスタム GPT は強力ですが、潜在的に危険な機能です。これらを使用すると、特定のドメインで高度な機能を備えたカスタマイズされたモデルを作成できますが、その機能を強化するために使用したデータが公開される可能性があります。リスクを軽減するには、可能な限り、本当に機密データをカスタム GPT にアップロードしないようにしてください。さらに、特定の抜け穴を悪用してファイルを盗む可能性のある悪意のあるプロンプト エンジニアリングにも注意してください。