OpenAI が ChatGPT で生成されたテキストに対抗する AI 検出ツールを起動

OpenAI の自動化された AI 搭載のチャットボットである ChatGPT は、インターネットを席巻しましたが、途中でいくつかの問題が発生したわけではありません。ライター、コーダー、マーケティング担当者など、ChatGPT を使用してコンテンツを生成しているすべての人が、世界中の企業で AI によって生成されたコンテンツの津波を見つめています。

ChatGPT とその出力の周りで剽窃と盗用コンテンツの問題が常に渦巻いているため、OpenAI は新しい GPT 分類子をリリースしました。これは、あなたが読んでいるテキストが ChatGPT の作品であるか、他の GPT の作品であるかを検出して開示するように設計されたツールです。ツール。

OpenAI が GPT-Classifier を起動し、AI で書かれたテキストのチェックを支援

OpenAI の発表は、AI ライティングと AI 生成テキストに対する精査が強化され、企業が ChatGPT の出力を統合する中で行われました。

新しい GPT 分類子は、特定のテキストが人間によって書かれたものか、AI ジェネレーターの作業によるものかを判断しようとします。ChatGPT やその他の GPT モデルはあらゆる種類のテキスト入力で広範囲にトレーニングされていますが、GPT-Classifier ツールは「同じトピックに関する人間が書いたテキストと AI が書いたテキストのペアのデータセットで微調整されています」。

そのため、GPT 分類子は、情報を集めてその最良の概算を再作成する代わりに、既知の人間のテキストと既知の AI テキストの類似性を比較して、ソース ライターを明らかにする不一致を見つけようとします。

GPT分類子の検出は現在制限されています

AI によって生成されたテキストを簡単に見つけるというアイデアは、編集者や教育者の耳にはうってつけですが、OpenAI は、その「分類子は完全に信頼できるものではありません」と警告しています。

現在、GPT-Classifier は「AI によって書かれたテキストの 26% を正しく識別」し、人間のテキストの 9% を AI によって書かれたものとしてラベル付けしています。OpenAI はまた、ツールの精度は「通常、入力テキストの長さが長くなるにつれて向上する」と述べています。

GPT-Classifier の大雑把なテストでは、人間が生成した例を発見し、「AI が生成した可能性は非常に低い」とマークし、USB の問題で ChatGPT が生成したスニペットが「AI が生成した可能性がある」ことを正しく示しました。

ChatGPT 検出の需要は高い

GPT-Classifier の制限があっても、信頼できる ChatGPT 検出の需要は、このツールに多くの注目を集める可能性があります. 無料の GPT 検出ツールを構築してリリースするという OpenAI の取り組みは重要です。なぜなら、AI テキスト生成ツールを使用する学生、ライター、プログラマーなどの増加に伴い、この入力の理解と検出が不可欠になるからです。

今のところ、GPT-Classifier は稼働中であり、テストに使用できますが、そのラベル付けについては、少し塩味をつけて考えるのが最善です。