ChatGPT はサイバーセキュリティの脅威になりますか? 注意すべきことは次のとおりです

この時点で ChatGPT を使用していないのは誰ですか? 人工知能に少しでも興味があれば、とても魅力的で、無料です (今のところ)。

通常はチャットボットとして説明されていますが、ChatGPT はそれ以上のものです。コピーを生成したり、複雑なトピックを説明したり、翻訳者として行動したり、冗談を考えたり、コードを書いたりすることができます。しかし、攻撃者によって兵器化される可能性もあります。

ChatGPT の仕組みと、サイバー犯罪者にとって魅力的な理由

ChatGPT (Generative Pre-trained Transformer) は、人工知能研究所の OpenAI によって開発され、2022 年 11 月に公開されました。教師ありと強化の機械学習手法を組み合わせて使用​​する大規模な言語モデルです。

おそらくもっと重要なことは、ChatGPT はユーザーによって常に微調整され、トレーニングされており、ユーザーはその応答に賛成票を投じたり反対票を投じたりすることができ、独自にデータを収集するため、より正確で強力になります.

それが ChatGPT を他のチャットボットと区別するものです。使用したことがあれば、その違いはすぐにわかるでしょう。他の同様の製品とは異なり、会話に積極的に参加し、驚くほど正確に複雑なタスクを完了しながら、首尾一貫した人間のような応答を提供できます。

人間が書いた短いエッセイと、ChatGPT が書いたエッセイを見せられた場合、おそらくどちらがどちらであるかを判断するのに苦労するでしょう. 例として、ライ麦畑でつかまえてについて短いエッセイを書くように指示されたときに ChatGPT が生成したテキストの一部を次に示します。

これは、ChatGPT に制限がないということではありません。使えば使うほど、これが事実であることに気付くでしょう。強力であるにもかかわらず、初歩的な論理に苦労したり、間違いを犯したり、誤った情報や誤解を招く情報を共有したり、指示をコミカルに解釈したり、誤った結論を導き出すように操作されたりする可能性があります。

しかし、ChatGPT の威力は会話能力にあるのではありません。むしろ、人間よりもはるかに効率的かつ迅速にタスクをまとめて完了する、ほぼ無制限の能力にあります。適切な入力とコマンド、およびいくつかの創造的な回避策を使用すると、ChatGPT を非常に強力な自動化ツールに変えることができます。

このことを念頭に置いて、サイバー犯罪者が ChatGPT を武器にする方法を想像することは難しくありません。適切な方法を見つけてスケーリングし、必要に応じて複数のアカウントと複数のデバイスで、AI にできるだけ多くのタスクを一度に完了させることがすべてです。

攻撃者がChatGPTでできる5つのこと

ChatGPT が攻撃者によって使用されている実際の例はすでにいくつかありますが、さまざまな方法で武器化されている可能性が高く、将来的には武器化される可能性があります。ハッカーが ChatGPT でできる (そしておそらく行っている) 5 つのことを次に示します。

1.マルウェアを書く

ChatGPT がコードを記述できる場合、マルウェアを記述できます。そこに驚きはありません。しかし、これは単なる理論上の可能性ではありません。2023 年 1 月、サイバーセキュリティ企業の Check Point Research は、サイバー犯罪者が既に ChatGPT を使用してマルウェアを作成していることを発見し、アンダーグラウンド フォーラムでそれを自慢しています。

Check Point Research が発見した脅威アクターは、特定の研究出版物で説明されている Python ベースのマルウェアを再現するために、高度なチャットボットをかなり独創的に使用していました。研究者が悪意のあるプログラムをテストしたとき、サイバー犯罪者は真実を語っていました。ChatGPT によって生成された彼のマルウェアは、設計どおりに実行されました。

2.フィッシングメールを生成する

スパム フィルターが強力になったのと同じように、危険なフィッシング メールは依然として見過ごされており、送信者をプロバイダーに報告する以外にできることはほとんどありません。しかし、有能な攻撃者がメーリング リストと ChatGPT へのアクセスを利用してできることはたくさんあります。

適切なコマンドと提案があれば、ChatGPT は説得力のあるフィッシング メールを生成し、攻撃者のプロセスを自動化し、攻撃者の操作を拡大できる可能性があります。

3.詐欺サイトを作る

「ChatGPT を使用して Web サイトを構築する」という用語を Google で検索すると、その方法を詳しく説明しているチュートリアルがたくさん見つかります。これはゼロから Web サイトを作成したい人にとっては朗報ですが、サイバー犯罪者にとっても朗報です。彼らが ChatGPT を使用して多数の詐欺サイトやフィッシング ランディング ページを作成するのを妨げているのは何ですか?

可能性はほぼ無限です。脅威アクターは、ChatGPT を使用して既存の Web サイトのクローンを作成し、それを変更したり、偽の e コマース Web サイトを構築したり、スケアウェア詐欺を含むサイトを実行したりする可能性があります。

4.スパムコンテンツを作成する

偽の Web サイトを設定したり、詐欺のソーシャル メディア ページを実行したり、模倣サイトを作成したりするには、大量のコンテンツが必要です。そして、詐欺が機能するためには、可能な限り正当に見える必要があります. 攻撃者は、ChatGPT に任せればよいのに、なぜコンテンツ ライターを雇ったり、自分でブログ記事を書いたりするのでしょうか?

確かに、AI によって生成されたコンテンツを含む Web サイトは、Google からすぐにペナルティを受け、検索結果に表示されなくなる可能性があります。彼らのお金や個人情報を盗む。

5. 偽情報とフェイクニュースを広める

近年、オンラインの偽情報が大きな問題になっています。フェイク ニュースはソーシャル メディアで野火のように広まり、よく知らない人々が誤解を招くような、時には文字通りでっちあげの話にだまされることがよくあります。これは悲惨な現実の結果をもたらす可能性があり、言論の自由に関する法律に違反することなく偽のニュースの拡散を止める方法を誰も知らないようです.

ChatGPT のようなツールは、この問題を悪化させる可能性があります。毎日何千もの偽のニュース記事やソーシャル メディアの投稿を生成できるソフトウェアにアクセスできる脅威アクターは、災害のレシピのように思えます。

私たちの言葉を鵜呑みにしないでください

確信が持てない場合は、ChatGPT にサイバー犯罪者がどのように使用するかを尋ねました. この記事の核心と一致しているようです。

悪人の手に渡ると、ChatGPT が危険に

5 年後または 10 年後に人工知能がどのような能力を発揮するかを想像することしかできません。当面は、誇大広告やパニックを無視して、ChatGPT を合理的に評価するのが最善です。

すべてのテクノロジーと同様に、ChatGPT は本質的に有用でも有害でもありません。いくつかの欠点はありますが、これまでに公開されたチャットボットの中で最も有能です。