Microsoft と OpenAI は、ハッカーがサイバー攻撃を改善するために生成 AI を使用していると主張しています

組織化されたサイバー犯罪者が、新しい種類の攻撃に生成型 AI ツールやサービスを使用し始めていることを知っても、それほどショックではありません。今日、私たちはこれらの国家支援ハッカーが大規模な言語モデルをどのように使用しているかについて、さらに多くの情報を入手しました。

ブログ投稿 で、Microsoft は OpenAI と提携して、ハッカーが LLM をどのように使用しているかに関する新しい調査を発表しました。これには、生成 AI ツールを使用していると特定された特定のグループに関する情報が含まれています。

これらのグループはロシア、北朝鮮、イラン、中国などの国に拠点を置いています。そのうちの 1 つは Forest Blizzard と名付けられ、ロシアの GRU 部隊 26165 に関連しています。マイクロソフトによると、このグループは進行中のウクライナ侵略に関連する組織を積極的に標的にしているとのことです。

Microsoft は、Forest Blizzard が「衛星通信プロトコル、レーダー画像技術、および特定の技術パラメータを理解するために」LLM を使用していると主張しています。その調査によると、このグループは LLM を使用してファイルの選択や操作などのタスクも自動化しようとしていると付け加えられています。

Microsoft が AI を使用していると発表している別のサイバー犯罪グループは、Salmon タイフーンと呼ばれています。中国に本拠を置くこのグループには、政府や米国の防衛請負業者を標的にした歴史がある。 Microsoft によると、Salmon タイフーンはさまざまな方法で LLM を使用しています。これらには、コーディング エラーの発見や技術的なコンピューティング論文の翻訳が含まれます。

Microsoftは、サイバー犯罪者によるAIの使用を研究するためにOpenAIとの提携を継続すると述べた。

この取り組みの一環として、私たちは脅威アクターに関連する資産とアカウントを破壊し、OpenAI LLM テクノロジーとユーザーを攻撃や悪用から保護し、モデルの周囲にガードレールと安全メカニズムを形成するための措置を講じてきました。

同社は、これらのLLMベースのサイバー脅威を追跡するために、独自のCopilot for Securityサービスを使用すると付け加えた。