Google と Microsoft のチャットボットは、通常の検索の 10 倍の費用がかかる可能性があります

今月初め、Google は Bard をローンチする計画を発表しました。Bard は、ユーザーが自然言語モデルを使用して情報を検索できるように設計されたチャットボット AI です。Microsoft はまた、Microsoft の技術と ChatGPT の背後にある企業である OpenAI の技術を組み合わせた独自のチャットボットを備えた、新しい Bing 検索を発表しました。

ただし、これらの企業のどれもがあまり話していないこのチャットボット技術のすべての側面の 1 つは、運用コストです。ロイターの新しいレポートは、この新技術のその部分に関するより多くの情報を提供しています。Alphabet の会長である John Hennessy とチャットしたところ、大規模な言語モデルでチャットボットを使用すると、通常の検索の 10 倍の費用がかかる可能性が高いと述べました。

we will have to monetize it somehow at some point; the compute costs are eye-watering

— Sam Altman (@sama) December 5, 2022

ChatGPT のローンチ直後の 2022 年 12 月に、OpenAI の CEO である Sam Altman はTwitter で「コンピューティング コストは目を見張るものがあります」と述べました。これが、より多くの機能とより高速なパフォーマンスを備えた ChatGPT Plus を 2 月初旬にローンチした理由の 1 つです。月額20ドルの価格で。

ロイターは、2022 年に誰かがそのサービスで検索を行うたびに、Google に 5 分の 1 セントの費用がかかると見積もったモルガン スタンレーのレポートを使用しました。コストは 2024 年には 60 億ドルも上昇する可能性があります。これは、チャットボットが Google の検索の半分を 50 語の回答で処理すると仮定した場合です。

もちろん、これらのコストが高くなる理由は、チャットボット AI から自然に聞こえる回答をすべて生成するには、より多くの CPU が必要だからです。これはまた、これらのサーバーを稼働させ続けるための電力コストが高くなることも意味します。

では、コストを削減するにはどうすればよいでしょうか。起こりそうなことの 1 つは、これらのチャットボットがより効率的になり、運用コストが削減されることですが、それによって価格がどれだけ下がるかは不明です。もう 1 つの解決策は、Google と Microsoft がチャットボットの回答に広告へのリンクを表示して、サーバーの運用コストを補う収益を生み出すことです。

もう 1 つの解決策は、ChatGPT が既に行っていることです。ユーザーがチャットボットの回答をより迅速かつ適切に取得できるサブスクリプション サービスを提供します。このオプションは、Google と Microsoft にとって最後の手段になる可能性があります。これらの新しい AI 主導の検索サービスにアクセスするユーザーが増えるにつれて、これらの企業が財務上の収益に対して経済的に実行可能になるのに十分なほどコストが下がるかどうかを判断する必要があります。