MediaTek Dimensity 9300 はオンデバイス生成 AI 用に Llama 2 を統合

オンデバイス生成 AI を搭載した MediaTek Dimensity 9300

ユーザーエクスペリエンスとデータプライバシーの強化に向けた大きな進歩の中で、大手チップメーカーのMediaTekとQualcommは両社とも、オンデバイスの生成AI機能を自社の主力スマートフォンに統合する計画を発表した。この開発は、クラウド コンピューティングへの依存を最小限に抑え、ユーザー データを保護する、生成 AI タスクのローカル処理に対する需要の高まりに対応するものです。

先月、クアルコムは、2024 年にデビュー予定の同社の主力携帯電話でオンデバイス生成 AI を実現するために、メタの Llama 2 Large Language Model (LLM) との連携を発表しました。同様の歩みを進め、MediaTek も現在、デバイス生成 AI 機能。現在、ほとんどの生成 AI 処理はクラウド コンピューティングに依存していますが、MediaTek による Llama 2 モデルの使用により、生成 AI アプリケーションをデバイス上で直接実行する扉が開かれます。

オンデバイスの生成 AI の利点は多岐にわたります。開発者とユーザーは同様に、シームレスなパフォーマンス、プライバシーの強化、セキュリティの向上、遅延の短縮、低接続環境でも機能する機能の恩恵を受けることができます。さらに、このアプローチによりコストが削減され、大規模なクラウド インフラストラクチャの必要性が軽減されます。

オンデバイスの Generative AI を効果的に実装するには、エッジ デバイス メーカーはハイコンピューティング、低電力 AI プロセッサを採用し、より高速で信頼性の高い接続を確立する必要があります。半導体業界の著名な企業である MediaTek は、Dimensity 9300 となる予定の次期主力プロセッサを搭載した携帯電話で Llama 2 LLM をサポートするために積極的に取り組んでいます。

今年後半に発売予定の MediaTek の次期主力チップセットは、Llama 2 を実行するために特別に最適化されたソフトウェア スタックを搭載する予定です。このチップセットには、Transformer バックボーン アクセラレーションを備えたアップグレードされた AI プロセッシング ユニット (APU) も組み込まれます。この戦略的な設計は、メモリや帯域幅の使用などのリソースを最適化しながら、LLM および AIGC (AI グラフィックス コンピューティング) のパフォーマンスを向上させることを目的としています。

MediaTek は、Llama 2 対応の生成 AI アプリケーションのリリースを見越して、次世代チップセットを搭載した携帯電話が 2023 年末までに発売されることを構想しています。この開発は、最先端のテクノロジーを予定どおりにユーザーに提供するという MediaTek の取り組みと一致しています。

MediaTek と Meta の協力はテクノロジー業界の前向きな傾向を表しており、データプライバシーに対する懸念に対処し、AI タスクをローカルで処理することの重要性を強調しています。オンデバイス Generative AI は、推論のためにユーザー データを外部サーバーに送信する必要性を減らすことで、ユーザーのプライバシーとデータの整合性を保護するための極めて重要な一歩となります。

市場が MediaTek の Dimensity 9300 チップセットの登場を期待する中、その攻撃的なデザインに関する噂が興奮を煽っています。Arm の Cortex-X4 および A720 CPU コアと Immortalis-G720 GPU が組み込まれたこのチップセットは、Vivo X100 シリーズでデビューする予定であり、ユーザーに処理能力と効率性の魅力的な組み合わせを提供します。

ソース