Xiaomi MiLM はオンデバイス AI 機能の将来を示すためにオフラインでテストされました」

Xiaomi MiLM はオフラインでテスト済み – オンデバイス AI

AI 機能の進化に向けた大きな進歩の中で、Xiaomi はその印象的な MiLM-6B 言語モデルを発表しました。今回の発表は、2つの主要なAIモデル評価リストであるC-EvalとCMMLUの両方に初登場したことを意味し、AI分野におけるイノベーションへのXiaomiの取り組みを強調している。

MiLM-6B は、大規模な事前トレーニング済み言語モデルであり、64 億という驚異的なパラメーター サイズで Xiaomi によって開発されました。この印象的な偉業は、人間と機械の間のより微妙な、状況を認識した相互作用への道を開きます。プロジェクトの GitHub ページで共有された情報によると、このモデルの優れた機能はクラウドベースの使用に限定されません。

本日、Xiaomi はオフライン デモ テスト ビデオを通じて MiLM の機能を紹介しました。このビデオには、「AI はネットワーク信号がなくても機能するのか?」という重要な質問が含まれています。Xiaomi は、モデルのオフライン機能をデモンストレーションすることで、力強い答えを示しました。

このビデオでは、Xiaomi MiLM がモバイル側で動作し、ローカル NPU 演算を利用してローカル データにアクセスし、驚くべき速度と効率でテキストを生成する様子が描かれています。この画期的な進歩により、最小限の電力消費で高速テキスト生成が可能になります。

オフライン デモの主なテスト結果は次のとおりです。

• テキスト生成速度: 11.2 ワード/秒
• CPU使用率: 11.0%
• メモリ使用量: 2798.0MB

場合によっては、エンドサイドの大型モデルがクラウドベースのモデルのパフォーマンスに匹敵することもあり、優れたユーザー エクスペリエンスを提供するという Xiaomi の取り組みを示しています。Xiaomi MiLM をオフライン シナリオに展開すると、プライバシーとデータ セキュリティが強化される可能性があり、AI 時代の大きな前進となります。

Xiaomi はユーザーのプライバシーとデータのセキュリティを最重要視しています。同社はユーザー情報を保護することの重要性を認識しており、エンドサイドのビッグモデルの実装を通じてこの懸念に対処しています。Xiaomi の成果は単なる技術的な勝利ではなく、AI 時代のデータ セキュリティに対処するための重要なソリューションです。

ソース