6 つの AMD Radeon RX 7900 XT GPU を AI パッケージに詰め込み、15,000 米ドルから

Tiny 社が6 つの AMD Radeon RX 7900 XT GPU を AI アプリケーション用の 1 つのパッケージに統合しているため、コンシューマ GPU が次の AI アクセラレータに変わりつつあるようです。

AI GPU 不足により、メーカーは適切な AI パフォーマンスの代替としてコンシューマ GPU を利用するよう促されています。Tiny は 6 つの AMD Radeon RX 7900 XT GPU AI パッケージを発表

最近 AI GPU が不足しているため、実装するワークロードに応じて適切な AI パフォーマンスを提供するゲーム GPU を代替手段として複数の人が利用しています。同様に、AI 関連企業である Tiny は、AI GPU を利用できない消費者向けに、AMD の主力 RDNA 3 GPU を手頃な価格で付属するパッケージ TinyBox を策定しました。

6 台の AMD の Radeon RX 7900 XT が 12U ラックに積み重ねられ、PCIe 4.0 x16 レーンを使用して相互接続され、速度を犠牲にすることなくシームレスなデータ転送が保証されます。

TinyBits 自体はこのシステムで得られるパフォーマンスを明らかにしていませんが、計算に基づくと、6 つのオンボード GPU と 96GB GDDR6 メモリから約 738 TLFOPS の FP16 パフォーマンスが得られるということです。ここで得られる1ドルあたりのパフォーマンス。 TinyBits 自身は、AMD が提供する価値だけを理由に、ここでは GeForce RTX 4090 と比較して RDNA3 フラッグシップ WeU を利用することがより良い選択だったと述べています。

他のベンダーも、Grace Hopper Superchip ソリューションを 41,000 米ドルで提供している GPTshopの AI ワークステーションなど、カスタマイズされた AI マシンを製造しています。

その他の仕様に関しては、システムには AMD の EPYC 7532 プロセッサと 128 GB RAM が搭載されています。ストレージとして 5 個の 1TB SN850X SSD がオンボードされており、空の 16 個の OCP 3.0 スロットがネットワーク用に使用されます。 Tiny は TinyBox システムで注目を集めており、同社はこのシステムに対して 583 件の予約注文を受けており、4 月までに出荷が開始される予定です。さらに、同社はチップをテープアウトする意向を明らかにしたが、どうやらそれは将来の計画であるようだ。

Tiny の AI に重点を置いたシステムの小売価格は約 10,000 ドルですが、メーカー希望小売価格でなんとか入手できた場合、同社に GPU のコストが約 6,000 ドルかかることを考えると、これはまずまずの価格です。小規模な AI スタートアップにとって AI アクセラレータの入手が大きな問題となる市場に進出するにつれ、そのようなオプションを選択することは実現可能であるように思えます。確かに、同じ構成の AI アクセラレータと同等のパフォーマンスを提供することはできませんが、仕事を完了します。

ニュースソース:タイニー