Tenstorrent Galaxy
Tenstorrent Galaxy Wormhole Server は、企業や研究機関向けの Tenstorrent のスケーラブルで超高密度の AI コンピューティング ソリューションであり、コストに見合った優れたパフォーマンス密度を提供します。
これらの事前構成済みのラックマウント型 Tenstorrent Galaxy システムは、32 個の Tenstorrent Wormhole™ プロセッサのイーサネット ベース メッシュ上に構築された、高密度でスケーラブルな高性能 AI コンピューティングを提供するように設計されています。
Specification
Tenstorrent Wormhole Tensix Processor
Tenstorrent Galaxy Wormhole Server
AI Processor(s)
Tenstorrent Wormhole
32 x Tenstorrent Wormhole
Tenstorrent Galaxy Modules
1
32
Tensix Cores
80
2,560
AI Clock
1 GHz
1 GHz
TeraFLOPs (FP8)
292
9,322 (9.3 PetaFLOPs)
SRAM
120MB (1.5MB per Tensix Core)
3.8GB (120MB per Module)
Memory
12GB GDDR6 (192-bit memory bus, 12 GT/sec)
384GB GDDR6, globally addressable
Power
200W
7.5 kW
System Interface
3.2 Tbps Ethernet (16 x 200Gbps)
41.6 Tbps Ethernet Internal Connectivity
Board Management Controller (BMC)
-
IMX8
サポートされているデータ型
浮動小数点
FP8, FP16, FP32*
*出力のみ
ブロック浮動小数点
BFP2, BFP4, BFP8
整数
INT8, INT16, INT32*
*出力のみ
符号なし整数
UINT8
TensorFloat
TF32
超高密度。
Tenstorrent Galaxy Wormhole Server は Tenstorrent の超高密度 AI コンピューティング ソリューションで、コストに対して優れたパフォーマンス密度を提供します。拡張性を考慮して設計されており、HPC のアプリケーションやスーパーコンピューターのメイン コンピューティング エンジンとして使用できる、スーパーコンピューターの完璧な AI サイドカーです。Tenstorrent Galaxy は、複雑なネットワーク/ソフトウェア レイヤーを必要とせずに細分化できるように設計されており、複数の小規模ホスト間、または 1 つのホスト間で簡単に切り替えることができます。
1 つのサーバーには 384 GB の Tensix Processor GDDR6 メモリが搭載されており、コストに対するパフォーマンスは拡張するほど向上します。Tenstorrent Galaxy は Tenstorrent のオープン ソース TT-Metalium™ SDK によってサポートされており、エンジニアはメタルに完全にアクセスできます。
