TT-Metalium™
TT-Metalium™ は Tenstorrent のオープンソースの低レベル AI ハードウェア SDK であり、カスタム カーネルの開発、実験などにおいて、可能な限りハードウェアに近い状態を実現します。ブラック ボックス、暗号化された API、または隠し機能はありません。
TT-Metalium™ は、モデルをカスタマイズしたり、新しいモデルを作成したり、機械学習以外のコードを実行したりしたい開発顧客に最適です。
Tenstorrent ハードウェアに直接アクセスするためのボトムアップ SDK である TT-Buda™ をお探しですか? TT-Buda™ ドキュメント サイト
TT-Metalium™ は、CPU と Tenstorrent デバイスの異機種コレクション向けの低レベル ソフトウェア プラットフォームであり、ユーザーは Tensix Core 内の RISC-V プロセッサ、NoC (ネットワーク オン チップ)、およびマトリックス エンジンとベクター エンジンに直接アクセスできます。
上の図は、TT-Metalium™ プラットフォーム上に構築できるソフトウェア レイヤーを示しています。TT-Metalium™ を使用すると、開発者は特定の数学演算 (行列乗算、画像のサイズ変更など) を実装するホスト プログラムとカーネル プログラムを作成し、それをライブラリにパッケージ化できます。ライブラリをビルディング ブロックとして使用することで、さまざまなフレームワークがユーザーに柔軟で高レベルの環境を提供し、さまざまな HPC および ML アプリケーションを開発できます。
特徴:
カスタマイズは不要
- Python API
- 使いやすい
- 直感的で PyTorch のような
Beginner
軽量最適化とパフォーマンス
- バッチ
- 融合 OP のライブラリ
- オペレーションの選択と並列化
- データ形式と数学の忠実度
- テンソル ストレージ L1 または DRAM
- 拡張 Python API
Intermediate
ヘビーウェイト最適化
独自のカスタムカーネルと OP を作成する
- 融合カーネル
- TM
TT-Metalium™ コードに進む
- C++ カーネルを作成する
- ハードウェアを理解する
- 低レベルの最適化
Expert