開発者
Tenstorrentハードウェアでモデルを高速に立ち上げ、実行する方法をご紹介します。
2つのオープンソースSDKにより、可能な限り金属に近づけることも、当社のAIコンパイラに任せることもできます。
モデルサポートテーブル
Qwen 3 32B
QuietBox (Wormhole)
LLM
TP=8
QwQ 32B
QuietBox (Wormhole)
LLM
TP=8
DeepSeek R1 Distill Llama 3.3 70B
QuietBox (Wormhole)
LLM
TP=8
Llama 3.1 70B
Galaxy
LLM
TP=32
Llama 3.1 70B
QuietBox (Wormhole)
LLM
TP=8
Llama 3.1 70B
QuietBox (Blackhole)
LLM
TP=4
Llama 3.2 11B Vision
n300
LLM
TP=2
Qwen 2.5 7B
n300
LLM
TP=2
Qwen 2.5 72B
QuietBox (Wormhole)
LLM
TP=8
Falcon 7B
n150
LLM
Falcon 7B
QuietBox (Wormhole)
LLM
DP=8
Falcon 7B
Galaxy
LLM
DP=32
Falcon 40B
QuietBox (Wormhole)
LLM
TP=8
Llama 3.1 8B
p100
LLM
Llama 3.1 8B
p150
LLM
Llama 3.1 8B
2 x p150
LLM
DP=2
Llama 3.1 8B
n150
LLM
Llama 3.2 1B
n150
LLM
Llama 3.2 3B
n150
LLM
Mamba 2.8B
n150
LLM
Mistral 7B
n150
LLM
Mixtral 8x7B
QuietBox (Wormhole)
LLM
TP=8
BERT-Large
n150
NLP
Sentence-Bert (backbone: bert-base)
n150
NLP
Tenstorrentを始める
TT-Forge™
TT-Forge™ は、Tenstorrent の MLIR ベースのコンパイラです。
TT-NN™
TT-NN™は、Tenstorrentハードウェア上でMLワークロードを実行するためのユーザーフレンドリーなAPIです。
TT-Metalium™
TT-Metalium™ は、Tenstorrent のオープン ソースの低レベル AI ハードウェア SDK です。
その他の文書をお探しですか？
イベント予定
Jul 23
Building AI agents with Tenstorrent
Tenstorrent hardware is designed to optimize the operations that power AI. Learn how you can run models on Tenstorrent hardware to build multi-agent systems and workflows.
Aug 1
AI Meetup Malaysia
Join Tenstorrent and AWS and learn about AI with an emphasis on computer architecture, MLOps, and models.
Aug 9
COSCUP 2025
Stop by our booth at the Conference for Open Source Coders, Users & Promoters (COSCUP), the largest open source conference in Asia.
教育コンテンツ
チュートリアル
チュートリアル
ttnn-visualizerのインストールと実行方法について説明します。ttnn-visualizerは、モデルを完全に理解するのに役立ちます。
チュートリアル
Bring up LLMs with TTNN
TT-Metaliumスタックを使用して、Tenstorrentハードウェア上で高性能マルチチップモデルを立ち上げる方法について説明します。
Op Writer's Guide to Dispatch Overhead
このチュートリアルでは、ディスパッチ オーバーヘッドのリソース割り当て、カーネルの初期化、およびランタイム引数を最適化するさまざまな方法について説明します。
コミュニティに参加する
新しいハードウェアのセットアップ、モデルの実行、セットアップの最適化、さらにTenstorrentのハードウェアとソフトウェアの最新情報など、あらゆるサポートにアクセスできます。
