개발자
텐스토렌트 하드웨어에서 모델을 빠르게 가동하고 실행하는 방법을 알아보세요.
두 가지 오픈 소스 SDK를 사용하여 최대한 실물에 가깝게 만들거나, AI 컴파일러에 작업을 맡길 수 있습니다.
Model Support Table
QwQ 32B
QuietBox
LLM
TP=8
DeepSeek R1 Distill Llama 3.3 70B
QuietBox
LLM
TP=8
Llama 3.1 70B
Galaxy
LLM
TP=32
Llama 3.1 70B
QuietBox
LLM
TP=8
Llama 3.2 11B Vision
n300
LLM
TP=2
Qwen 2.5 7B
n300
LLM
TP=2
Qwen 2.5 72B
QuietBox
LLM
TP=8
Falcon 7B
n150
LLM
Falcon 7B
QuietBox
LLM
DP=8
Falcon 7B
Galaxy
LLM
DP=32
Falcon 40B
QuietBox
LLM
TP=8
Llama 3.1 8B
n150
LLM
Llama 3.2 1B
n150
LLM
Llama 3.2 3B
n150
LLM
Mamba 2.8B
n150
LLM
Mistral 7B
n150
LLM
Mixtral 8x7B
QuietBox
LLM
TP=8
ResNet-50
n150
CNN
224 x 224
ResNet-50
n300
CNN
224 x 224
DP=2
ResNet-50
QuietBox
CNN
224 x 224
DP=8
ResNet-50
Galaxy
CNN
224 x 224
DP=32
ViT
n150
CNN
224 x 224
Stable Diffusion 1.4
n150
CNN
512 x 512
YOLOv4
n150
CNN
320 x 320
YOLOv4
n150
CNN
640 x 640
SegFormer Semantic Segmentation
n150
CNN
512 x 512
Stable Diffusion 3.5 medium
n150
CNN
512 x 512
BERT-Large
n150
NLP
Tenstorrent 시작하기
TT-Forge™
TT-Forge™는 Tenstorrent의 MLIR 기반 컴파일러입니다.
TT-NN™
TT-NN™은 Tenstorrent 하드웨어에서 ML 워크로드를 실행하기 위한 사용자 친화적인 API입니다.
TT-Metalium™
TT-Metalium™은 Tenstorrent의 오픈 소스, 로우 레벨 AI 하드웨어 SDK입니다.
다른 문서를 찾고 계신가요?
예정된 이벤트
May 10
Legacy Code Meets Tensor Compute
Daisytuner is hosting a Tenstorrent hackathon at the Daisytuner HQ in Darmstadt, Germany. In this hackathon, participants will take on the challenge of compiling legacy code to run efficiently on Tenstorrent Wormhole.
May 14
Office hours: TT-Metalium
Get to know Tenstorrent engineers in an informal environment with a focus on the tt-forge library.
May 17
PseudoCon 2025
Tenstorrent is sponsoring the PseudoLab conference in Seoul, South Korea. Stop by our booth and check out our developer systems, QuietBox and LoudBox.
교육용 콘텐츠
튜토리얼
튜토리얼
ttnn-visualizer를 설치하고 실행하는 방법을 알아보세요. ttnn-visualizer는 모델을 완벽하게 이해하는 데 도움이 됩니다.
서면 자습서
Bring up LLMs with TTNN
TT-Metalium 스택을 사용하여 Tenstorrent 하드웨어에서 고성능 멀티칩 모델을 불러오는 방법에 대한 안내를 받으세요.
