Tenstorrent Galaxy™ Blackhole
110,000달러(USD)부터 시작
확장 가능한 고밀도 AI 서버로 무엇이든 구동해 보세요.
무엇이든 빠르게: 비디오, 음성, 코드.
Tenstorrent Galaxy™는 학습과 추론을 포함한 모든 워크로드를 실행합니다. 이 제품은 영상 생성, 디코딩 및 프리필(prefill) 벤치마크 분야에서 업계를 선도하며, Tenstorrent의 오픈 소스 MLIR 기반 컴파일러인 TT-Forge는 그 어떤 경쟁사보다도 많은 모델을 지원합니다. 영상, 언어, 코드 등 어떤 모델이든 선택하여 빠르게 실행해 보세요.
Tenstorrent Galaxy™를 지금 구매하세요
맞춤형 구성 및 가격에 대해서는 당사에 문의해 주시기 바랍니다.
대규모 솔루션 배포
Tenstorrent Galaxy Blackhole은 4개 단위의 슈퍼클러스터로도 제공되며, 확장이 가능한 멀티 서버 클러스터로 이어집니다. 4대에서 36대 이상의 Tenstorrent Galaxy 시스템으로 구성된 설정은 AI 비디오 생성, 대규모 LLM 추론, 프라이빗 AI 인프라를 포함한 워크로드에 최적화되어 있습니다.
10배 더 빠른 실시간 고화질 영상
Tenstorrent Galaxy 슈퍼클러스터에서 최첨단 비디오 모델을 실행하고 고품질 비디오를 더 빠르게 생성하세요. 720p 해상도의 81프레임 비디오를 2.4초 만에 만들 수 있습니다.
가장 빠른 거대 컨텍스트 LLM 추론
Tenstorrent Galaxy는 지연 시간에 민감한 프리미엄 AI 워크로드에 최적화되어 있습니다. 에이전트 기반 워크플로우, 실시간 시스템, 장기 문맥 추론 등 고부가가치 AI 사용 사례를 위한 슈퍼클러스터를 구동하십시오. 디코드 및 프리필 작업에 동일한 범용 AI Tenstorrent 시스템을 활용할 수 있습니다.
Tenstorrent Galaxy™ Specs
Accelerator Compute, Memory, and Connectivity
Accelerators
32× Blackhole® ASICs
Performance
23 PFLOPS Block FP8
Accelerator SRAM
6.2 GB @ 2.9 PB/s
Accelerator DRAM
1 TB GDDR6 @ 16 TB/s
Accelerator Fabric
10× 400 GbE links per ASIC for 32 TB/s
Cluster Scale-out
Up to 56× 800 GbE QSFP‑DD ports for 11.2 TB/s
Host Compute, Memory, and Connectivity
Host CPU
1× AMD EPYC 9004 (Zen 4), up to 32 cores, ≤280 W TDP
Host Memory
Up to 576 GB (6× 96 GB) DDR5-4800 ECC RDIMM (6 slots, 0 free)
Networking
1× OCP NIC 3.0 PCIe Gen5 x16 SFF (2× 200 GbE default configuration)
Management Network
1× Dedicated RJ45 1 GbE with baseboard management controller (BMC)
Storage OS
2× 960 GB M.2 2280 PCIe Gen4 x4 NVMe SSD
Storage Internal
Up to 4× E1.S PCIe Gen5 x4 NVMe SSD (9.5/15 mm)
Software
Ubuntu 22.04
Deployment & Operations
Form Factor
6U rackmount, air‑cooled chassis
System Dimensions
Height: 17.6 in (446.8 mm), Width: 10.4 in (263.4 mm), Length: 34.8 in (884.5 mm)
System Weight
262 lbs (119 kg)
System Power Usage
8 – 10 kW avg, 12 kW max (Max system power configurable up to 14.5 kW)
Operating Temperature
50 – 95 °F (10 – 35 °C)
Pricing
$110,000 list
더 많은 모델, 빠른 배포
HuggingFace 모델의 90%는 별도의 설정 없이 바로 작동하며, LLM, 이미지 생성, 음성, 비전, 임베딩, 인코더 등 다양한 분야에서 그 범위가 매일 확장되고 있습니다. 저희 하드웨어는 신속한 모델 도입을 지원하여 고객이 프로덕션 AI 시스템을 구축할 수 있게 해줍니다.
단순 확장
기반이 되는 Tensix Neo™ 아키텍처는 하나의 프로그래밍 모델 아래 단일 칩에서 수천 개까지 확장 가능하도록 설계되었습니다. 동일한 다이 내에 있든, 이더넷으로 연결된 랙 전반에 걸쳐 있든 상관없이 동일한 코어 메쉬가 동일한 방식으로 통신합니다. 규모에 상관없이 필요에 맞춰 자유롭게 확장해 보세요.
당신의 것, 처음부터 끝까지
Tenstorrent의 컴파일러부터 커널에 이르는 전체 소프트웨어 스택은 오픈 소스입니다. 모델을 컴파일하여 즉시 실행하거나, 더 깊이 파고들어 커널을 직접 튜닝할 수 있습니다. 그 어떤 계층에도 블랙박스는 존재하지 않습니다.