TT-Metalium™
TT-Metalium™ 是 Tenstorrent 的开源底层 AI 硬件 SDK，可让你尽可能贴近硬件本身进行自定义内核开发、实验等工作。没有黑盒、加密 API 或隐藏函数。
TT-Metalium™ 非常适合希望定制模型、编写新模型，甚至运行非机器学习代码的开发客户。
TT-Metalium™ 是一个面向异构 CPU 和 Tenstorrent 设备集合的底层软件平台，使用户能够直接访问 Tensix Core 内部的 RISC-V 处理器、NoC（Network-on-Chip）以及 Matrix 和 Vector 引擎。
下图展示了可构建在 TT-Metalium™ 平台之上的软件层。借助 TT-Metalium™，开发者可以编写主机程序和内核程序，以实现特定的数学运算（例如矩阵乘法、图像缩放等），然后将其打包成库。以这些库作为构建模块，各种框架可为用户提供灵活的高层环境，使其能够开发多种 HPC 和 ML 应用。
特性
tt-nn
无需自定义
- Python APIs
- 易于使用
- 直观，类似 PyTorch
初级
tt-nn
轻量级优化/性能
- 批处理
- 融合 OP 库
- OP 选择与并行化
- 数据格式与 Math Fidelity
- Tensix Storage L1 或 DRAM
- 增强的 Python APIs
中级
tt-nn + tt-metalium
深度优化
编写你自己的自定义内核和 OP
- 融合内核
- TMs
深入 TT-Metalium™ 代码
- 编写 C++ 内核
- 理解硬件
- 底层优化
高级