TT-LLK

Low-Level Kernels(LLKs)は、AIモデルをTensixコア上で効率的に動作させます。

LLKsを使用して、複雑な関数を効率的に構築し、TenstorrentハードウェアでAIオペレーションを実行できます。

目的と機能

LLKsはTensixコアの基本的な計算ユニットであるTensixエンジンを制御します。また、LLKsはTensix命令セットを簡単に使用する方法を提供します。

LLKsにより、低レベルの数学演算をピークパフォーマンスで実行できます。

LLKsとTensixコア

LLKsは開発者にハードウェアを直接プログラムするための最適化されたパスを提供し、すべてのオペレーションが最小限のオーバーヘッドと最大の効率で実行されることを保証します。

LLKsはTenstorrentのソフトウェアスタックとシームレスに連携します

TT-Forge

TT-Forge

機械学習フレームワークとTenstorrentハードウェアを橋渡しするコンパイラで、LLKsを使用してTensixコア上でハイレベルモデルの実行を最適化します。

tt-metalium

tt-metalium

カスタムカーネルの開発を促進するオープンソースSDKで、Tenstorrentハードウェアへの低レベルアクセスを提供し、LLKsを活用して最適化されたパフォーマンスを実現します。

ソフトウェアピラミッド

開発とテスト

はじめに、GitHubのLLKリポジトリをご覧ください。開発者は独立したCIパイプラインとテスト環境にアクセスし、WormholeとBlackholeでビルドできます。