TT-LLK
Low-Level Kernels(LLKs)는 AI 모델을 Tensix 코어에서 효율적으로 작동할 수 있게 합니다.
LLKs를 사용하여 복잡한 함수를 효율적으로 구축하고 Tenstorrent 하드웨어에서 AI 연산을 실행하세요.
목적 및 기능
LLKs는 Tensix 코어의 기본 연산 유닛인 Tensix 엔진을 제어합니다. 또한 LLKs는 Tensix 명령어 세트를 쉽게 사용할 수 있는 방법을 제공합니다.
LLKs는 저수준 수학 연산을 최대 성능으로 실행할 수 있게 합니다.
LLKs와 Tensix 코어
LLKs는 개발자에게 하드웨어를 직접 프로그래밍할 수 있는 최적화된 경로를 제공하여 모든 연산이 최소한의 오버헤드와 최대 효율로 실행되도록 보장합니다.
LLKs는 Tenstorrent 소프트웨어 스택과 원활하게 작동합니다
TT-Forge
머신러닝 프레임워크와 Tenstorrent 하드웨어를 연결하는 컴파일러로, LLKs를 사용하여 Tensix 코어에서 고수준 모델의 실행을 최적화합니다.
tt-metalium
커스텀 커널 개발을 촉진하는 오픈소스 SDK로, Tenstorrent 하드웨어에 대한 저수준 액세스를 제공하고 LLKs를 활용하여 최적화된 성능을 제공합니다.
개발 및 테스트
시작하려면 GitHub의 LLK 리포지토리를 확인하세요. 개발자는 독립적인 CI 파이프라인과 테스트 환경에 액세스하여 Wormhole 및 Blackhole에서 빌드할 수 있습니다.