NVIDIA sort une nouvelle librairie cuBLAS
Le constructeur NVIDIA sort une nouvelle libraire portant l'étrange nom de cuBLASMp : BLAS signifie Basic Linear Algebra. Nous sommes sur l'optimisation bas niveau des codes et traitements GPU. cuBLAS est un ensemble de librairies pour optimiser et accélérer les usages et traitements IA et HPC. Ce sont des librairies et des API optimisées pour des traitements précis. NVIDIA supporte ainsi les standards de l'industrie : BLAS et GEMM.
La dernière librairie annoncée est cuBLASMp : multi-node multi gpu. Elle est actuellement en pré-version. Cette librairie se dédie aux hautes performances en multi-process et pour les usages distribuées pour exploiter au moins les différents processeurs GPU. Elle est disponible uniquement pour Linux.
Les fonctionnalités clés sont :
- multi-process
- multi-GPU
- 1 process par GPU
- modèle de développement similaire à du C
- coeur Tensor optimisé
La librairie supporte les architectures Volta, Ampere et Hopper et les dernières versions de CUDA. Il faut installer CUDA Toolkit, HPC-X et LCCL. NVIDIA recommande aussi GDRCopy et Mellanox OFED.