OVHcloud : nouvelle gamme orientée IA
L'IA est incontournable pour tous les scaleurs. L'acteur français a annoncé une nouvelle offre s'appuyant sur les Tensor Core de NVIDIA et les LLM open source les plus récents (dont Llama3).
OVHcloud déploie les NVIDIA H100 Tensor Core ou encore les L4 Tensor Core et les L40S. Les NVIDIA L40S combinent puissance de calcul IA et accélération graphique et média de pointe pour prendre en charge une vaste panoplie de scénarii de l’inférence de LLM à l’entraînement en passant par les graphismes, le rendu et la vidéo. Ces offres concrétisent la roadmap autour de l'IA et des GPU.
La partie L40S est une offre bare metal. Disponible dans la gamme High Grade, le nouveau serveur HGR-AI-2 vise les cas d’usage tels l’apprentissage profond, l’apprentissage machine et le calcul haute performance. La gamme est équipée avec un processeur AMD EPYC 9354 en configuration bi-processeur, offrant 64 cœurs et 128 threads avec 384 Go de mémoire DDR5 (jusqu’à 2,3 To). Pour les charges de travail IA les plus intensives, le HGR-AI-2 possède deux GPUs NVIDIA L40S 48 Go et il est possible de configurer le serveur à la commande avec 4x GPUs NVIDIA L40S 48 Go.
Les services AI Notebooks, AI Training et AI Deploy sont là pour faciliter l'usage de l'IA. Ces solutions interviennent dans les couches hautes et s’appuient sur des technologies répondant aux standards de l’industries. Elles sont pensées pour assister les data scientists et ingénieurs en machine learning qui n’auront pas besoin de gérer les sujets complexes d’infrastructures et d’adaptation de celle-ci à la montée en charge, le tout avec une facturation à la minute.
La solution serverless OVHcloud AI Endpoints offre l’accès à un ensemble de modèles d’IA via des endpoints API, ce qui permet de s’adresser aux utilisateurs néophytes. Avant de placer les calls API, les développeurs bénéficient d’un bac à sable pour tester leurs Endpoints. Tout comme les solutions appréciées que sont OVHcloud AI Notebooks, AI Training et AI Deploy, AI Endpoints s’appuie sur l’infrastructure du Group, respectant pleinement la confidentialité des données (in/out). Le Groupe a par ailleurs ajouter des modèles open-source particulièrement demandés comme Mixtral 8x22b et Llama 3 qui peuvent être déployés depuis le service OVHcloud AI Endpoints.
Les nouveaux GPU sont disponibles dès à présent dans l’univers Public Cloud pour les projets d’IA. Les serveurs Bare Metal HGR-AI-2 avec GPU NVIDIA L40S sont disponibles en France et au Canada avec un prix mensuel à partir de 2969,99 euros.
