Llama 3 peut fonctionner sur les devices Snapdragon
Qualcomm annonce que le modèle LLM de Meta, Llama 3, fonctionne sur les matériels utilisant un Snapdragon. Il s'agit d'une collaboration entre les deux sociétés.
Cette collaboration vise à démocratiser l'accès aux capacités d'IA générative en permettant aux OEM et aux développeurs de rendre Llama 3 accessible sur les appareils équipés des prochaines plates-formes phares Snapdragon. L'utilisation de la puissante architecture informatique hétérogène de Qualcomm Technologies, qui exploite de manière transparente nos CPU, GPU et NPU de pointe, en conjonction avec une architecture mémoire d'avant-garde, permet aux clients, aux partenaires et aux développeurs d'optimiser les performances des applications, l'efficacité thermique et l'autonomie de la batterie.
Les développeurs pourront accéder aux ressources et aux outils nécessaires pour faire fonctionner Llama 3 de manière optimale sur les plates-formes Snapdragon via le Qualcomm® AI Hub, qui propose actuellement une centaine de modèles d'IA optimisés. Le Qualcomm AI Hub réduit le temps de mise sur le marché pour les développeurs et leur permet de bénéficier des avantages de l'IA sur l'appareil pour leurs applications. Pour obtenir des mises à jour, inscrivez-vous à notre lettre d'information mensuelle destinée aux développeurs.
Llama 3 est disponible en deux tailles de paramètres - 8B et 70B avec une longueur de contexte de 8k - qui peuvent supporter une large gamme de cas d'utilisation avec des améliorations dans le raisonnement, la génération de code, et le suivi d'instructions.
