Llama 3.1 : la course aux gros LLM et le problème européen

L'IA repose sur une course aux modèles, les fameux LLM. Sans eux, pas d'IA générative. Ces LLM évoluent très vite et une course à la démesure s'installe. Meta met en avant l'argument fatal pour son nouveau Llama : 405 milliards de paramètres. L'éditeur détaille la structure et comment a été construit Llama 3.1.

Llama 3.1 est disponible en 3 versions : 8, 70 et 405 milliards de paramètres. Chaque modèle correspond à une tarification spécifiques selon la plateforme d'utilisation.

Meta en profite pour préciser que Llama 3 multimodaux ne sera pas accessible en Europe. L'éditeur estime que l'Europe est trop imprévisible et instable sur les réglementations. Il y a trop de réglementations, de contraintes et des réactions européennes qui ne peuvent que gêner.

Une des questions est de savoir comment produire des LLM toujours plus énormes en Europe nécessitant des infrastructures colossales pour les entrainer.

En réalité, Meta ne fait que suivre Apple qui avait déjà dit suspendre pour le moment la disponibilité du futur Apple Intelligence en Europe. Rappelons que la décision d'Apple à provoquer la colère de l'Europe et de la commissaire Margrethe Vestager. L'origine du problème vient du DMA. L'Europe joue l'étonnement et critique la décision d'Apple qui y voit une vilaine pratique, mais l'Europe est-elle pour autant impartiale ? Chaque partie interprète le DMA à sa manière. L'Europe dit qu'Apple détourne les principes du DMA et Apple dit se conformer au texte... Or le DMA n'est sans doute aussi carré que cela. Tout réglement complexe possède des zones grises. Il s'agit de failles réglementaires : on respecte les règles, sans forcément les respecter...

L'Europe joue la victime tout en voulant garder les startups

En tout cas, le fait que Meta freine en Europe sur les nouveaux LLM en suivant Apple n'est qu'un nouvel épisode autour de l'IA : en février dernier, l'Europe voulait regarder l'investissement de Microsoft dans Mistral. Le prétexte est tout trouvé : garder les acteurs européens de l'IA. Si dans le principe, garder les champions de l'IA européens est une bonne approche, l'Europe oublie un élément : l'IA ne se joue pas au niveau européen mais mondial, tout comme le cloud, la robotique, le quantique ou encore le crucial marché des composants. A vouloir être plus royaliste que le roi, l'Europe est sur un équilibre précaire : préserver la souveraineté technique (et protéger les utilisateurs) sans pour autant nuire à l'évolution technologique et aux utilisateurs. L'Europe ne peut se permettre un retard technologique.

Un des risques est que l'Europe fasse du dogmatisme sur des principes louables et non du pragmatisme. Oui les géants technologiques ont gros à perdre mais l'Europe aussi. Ce dernier point, nous l'oublions trop souvent.

Les startups européennes peuvent-elles se passer des investissements étrangers ? Difficilement surtout quand il s'agit d'étendre les marchés et quand on parle de milliards et non de millions. L'action européenne sur les composants est pour nous un échec, tout le moins, un sous-investissement. Pour prétendre concurrencer Intel, AMD, NVIDIA, Apple, TSMC, nous parlons de 20, 30 ou 100 milliards d'investissements. Le marché européen n'est pas assez grand pour des fondeurs européens.

Côté Europe, la frontière est très mince entre réelle protection des intérêts européens et protectionnisme et même des pratiques anticoncurrentielles nuisants au final aux marchés et aux utilisateurs.