Pourquoi les projets IA échouent ? 7 bonnes pratiques

L'IA est partout que l'on parle de chat (= système de prompts), de GenIA et d'agents IA. Mais réussir son projet IA n'est ni simple, ni magique. Comme tout projet IA, l'IA doit se penser en amont.Voici 7 bonnes pratiques pour faire échouer son projet IA :

1 / je fonce ! Je ne pense pas usage mais fonctionnalité ! Eh oui, trop souvent, et encore aujourd'hui, nous pensons intégrer sans penser à l'usage que nous voulons en faire. Pourquoi l'IA ? Pour qui ? Pour quoi faire ? Il faut d'abord définir les usages, le cadre fonctionnel, les données et l'infrastructure qui seront derrière

2 / l'accès aux données : ah la fameuse couche d'accès aux données. En IA, l'accès aux données est vital, surtout si nous entraînons nos modèles. Bref : les bonnes données, au bon moment. Il ne faut pas sous-estimer les données dans un projet IA.

3 / Modèle de développement / modèle de déploiement : nous prenons ce que nous trouvons et nous intègrons GPT, ChatGPT ou tout autre service. Bien entendu, nous pouvons intégrer bêtement un service de GenIA qui risque d'être contre-productif car non adapté à nos usages. Il faut définir quels services utiliser, ce qui déterminera le modèle de développement pour l'intégrer. Il faut aussi penser à l'infrastructure à déployer ou à provisionner.

4 / complexité du service : Là encore, nous pensons trop rarement, ou pas assez, à la complexité d'un projet IA. Ce n'est pas plug and play. Si l'intégration est mal pensée, le projet vire au cauchemar pour les développeurs et les utilisateurs. L'intégration à votre app sera bancale ou fonctionnera mal.

5 / la gouvernance des données ! Si vous avez votre propre modèle ou que vous injectez vos données dans l'IA utilisée, outre l'accès à ces données, il y a la gouvernance des données qui doit gérer l'accès, l'évolution des données et la qualité des données. Quelles données sont autorisées et celles qui ne le sont pas ?

6 / l'augmentation des coûts ! Pas de souci, une IA c'est pas cher. Faux et re-faux. Il y a les coûts directs et les coûts cachés (disons moins directs). Un service IA peut coûter très cher. Il faut choisir le plan du service, dimensionner les services IA selon la charge attendue, dimensionner l'infrastructure qui va avec, le coût supplémentaire des services cloud. Si vous faites de l'IA sur vos serveurs ou localement, il faut voir l'impact sur l'entraînement et si votre infrastructure peut supporter la nouvelle charge. Il y a donc le TCO (coût de possession) et éventuellement le ROI (retour sur investissement) à définir ou du moins, à estimer.

7 / les hallucinations de l'IA : Oups, nous avons oublié de vérifier si notre IA ne dévie pas ou si nous avons correctement défini des limites syntaxiques ou fonctionnelles. Le biais de l'IA est connu et réel. Il faut donc borner l'usage, vérifier la qualité des prompts et éviter toute corruption du modèle.

Bonus : LLM, SML ou TML ? Si nous prenons une IA du marché sans adaptation, ce sera souvent du classique LLM. L'usage que nous voulons faire de l'IA va dicter le type de modèles à utiliser. Par exemple : l'IA est très généraliste, donc il me faut un modèle très large non spécialisé. Si au contraire, je veux un usage lié à mon activité ou à mes équipes, il faudra bien choisir le modèle et lui injecter mes données spécifiques. Nous pouvons partir d'un modèle très large pour le tuner et aboutir à un SML ou un TML pour réellement l'optimiser à nos usages réels.

Librement inspiré de la conférence NetApp - Nvidia "AI industry impact"