GenAI POC : pourquoi 90% ne passeront jamais en prod
Trois astuces pour dérisquer un projet GenAI avant d'écrire une ligne de code.
Selon Forbes, environ 90% des POC (Proof of Concept) en GenAI sont loin de passer en production, voire n’iront jamais. 😬 Pourquoi ? Parce que beaucoup se lancent tête baissée, portés par la hype, dans des projets mal préparés. Les équipes se retrouvent dans un tunnel de dev qui rappelle les bons vieux cycles en V, mais avec une grosse différence : à la fin, ça ne marche pas. 💥
Alors, comment minimiser les risques ?
Astuce n°1 : pas de code au début, seulement du prompt engineering. Sur la majorité de mes projets, quand le doute porte sur la capacité du LLM, avant même d’écrire une ligne de code, je m’assure que je peux produire 80 à 90 % du résultat final… sans code. Ex : avec OpenAI et son playground, tu peux valider la faisabilité d’un projet assez rapidement. C’est comme si tu avais déjà passé un mois à tout brancher dans le code, sauf que le code n’existe même pas encore ! Un moyen hyper efficace de dérisquer ton projet dès le départ.
Astuce n°2 : le no-code, ton ami. Une étape optionnelle mais intéressante : utiliser des outils no-code pour créer des pipelines d’agents. Tu peux permettre à des gens du métier de tester le système sur une plus grande diversité de cas de test pour ajouter un peu d’hétérogénéité aux données. Ça permet de se confronter à certaines problématiques des systèmes multi-agents.
Astuce n°3 : dev, tester et suivre. Branche ton app à ton LLM préféré (pas sûr que l’utilisation de frameworks soit si utile que ça). Ensuite, tu ajoutes des tests automatisés en mode LLM as Judge pour valider les résultats et tu mets en place un système de tracking pour surveiller les tendances des outputs de ton système. Un combo gagnant pour éviter les faux pas que rencontrent les fameux 90% des projets qui échouent.
Avec ces étapes, tu augmentes considérablement tes chances de sortir un projet qui fonctionne vraiment en production.