Qant. L’IA générative est-elle assez mûre pour qu’on puisse parler de retour sur investissement ?
Emmanuelle Payan. Tout dépend du cas d’usage. Dans la relation client, par exemple, nous observons des gains de productivité de 30 à 40% dans le traitement de réclamations. Mais c’est un process et un traitement bien spécifiques. De même, concernant la gestion et la génération de code, les gains d’efficacité vont généralement de 5 à 10% mais sur le débogage, par exemple, on atteint des gains d’efficacité autour de 30%. En conséquence, pour libérer les gains de productivité de l’IA, il faut transformer la façon dont les gens travaillent, remodeler chaque processus individuellement. Tout cela prend du temps et ralentit chez nos clients le passage à l’échelle.
Qant. Cette nouvelle transformation représente-t-elle un risque social ? On parle de millions d’emplois potentiellement détruits…
Emmanuelle Payan. Toutes les études indiquent que le développement de l'IA va supprimer un certain nombre de métiers et transformer profondément la plupart des autres. De nouveaux métiers autour des LLMs vont apparaître. Pour éviter de créer une nouvelle fracture digitale, car certaines personnes sauront « prompter » nativement et d’autres passeront à côté, il est important d’accompagner.
Qant. Est-ce à l'entreprise, dans le cadre d’une stratégie d’IA responsable, de confronter ce risque ? Ou doit-elle au contraire confronter tout d’abord le risque de perdre en compétitivité face à des concurrents à la transformation plus rapide ?
Emmanuelle Payan. L'enjeu dépasse bien sûr l’entreprise : il est politique aussi bien qu’économique. Inetum a participé à la commission du Cercle de Giverny sur l’IA responsable et nous avons abouti à quatre propositions, dont celle d'accélérer le dispositif de formation à l’IA pour toutes les populations.
Une autre proposition, associée à la question de la compétitivité, est de nommer un représentant IA non seulement au sein du conseil d’administration de l’entreprise, mais aussi du comité social et économique (CSE). Il faut créer les conditions d’un dialogue sur l’IA dans l’entreprise et y associer les partenaires sociaux. Il s’agit de transformations complexes pour les entreprises. Il leur faudra mobiliser toutes les parties prenantes pour les réussir.
Qant. Quels sont les autres risques de la transformation par l’IA ?
Emmanuelle Payan. Un premier risque est lié à la sécurité. Plus on automatise avec l'IA des processus opérés aujourd'hui avec des humains, plus le piratage éventuel risque de peser sur le bon déroulement du processus. Par exemple, si vous utilisez des solutions développées à partir de LLM pour accélérer certains traitements clients et quelqu'un pirate votre système d’IA, vous courez un risque d'image voire financier. Cela s’aggravera encore avec les agents d’IA : si les outils peuvent être amenés à proposer des décisions, voire en prendre d’eux-mêmes, cela génère un risque cyber en soi. Il s’agit là aussi de s’assurer de la bonne intégration des différents éléments de l’IA pour limiter ces risques.
Qant. Qu’en est-il de l’impact environnemental ?
Emmanuelle Payan. Il s'agit à la fois d'un risque et d'une opportunité. L'utilisation de l'IA prédictive, du machine learning et de l'IA générative augmente la sollicitation des capacités de calcul et donc la consommation énergétique. Une recherche sur Internet traditionnelle, avec Google, consomme dix fois moins d’électricité qu’une recherche générative, avec ChatGPT ou Google. En revanche, on peut utiliser l’IA pour mieux anticiper la consommation énergétique et elle est aussi porteuse de bénéfices sur la chaîne de valeur de l'énergie.
Nous recommandons donc à nos clients que l'IA, et notamment l'IA générative, soit mise en place en fonction d'un usage et d'une valeur économique, mais aussi environnementale. Certains de nos clients ont développé des méthodes pour déterminer, selon l'usage, si l'IA est le bon choix, compte tenu de son empreinte et de son coût économique et environnemental, mesurée à la valeur créée. La recherche d’un équilibre risques/bénéfices devrait être systématique pour tenir compte de la dimension environnementale.
Qant. Cela ne doit pas simplifier les choix d’architecture, avec de nouveaux modèles qui apparaissent tous les six mois et le débat souterrain entre RAG et LLMops, entre métiers et DSI…
Emmanuelle Payan. Je crois beaucoup, à l’heure actuelle, à une architecture hybride. Sur certains sujets, la RAG est pertinente, mais pas tous. Il faut combiner un modèle génératif à l’extraction d'informations à partir d'une base de données quand la réponse attendue doit être très spécifique à un contexte, ou exclusive à partir d'un contenu, ou lorsque l’usage nécessite des exigences de vérifiabilité. C’est vrai en particulier lorsque le contenu qu'il faut interroger est massif, ou lorsqu'il faut régulièrement mettre à jour à partir de données actualisées, comme pour la gestion des contrats.
En revanche, c’est moins utile pour du contenu créatif ou des réponses générales sans contraintes de précision ou d'actualisation fortes. La RAG est difficilement utilisable lors les données sont non structurées ou difficiles à indexer, mais aussi pour des cas d’usage multimodaux, où l’audio et la vidéo se mêlent au texte. En général, lorsqu’il y a de fortes contraintes de performance, la RAG reste plus lente. Mais il n'est pas non plus toujours pertinent de faire le choix dispendieux d’entraîner sur ses données un grand modèle généraliste. Selon le cas d’usage, il va falloir entraîner tel ou tel type de modèle, ou au contraire choisir tel logiciel avec une IA intégrée.
Qant. Une architecture multicloud et multi-LLM, donc ?
Emmanuelle Payan. Oui. C’est une question qui se pose pour beaucoup de nos clients et qui explique qu’on ait du mal aujourd’hui à passer à l’échelle : savoir quel partenaire technologique choisir et s’il faut en choisir un ou plusieurs. En choisir un, c’est le choix de la simplicité de l’architecture et de la concentration des compétences autour d’une solution technologique. Mais cela fait porter le risque d’une dépendance plus importante.
En choisir plusieurs, c’est avoir une architecture plus complexe mais une diversification du risque. Quand on est une très grande entreprise avec de nombreux cas d’usage, il semble donc naturel d’adopter une architecture hybride, avec plusieurs modèles d’IA et plusieurs partenaires cloud. Mais pour une entreprise de taille moyenne, c’est plus compliqué. Cela pourra avoir des effets économiques importants.
Propos recueillis par Jean Rognetta et Maurice de Rambuteau