ChatGPT, Llama 2, Mistral AI…, les outils d’IA générative occupent une part conséquente de l’espace médiatique. Même effervescence côté réglementaire. En 2021, le projet de Règlement de la Commission européenne IA Act était censé donner un cadre juridique à l’usage et à la commercialisation des intelligences artificielles. Le but était bien sûr de protéger les usagers et surtout de fixer des limites pour les applications les plus sensibles, dans la santé et le transport notamment.

Le succès de ChatGPT a poussé l’Europe a travaillé cette année sur un texte spécifiquement pour l’IA générative. Celui-ci veut élargir la place donnée à ces technologies pour faciliter l’émergence de champions européens... Même agitation côté entreprise, ou plutôt, pour ses fournisseurs IT et consultants. Ces derniers promettent automatisation, gains de productivité et autres optimisations dans de nombreux départements d’une entreprise : marketing, communication, juridique, commercial, RH...

SAP, par exemple, a annoncé lors de son évènement annuel Sapphire en juin dernier que l’intégration de son outil dédié aux RH, SuccessFactor avec MS 365 Copilot, un outil d’IA annoncé en mars par l’éditeur de Richmond, permettra de générer les questions posées pendant les entretiens d’embauche ou encore de préconiser des formations spécifiques pour faire monter en compétence un salarié. L’éditeur a également annoncé l’adjonction d’un « assistant » d’IA baptisé Joule, accessible sur de nombreux écrans de son ERP et capable de générer un devis par exemple.

Les hallucinations des IA

Les raisons de cet emballement sont simples. Loin des seuls liens proposés par Google, les réponses aux questions posées par les internautes prennent la forme de véritables textes, la plupart du temps bien formulés et assez souvent pertinents. De là à remplacer ou à automatiser certaines tâches jusque-là dévolues aux seuls humains, le pas est vite franchi.

Sur le terrain, les mises en oeuvre font émerger les limites structurelles de ces technologies. La première, et la plus sensible, repose sur l’approche probabiliste avant tout des IA, génératives ou pas. En d’autres mots, l’absence de compréhension des questions par ces IA les amènent parfois à générer des réponses totalement aberrantes. Illustration, aux État-Unis, où les jugements reposent largement sur la jurisprudence, un avocat avait utilisé ChatGPT pour monter son dossier. L’IA a inventé un arrêt de jurisprudence !

Autre exemple, lors de la dernière convention des utilisateurs de SAP, l’USF, qui s’est tenue en octobre, le président de cette association, Gianmaria Perancin, considère que cette technologie n’a pas fait la preuve de sa maturité. « Elle peut inventer des sources dans un rapport », a-t-il illustré. Un groupe de travail de l’USF devrait se pencher prochainement sur le sujet.

Les spécialistes dénomment ces dérapages « hallucinations ». Et, plus gênant, malgré les démentis des fournisseurs d’IA, il reste très complexe de comprendre les facteurs précis qui ont amené une IA à produire un résultat aberrant, et donc, d’éviter de renouveler cette erreur. Autre bémol, les réponses fournies par les IA sont en général très politiquement correctes. La raison est simple. Des millions de travailleurs du clic dans le monde sont payés pour entraîner les modèles à ne produire que des résultats de ce type. Une démarche dite supervisée. Un choix qui n’est pas forcément pertinent, notamment dans le contexte d’une entreprise.

Pour des usages raisonnables

Ces risques doivent-ils empêcher les entreprises de tester et d’utiliser ces technologies ? Non, mais tout dépend d’abord du cas d’usage, du contexte d’utilisation. D’abord, rappelons que l’IA générative repose pour une bonne part sur des technologies d’IA déjà utilisées depuis des années, à savoir du Machine Learning et du Deep Learning. Et des applications de ce type sont déjà en production. Tous les internautes ont aujourd’hui eu affaire à des Chatbots. Et, parfois, à leur absence de réponse satisfaisante. Un premier constat s’impose. Il y a IA et IA. Et la qualité des réponses reste dépendante de celles-ci.

Autre point de friction, prévoir la bascule du Chatbot vers un humain au bon moment est indispensable pour ne pas que cette automatisation devienne contre-productive. Pour une société d’assurances, un Chatbot capable d’envoyer automatiquement le bon document à tous les assurés demandant une attestation scolaire pendant la période de la rentrée et basculant rapidement sur un collaborateur dès que la question se complique sera bénéfique. Plus technique, de nombreuses IA sont mises en oeuvre dans l’industrie pour analyser les signaux par exemple les vibrations des équipements et mieux anticiper sur les pannes.

Contextualiser l’IA

Autre cas d’usage intéressant, ces approches sont utilisées pour lutter contre la fraude. La Macif, par exemple, a ajouté l’utilisation d’algorithmes à son service spécialisé pour étendre sa couverture antifraude. Résultat, les algorithmes de Machine Learning identifient quelques milliers de fausses déclarations de sinistres par an, comme par exemple des accidents de téléviseurs avant les matchs de coupe du monde de football. Les experts connaissent bien sûr ce type « d’épidémies » mais laissent parfois passer des cas. Si le retour sur investissement de ce logiciel est assuré, la responsable du service a constaté que l’équipe de collaborateurs et l’IA n’identifiaient que très partiellement les mêmes tentatives. Seuls les humains sont capables de déjouer les tentatives les plus complexes ou atypiques.

Dans un domaine très différent, la Fnac utilise des outils d’IA pour publier les descriptifs produits sur son site de e-commerce. Pour un site de commerce en ligne, homogénéiser les textes descriptifs des produits commercialisés peut devenir complexe si le nombre de fournisseurs est élevé, chaque fournisseur ayant son propre format de descriptif. Résultat, une partie des produits ne sont pas bien classés et… pas vendus. Un outil d’IA prend en charge cette tâche. Dans tous ces cas, une adaptation, un entraînement des algorithmes au contexte de l’entreprise sont nécessaires. En d’autres termes, il s’agit d’un vrai projet IT et non du simple ajout d’un service. Placer le curseur pour basculer sur un collaborateur humain est également indispensable. L’IA générative n’échappe pas à cette approche.