L'IA n'est pas un buzzword !

Je donne en ce moment à la CCI de Strasbourg sur un sujet qui n’est pas directement lié à l’IA, en apparence: déployer des applications en mode DevOps sur la Google Cloud Platform… je dis bien en apparence seulement, car la Google Cloud Platform (GCP pour les intimes) regorge d’APIs d’IA génératives, de machine learning, etc. Récemment, un nouveau produit est apparu sur le GCP: Duet AI. Les étudiants que je forme actuellement seront chargés plus tard de tâches liées à du sysadmin, du déploiement applicatif, de la gestion d’IAM, de VPC, de LDAP, tout un programme ! Une chose m’est clairement apparue alors que je les voyais apprendre des concepts nouveaux pour eux comme la dockerisation de stacks applicatives, les CI/CD pipelines, ou encore la gestion de permissions cloud: les systèmes distribués modernes sont complexes pour le nouveau venu, et même pour le praticien averti du DevOps. Est-ce que Duet AI pourrait les aider ? Qu’est-ce que Duet AI ? Duet AI est la version Google de Copilot, elle diffère de son concurrent de GitHub dans la mesure où, fidèle à sa stratégie entamée de longue de date, elle est intégrée à la Google Cloud Platform de manière « native »: on peut invoquer un Duet AI sur n’importe quelle page de l’UI du GCP pour poser une question ou réaliser une tâche. L’outil peut aussi générer du code dans un IDE, à la manière de Copilot, c’est donc un outil multifacettes, qui sert aussi bien pour les devs dans leur éditeur que pour les « clique-boutons » des plateformes cloud, comme aime à les appeler un de mes collègues dont l’identité restera secrète 😉 Assistance avec IA générative: une bonne idée pour les nouveaux venus ou pas ? Aujourd’hui, je suis plus à l’aise sur certains concepts, ce qui fait que je peux me débrouiller sur plusieurs plateformes (Azure, AWS, etc.) sans pour autant être un expert. Je ne cache pas que cela s’est fait au compte de nombreuses heures à étudier des concepts à tiroir sans fin. A l’époque, Chat-GPT n’existait pas ou n’avait pas le niveau de performance qu’il a aujourd’hui, il m’aurait été d’une grande aide pour mon apprentissage ! Nous avons eu récemment, chez Reboot-Conseil, une discussion au sujet de la mise à disposition d’outils d’assistance de code utilisant l’IA générative type Copilot : certains d’entre nous pensent qu’il faut que le développeur passe par ces longues veillées à lire des docs obscures et à se tromper pour acquérir une cetaine maturité et les réflexes nécessaires, l’argument se tient parfaitement car la démarche est très formatrice en effet. D’autres (c’est à dire moi) pensaient qu’il faut que le nouveau professionnel utilise ces outils au plus tôt et au plus vite pour maximiser sa productivité et être rentable pour son entreprise et, surtout, pour s’amuser tout simplement ! Je suis donc en train de me demander comment familiariser les étudiants au prompt engineering pour résoudre des problèmes, se documenter et utiliser des LLM en tant qu’outil d’assistance à la réflexion (un canard en plastique sous stéroïdes si vous préférez). Je vais tester Duet AI pour me faire un avis avant de leur en parler. Cet article relatera l’expérience de ma première prise en main. Duet AI 101 Pour rester dans le ton de ma formation, je vais tout de suite dans l’onglet use-cases de la documentation et je vais donc… tenter de déployer quelque chose 😁 On me propose des tutos Duet AI sur: Pas mal pas mal, mais AI squad oblige, moi je veux: Demandons lui ! Je ne sais pas si nous ferons tout ça dans cet article (ou bien si nous le ferons en plusieurs articles), mais vraiment je veux essayer le produit avec quelque chose que je serai amené à faire et voir où il peut me mener avec ce genre de liste de tâches. Tout d’abord les sousous Pour utiliser DuetAI, il faut payer une licence qui peut être mensuelle ou annuelle. Je tente la licence manuelle: … $22,80 une licence pour un mois c’est un peu cher mais peut-être que le jeu en vaut la chandelle, poursuivons. D’ailleurs, l’offre GitHub Copilot Business a une tarification comparable. Comment ça se présente ? Dans le console GCP (je reste pas là pour l’instant je n’installe pas le plugin pour VSCode) on a un bouton en haut à droite pour invoquer le LLM, à gauche du raccourci pour la cloud shell … ça pop up une fenêtre de chat, commençons avec mon projet: Je vous mets ici mon prompt: Le mal des LLMs: des réponses plausibles mais fausses non exactes. … et, au premier abord, c’est plutôt cool ! je vous copy paste ici la réponse très détaillé de Duet AI; petit bémol: elle ne parle pas de CI/CD pipeline, cela fera donc l’objet d’un second prompt: Duet AI me donne même un sample project pour tester tout le process ! Je lis attentivement les étapes, tout paraît pertinent au premier abord… est-ce que le repo donné en lien dans la réponse est juste aussi ? Il existe bien un compte GoogleCloudPlatform sur GitHub avec des repos contenant de la donnée d’entraînement, mais ici le LLM a soit halluciné un repo qui n’existe pas soit a linké un repo qui n’existe plus. Qu’en est-il de la commande gsutil gsutil cp gs://cloud-samples-data/ai-platform/census/adult.data . pour télécharger des données depuis un bucket ? … pareil, le lien est invalide 🥲. Ok, continuons notre fact checking: puis-je créer une VM et cloner un repo sans autre étape intermédiaire, ainsi que semble le suggérer la réponse ? … yes, git est installé par défaut et je peux cloner des repos. Globalement, les autres étapes données dans la réponse de Duet AI sont pertinentes, mais il ne s’agit pas d’informations « actionnables » car il s’agit au final d’une réponse détaillée répétant la suite d’étapes que j’avais déjà en tête depuis le départ… Je suis donc un peu sur ma faim. Quand je donne le même prompt à GPT-4, j’obtiens des snippets détaillés

Quand on parle de créer une intelligence artificielle, plusieurs approches ont été tentées pour parvenir à créer un algorithme « intelligent ». Cependant, si on regarde récemment, tous les modèles que l’on trouve sont dérivés d’un paradigme principal : le Machine Learning (souvent abrégé en ML). Que ce soient les LLM, les réseaux de neurones, ou même des modèles plus simples, tous suivent les principes du Machine Learning (ou l’apprentissage automatique en bon français). Mais quels sont ces principes ? Comment fonctionne un modèle de Machine Learning ? C’est ce que cet article veut mettre en avant. Petit point sur le vocabulaire Avant de rentrer dans le sujet, je souhaite simplement mettre au clair certains concepts. Une machine qui apprend ? Avant d’aborder ce qu’est un algorithme de Machine Learning, et ses particularités, voici un bref rappel de ce qu’on attend généralement d’un algorithme de Machine Learning. On veut que ce programme, en lui fournissant des données en entrées, qu’e l’algorithme qu’il nous prédise une valeur, la cible de manière correcte. Et donc on veut que notre modèle généralise des règles applicables à toutes les données qu’il est susceptible de rencontrer pour prédire correctement la cible. Tous les problèmes de ML sont des variations de ce problème. Ce qui changera souvent est ce que désignent la valeur et le format de celle-ci (nombre, texte, image, etc.) Un algorithme de Machine Learning, c’est quelque chose d’un peu particulier dans le monde des algorithmes. En effet, quand on parle d’algorithme, la comparaison la plus commune pour expliquer ce que c’est, c’est la recette de cuisine. On a des ingrédients, qui représentent nos entrées de l’algorithme et des étapes à suivre qui représente les règles de notre algorithme. Avec ces deux éléments, on arrive à constituer notre plat final, qui représente le résultat de l’algorithme, et qui est ce qu’on cherche à automatiser dans le cas d’un programme informatique. Et bien un programme d’apprentissage automatique fonctionne à rebours d’un programme classique, à lui on va donner des données en entrées, éventuellement les résultats qu’on attend de lui, et il va se débrouiller pour savoir quelles règles permettent de transformer les données en sortie, ou dans le cas où on n’a pas de données d’essayer de trouver des points communs entre les données. Ce mécanisme de trouver des règles en fonction des entrées, c’est ce qu’on appelle l’apprentissage, ou l’entraînement et c’est le point commun de chaque algorithme de Machine Learning. À partir de là, un des prérequis de ce domaine va être de constituer un jeu de données qu’on pourra passer à l’algorithme afin de générer ces règles et faire en sorte que le modèle de Machine Learning qu’on va créer sera suffisamment performant pour la tache que nous souhaitons réaliser. Comment faire apprendre une machine ? Maintenant, qu’on a vu le principe général du Machine Learning, la question est quelles sont les stratégies pour faire apprendre une machine. Il en existe plusieurs, et je vais en présenter 3 ici parmi les plus communes : Il existe d’autres types d’apprentissages, mais voici ceux que je trouve les plus marquants et les plus simples à retenir. Quels sont les principaux obstacles ? Maintenant qu’on a vu les principaux mécanismes du ML, de manière assez générique, on va voir quels sont les principaux obstacles qu’on rencontre quand on fait du Machine Learning. Si je dois résumer la majorité des obstacles qu’on rencontre en un mot, ce serait le mot « biais« . Les algorithmes de ML peuvent tomber dans des biais qui peuvent être liés à divers facteurs. Mauvaise mesure du score du modèle Un premier biais que l’on peut avoir, arrive quand on mesure les performances de son modèle. Pour s’assurer que le modèle ait bien généralisé les règles qu’il devait apprendre, on va mesurer le score du modèle sur des données qu’il n’a pas encore vues, des données de test. Le risque de mesurer la performance sur les données que le modèle a vues en entraînement est que le modèle a mémorisé les données et donc qu’il n’arrive pas à généraliser. C’est pour ça que le jeu de données est séparé en données d’entraînement et de test (avec généralement 70-80% des données pour l’entrainement, et 20-30% pour le jeu de test). Ce problème est lié à la méthode que l’on utilise pour mesurer la performance du modèle. Sur-apprentissage et sous-apprentissage Le sur-apprentissage et le sous-apprentissage sont des problèmes liés à la compatibilité entre l’algorithme de ML choisi et le jeu de données. Le sur-apprentissage ou overfitting est un problème où le modèle n’arrive pas à généraliser et mémorise les données. L’indicateur principal du sur-apprentissage est que le score du modèle mesuré sur les données d’entraînement est largement supérieur au score mesuré sur les données de test. Cela signifie que le modèle est trop complexe pour le problème qu’il faut résoudre et qu’il faut le simplifier. Cela peut être aussi la conséquence d’un jeu de données trop petit. Le sous-apprentissage ou underfitting, en revanche est un problème où le modèle n’arrive pas à capter et à s’adapter à la complexité du jeu de données. Un indicateur qui permet de détecter cela est que le score du modèle mesuré sur les données d’entraînement et de test est très faible. Il faut donc adapter l’algorithme pour qu’il capte mieux la complexité des données. Cela peut aussi être une conséquence d’un jeu des données trop petit, comme pour l’overfitting. Biais liés aux données Un autre aspect pour lequel il faut faire attention, la composition du jeu de données. Il y a tout un tas de biais liés à la représentativité des différents types de données dans le jeu initial. Par exemple, quand on fait un modèle de reconnaissance faciale, il faut que l’algorithme reconnaisse tous les types de visages, peu importe l’ethnicité de la personne, si la personne porte des lunettes, la couleur des cheveux, etc… Et pour ça, il faut que le jeu d’entraînement de cet algorithme contienne des images de personnes avec des caractéristiques variées et qu’aucune population

« D’après le Fonds Monétaire International, l’intelligence artificielle aura un impact sur 60% des emplois dans les pays économiquement avancés, et seulement sur 26% dans les pays à faible revenu » « Les emplois protégés seront ceux qui sont hautement et faiblement qualifiés » « Il n’y aura plus assez de travail, il faut mettre en place un revenu universel » Ce sont des exemples de phrases que l’on voit un peu partout en ce moment sur l’IA et les avis sont polarisés aux extrêmes : soit l’enthousiasme autour de l’IA est maximal et on ne voit que les aspects positifs, soit on pointe du doigt les impacts qui vont amener à une catastrophe. Clairement, cette révolution va avoir un impact non négligeable et il est très difficile de savoir ce qui va réellement se passer dans les prochaines années. Vivrons-nous dans une société où nous aurons des « robots esclaves » qui se chargeront de faire le nécessaire pour que notre société tourne ? Il nous restera à philosopher, à gérer les enjeux politiques et sociaux, et peut-être partir à la conquête de nouvelles galaxies. Vivrons-nous dans une société où il n’y aura pas assez de travail pour tout le monde et où il faudra concevoir autrement notre rapport à l’emploi ? De même que la révolution industrielle a permis de moins travailler, nous travaillerons peut-être encore moins avec des semaines de 3 jours et des journées de 5 heures. Vivrons-nous dans une société où nous aurons le choix d’avoir le corps des robots mais la conscience d’un humain, nous serons peut-être même des cyborgs ? Vivrons-nous dans une société où il est impossible de distinguer un humain d’un robot, même avec un test de Turing, comme avec la série Westworld ? Allons-nous être en guerre contre des robots comme dans Terminator car les IA ont jugé que notre espèce humaine est un poison pour l’humanité ? Les robots vont-ils traiter l’homme comme une énergie à exploiter comme dans Matrix ? Tous ces scénarios ont déjà été envisagés dans différentes œuvres et bien sûr, tout cela fait aussi partie de notre imaginaire. Ce qui est vrai, c’est que les IA sont partout et depuis des années, elles font partie de notre quotidien de façon invisible. Mais depuis l’avènement de ChatGPT, il y a une nouveauté : c’est la démocratisation à l’échelle planétaire de cette technologie accessible à tout le monde et cela change tout car depuis, il y a une course effrénée qui a été lancée. Tous les jours, nous voyons des nouveautés et cela va à une vitesse incroyable – c’est d’ailleurs ce qui fait que nous adorons ce sujet. La conception de l’IA aujourd’hui IA visible et invisible J’aimerais faire une distinction entre ce que j’appelle les IA visibles et les invisibles. Les IA visibles, ce sont celles que l’on voit explicitement : les Alexa, Midjourney, ChatGPT… Ce sont des IA où nous savons tous que ce sont des IA en face de nous et avec lesquelles nous interagissons par choix. Les IA invisibles sont celles où nous ne savons pas qu’elles sont là ou quand nous le savons, c’est relativement vague. Un exemple qui est arrivé à tout le monde : quand je parle avec ma femme que je partirais bien faire du ski et que je prends mon smartphone en main et que je lance un réseau social qui m’affiche comme par hasard des vacances au ski. Je vous invite à voir l’excellent documentaire « derrière nos écrans de fumée » si vous voulez aller plus loin sur le sujet, c’est passionnant. Les IA au travail En 2016, lorsque le Crédit Mutuel a exploité la technologie d’IBM avec l’IA Watson afin d’aider et d’assister les conseillers bancaires, il y avait eu une levée de boucliers alors que, clairement, l’objectif était de permettre aux conseillers de mieux travailler ; c’est d’ailleurs ce qui s’est passé. Lorsque Cédric Villani a fait son rapport en 2018 autour de l’IA, rapport que je trouve toujours aussi pertinent, il concevait une vision de l’IA comme un assistant pour l’humain. Depuis des mois maintenant, j’utilise quasiment au quotidien des IA pour toute sorte de choses : cela me permet d’aller plus vite et plus loin dans mon travail. Pour autant cela ne remplace pas mon regard absolument nécessaire pour avoir un avis critique et faire ce que je suis seul à pouvoir faire. Tout cela pour dire qu’à date, les IA visibles sont des supers assistants qui clairement sont une aide incroyable pour faire mieux et plus vite. Lorsque ChatGPT a fait un énorme BOOM, nous avons eu chez Reboot, qui est une entreprise où nous développons avec des langages informatiques, toute sorte de débat : en tant que développeur, est-ce que je vais être remplacé ? Quel est l’impact que cela va avoir dans mon travail ? Quand on voit l’arrivée de Microsoft Copilot qui est une IA capable de produire du code, cela peut faire peur aux développeurs. En réalité, sur le terrain, ce qu’on constate, c’est que Copilot est clairement une aide mais il faut quand même avoir un regard critique pour corriger ce qui ne va pas et l’inclure dans un contexte plus global. D’ailleurs, nous pensons que lorsqu’un développeur n’a pas assez d’expérience en développement, il ne doit pas utiliser Copilot car c’est une phase incompressible par laquelle il faut passer : il faut comprendre ce qu’on fait, comment on le fait et pourquoi on le fait. Sans cela, le développeur prendra pour argent comptant tout ce que Copilot sortira, ce qui est très mauvais et amène à des problèmes. Autrement dit et encore une fois : l’IA aide mais ne remplace pas. En tout cas aujourd’hui… Et demain ? En mars, nous avons un Let’s Talk (webinar) qui parlera de ce sujet de façon plus détaillée et je ne veux pas trop spoiler ce que Tristan nous présentera. MAIS A titre personnel, je peux dire que pour faire face à ces nouveaux enjeux, il est important de se sensibiliser un maximum sur ces sujets