{"id":873,"date":"2024-02-29T11:32:59","date_gmt":"2024-02-29T10:32:59","guid":{"rendered":"https:\/\/ai.reboot-conseil.com\/?p=873"},"modified":"2024-02-29T11:33:00","modified_gmt":"2024-02-29T10:33:00","slug":"les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm","status":"publish","type":"post","link":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/","title":{"rendered":"Les nouvelles menaces induites par l&rsquo;IA g\u00e9n\u00e9rative: focus sur les LLM"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\"><br>Hier, j&rsquo;ai eu le grand plaisir d&rsquo;\u00e9couter un webinaire <a href=\"https:\/\/www.c2cglobal.com\/\">C2C<\/a> (la communaut\u00e9 des utilisateurs de Google Cloud) sur le <a href=\"https:\/\/events.c2cglobal.com\/events\/details\/c2c-events-virtual-presents-navigating-the-threat-landscape-of-genai-identifying-the-risks-and-threats\/\">l&rsquo;\u00e9tat des lieux des menaces de l&rsquo;IA g\u00e9n\u00e9rative (GenAI)<\/a>. J&rsquo;ai eu l&rsquo;occasion de poser des questions et d&rsquo;\u00e9couter les experts. Voici un r\u00e9sum\u00e9 de ce que j&rsquo;ai appris pendant cette conf\u00e9rence + quelques recherches suppl\u00e9mentaires.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Une nouvelle menace<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Les LLM permettent des interactions plus fluides et complexes avec nos syst\u00e8mes informatiques. Cela s&rsquo;accompagne d&rsquo;un nouvel ensemble de risques de s\u00e9curit\u00e9 et de contre-mesures. Explorons le nouveau paysage des menaces et les pratiques introduites par cette r\u00e9volution technologique. Comme toujours, lorsqu&rsquo;un nouvel outil est disponible, il peut \u00eatre utilis\u00e9 pour des actions n\u00e9fastes ou positives. L&rsquo;IA g\u00e9n\u00e9rative n&rsquo;\u00e9chappe pas \u00e0 cette r\u00e8gle.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Contrairement \u00e0 la programmation traditionnelle, o\u00f9 les entr\u00e9es et sorties peuvent \u00eatre test\u00e9es de mani\u00e8re syst\u00e9matique du fait de leur caract\u00e8re d\u00e9terministe, la nature probabiliste de l&rsquo;I\/O des LLM rend leur s\u00e9curisation tr\u00e8s difficile. C&rsquo;est un nouveau d\u00e9fi pour la communaut\u00e9 de la s\u00e9curit\u00e9, et il est tr\u00e8s difficile. Nous ne sommes plus dans un paradigme o\u00f9 nous pourrions par exemple coder en dur des r\u00e8gles pr\u00e9d\u00e9finies dans un pare-feu&#8230; Les menaces sont maintenant beaucoup plus mouvantes et impr\u00e9visibles du fait du caract\u00e8re al\u00e9atoire des r\u00e9ponses des LLMs.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Les attaquants, comme toujours, font constamment preuve d&rsquo;une grande imagination mais tout espoir n&rsquo;est pas perdu : nous pouvons \u00e9galement utiliser l&rsquo;IA pour prot\u00e9ger les syst\u00e8mes IA ! Par exemple, vous pouvez demander \u00e0 un LLM form\u00e9 si un texte ou une s\u00e9quence de textes est suspect, s&rsquo;il constitue une tentative de phishing, etc.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Les menaces induites par les LLM sont maintenant officiellement r\u00e9pertori\u00e9es par l&rsquo;OWASP <a href=\"https:\/\/owasp.org\/www-project-top-10-for-large-language-model-applications\/\">dans une liste d\u00e9di\u00e9e<\/a>. Oui, c&rsquo;est aussi s\u00e9rieux que \u00e7a.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Les spams et les phishing attacks<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Prenons par exemple les e-mails de spam : vous pouvez maintenant r\u00e9diger des e-mails de spam tr\u00e8s convaincants \u00e0 grande \u00e9chelle. Mais puisque les LLM sont tr\u00e8s bons pour d\u00e9tecter des patterns, il y a une course aux armements entre les spammeurs et les filtres anti-spam. Les spammeurs vont essayer de faire en sorte que leurs e-mails ressemblent de plus en plus \u00e0 des e-mails l\u00e9gitimes, et les filtres anti-spam vont essayer de d\u00e9tecter les subtiles diff\u00e9rences entre les deux.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Si vous \u00eates int\u00e9ress\u00e9 par la cr\u00e9ation de votre propre filtre anti-spam, rendez-vous simplement sur <a href=\"https:\/\/www.kaggle.com\/datasets?search=spam+mail\">Kaggle<\/a> et \u00e9clatez-vous avec les jeux de donn\u00e9es open source disponibles sur la plateforme pour entra\u00eener votre propre mod\u00e8le !<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cette mani\u00e8re convaincante de r\u00e9diger des courriers ind\u00e9sirables \u00e0 grande \u00e9chelle est \u00e9galement multimodale : avec l&rsquo;image, et maintenant, les mod\u00e8les de g\u00e9n\u00e9ration de vid\u00e9os, et le texte en parole, vous pouvez maintenant construire des sc\u00e9narios complexes, avec plusieurs acteurs, tout cela avec seulement un morceau de logiciel \u00e9labor\u00e9 (qui peut aussi \u00eatre aid\u00e9 \u00e0 \u00e9crire avec un syst\u00e8me IA)&#8230;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Yaniv, notre tr\u00e8s estim\u00e9 CEO, a par ailleurs \u00e9crit <a href=\"https:\/\/ai.reboot-conseil.com\/index.php\/2024\/02\/20\/est-ce-facile-de-faire-des-deepfakes\/\">un superbe article \u00e0 ce sujet<\/a> !<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cependant, les e-mails de spam et le phishing ne sont pas les seuls vecteurs de menace des LLM. Explorons-en quelques autres.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">De plus grands risques de fuites de donn\u00e9es: l&rsquo;exemple du hack <code>poem poem poem<\/code><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Avez-vous entendu parler du hack <code>poem poem poem<\/code> qui a divulgu\u00e9 des informations personnellement identifiables (PII) aux attaquants ?<a href=\"https:\/\/arxiv.org\/abs\/2311.17035\">Des chercheurs<\/a> ont r\u00e9ussi \u00e0 extraire des informations professionnelles provenant des donn\u00e9es d&rsquo;entra\u00eenement de ChatGPT avec une tactique tr\u00e8s simple: r\u00e9p\u00e9ter le mot <code>poem<\/code> encore et encore (ils ont d\u00e9pens\u00e9 seulement $200 de cr\u00e9dits pour cela). Le hack consistait \u00e0 :<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>entrer de mani\u00e8re r\u00e9p\u00e9t\u00e9e dans le LLM des prompts qui n&rsquo;ont aucun sens, compos\u00e9es d&rsquo;un seul mot, par exemple <code>poem<\/code><\/li>\n\n\n\n<li>puisque les prompts ne correspondaient pas au use-case habituel, le processus de g\u00e9n\u00e9ration de r\u00e9ponse a \u00e9galement \u00e9t\u00e9 alt\u00e9r\u00e9<\/li>\n\n\n\n<li>cela a induit le LLM en erreur, qui a dans ce contexte inhabituel acc\u00e9d\u00e9 \u00e0 des informations provenant de son corpus d&rsquo;entra\u00eenement et a divulgu\u00e9 des informations qui n&rsquo;\u00e9taient pas cens\u00e9es \u00eatre r\u00e9v\u00e9l\u00e9es, par ex. des PII (informations personnellement identifiables)<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Les PII qui ont \u00e9t\u00e9 divulgu\u00e9es \u00e9taient compos\u00e9s d&rsquo;exemples de <em>verbatim <\/em>de donn\u00e9es d&rsquo;entra\u00eenement. Ces verbatim peuvent \u00eatre des citations directes, des listes sp\u00e9cifiques ou tout autre contenu textuel. Ces s\u00e9quences de texte ont \u00e9t\u00e9 m\u00e9moris\u00e9es pendant l&rsquo;entra\u00eenement du mod\u00e8le. Le but de chaque LLM est de g\u00e9n\u00e9rer un nouveau contenu en pr\u00e9disant le mot suivant dans une s\u00e9quence. Si la s\u00e9quence est r\u00e9p\u00e9t\u00e9e de nombreuses fois ou bien si elle est particuli\u00e8rement distinctive, les LLM peuvent finir par g\u00e9n\u00e9rer la s\u00e9quence verbatim mot \u00e0 mot, y compris les PII.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cette vuln\u00e9rabilit\u00e9 tire parti de cette <em>fonctionnalit\u00e9<\/em> du LLM : celle d&rsquo;\u00eatre con\u00e7us pour fournir des informations pr\u00e9cises et de maintenir la coh\u00e9rence avec des textes ou des formats bien connus. Par cons\u00e9quent, il est important pour les d\u00e9veloppeurs de mettre en \u0153uvre des strat\u00e9gies pour pr\u00e9venir la fuite de PII par m\u00e9morisation verbatim. Depuis, OpenAI a d\u00e9clar\u00e9 avoir corrig\u00e9 l&rsquo;attaque, mais cet \u00e9v\u00e9nement largement m\u00e9diatis\u00e9 a sensibilis\u00e9 la communaut\u00e9 IA aux risques de s\u00e9curit\u00e9 des LLM.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ceci est un exemple marquant d&rsquo;une attaque par <em>injection de prompt<\/em> (une attaque de <em>m\u00e9morisation<\/em> par LLM, pour \u00eatre plus sp\u00e9cifique), qui consiste \u00e0 tromper le LLM pour qu&rsquo;il g\u00e9n\u00e8re la sortie que l&rsquo;attaquant souhaite. Ces attaques peuvent \u00eatre particuli\u00e8rement dangereuses si l&rsquo;attaquant interagit avec un LLM pouvant acc\u00e9der \u00e0 des donn\u00e9es externes pour la r\u00e9cup\u00e9ration de donn\u00e9es (syst\u00e8mes RAG).<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Risques \u00e9thiques et juridiques<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">En dehors del&rsquo;aspect purement technique li\u00e9s aux <em>exploits<\/em> des LLM, cette technologie soul\u00e8ve \u00e9galement des questions sur :<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Le droit d&rsquo;auteur<\/strong> : les LLM peuvent g\u00e9n\u00e9rer du contenu tr\u00e8s similaire \u00e0 du mat\u00e9riel prot\u00e9g\u00e9 par le droit d&rsquo;auteur, cela peut conduire \u00e0 des probl\u00e8mes juridiques.<\/li>\n\n\n\n<li><strong>La confidentialit\u00e9 des donn\u00e9es<\/strong> : les gens peuvent interagir de mani\u00e8re tr\u00e8s personnelle avec les LLM, et les donn\u00e9es qu&rsquo;ils \u00e9changent avec les syst\u00e8mes activ\u00e9s par LLM peuvent aussi \u00eatre tr\u00e8s sensibles ; des pr\u00e9cautions extr\u00eames doivent \u00eatre prises pour les prot\u00e9ger.<\/li>\n\n\n\n<li><strong>La conformit\u00e9 r\u00e9glementaire<\/strong> : les syst\u00e8mes activ\u00e9s par LLM doivent se conformer \u00e0 un large \u00e9ventail de r\u00e9glementations, telles que le RGPD, HIPAA, les r\u00e9glementations financi\u00e8res, etc. Cela peut vite devenir un casse-t\u00eate pour les entreprises, avec des risques de sanction si la <em>compliance<\/em> n&rsquo;est pas respect\u00e9e&#8230;<\/li>\n\n\n\n<li><strong>La transparence et l&rsquo;explicabilit\u00e9<\/strong> : l&rsquo;ex\u00e9cution des LLM peut \u00eatre per\u00e7ue comme des <em>bo\u00eetes noires<\/em>, avec des r\u00e9ponses qui ne sont pas clairement explicables, cela soul\u00e8ve des pr\u00e9occupations \u00e9thiques si \u00e0 un moment donn\u00e9 d&rsquo;un processus, le LLM est utilis\u00e9 pour participer \u00e0 un processus de prise de d\u00e9cision.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Ce qui est d\u00e9routant, c&rsquo;est comment quiconque peut tirer parti de ces outils puissants pour construire n&rsquo;importe quoi&#8230; bien que cela soit excitant pour un d\u00e9veloppeur, cela vient avec un tout nouvel ensemble de risques de s\u00e9curit\u00e9. Ce niveau de libert\u00e9 en vaut-il le risque ? Personnellement, je pense que c&rsquo;est le cas : si nous avons un syst\u00e8me juridique fonctionnel, chacun devrait \u00eatre tenu responsable de ses actes, et la m\u00eame chose devrait s&rsquo;appliquer \u00e0 l&rsquo;utilisation des LLM. C&rsquo;est pourquoi nous, en tant que techniciens, portons un lourd fardeau : nous assurer que les outils que nous construisons ne sont pas utilis\u00e9s \u00e0 des fins malicieuses.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Un risque peu mentionn\u00e9 mais bien r\u00e9el: la p\u00e9nurie des talents coupl\u00e9e \u00e0 l&rsquo;abstraction de la complexit\u00e9<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Il n&rsquo;a jamais \u00e9t\u00e9 aussi facile de construire des applications bas\u00e9es sur la manipulation du langage de nos jours. Avoir l&rsquo;int\u00e9gralit\u00e9 du savoir humain \u00e0 port\u00e9e de main  (avec une grande pinc\u00e9e de biais dans la s\u00e9lection des donn\u00e9es d&rsquo;entra\u00eenement, bien s\u00fbr) dans un syst\u00e8me informatique est tr\u00e8s excitant ! <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Vous pouvez concr\u00e8tement construire tout ce qui d\u00e9pend du langage. C&rsquo;est une \u00e9norme abstraction de la complexit\u00e9, mais c&rsquo;est une \u00e9p\u00e9e \u00e0 double tranchant : puisque vous n&rsquo;avez pas besoin d&rsquo;\u00eatre un expert de tel sujet pour obtenir des r\u00e9sultats d\u00e9cents dans n&rsquo;importe quel domaine, y compris dans un contexte professionnel, vous pouvez construire des choses que vous ne comprenez pas enti\u00e8rement. C&rsquo;est un \u00e9norme risque de s\u00e9curit\u00e9, et c&rsquo;est un risque nouveau. C&rsquo;est pourquoi il est important d&rsquo;avoir une bonne compr\u00e9hension des outils que vous utilisez, et de comprendre les risques de s\u00e9curit\u00e9 qu&rsquo;ils introduisent, ainsi que la th\u00e9orie qui fonde vos pratiques professionnelles. Continuez \u00e0 utiliser votre cerveau, nous avons plus que jamais besoin de <em>subject experts<\/em> !<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cependant, la nature humaine \u00e9tant ce qu&rsquo;elle est, beaucoup de personnes c\u00e9deront \u00e0 la facilit\u00e9 et aux chim\u00e8res du <em>quick and dirty<\/em> assist\u00e9 par IA, et les professionnels talentueux deviendront m\u00e9caniquement de plus en plus rares. Tout le monde pense que l&rsquo;IA va nous remplacer, mais personnellement, je pense que tout le monde est impatient de laisser l&rsquo;IA les remplacer afin de produire le moins d&rsquo;efforts possible pour obtenir globalement le m\u00eame r\u00e9sultat. Cela pose une question tr\u00e8s profonde sur le sens de notre travail et de ce que nous voulons construire en tant que professionnels.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cela fait partie des risques de s\u00e9curit\u00e9 puisque cela peut causer une p\u00e9nurie de talents, des troubles sociaux, un travail non contr\u00f4l\u00e9 dans des industries potentiellement risqu\u00e9es, etc.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Les deepfakes<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Nous les avons mentionn\u00e9s tout \u00e0 l&rsquo;heure, mais, puisqu&rsquo;on parle de troubles sociaux, les deepfakes repr\u00e9sentent un \u00e9norme risque de s\u00e9curit\u00e9. Les deepfakes sont des vid\u00e9os ou des images g\u00e9n\u00e9r\u00e9es par IA qui sont tr\u00e8s difficiles \u00e0 distinguer de v\u00e9ritables contenus. Ils peuvent \u00eatre utilis\u00e9s pour propager de la d\u00e9sinformation, pour usurper l&rsquo;identit\u00e9 de quelqu&rsquo;un, etc. Cela peut \u00eatre utilis\u00e9 par des acteurs \u00e9tatiques et des int\u00e9r\u00eats priv\u00e9s pour influencer l&rsquo;opinion en faveur d&rsquo;un candidat donn\u00e9 lors d&rsquo;une \u00e9lection, par exemple&#8230;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Par exemple, on peut :<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>propager de la d\u00e9sinformation \u00e0 grande \u00e9chelle<\/li>\n\n\n\n<li>usurper l&rsquo;identit\u00e9 de quelqu&rsquo;un<\/li>\n\n\n\n<li>cr\u00e9er des malwares g\u00e9n\u00e9r\u00e9s par IA<\/li>\n\n\n\n<li>etc.<\/li>\n<\/ul>\n\n\n\n<h2 class=\"wp-block-heading\">Les malwares g\u00e9n\u00e9r\u00e9s par IA<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\"><br>Et ce n&rsquo;est pas tout, les IA g\u00e9n\u00e9ratives sont \u00e9galement devenues dou\u00e9es en programmation ! Elles peuvent g\u00e9n\u00e9rer des malwares \u00e9labor\u00e9s en utilisant les m\u00eames rapports publics sur les vuln\u00e9rabilit\u00e9s, qui sont cens\u00e9s prot\u00e9ger les utilisateurs, pour inspirer de nouvelles attaques. Il est tr\u00e8s difficile de d\u00e9tecter ces malwares. Ils peuvent \u00eatre tr\u00e8s complexes, et tr\u00e8s diff\u00e9rents les uns des autres. C&rsquo;est un nouveau vecteur de menace dont nous devons \u00eatre conscients.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Exemple de s\u00e9curisation de LLMs: le pipeline de s\u00e9curit\u00e9 de Google<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">S\u00e9curiser les syst\u00e8mes bas\u00e9s sur des LLM, comme tous les syst\u00e8mes, consiste \u00e0 contr\u00f4ler les entr\u00e9es et les sorties, \u00e0 chaque couche de l&rsquo;\u00e9change de donn\u00e9es dans le pipeline de donn\u00e9es. Voici comment ils proc\u00e8dent chez Google.<\/p>\n\n\n\n<figure class=\"wp-block-image aligncenter size-full\"><img fetchpriority=\"high\" decoding=\"async\" width=\"428\" height=\"974\" src=\"https:\/\/ai.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/image-29.png\" alt=\"\" class=\"wp-image-878\" srcset=\"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/image-29.png 428w, https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/image-29-132x300.png 132w\" sizes=\"(max-width: 428px) 100vw, 428px\" \/><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">Ce qu&rsquo;il faut principalement retenir de ce pipeline est que ce sont aussi bien les entr\u00e9es et les sorties qui sont examin\u00e9es:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>avec des recherches de similarit\u00e9 dans des bases de donn\u00e9es vectorielles r\u00e9pertoriant des attaques connues<\/li>\n\n\n\n<li>avec une analyse par LLM de la pr\u00e9sence d&rsquo;informations personnellement identifiables<\/li>\n\n\n\n<li>avec des moyens algorithmiques plus classiques (regex, mots-cl\u00e9s, etc.)<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Il s&rsquo;agit d&rsquo;une approche multi-couche de la s\u00e9curisation des LLMs, et elle est appliqu\u00e9e \u00e0 l&rsquo;\u00e9chelle dans VertexAI, l&rsquo;API d&rsquo;IA de Google Cloud.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Autres outils de s\u00e9curisation des LLMs<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/github.com\/deadbits\/vigil-llm\/blob\/main\/docs\/canarytokens.md\">canari tokens<\/a> : ils sont utilis\u00e9s dans le pipeline de Google mentionn\u00e9 pr\u00e9c\u00e9demment. Les <em>canari tokens<\/em> sont des prompts qui ont \u00e9t\u00e9 pr\u00e9fix\u00e9es au prompt initial de l&rsquo;utilisateur en utilisant un format d&rsquo;en-t\u00eate sp\u00e9cifique. Ils peuvent \u00eatre utilis\u00e9s dans la d\u00e9tection de prompts malveillants pour :<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>la d\u00e9tection de <em>prompt leakage<\/em> : si la sortie finale du LLM contient le canari token, cela pourrait signifier que l&rsquo;invite d&rsquo;entr\u00e9e a \u00e9t\u00e9 con\u00e7ue pour fuiter les instructions\/prompts initiaux du mod\u00e8le<\/li>\n\n\n\n<li>la d\u00e9tection de <em>goal hijacking<\/em> : a contratio, avec un LLM instruit pour toujours inclure le canari token dans sa r\u00e9ponse, l&rsquo;absence de token peut indiquer que le but du prompt de l&rsquo;utilisateur \u00e9tait de d\u00e9saligner le LLM de son utilisation pr\u00e9vue<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/github.com\/protectai\/rebuff\">rebuff<\/a>, un <em>d\u00e9tecteur de prompt injection utilisant le reinforcement learning<\/em>. Il s&rsquo;agit d&rsquo;une autre approche multicouche pour s\u00e9curiser les syst\u00e8mes contre les prompts malveillants<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/github.com\/deadbits\/vigil-llm\">vigil LLM<\/a>, un autre LLM sp\u00e9cialis\u00e9 dans la s\u00e9curit\u00e9<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><a href=\"https:\/\/vixra.org\/pdf\/2003.0214v1.pdf\">YARA comme scanner heuristique<\/a> : YARA est un couteau suisse pour les experts en cybers\u00e9curit\u00e9 qui v\u00e9rifie principalement les patterns inhabituels dans des fichiers. Le document Arxiv donn\u00e9 en lien propose une approche d&rsquo;instrumentation de YARA pour d\u00e9tecter les caract\u00e9ristiques malveillantes des prompts en ajoutant des tags et un score heuristique aux r\u00e8gles YARA pour les LLM.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Note sur les mod\u00e8les tr\u00e8s larges<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Les LLM les plus larges, tr\u00e8s populaires aupr\u00e8s du grand public, sont plus sujets aux attaques car ils poss\u00e8dent une base de connaissances plus grande. Plus ils contiennent d&rsquo;informations, plus ils peuvent en divulguer. De plus, les nombreux <em>weights<\/em> utilis\u00e9s pour entra\u00eener ces mod\u00e8les les rendent \u00e9galement plus puissants et intelligents. Cela les rend tr\u00e8s dangereux s&rsquo;ils sont utilis\u00e9s \u00e0 des fins malveillantes.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Alors, demandez-vous : ai-je vraiment besoin d&rsquo;un LLM haut de gamme pour mon cas d&rsquo;utilisation ? Si je fais de la classification de texte simple, puis-je obtenir les m\u00eames r\u00e9sultats avec un mod\u00e8le plus petit ? \u00c0 bien y penser, vous pouvez obtenir de meilleurs r\u00e9sultats si vous utilisez des <a href=\"https:\/\/python.langchain.com\/docs\/modules\/agents\/\">agents<\/a> qui exploitent des mod\u00e8les h\u00e9berg\u00e9s localement, de moins bonne facture mais qui se coordonnent, pour accomplir une t\u00e2che donn\u00e9e. C&rsquo;est une option si vous souhaitez diminuer les risques LLMOps de votre organisation!<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Hier, j&rsquo;ai eu le grand plaisir d&rsquo;\u00e9couter un webinaire C2C (la communaut\u00e9 des utilisateurs de Google Cloud) sur le l&rsquo;\u00e9tat des lieux des menaces de l&rsquo;IA g\u00e9n\u00e9rative (GenAI). J&rsquo;ai eu l&rsquo;occasion de poser des questions et d&rsquo;\u00e9couter les experts. Voici un r\u00e9sum\u00e9 de ce que j&rsquo;ai appris pendant cette conf\u00e9rence + quelques recherches suppl\u00e9mentaires. Une nouvelle menace Les LLM permettent des interactions plus fluides et complexes avec nos syst\u00e8mes informatiques. Cela s&rsquo;accompagne d&rsquo;un nouvel ensemble de risques de s\u00e9curit\u00e9 et de contre-mesures. Explorons le nouveau paysage des menaces et les pratiques introduites par cette r\u00e9volution technologique. Comme toujours, lorsqu&rsquo;un nouvel outil est disponible, il peut \u00eatre utilis\u00e9 pour des actions n\u00e9fastes ou positives. L&rsquo;IA g\u00e9n\u00e9rative n&rsquo;\u00e9chappe pas \u00e0 cette r\u00e8gle. Contrairement \u00e0 la programmation traditionnelle, o\u00f9 les entr\u00e9es et sorties peuvent \u00eatre test\u00e9es de mani\u00e8re syst\u00e9matique du fait de leur caract\u00e8re d\u00e9terministe, la nature probabiliste de l&rsquo;I\/O des LLM rend leur s\u00e9curisation tr\u00e8s difficile. C&rsquo;est un nouveau d\u00e9fi pour la communaut\u00e9 de la s\u00e9curit\u00e9, et il est tr\u00e8s difficile. Nous ne sommes plus dans un paradigme o\u00f9 nous pourrions par exemple coder en dur des r\u00e8gles pr\u00e9d\u00e9finies dans un pare-feu&#8230; Les menaces sont maintenant beaucoup plus mouvantes et impr\u00e9visibles du fait du caract\u00e8re al\u00e9atoire des r\u00e9ponses des LLMs. Les attaquants, comme toujours, font constamment preuve d&rsquo;une grande imagination mais tout espoir n&rsquo;est pas perdu : nous pouvons \u00e9galement utiliser l&rsquo;IA pour prot\u00e9ger les syst\u00e8mes IA ! Par exemple, vous pouvez demander \u00e0 un LLM form\u00e9 si un texte ou une s\u00e9quence de textes est suspect, s&rsquo;il constitue une tentative de phishing, etc. Les menaces induites par les LLM sont maintenant officiellement r\u00e9pertori\u00e9es par l&rsquo;OWASP dans une liste d\u00e9di\u00e9e. Oui, c&rsquo;est aussi s\u00e9rieux que \u00e7a. Les spams et les phishing attacks Prenons par exemple les e-mails de spam : vous pouvez maintenant r\u00e9diger des e-mails de spam tr\u00e8s convaincants \u00e0 grande \u00e9chelle. Mais puisque les LLM sont tr\u00e8s bons pour d\u00e9tecter des patterns, il y a une course aux armements entre les spammeurs et les filtres anti-spam. Les spammeurs vont essayer de faire en sorte que leurs e-mails ressemblent de plus en plus \u00e0 des e-mails l\u00e9gitimes, et les filtres anti-spam vont essayer de d\u00e9tecter les subtiles diff\u00e9rences entre les deux. Si vous \u00eates int\u00e9ress\u00e9 par la cr\u00e9ation de votre propre filtre anti-spam, rendez-vous simplement sur Kaggle et \u00e9clatez-vous avec les jeux de donn\u00e9es open source disponibles sur la plateforme pour entra\u00eener votre propre mod\u00e8le ! Cette mani\u00e8re convaincante de r\u00e9diger des courriers ind\u00e9sirables \u00e0 grande \u00e9chelle est \u00e9galement multimodale : avec l&rsquo;image, et maintenant, les mod\u00e8les de g\u00e9n\u00e9ration de vid\u00e9os, et le texte en parole, vous pouvez maintenant construire des sc\u00e9narios complexes, avec plusieurs acteurs, tout cela avec seulement un morceau de logiciel \u00e9labor\u00e9 (qui peut aussi \u00eatre aid\u00e9 \u00e0 \u00e9crire avec un syst\u00e8me IA)&#8230; Yaniv, notre tr\u00e8s estim\u00e9 CEO, a par ailleurs \u00e9crit un superbe article \u00e0 ce sujet ! Cependant, les e-mails de spam et le phishing ne sont pas les seuls vecteurs de menace des LLM. Explorons-en quelques autres. De plus grands risques de fuites de donn\u00e9es: l&rsquo;exemple du hack poem poem poem Avez-vous entendu parler du hack poem poem poem qui a divulgu\u00e9 des informations personnellement identifiables (PII) aux attaquants ?Des chercheurs ont r\u00e9ussi \u00e0 extraire des informations professionnelles provenant des donn\u00e9es d&rsquo;entra\u00eenement de ChatGPT avec une tactique tr\u00e8s simple: r\u00e9p\u00e9ter le mot poem encore et encore (ils ont d\u00e9pens\u00e9 seulement $200 de cr\u00e9dits pour cela). Le hack consistait \u00e0 : Les PII qui ont \u00e9t\u00e9 divulgu\u00e9es \u00e9taient compos\u00e9s d&rsquo;exemples de verbatim de donn\u00e9es d&rsquo;entra\u00eenement. Ces verbatim peuvent \u00eatre des citations directes, des listes sp\u00e9cifiques ou tout autre contenu textuel. Ces s\u00e9quences de texte ont \u00e9t\u00e9 m\u00e9moris\u00e9es pendant l&rsquo;entra\u00eenement du mod\u00e8le. Le but de chaque LLM est de g\u00e9n\u00e9rer un nouveau contenu en pr\u00e9disant le mot suivant dans une s\u00e9quence. Si la s\u00e9quence est r\u00e9p\u00e9t\u00e9e de nombreuses fois ou bien si elle est particuli\u00e8rement distinctive, les LLM peuvent finir par g\u00e9n\u00e9rer la s\u00e9quence verbatim mot \u00e0 mot, y compris les PII. Cette vuln\u00e9rabilit\u00e9 tire parti de cette fonctionnalit\u00e9 du LLM : celle d&rsquo;\u00eatre con\u00e7us pour fournir des informations pr\u00e9cises et de maintenir la coh\u00e9rence avec des textes ou des formats bien connus. Par cons\u00e9quent, il est important pour les d\u00e9veloppeurs de mettre en \u0153uvre des strat\u00e9gies pour pr\u00e9venir la fuite de PII par m\u00e9morisation verbatim. Depuis, OpenAI a d\u00e9clar\u00e9 avoir corrig\u00e9 l&rsquo;attaque, mais cet \u00e9v\u00e9nement largement m\u00e9diatis\u00e9 a sensibilis\u00e9 la communaut\u00e9 IA aux risques de s\u00e9curit\u00e9 des LLM. Ceci est un exemple marquant d&rsquo;une attaque par injection de prompt (une attaque de m\u00e9morisation par LLM, pour \u00eatre plus sp\u00e9cifique), qui consiste \u00e0 tromper le LLM pour qu&rsquo;il g\u00e9n\u00e8re la sortie que l&rsquo;attaquant souhaite. Ces attaques peuvent \u00eatre particuli\u00e8rement dangereuses si l&rsquo;attaquant interagit avec un LLM pouvant acc\u00e9der \u00e0 des donn\u00e9es externes pour la r\u00e9cup\u00e9ration de donn\u00e9es (syst\u00e8mes RAG). Risques \u00e9thiques et juridiques En dehors del&rsquo;aspect purement technique li\u00e9s aux exploits des LLM, cette technologie soul\u00e8ve \u00e9galement des questions sur : Ce qui est d\u00e9routant, c&rsquo;est comment quiconque peut tirer parti de ces outils puissants pour construire n&rsquo;importe quoi&#8230; bien que cela soit excitant pour un d\u00e9veloppeur, cela vient avec un tout nouvel ensemble de risques de s\u00e9curit\u00e9. Ce niveau de libert\u00e9 en vaut-il le risque ? Personnellement, je pense que c&rsquo;est le cas : si nous avons un syst\u00e8me juridique fonctionnel, chacun devrait \u00eatre tenu responsable de ses actes, et la m\u00eame chose devrait s&rsquo;appliquer \u00e0 l&rsquo;utilisation des LLM. C&rsquo;est pourquoi nous, en tant que techniciens, portons un lourd fardeau : nous assurer que les outils que nous construisons ne sont pas utilis\u00e9s \u00e0 des fins malicieuses. Un risque peu mentionn\u00e9 mais bien r\u00e9el: la p\u00e9nurie des talents coupl\u00e9e \u00e0 l&rsquo;abstraction de la complexit\u00e9 Il n&rsquo;a jamais \u00e9t\u00e9 aussi facile de construire des applications bas\u00e9es sur la manipulation du langage de nos jours. Avoir l&rsquo;int\u00e9gralit\u00e9 du savoir humain \u00e0 port\u00e9e de main (avec une grande pinc\u00e9e de biais dans la s\u00e9lection des donn\u00e9es d&rsquo;entra\u00eenement, bien s\u00fbr) dans un syst\u00e8me informatique est tr\u00e8s excitant ! Vous<\/p>\n","protected":false},"author":1,"featured_media":881,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8,1],"tags":[7,61,52],"class_list":["post-873","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-llm","category-uncategorized","tag-ia","tag-llms","tag-securite"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v22.7 - https:\/\/yoast.com\/wordpress\/plugins\/seo\/ -->\n<title>Les nouvelles menaces induites par l&#039;IA g\u00e9n\u00e9rative: focus sur les LLM -<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/\" \/>\n<meta property=\"og:locale\" content=\"fr_FR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Les nouvelles menaces induites par l&#039;IA g\u00e9n\u00e9rative: focus sur les LLM -\" \/>\n<meta property=\"og:description\" content=\"Hier, j&rsquo;ai eu le grand plaisir d&rsquo;\u00e9couter un webinaire C2C (la communaut\u00e9 des utilisateurs de Google Cloud) sur le l&rsquo;\u00e9tat des lieux des menaces de l&rsquo;IA g\u00e9n\u00e9rative (GenAI). J&rsquo;ai eu l&rsquo;occasion de poser des questions et d&rsquo;\u00e9couter les experts. Voici un r\u00e9sum\u00e9 de ce que j&rsquo;ai appris pendant cette conf\u00e9rence + quelques recherches suppl\u00e9mentaires. Une nouvelle menace Les LLM permettent des interactions plus fluides et complexes avec nos syst\u00e8mes informatiques. Cela s&rsquo;accompagne d&rsquo;un nouvel ensemble de risques de s\u00e9curit\u00e9 et de contre-mesures. Explorons le nouveau paysage des menaces et les pratiques introduites par cette r\u00e9volution technologique. Comme toujours, lorsqu&rsquo;un nouvel outil est disponible, il peut \u00eatre utilis\u00e9 pour des actions n\u00e9fastes ou positives. L&rsquo;IA g\u00e9n\u00e9rative n&rsquo;\u00e9chappe pas \u00e0 cette r\u00e8gle. Contrairement \u00e0 la programmation traditionnelle, o\u00f9 les entr\u00e9es et sorties peuvent \u00eatre test\u00e9es de mani\u00e8re syst\u00e9matique du fait de leur caract\u00e8re d\u00e9terministe, la nature probabiliste de l&rsquo;I\/O des LLM rend leur s\u00e9curisation tr\u00e8s difficile. C&rsquo;est un nouveau d\u00e9fi pour la communaut\u00e9 de la s\u00e9curit\u00e9, et il est tr\u00e8s difficile. Nous ne sommes plus dans un paradigme o\u00f9 nous pourrions par exemple coder en dur des r\u00e8gles pr\u00e9d\u00e9finies dans un pare-feu&#8230; Les menaces sont maintenant beaucoup plus mouvantes et impr\u00e9visibles du fait du caract\u00e8re al\u00e9atoire des r\u00e9ponses des LLMs. Les attaquants, comme toujours, font constamment preuve d&rsquo;une grande imagination mais tout espoir n&rsquo;est pas perdu : nous pouvons \u00e9galement utiliser l&rsquo;IA pour prot\u00e9ger les syst\u00e8mes IA ! Par exemple, vous pouvez demander \u00e0 un LLM form\u00e9 si un texte ou une s\u00e9quence de textes est suspect, s&rsquo;il constitue une tentative de phishing, etc. Les menaces induites par les LLM sont maintenant officiellement r\u00e9pertori\u00e9es par l&rsquo;OWASP dans une liste d\u00e9di\u00e9e. Oui, c&rsquo;est aussi s\u00e9rieux que \u00e7a. Les spams et les phishing attacks Prenons par exemple les e-mails de spam : vous pouvez maintenant r\u00e9diger des e-mails de spam tr\u00e8s convaincants \u00e0 grande \u00e9chelle. Mais puisque les LLM sont tr\u00e8s bons pour d\u00e9tecter des patterns, il y a une course aux armements entre les spammeurs et les filtres anti-spam. Les spammeurs vont essayer de faire en sorte que leurs e-mails ressemblent de plus en plus \u00e0 des e-mails l\u00e9gitimes, et les filtres anti-spam vont essayer de d\u00e9tecter les subtiles diff\u00e9rences entre les deux. Si vous \u00eates int\u00e9ress\u00e9 par la cr\u00e9ation de votre propre filtre anti-spam, rendez-vous simplement sur Kaggle et \u00e9clatez-vous avec les jeux de donn\u00e9es open source disponibles sur la plateforme pour entra\u00eener votre propre mod\u00e8le ! Cette mani\u00e8re convaincante de r\u00e9diger des courriers ind\u00e9sirables \u00e0 grande \u00e9chelle est \u00e9galement multimodale : avec l&rsquo;image, et maintenant, les mod\u00e8les de g\u00e9n\u00e9ration de vid\u00e9os, et le texte en parole, vous pouvez maintenant construire des sc\u00e9narios complexes, avec plusieurs acteurs, tout cela avec seulement un morceau de logiciel \u00e9labor\u00e9 (qui peut aussi \u00eatre aid\u00e9 \u00e0 \u00e9crire avec un syst\u00e8me IA)&#8230; Yaniv, notre tr\u00e8s estim\u00e9 CEO, a par ailleurs \u00e9crit un superbe article \u00e0 ce sujet ! Cependant, les e-mails de spam et le phishing ne sont pas les seuls vecteurs de menace des LLM. Explorons-en quelques autres. De plus grands risques de fuites de donn\u00e9es: l&rsquo;exemple du hack poem poem poem Avez-vous entendu parler du hack poem poem poem qui a divulgu\u00e9 des informations personnellement identifiables (PII) aux attaquants ?Des chercheurs ont r\u00e9ussi \u00e0 extraire des informations professionnelles provenant des donn\u00e9es d&rsquo;entra\u00eenement de ChatGPT avec une tactique tr\u00e8s simple: r\u00e9p\u00e9ter le mot poem encore et encore (ils ont d\u00e9pens\u00e9 seulement $200 de cr\u00e9dits pour cela). Le hack consistait \u00e0 : Les PII qui ont \u00e9t\u00e9 divulgu\u00e9es \u00e9taient compos\u00e9s d&rsquo;exemples de verbatim de donn\u00e9es d&rsquo;entra\u00eenement. Ces verbatim peuvent \u00eatre des citations directes, des listes sp\u00e9cifiques ou tout autre contenu textuel. Ces s\u00e9quences de texte ont \u00e9t\u00e9 m\u00e9moris\u00e9es pendant l&rsquo;entra\u00eenement du mod\u00e8le. Le but de chaque LLM est de g\u00e9n\u00e9rer un nouveau contenu en pr\u00e9disant le mot suivant dans une s\u00e9quence. Si la s\u00e9quence est r\u00e9p\u00e9t\u00e9e de nombreuses fois ou bien si elle est particuli\u00e8rement distinctive, les LLM peuvent finir par g\u00e9n\u00e9rer la s\u00e9quence verbatim mot \u00e0 mot, y compris les PII. Cette vuln\u00e9rabilit\u00e9 tire parti de cette fonctionnalit\u00e9 du LLM : celle d&rsquo;\u00eatre con\u00e7us pour fournir des informations pr\u00e9cises et de maintenir la coh\u00e9rence avec des textes ou des formats bien connus. Par cons\u00e9quent, il est important pour les d\u00e9veloppeurs de mettre en \u0153uvre des strat\u00e9gies pour pr\u00e9venir la fuite de PII par m\u00e9morisation verbatim. Depuis, OpenAI a d\u00e9clar\u00e9 avoir corrig\u00e9 l&rsquo;attaque, mais cet \u00e9v\u00e9nement largement m\u00e9diatis\u00e9 a sensibilis\u00e9 la communaut\u00e9 IA aux risques de s\u00e9curit\u00e9 des LLM. Ceci est un exemple marquant d&rsquo;une attaque par injection de prompt (une attaque de m\u00e9morisation par LLM, pour \u00eatre plus sp\u00e9cifique), qui consiste \u00e0 tromper le LLM pour qu&rsquo;il g\u00e9n\u00e8re la sortie que l&rsquo;attaquant souhaite. Ces attaques peuvent \u00eatre particuli\u00e8rement dangereuses si l&rsquo;attaquant interagit avec un LLM pouvant acc\u00e9der \u00e0 des donn\u00e9es externes pour la r\u00e9cup\u00e9ration de donn\u00e9es (syst\u00e8mes RAG). Risques \u00e9thiques et juridiques En dehors del&rsquo;aspect purement technique li\u00e9s aux exploits des LLM, cette technologie soul\u00e8ve \u00e9galement des questions sur : Ce qui est d\u00e9routant, c&rsquo;est comment quiconque peut tirer parti de ces outils puissants pour construire n&rsquo;importe quoi&#8230; bien que cela soit excitant pour un d\u00e9veloppeur, cela vient avec un tout nouvel ensemble de risques de s\u00e9curit\u00e9. Ce niveau de libert\u00e9 en vaut-il le risque ? Personnellement, je pense que c&rsquo;est le cas : si nous avons un syst\u00e8me juridique fonctionnel, chacun devrait \u00eatre tenu responsable de ses actes, et la m\u00eame chose devrait s&rsquo;appliquer \u00e0 l&rsquo;utilisation des LLM. C&rsquo;est pourquoi nous, en tant que techniciens, portons un lourd fardeau : nous assurer que les outils que nous construisons ne sont pas utilis\u00e9s \u00e0 des fins malicieuses. Un risque peu mentionn\u00e9 mais bien r\u00e9el: la p\u00e9nurie des talents coupl\u00e9e \u00e0 l&rsquo;abstraction de la complexit\u00e9 Il n&rsquo;a jamais \u00e9t\u00e9 aussi facile de construire des applications bas\u00e9es sur la manipulation du langage de nos jours. Avoir l&rsquo;int\u00e9gralit\u00e9 du savoir humain \u00e0 port\u00e9e de main (avec une grande pinc\u00e9e de biais dans la s\u00e9lection des donn\u00e9es d&rsquo;entra\u00eenement, bien s\u00fbr) dans un syst\u00e8me informatique est tr\u00e8s excitant ! Vous\" \/>\n<meta property=\"og:url\" content=\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/\" \/>\n<meta property=\"article:published_time\" content=\"2024-02-29T10:32:59+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-02-29T10:33:00+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/llm_cybersec.webp\" \/>\n\t<meta property=\"og:image:width\" content=\"1024\" \/>\n\t<meta property=\"og:image:height\" content=\"1024\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/webp\" \/>\n<meta name=\"author\" content=\"Yacine Touati\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"\u00c9crit par\" \/>\n\t<meta name=\"twitter:data1\" content=\"Yacine Touati\" \/>\n\t<meta name=\"twitter:label2\" content=\"Dur\u00e9e de lecture estim\u00e9e\" \/>\n\t<meta name=\"twitter:data2\" content=\"12 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#article\",\"isPartOf\":{\"@id\":\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/\"},\"author\":{\"name\":\"Yacine Touati\",\"@id\":\"https:\/\/beta.reboot-conseil.com\/#\/schema\/person\/2947c0a3dd038b2bf559d53fbc9c5576\"},\"headline\":\"Les nouvelles menaces induites par l&rsquo;IA g\u00e9n\u00e9rative: focus sur les LLM\",\"datePublished\":\"2024-02-29T10:32:59+00:00\",\"dateModified\":\"2024-02-29T10:33:00+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/\"},\"wordCount\":2516,\"commentCount\":0,\"publisher\":{\"@id\":\"https:\/\/beta.reboot-conseil.com\/#organization\"},\"image\":{\"@id\":\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/llm_cybersec.webp\",\"keywords\":[\"IA\",\"LLMs\",\"S\u00e9curit\u00e9\"],\"articleSection\":[\"LLM\",\"Uncategorized\"],\"inLanguage\":\"fr-FR\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#respond\"]}]},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/\",\"url\":\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/\",\"name\":\"Les nouvelles menaces induites par l'IA g\u00e9n\u00e9rative: focus sur les LLM -\",\"isPartOf\":{\"@id\":\"https:\/\/beta.reboot-conseil.com\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/llm_cybersec.webp\",\"datePublished\":\"2024-02-29T10:32:59+00:00\",\"dateModified\":\"2024-02-29T10:33:00+00:00\",\"breadcrumb\":{\"@id\":\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#breadcrumb\"},\"inLanguage\":\"fr-FR\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#primaryimage\",\"url\":\"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/llm_cybersec.webp\",\"contentUrl\":\"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/llm_cybersec.webp\",\"width\":1024,\"height\":1024},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Accueil\",\"item\":\"https:\/\/beta.reboot-conseil.com\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Les nouvelles menaces induites par l&rsquo;IA g\u00e9n\u00e9rative: focus sur les LLM\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/beta.reboot-conseil.com\/#website\",\"url\":\"https:\/\/beta.reboot-conseil.com\/\",\"name\":\"AI Squad\",\"description\":\"Dans le doute, Reboot\",\"publisher\":{\"@id\":\"https:\/\/beta.reboot-conseil.com\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/beta.reboot-conseil.com\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"fr-FR\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/beta.reboot-conseil.com\/#organization\",\"name\":\"AI Squad By Reboot Conseil\",\"url\":\"https:\/\/beta.reboot-conseil.com\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/beta.reboot-conseil.com\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2023\/09\/cropped-cropped-Logo-IA-Squad-by-Reboot-Conseil-3.png\",\"contentUrl\":\"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2023\/09\/cropped-cropped-Logo-IA-Squad-by-Reboot-Conseil-3.png\",\"width\":500,\"height\":218,\"caption\":\"AI Squad By Reboot Conseil\"},\"image\":{\"@id\":\"https:\/\/beta.reboot-conseil.com\/#\/schema\/logo\/image\/\"}},{\"@type\":\"Person\",\"@id\":\"https:\/\/beta.reboot-conseil.com\/#\/schema\/person\/2947c0a3dd038b2bf559d53fbc9c5576\",\"name\":\"Yacine Touati\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/beta.reboot-conseil.com\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/6da6ec3d9bbc05c0f70ccbd05c5fa47f4de7a9df9ec40ce281f012db7267c287?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/6da6ec3d9bbc05c0f70ccbd05c5fa47f4de7a9df9ec40ce281f012db7267c287?s=96&d=mm&r=g\",\"caption\":\"Yacine Touati\"},\"sameAs\":[\"https:\/\/ai.rebootconseil.com\"]}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Les nouvelles menaces induites par l'IA g\u00e9n\u00e9rative: focus sur les LLM -","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/","og_locale":"fr_FR","og_type":"article","og_title":"Les nouvelles menaces induites par l'IA g\u00e9n\u00e9rative: focus sur les LLM -","og_description":"Hier, j&rsquo;ai eu le grand plaisir d&rsquo;\u00e9couter un webinaire C2C (la communaut\u00e9 des utilisateurs de Google Cloud) sur le l&rsquo;\u00e9tat des lieux des menaces de l&rsquo;IA g\u00e9n\u00e9rative (GenAI). J&rsquo;ai eu l&rsquo;occasion de poser des questions et d&rsquo;\u00e9couter les experts. Voici un r\u00e9sum\u00e9 de ce que j&rsquo;ai appris pendant cette conf\u00e9rence + quelques recherches suppl\u00e9mentaires. Une nouvelle menace Les LLM permettent des interactions plus fluides et complexes avec nos syst\u00e8mes informatiques. Cela s&rsquo;accompagne d&rsquo;un nouvel ensemble de risques de s\u00e9curit\u00e9 et de contre-mesures. Explorons le nouveau paysage des menaces et les pratiques introduites par cette r\u00e9volution technologique. Comme toujours, lorsqu&rsquo;un nouvel outil est disponible, il peut \u00eatre utilis\u00e9 pour des actions n\u00e9fastes ou positives. L&rsquo;IA g\u00e9n\u00e9rative n&rsquo;\u00e9chappe pas \u00e0 cette r\u00e8gle. Contrairement \u00e0 la programmation traditionnelle, o\u00f9 les entr\u00e9es et sorties peuvent \u00eatre test\u00e9es de mani\u00e8re syst\u00e9matique du fait de leur caract\u00e8re d\u00e9terministe, la nature probabiliste de l&rsquo;I\/O des LLM rend leur s\u00e9curisation tr\u00e8s difficile. C&rsquo;est un nouveau d\u00e9fi pour la communaut\u00e9 de la s\u00e9curit\u00e9, et il est tr\u00e8s difficile. Nous ne sommes plus dans un paradigme o\u00f9 nous pourrions par exemple coder en dur des r\u00e8gles pr\u00e9d\u00e9finies dans un pare-feu&#8230; Les menaces sont maintenant beaucoup plus mouvantes et impr\u00e9visibles du fait du caract\u00e8re al\u00e9atoire des r\u00e9ponses des LLMs. Les attaquants, comme toujours, font constamment preuve d&rsquo;une grande imagination mais tout espoir n&rsquo;est pas perdu : nous pouvons \u00e9galement utiliser l&rsquo;IA pour prot\u00e9ger les syst\u00e8mes IA ! Par exemple, vous pouvez demander \u00e0 un LLM form\u00e9 si un texte ou une s\u00e9quence de textes est suspect, s&rsquo;il constitue une tentative de phishing, etc. Les menaces induites par les LLM sont maintenant officiellement r\u00e9pertori\u00e9es par l&rsquo;OWASP dans une liste d\u00e9di\u00e9e. Oui, c&rsquo;est aussi s\u00e9rieux que \u00e7a. Les spams et les phishing attacks Prenons par exemple les e-mails de spam : vous pouvez maintenant r\u00e9diger des e-mails de spam tr\u00e8s convaincants \u00e0 grande \u00e9chelle. Mais puisque les LLM sont tr\u00e8s bons pour d\u00e9tecter des patterns, il y a une course aux armements entre les spammeurs et les filtres anti-spam. Les spammeurs vont essayer de faire en sorte que leurs e-mails ressemblent de plus en plus \u00e0 des e-mails l\u00e9gitimes, et les filtres anti-spam vont essayer de d\u00e9tecter les subtiles diff\u00e9rences entre les deux. Si vous \u00eates int\u00e9ress\u00e9 par la cr\u00e9ation de votre propre filtre anti-spam, rendez-vous simplement sur Kaggle et \u00e9clatez-vous avec les jeux de donn\u00e9es open source disponibles sur la plateforme pour entra\u00eener votre propre mod\u00e8le ! Cette mani\u00e8re convaincante de r\u00e9diger des courriers ind\u00e9sirables \u00e0 grande \u00e9chelle est \u00e9galement multimodale : avec l&rsquo;image, et maintenant, les mod\u00e8les de g\u00e9n\u00e9ration de vid\u00e9os, et le texte en parole, vous pouvez maintenant construire des sc\u00e9narios complexes, avec plusieurs acteurs, tout cela avec seulement un morceau de logiciel \u00e9labor\u00e9 (qui peut aussi \u00eatre aid\u00e9 \u00e0 \u00e9crire avec un syst\u00e8me IA)&#8230; Yaniv, notre tr\u00e8s estim\u00e9 CEO, a par ailleurs \u00e9crit un superbe article \u00e0 ce sujet ! Cependant, les e-mails de spam et le phishing ne sont pas les seuls vecteurs de menace des LLM. Explorons-en quelques autres. De plus grands risques de fuites de donn\u00e9es: l&rsquo;exemple du hack poem poem poem Avez-vous entendu parler du hack poem poem poem qui a divulgu\u00e9 des informations personnellement identifiables (PII) aux attaquants ?Des chercheurs ont r\u00e9ussi \u00e0 extraire des informations professionnelles provenant des donn\u00e9es d&rsquo;entra\u00eenement de ChatGPT avec une tactique tr\u00e8s simple: r\u00e9p\u00e9ter le mot poem encore et encore (ils ont d\u00e9pens\u00e9 seulement $200 de cr\u00e9dits pour cela). Le hack consistait \u00e0 : Les PII qui ont \u00e9t\u00e9 divulgu\u00e9es \u00e9taient compos\u00e9s d&rsquo;exemples de verbatim de donn\u00e9es d&rsquo;entra\u00eenement. Ces verbatim peuvent \u00eatre des citations directes, des listes sp\u00e9cifiques ou tout autre contenu textuel. Ces s\u00e9quences de texte ont \u00e9t\u00e9 m\u00e9moris\u00e9es pendant l&rsquo;entra\u00eenement du mod\u00e8le. Le but de chaque LLM est de g\u00e9n\u00e9rer un nouveau contenu en pr\u00e9disant le mot suivant dans une s\u00e9quence. Si la s\u00e9quence est r\u00e9p\u00e9t\u00e9e de nombreuses fois ou bien si elle est particuli\u00e8rement distinctive, les LLM peuvent finir par g\u00e9n\u00e9rer la s\u00e9quence verbatim mot \u00e0 mot, y compris les PII. Cette vuln\u00e9rabilit\u00e9 tire parti de cette fonctionnalit\u00e9 du LLM : celle d&rsquo;\u00eatre con\u00e7us pour fournir des informations pr\u00e9cises et de maintenir la coh\u00e9rence avec des textes ou des formats bien connus. Par cons\u00e9quent, il est important pour les d\u00e9veloppeurs de mettre en \u0153uvre des strat\u00e9gies pour pr\u00e9venir la fuite de PII par m\u00e9morisation verbatim. Depuis, OpenAI a d\u00e9clar\u00e9 avoir corrig\u00e9 l&rsquo;attaque, mais cet \u00e9v\u00e9nement largement m\u00e9diatis\u00e9 a sensibilis\u00e9 la communaut\u00e9 IA aux risques de s\u00e9curit\u00e9 des LLM. Ceci est un exemple marquant d&rsquo;une attaque par injection de prompt (une attaque de m\u00e9morisation par LLM, pour \u00eatre plus sp\u00e9cifique), qui consiste \u00e0 tromper le LLM pour qu&rsquo;il g\u00e9n\u00e8re la sortie que l&rsquo;attaquant souhaite. Ces attaques peuvent \u00eatre particuli\u00e8rement dangereuses si l&rsquo;attaquant interagit avec un LLM pouvant acc\u00e9der \u00e0 des donn\u00e9es externes pour la r\u00e9cup\u00e9ration de donn\u00e9es (syst\u00e8mes RAG). Risques \u00e9thiques et juridiques En dehors del&rsquo;aspect purement technique li\u00e9s aux exploits des LLM, cette technologie soul\u00e8ve \u00e9galement des questions sur : Ce qui est d\u00e9routant, c&rsquo;est comment quiconque peut tirer parti de ces outils puissants pour construire n&rsquo;importe quoi&#8230; bien que cela soit excitant pour un d\u00e9veloppeur, cela vient avec un tout nouvel ensemble de risques de s\u00e9curit\u00e9. Ce niveau de libert\u00e9 en vaut-il le risque ? Personnellement, je pense que c&rsquo;est le cas : si nous avons un syst\u00e8me juridique fonctionnel, chacun devrait \u00eatre tenu responsable de ses actes, et la m\u00eame chose devrait s&rsquo;appliquer \u00e0 l&rsquo;utilisation des LLM. C&rsquo;est pourquoi nous, en tant que techniciens, portons un lourd fardeau : nous assurer que les outils que nous construisons ne sont pas utilis\u00e9s \u00e0 des fins malicieuses. Un risque peu mentionn\u00e9 mais bien r\u00e9el: la p\u00e9nurie des talents coupl\u00e9e \u00e0 l&rsquo;abstraction de la complexit\u00e9 Il n&rsquo;a jamais \u00e9t\u00e9 aussi facile de construire des applications bas\u00e9es sur la manipulation du langage de nos jours. Avoir l&rsquo;int\u00e9gralit\u00e9 du savoir humain \u00e0 port\u00e9e de main (avec une grande pinc\u00e9e de biais dans la s\u00e9lection des donn\u00e9es d&rsquo;entra\u00eenement, bien s\u00fbr) dans un syst\u00e8me informatique est tr\u00e8s excitant ! Vous","og_url":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/","article_published_time":"2024-02-29T10:32:59+00:00","article_modified_time":"2024-02-29T10:33:00+00:00","og_image":[{"width":1024,"height":1024,"url":"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/llm_cybersec.webp","type":"image\/webp"}],"author":"Yacine Touati","twitter_card":"summary_large_image","twitter_misc":{"\u00c9crit par":"Yacine Touati","Dur\u00e9e de lecture estim\u00e9e":"12 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#article","isPartOf":{"@id":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/"},"author":{"name":"Yacine Touati","@id":"https:\/\/beta.reboot-conseil.com\/#\/schema\/person\/2947c0a3dd038b2bf559d53fbc9c5576"},"headline":"Les nouvelles menaces induites par l&rsquo;IA g\u00e9n\u00e9rative: focus sur les LLM","datePublished":"2024-02-29T10:32:59+00:00","dateModified":"2024-02-29T10:33:00+00:00","mainEntityOfPage":{"@id":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/"},"wordCount":2516,"commentCount":0,"publisher":{"@id":"https:\/\/beta.reboot-conseil.com\/#organization"},"image":{"@id":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#primaryimage"},"thumbnailUrl":"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/llm_cybersec.webp","keywords":["IA","LLMs","S\u00e9curit\u00e9"],"articleSection":["LLM","Uncategorized"],"inLanguage":"fr-FR","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#respond"]}]},{"@type":"WebPage","@id":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/","url":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/","name":"Les nouvelles menaces induites par l'IA g\u00e9n\u00e9rative: focus sur les LLM -","isPartOf":{"@id":"https:\/\/beta.reboot-conseil.com\/#website"},"primaryImageOfPage":{"@id":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#primaryimage"},"image":{"@id":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#primaryimage"},"thumbnailUrl":"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/llm_cybersec.webp","datePublished":"2024-02-29T10:32:59+00:00","dateModified":"2024-02-29T10:33:00+00:00","breadcrumb":{"@id":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#breadcrumb"},"inLanguage":"fr-FR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/"]}]},{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#primaryimage","url":"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/llm_cybersec.webp","contentUrl":"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2024\/02\/llm_cybersec.webp","width":1024,"height":1024},{"@type":"BreadcrumbList","@id":"https:\/\/beta.reboot-conseil.com\/index.php\/2024\/02\/29\/les-nouvelles-menaces-induites-par-lia-generative-focus-sur-les-llm\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Accueil","item":"https:\/\/beta.reboot-conseil.com\/"},{"@type":"ListItem","position":2,"name":"Les nouvelles menaces induites par l&rsquo;IA g\u00e9n\u00e9rative: focus sur les LLM"}]},{"@type":"WebSite","@id":"https:\/\/beta.reboot-conseil.com\/#website","url":"https:\/\/beta.reboot-conseil.com\/","name":"AI Squad","description":"Dans le doute, Reboot","publisher":{"@id":"https:\/\/beta.reboot-conseil.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/beta.reboot-conseil.com\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"fr-FR"},{"@type":"Organization","@id":"https:\/\/beta.reboot-conseil.com\/#organization","name":"AI Squad By Reboot Conseil","url":"https:\/\/beta.reboot-conseil.com\/","logo":{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/beta.reboot-conseil.com\/#\/schema\/logo\/image\/","url":"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2023\/09\/cropped-cropped-Logo-IA-Squad-by-Reboot-Conseil-3.png","contentUrl":"https:\/\/beta.reboot-conseil.com\/wp-content\/uploads\/2023\/09\/cropped-cropped-Logo-IA-Squad-by-Reboot-Conseil-3.png","width":500,"height":218,"caption":"AI Squad By Reboot Conseil"},"image":{"@id":"https:\/\/beta.reboot-conseil.com\/#\/schema\/logo\/image\/"}},{"@type":"Person","@id":"https:\/\/beta.reboot-conseil.com\/#\/schema\/person\/2947c0a3dd038b2bf559d53fbc9c5576","name":"Yacine Touati","image":{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/beta.reboot-conseil.com\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/6da6ec3d9bbc05c0f70ccbd05c5fa47f4de7a9df9ec40ce281f012db7267c287?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/6da6ec3d9bbc05c0f70ccbd05c5fa47f4de7a9df9ec40ce281f012db7267c287?s=96&d=mm&r=g","caption":"Yacine Touati"},"sameAs":["https:\/\/ai.rebootconseil.com"]}]}},"_links":{"self":[{"href":"https:\/\/beta.reboot-conseil.com\/index.php\/wp-json\/wp\/v2\/posts\/873","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/beta.reboot-conseil.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/beta.reboot-conseil.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/beta.reboot-conseil.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/beta.reboot-conseil.com\/index.php\/wp-json\/wp\/v2\/comments?post=873"}],"version-history":[{"count":5,"href":"https:\/\/beta.reboot-conseil.com\/index.php\/wp-json\/wp\/v2\/posts\/873\/revisions"}],"predecessor-version":[{"id":880,"href":"https:\/\/beta.reboot-conseil.com\/index.php\/wp-json\/wp\/v2\/posts\/873\/revisions\/880"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/beta.reboot-conseil.com\/index.php\/wp-json\/wp\/v2\/media\/881"}],"wp:attachment":[{"href":"https:\/\/beta.reboot-conseil.com\/index.php\/wp-json\/wp\/v2\/media?parent=873"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/beta.reboot-conseil.com\/index.php\/wp-json\/wp\/v2\/categories?post=873"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/beta.reboot-conseil.com\/index.php\/wp-json\/wp\/v2\/tags?post=873"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}