IA générative en informatique : définition, types, cas d’utilisation et applications en cybersécurité

Aujourd’hui, nous abordons un sujet d’importance sur lequel presque tout le monde a plus d’opinions que de connaissances réelles : l’intelligence artificielle générative et son utilisation dans la gestion IT et la cybersécurité.
Qu’on l’apprécie ou non, l’IA générative est passée des pages de science-fiction à notre quotidien, avec des promesses comme augmenter la productivité, nous soulager des tâches répétitives et nous aider à gérer un contexte technologique et de sécurité de plus en plus complexe.
C’est pourquoi nous allons voir l’essentiel : ce que c’est, quels types d’IA existent, ses applications dans la gestion IT, ainsi que ses avantages potentiels… Mais nous allons aussi analyser les risques et les limites cachés sous une énorme quantité de marketing et de bruit autour du sujet.

Pourquoi l’IA générative transforme-t-elle la gestion informatique ?

Même si Skynet reste encore de la fiction (pour le moment), il est indéniable que l’IA générative modifie le quotidien des RSSI, responsables et gestionnaires des services IT.
Sa pertinence est d’ailleurs transversale :

• Dans l’ITSM, par exemple, elle peut automatiser et personnaliser l’interaction avec les utilisateurs.
• En cybersécurité, elle peut simuler des attaques, analyser des schémas et détecter des menaces de manière proactive.
• Dans la gestion globale des infrastructures IT (on-premise et cloud), elle peut optimiser les ressources et prédire les pannes, par exemple.

C’est pourquoi, qu’on le veuille ou non, le train de l’IA est arrivé en gare et, même si tout ce qui brille n’est pas or (ce qui est une attitude sensée), ignorer un train qui fonce vers nous n’est jamais une bonne stratégie.
Commençons donc par comprendre les fondations de la maison.

Qu’est-ce que l’IA générative et comment fonctionne-t-elle ?

L’IA générative est une branche de l’intelligence artificielle spécialisée dans la création de contenu sous forme de texte, d’images, de code, de son… Cela est rendu possible grâce à l’apprentissage à partir de grands volumes de données durant son entraînement.
C’est une étape de plus vers la promesse éternelle des fans de Star Trek d’un monde dans lequel les machines font le travail difficile pendant que nous peignons ou écrivons des poèmes – sauf que maintenant c’est l’IA qui écrit et peint, pendant que nous continuons à pointer au travail.
Cela représente une nouvelle étape évolutive parmi les principales catégories d’IA, à savoir :

• IA traditionnelle (ou analytique) : Axée sur l’analyse et la classification des données, elle identifie des schémas pour prendre des décisions (par exemple : un système de recommandations ou un filtre anti-spam). Son avantage est une capacité d’analyse supérieure à ce que les humains peuvent faire autrement, en gérant plus de données et en détectant des schémas invisibles à l’œil nu.
• IA prédictive : Utilise des données historiques pour prédire des résultats futurs ou des événements probables (par exemple : prédire la charge d’un serveur ou une panne imminente d’un disque dur).
• IA générative : Va plus loin en utilisant les connaissances acquises pour générer de nouveaux contenus à partir de ses données d’entraînement (par exemple : rédiger une réponse à un ticket, générer un script de mitigation ou créer un code pour interagir avec une API).

Cette IA générative repose sur plusieurs principes fondamentaux :

• LLM (Large Language Models) : Ce sont des modèles de langage à grande échelle, comme GPT-4 ou LLaMA, entraînés avec d’énormes quantités de données. Grâce à cela, ils peuvent générer du langage et du code pertinents selon le contexte (par exemple, dialoguer dans un chat avec un utilisateur en fonction de ses messages).
• RAG (Retrieval-Augmented Generation) : Cette technique permet aux modèles de langage de rechercher de nouvelles informations au-delà de leur entraînement initial. Par exemple, on peut leur fournir de la documentation interne à l’entreprise ou leur permettre de consulter le web pour enrichir leur réponse.
• Multimodalité : La capacité d’un modèle génératif à comprendre et à créer du contenu dans différents formats, comme le texte, les images et/ou le son. Par exemple : un modèle multimodal peut analyser une image pour imiter son style, ou bien examiner un graphique de performances et générer un rapport explicatif en texte.

Quels sont les principaux types d’IA générative et quelles sont leurs applications en gestion IT ?

Toutes les IA génératives ne sont pas identiques, ni ne fonctionnent de la même manière. De même, ce qu’elles génèrent n’a pas la même utilité lorsqu’il s’agit de potentiellement nous aider dans la gestion IT.
Jetons un coup d’œil aux différents types et à leur utilité dans notre travail quotidien.

Modèles transformateurs (GPT et autres LLM)

Lorsque le 31 août 2017, les chercheurs de Google ont publié leur article sur Transformer (une nouvelle architecture de réseau neuronal pour « comprendre » le langage), ils n’anticipaient probablement pas l’ouragan que provoquerait le battement d’ailes de ce papillon.
Depuis, la « compréhension » (notez bien les guillemets) du langage par ces modèles ne se limite plus à l’écrit, elle s’étend aussi à l’audio et aux images.
Pour cela, ils analysent les parties de l’entrée en parallèle via des mécanismes appelés « attention », en attribuant une importance basée sur des calculs mathématiques de similarité (ou poids d’attention). Ensuite, ils fournissent une réponse adaptée à la demande.

Comment cela peut-il nous aider en IT ?

De nombreuses façons, car ce type d’IA est celui qui a le plus d’applications directes dans le travail d’un gestionnaire IT.
Ainsi, il pourrait nous aider à :

• Automatiser les réponses aux tickets ITSM.
• Utiliser des chatbots comme première ligne de support pour les questions simples. Cela évite de devoir répéter à l’utilisateur d’éteindre et de rallumer la machine, sans interrompre notre session de Battlefield pendant les heures de travail.
• Aider à créer du code, si nous avons un doute spécifique sur la manière de le faire. Peut-être avons-nous oublié du CSS ou une syntaxe simple. Pour des tâches complexes ou de grande ampleur… eh bien, au moment d’écrire ces lignes (car personne ne peut prévoir l’évolution de ces choses), cela dépend de votre tolérance au purgatoire du débogage infini.
• Générer des données synthétiques pour des applications internes ou pour remplir une maquette web destinée à la direction, puisqu’on nous a dit qu’utiliser le Chiquito Ipsum n’était pas professionnel…
• Concevoir et améliorer des architectures, en nous donnant des pistes pour optimiser notre infrastructure IT.
• Analyser des logs et de grandes quantités de données. Cela permettrait d’effectuer des optimisations ou des prédictions comme l’usage réseau, les pics de CPU… Cependant, ce ne sont pas les meilleurs outils pour cela, et il vaut mieux utiliser du machine learning classique ou des SIEMs comme Pandora, dotés d’une IA spécialisée dans ces tâches non génératives.

Et comme certains lecteurs l’auront probablement remarqué, certaines des applications les plus intéressantes se trouvent en cybersécurité, telles que :

• Aider dans les tâches Red Team en créant des e-mails de phishing faux mais convaincants.
• Créer des codes d’exploits ou des modèles d’attaques avancés si on leur fournit des informations sur notre infrastructure…

GAN (Generative Adversarial Networks)

Ici, deux réseaux neuronaux s’affrontent. L’un est un générateur qui crée des données fausses, et l’autre un discriminateur qui tente de distinguer les données réelles des données générées.
Cette compétition permet une amélioration continue.

Comment cela peut-il nous aider en IT ?

De diverses façons, avec des applications intéressantes en cybersécurité :

• Par exemple, avec des données synthétiques pour entraîner des systèmes de détection d’intrusions sans exposer de données sensibles réelles. Le générateur crée du trafic réseau malveillant factice, mais réaliste, pour entraîner et améliorer le système de détection (qui serait ici le discriminateur). C’est complexe dans la pratique, et probablement peu rentable dans bien des cas, mais techniquement possible.
• La création de malwares synthétiques, même si cela diffère de ce que ferait un LLM. Avec une approche adversariale et de bonnes données, le modèle pourrait générer des variantes de malware conçues pour tromper les systèmes de sécurité — et nous permettre ainsi de mieux nous y préparer.

VAE (Autoencodeurs variationnels)

Ce sont des modèles qui apprennent une représentation compressée et probabiliste des données d’entrée. À partir de cela, ils peuvent générer de nouvelles instances en tant que variations des données d’origine.

Comment cela pourrait-il nous aider en IT ?

Ici, on pousse un peu loin l’usage d’outils qui ne sont pas forcément adaptés à la gestion IT.
Cependant, un VAE pourrait apprendre la représentation normale de la consommation CPU d’un serveur, par exemple. À partir de là, toute déviation significative de cette représentation pourrait être signalée comme une anomalie potentielle, indiquant une attaque DDoS ou une panne matérielle.
Néanmoins, j’insiste, ce n’est pas l’outil adéquat, et le Machine Learning classique fera un bien meilleur travail ici.

Modèles de diffusion (Diffusion Models)

Ceux-ci sont surtout connus pour la génération d’images (comme Stable Diffusion), et fonctionnent en ajoutant progressivement du bruit aux données d’entraînement. Ensuite, ils apprennent à inverser ce processus pour générer de nouvelles données à partir du bruit.

Comment cela pourrait-il nous aider en IT ?

Encore une fois, les modèles de diffusion ne sont pas les plus utiles pour la routine quotidienne de gestion IT, mais ils pourraient être utilisés pour générer des données synthétiques afin de tester des SIEMs, par exemple.
Cependant, d’autres types d’IA, comme les LLM, sont bien plus adaptés à ces tâches.

Quels sont les avantages de l’IA générative dans la gestion IT ?

Compte tenu de ce qui précède, il est clair que si l’IA peut être correctement intégrée à nos processus de travail, elle pourrait offrir des bénéfices potentiels tels que :

• L’efficacité opérationnelle et réduction des coûts : L’automatisation des tâches répétitives libère les équipes IT pour se concentrer sur des problèmes à plus forte valeur ajoutée. Il est aussi possible de réduire les temps de résolution (MTTR) et les coûts opérationnels.
• L’amélioration potentielle des processus de support : Grâce à une disponibilité 24/7 et à une réponse plus rapide. Si l’IA sait gérer les erreurs simples, cela pourrait améliorer la satisfaction des utilisateurs et la productivité du support.
• Des meilleures décisions : Si l’IA est capable d’analyser des données complexes, elle pourrait faciliter de meilleures décisions, notamment pour optimiser l’infrastructure.

Quels sont les risques et limitations de l’IA générative en IT ?

La section précédente utilise beaucoup de conditionnels et de termes comme “possible” ou “potentiel” pour une bonne raison. Car, à l’heure actuelle, l’IA générative présente encore d’importantes limitations et risques.
Toute personne ayant utilisé cette technologie en profondeur ou comprenant vraiment son fonctionnement sait que, dans la complexité quotidienne du travail, il est essentiel de gérer ces risques.
Sinon, on découvrira rapidement que tout ce qui brille n’est pas de l’or, entraînant des problèmes majeurs aux conséquences graves, dus à…

Biais et hallucinations

C’est un point essentiel qu’il faut bien comprendre, plutôt que de se laisser emporter par le marketing ou les innombrables “gourous” apparus comme des champignons.
Les modèles de langage génèrent souvent des informations incorrectes ou inventées (appelées communément « hallucinations »), et reproduisent les biais présents dans leurs données d’entraînement.
Et cela ne se résout pas avec de nouvelles versions ou un “meilleur” entraînement.
Même OpenAI, créateur du célèbre ChatGPT, a fini par reconnaître ce que tout expert savait déjà :
Les hallucinations sont mathématiquement inévitables et une caractéristique fondamentale des modèles de langage.
Ce ne sont donc pas des erreurs de conception ou des bugs, mais une propriété essentielle et inévitable. Un modèle de langage est comme cet oncle à Noël qui ne sait pas se taire ou dire “je ne sais pas” — il faut être très prudent avec ce qu’il dit ou fait.
C’est pourquoi on ne peut pas lui confier des tâches critiques sans supervision humaine experte.
Voici deux exemples de risques graves en IT :

• Un script d’automatisation généré avec des erreurs peut causer une panne critique.
• Un rapport d’audit ou de conformité réglementaire contenant des erreurs. Le résultat : deux documents redoutés — l’amende pour non-conformité et votre lettre de licenciement.

Vie privée et conformité réglementaire

Je le répète : ne jamais confier une tâche liée à la conformité réglementaire à un modèle de langage sans une vérification humaine experte.
De plus, l’utilisation de modèles publics peut impliquer l’envoi de données sensibles à un environnement externe, enfreignant des réglementations comme le RGPD.
Il est crucial d’utiliser des modèles privés ou de garantir la confidentialité d’une autre manière.

Deepfakes et sécurité

Comme souvent avec une technologie puissante, les acteurs malveillants sont les premiers à l’adopter.
Les modèles de langage représentent donc un risque en cybersécurité, notamment :

• Amélioration des attaques de phishing avec des messages plus convaincants.
• Création de nouveaux malwares, de mécanismes d’évasion ou de stratégies d’attaques sophistiquées.
• Deepfakes visuels ou sonores pour usurper l’identité d’employés ou de PDG dans le cadre d’attaques d’ingénierie sociale.

Comment adopter l’IA générative dans une entreprise IT ?

À la lumière de ce qui précède, comment intégrer l’IA générative pour « ne pas rester à la traîne », sans provoquer de désastres ?
Trois critères fondamentaux :

• Être progressif, en commençant par des projets pilotes limités.
• Être stratégique. C’est-à-dire aligné avec nos objectifs et notre manière de les atteindre (notre culture), plutôt que d’intégrer l’IA de manière artificielle parce que c’est à la mode ou que la peur de manquer (FOMO) nous pousse.
• Appliquer une supervision humaine experte.

Voici donc quelques bonnes pratiques d’implémentation :

• Démarrer par un projet pilote : Choisir un cas d’usage bien défini, comme automatiser un type spécifique de ticket.
• Appliquer la méthode RAG : L’entraînement d’un modèle ne suffit souvent pas. Il faut donc mettre en œuvre des architectures de Retrieval Augmented Generation (génération augmentée par la recherche) pour baser les réponses sur la base de connaissances interne et actualisée de l’entreprise.
• La validation humaine (Human-in-the-Loop) : Les sorties de l’IA, surtout dans des contextes critiques, doivent être validées par un expert humain avant exécution.
• La gouvernance et la sécurité : Définir quels modèles sont utilisés, à quelles fins et comment les données sont traitées.
• L’évaluation des performances : Mesurer les résultats avec des indicateurs tels que : le pourcentage de tickets résolus automatiquement, la réduction du MTTR, la précision des alertes générées, etc.
• L’intégration avec l’ITSM et les outils de supervision : Intégrer l’IA générative à l’ITSM ou aux systèmes de supervision comme Pandora FMS, pour qu’elle agisse comme une couche d’intelligence sur l’opérationnel existant.

Cas pratiques avec Pandora FMS et Pandora SIEM

Les capacités d’IA de Pandora FMS et Pandora SIEM sont spécialisées dans l’analyse et la corrélation. Toutefois, associées à l’IA générative, leurs fonctionnalités natives pourraient être renforcées de plusieurs façons :

• La supervision et l’observabilité : Pandora FMS collecte des millions de métriques, et l’IA générative peut être utilisée pour créer des résumés narratifs de l’état des systèmes, facilitant ainsi la tâche des gestionnaires IT.
• La corrélation des événements en cybersécurité : En cas de cyberattaque, Pandora SIEM reçoit des centaines d’alertes. Un moteur d’IA générative peut produire un rapport narratif consolidé précisant clairement les actions à entreprendre.
• L’automatisation dans l’ITSM : En lien avec le module ITSM, un ticket d’erreur peut proposer une première solution à tester par l’utilisateur, sans intervention humaine. L’IA générative peut répondre à l’utilisateur et même demander la fermeture du ticket si elle constate que le problème est résolu. Elle peut aussi assister le technicien avec des solutions alternatives à tester si le problème persiste.

Quel est l’avenir de l’IA générative dans l’informatique ?

Nous aimons tous jouer les devins, mais les véritables experts du domaine, lorsqu’on leur demande de prédire l’avenir de l’IA, répondent souvent : « Je ne sais pas. »
C’est la réponse honnête, et elle devrait être dite plus souvent.
Mais aujourd’hui, cette attitude est mal vue, et les tendances émergentes indiquent une intégration plus profonde et plus autonome à travers :

• Agents autonomes spécialisés : Non seulement capables de générer des réponses, mais aussi de planifier et d’exécuter des séquences d’actions complexes (par exemple, résoudre un incident de bout en bout de manière autonome).
• Multimodalité dans les opérations : Un modèle capable d’analyser simultanément un journal d’erreurs (texte), un graphique de performance (image) et une métrique de latence (série temporelle) pourrait fournir un diagnostic unifié.
• Intégration avec l’AIOps : L’IA générative deviendra le cerveau narratif et opérationnel des plateformes AIOps, expliquant les causes racines des incidents et automatisant les réponses contextuelles. Comme l’ordinateur de l’Enterprise.

Quel que soit l’avenir, l’IA générative n’est pas simplement un nouvel outil de productivité, mais (pardonnez le cliché) un changement de paradigme.
Sa promesse réside dans des opérations plus efficaces, une sécurité proactive et des services optimisés et résilients.
Pour les responsables IT, le défi n’est plus de savoir s’il faut l’adopter, mais comment le faire de manière sûre, contrôlée et stratégique.
Commencer par des projets pilotes, privilégier l’intégration avec la connaissance interne de l’entreprise et garantir une supervision humaine des processus critiques sont essentiels pour exploiter son potentiel sans introduire de risques ingérables.

FAQs

Résumons les points clés abordés à travers des questions fréquentes.

Quelle est la différence entre l’IA générative et l’IA prédictive ?

L’IA prédictive analyse les données passées pour prévoir des résultats futurs ou des probabilités (par exemple : le serveur X a 80 % de chances de tomber en panne dans les 72 heures).
L’IA générative utilise ses connaissances acquises pour créer un contenu inédit (par exemple : rédiger un script Python pour surveiller le serveur X et éviter la panne).

Quels sont les principaux modèles d’IA générative ?

Les plus pertinents sont :

• Grands modèles de langage (LLM) comme GPT-4, pour la génération de texte et de code. Les plus polyvalents pour un usage informatique quotidien.
• GANs (Generative Adversarial Networks) pour la génération de données et d’images synthétiques.
• Modèles de diffusion principalement utilisés pour la création visuelle.
• VAEs (Variational Autoencoders), potentiellement utiles pour générer des données synthétiques.

Quels risques l’IA générative présente-t-elle pour la cybersécurité ?

Plusieurs, comme sa capacité à produire des attaques de phishing plus convaincantes, des deepfakes, du code malveillant inédit ou même à concevoir des attaques complexes.
Il existe également un risque de fuite de données sensibles si des modèles publics sont utilisés.

Quels avantages apporte-t-elle à l’ITSM et au cloud ?

Dans l’ITSM, elle peut automatiser et accélérer la résolution des tickets, améliorer l’expérience utilisateur et libérer les équipes pour des tâches à plus forte valeur ajoutée.
Dans les environnements cloud, elle permet l’auto-scalabilité intelligente, la prédiction des pannes et l’optimisation des coûts et des ressources.