IA generativa en IT: qué es, tipos, casos de uso y aplicaciones en ciberseguridad

Hoy tratamos el tema candente en el que casi todo el mundo tiene más opiniones que conocimiento: La inteligencia artificial generativa y su uso en gestión IT y ciberseguridad.
Guste más o menos, la IA generativa ha saltado desde las páginas de ciencia ficción a las de nuestro día a día, con promesas como aumentar la productividad, hacernos el trabajo pesado y ayudar en la gestión de un contexto tecnológico y de seguridad cada vez más complejo.
Por eso, veremos lo más importante: qué es, qué tipos de IA existen, sus aplicaciones en gestión IT, así como sus posibles beneficios… Pero también analizaremos los riesgos y limitaciones que se esconden tras la enorme cantidad de marketing y ruido sobre el tema.

¿Por qué la IA generativa está transformando la gestión IT?

Aunque Skynet siga siendo ficción (de momento), es indudable que la IA generativa está cambiando el día a día de CISOs, responsables y gestores de servicios IT.
Su relevancia, además, es transversal:

• En ITSM, por ejemplo, puede automatizar y personalizar la interacción con el usuario.
• En ciberseguridad puede simular ataques, analizar patrones y detectar amenazas proactivamente.
• En gestión general de infraestructuras IT (on-premise y cloud), puede optimizar recursos y predecir fallos, por ejemplo.

Por eso, guste más o menos, el tren de la IA ha llegado a la estación y, aunque pensemos que no es oro todo lo que reluce (la actitud más sensata), ignorar un tren que viene en nuestra dirección nunca es buena estrategia.
Así que comencemos comprendiendo los cimientos de la casa.

¿Qué es la IA generativa y cómo funciona?

La IA generativa es una rama de la inteligencia artificial que se especializa en la creación de contenido en forma de texto, imágenes, código, audio… Eso es posible gracias al aprendizaje a partir de grandes volúmenes de datos durante su entrenamiento.
Es otro supuesto paso hacia la eterna promesa trekkie de un mundo en el que las máquinas hacen el trabajo duro, mientras nosotros pintamos y escribimos poemas, excepto porque ahora ella escribe y pinta, mientras nosotros seguimos fichando.
Esto supone otra etapa evolutiva dentro de las principales clases de IA, que son:

• IA Tradicional (o Analítica): Centrada en analizar y clasificar datos, identificando patrones para tomar decisiones (ejemplo: Un sistema de recomendación o un clasificador de spam). La ventaja es la mayor capacidad de análisis comparada con lo que podemos hacer los humanos por otros medios, pudiendo manejar muchos más datos y descubriendo patrones que pasarían desapercibidos.
• IA Predictiva: Utiliza datos históricos para predecir resultados futuros o eventos probabilísticos (ejemplo: Predecir la carga de un servidor o un fallo inminente en un disco duro).
• IA Generativa: Va un paso más allá, usando el conocimiento adquirido para generar artefactos nuevos a partir de sus datos de entrenamiento (ejemplo: Redactar una respuesta a un ticket, generar un script de mitigación o crear código para interactuar con una API).

Esta IA generativa tiene varios principios de funcionamiento:

• LLM (Large Language Models): Son modelos de lenguaje a gran escala, como GPT-4 o LLaMA, entrenados con ingentes cantidades de datos. Gracias a ellos pueden generar lenguaje y código relevante para el contexto (como dialogar en un chat con un usuario según lo que este diga).
• RAG (Retrieval-Augmented Generation): Esta técnica permite a los Modelos Masivos de Lenguaje buscar en nueva información que va más allá de aquella con la que han sido entrenados. Por ejemplo, podemos suministrarles documentación privada de nuestra empresa, o que busquen en la web para complementar su entrenamiento y dar una mejor respuesta.
• Multimodalidad: La capacidad de un modelo generativo para entender y crear contenido en diferentes modalidades, como texto, imágenes y/o audio. Ejemplo: Un modelo multimodal podría analizar una imagen proporcionada para imitar su estilo, o bien examinar un gráfico de rendimiento y generar un informe de texto explicativo.

¿Cuáles son los principales tipos de IA generativa y qué aplicaciones tienen en gestión IT?

No todas las IAs generativas son iguales, ni funcionan de la misma manera. Igualmente, lo que generan tampoco tiene la misma utilidad a la hora de que puedan, potencialmente, ayudarnos en la gestión IT.
Echemos un vistazo a los diversos tipos y su utilidad en nuestro trabajo habitual.

Modelos transformadores (GPT y otros LLM)

Cuando el 31 de agosto de 2017 investigadores de Google publicaron sobre Transformer (una novedosa arquitectura de red neuronal para «entender» el lenguaje), probablemente no anticiparon el vendaval que provocaría el batir de las alas de esa mariposa.
Desde entonces, el «entendimiento» (nótense bien las comillas) del lenguaje de estos modelos no solo es escrito, y se extiende a audio o imágenes, por ejemplo.
Para ello, analiza en paralelo las partes del input mediante mecanismos denominados de atención, asignando importancia según cálculos matemáticos de similitud (o pesos de atención). A partir de ahí, proporciona una respuesta acorde a lo demandado.

¿Cómo nos puede ayudar en IT?

De muchas formas, pues este tipo de IA es el que más aplicaciones directas tiene en el trabajo de un gestor IT.
Así, podría ayudarnos:

• Automatizando respuestas a tickets de ITSM.
• Mediante chatbots que sean una primera línea de ayuda ante preguntas sencillas. Eso permite quitarnos de encima repetirle al usuario que apague y encienda la máquina, no interrumpiendo nuestra partida al Battlefield en horas de trabajo.
• Ayudando con la creación de código, si tenemos una duda concreta sobre cómo hacerlo. Quizá se nos ha olvidado CSS o algo sencillo. Para cosas complejas o extensas… Bueno, a la hora de escribir esto (porque nadie puede predecir la evolución de estas cosas) depende de lo que te guste el purgatorio del debugging durante horas interminables.
• Creando datos sintéticos para aplicaciones internas o rellenar el diseño web que presentaremos a dirección, ya que nos dijeron que no era profesional usar el Chiquito Ipsum…
• Diseñando y mejorando arquitecturas. Dándonos pistas sobre cómo optimizar nuestra infraestructura IT.
• Analizando logs y datos masivos. De forma que pueda realizar posibles optimizaciones y predicciones, como por ejemplo de uso de red, picos de CPU… Sin embargo, no son la mejor herramienta y mejor utilizar Machine Learning más clásico y SIEMs como Pandora, que incorporan IA especialista en hacer esto, que no es generativa.

Y como probablemente habrá comprobado más de un lector, algunas de las aplicaciones más interesantes son en ciberseguridad, como por ejemplo:

• Ayudando en tareas de Red Team, creando emails falsos pero convincentes de phishing.
• Creando posibles códigos de exploits o patrones avanzados de ataque si le alimentamos con información de nuestra infraestructura…

GAN (Generative Adversarial Networks)

Aquí se usan dos redes neuronales que compiten entre sí. Una es un generador que crea datos falsos y la otra un discriminador que intenta distinguir entre los datos reales y los generados.
Esta competición hace posible la mejora.

¿Cómo nos puede ayudar en IT?

De diversas formas, con aplicaciones interesantes en ciberseguridad:

• Por ejemplo, con datos sintéticos para entrenar sistemas de detección de intrusiones sin arriesgar con datos reales sensibles. El generador crea tráfico de red malicioso falso indistinguible del real, entrenando y mejorando el sistema de detección (que aquí sería el discriminador). Esto es complejo en realidad y, probablemente, no merezca la pena el esfuerzo en muchos casos, pero no es imposible técnicamente.
• La creación de malware sintético, aunque de manera diferente a cómo lo haría un LLM. Con su enfoque adversarial y buenos datos, podría crear variantes de malware que traten de engañar al sistema y, así, vacunarnos contra eso.

VAE (Variational Autoencoders)

Son modelos que aprenden una representación comprimida y probabilística de los datos de entrada. Con eso, pueden generar nuevas instancias que sean variaciones de los datos originales.

¿Cómo nos podría ayudar en IT?

Aquí ya estamos estirando el chicle y queriendo utilizar herramientas para gestión IT que no son las más adecuadas.
Aun así, un VAE podría aprender la representación normal del consumo de CPU de un servidor que tengamos, por ejemplo. Partiendo de eso, cualquier desviación significativa de esta representación podría marcarse como anomalía en potencia, indicando un DDoS o un fallo de hardware.
No obstante, insisto, no es la herramienta adecuada y aquí el Machine Learning más clásico hará mucho mejor papel.

Modelos de Difusión (Diffusion Models)

Estos suelen ser conocidos por su generación de imágenes (como Stable Diffusion), y funcionan añadiendo ruido gradualmente a los datos de entrenamiento. Luego aprenden a invertir el proceso y generar nuevos datos a partir del ruido.

¿Cómo nos podría ayudar en IT?

De nuevo, los modelos de difusión no son los más útiles para la piedra de Sísifo diaria de la gestión IT, pero podrían ayudar generando datos sintéticos para probar SIEMs, por ejemplo.
Sin embargo, otro tipo de IAs, como los LLM, son muchísimo más adecuados para estas labores.

¿Qué beneficios aporta la IA generativa en la gestión IT?

Considerando lo anterior es indudable que, si la IA se puede integrar correctamente en nuestros procesos de trabajo, obtendríamos beneficios potenciales como:

• Eficiencia operativa y menos costes: Automatizar tareas repetitivas libera a los equipos IT para centrarse en problemas de mayor valor. Igualmente, hay potencial para reducir tiempos de resolución (MTTR) y costes operativos.
• Posible mejora en los procesos de Soporte: Al tenerlo 24/7 y con respuesta más rápida. Si la IA es competente resolviendo errores sencillos, podría aumentar la satisfacción del usuario y la productividad de soporte.
• Mejora en las decisiones: Si la IA es capaz de realizar buenos análisis de datos complejos, podría facilitar mejores decisiones sobre optimización de infraestructura, por ejemplo.

¿Qué riesgos y limitaciones tiene la IA generativa en IT?

El apartado anterior no está lleno de condicionales y términos como posible o potencial por casualidad. Porque a la hora de escribir estas líneas, la IA generativa tiene importantes limitaciones y riesgos.
Cualquiera que haya usado a fondo la tecnología, o conozca de verdad cómo funciona, sabe que, en el día a día complejo de un trabajo y sus mil imprevistos, es fundamental gestionar esos riesgos.
De lo contrario, pronto veremos que no es oro todo lo que reluce, provocando problemas importantes con consecuencias graves, por culpa de…

Sesgos y alucinaciones

Esto es clave y hay que entenderlo bien, en lugar de dejarse llevar por el marketing y los mil gurús que han surgido sobre el tema como champiñones.
Los modelos de lenguaje generan a menudo información incorrecta o inventada (denominada comúnmente «alucinaciones»), así como perpetuar sesgos presentes en sus datos de entrenamiento.
Y esto no se resuelve con nuevas versiones ni «mejor» entrenamiento.
Hasta la propia OpenAI, creadora del famoso ChatGPT, ha reconocido finalmente lo que cualquiera con un mínimo conocimiento sabía:
Las alucinaciones son matemáticamente inevitables y una característica fundamental de los modelos de lenguaje.
Por tanto, no son un problema de ingeniería ni un fallo, son un rasgo esencial e inevitable. Un modelo de lenguaje es tu cuñado en Navidad incapaz de callarse o decir «no lo sé», y hay que tener mucho cuidado con lo que dice y hace.
Por eso, no puedes encargarle tareas críticas sin supervisión humana experta.
He aquí un par de ejemplos de riesgos graves en IT:

• Un script de automatización generado con errores podría causar una interrupción crítica.
• Una elaboración de informes de auditoría o legislación que debamos cumplir sale de nuevo con errores. Las consecuencias son dos papeles que nunca quieres ver: la multa astronómica por incumplimiento y tu finiquito.

Privacidad y cumplimiento normativo

Voy a repetir por si acaso que, absolutamente nunca, debemos encargar a un modelo de lenguaje algo relacionado con cumplimiento normativo sin revisión posterior de un humano experto.
Pero es que, además, usar modelos públicos puede implicar el envío de datos sensibles de la empresa a un entorno externo, incumpliendo regulaciones como el RGPD.
Es crucial usar modelos privados o asegurar dicha privacidad de otras formas.

Deepfakes y seguridad

Como suele pasar con una tecnología con potencial, los actores maliciosos van por delante a la hora de adoptarla.
Así, los modelos de lenguaje son un riesgo de ciberseguridad, con ejemplos como:

• La mejora de los ataques de phishing con mensajes más elaborados y persuasivos.
• El uso en creación de nuevo malware, mecanismos de evasión o diseño de ataques sofisticados.
• Deepfakes de imagen o audio para delitos como suplantación de trabajadores o CEOs en ataques de ingeniería social.

¿Cómo adoptar la IA generativa en una empresa de IT?

Visto lo anterior, ¿cómo integramos la IA generativa para «no quedarnos atrás», pero no provocar desastres?
Tres criterios básicos:

• Ser gradual, con proyectos piloto limitados.
• Ser estratégico. Es decir, alineado con nuestros objetivos y cómo los conseguimos (nuestra cultura), en lugar de meter IA con calzador de cualquier manera, porque es la moda o el FOMO nos devora.
• Aplicar supervisión experta humana.

Así, algunas mejores prácticas de implementación serían:

• Comenzar con un proyecto piloto: Eligiendo un caso de uso acotado, como automatizar un tipo específico de ticket.
• Aplicar RAG: El entrenamiento de un modelo puede no ser suficiente. Por eso, debemos implementar arquitecturas de Retrieval Augmented Generation que ya he explicado, para tener respuestas basadas en la base de conocimiento interna y actualizada de la empresa.
• Validación Humana (Human-in-the-Loop): Establecer que las salidas de la IA, especialmente en entornos críticos, sean validadas por un experto humano antes de su ejecución.
• Gobernanza y Seguridad: Definiendo qué modelos se usan, para qué, y cómo gestionamos los datos.
• Evaluación del desempeño: Midiendo resultados con métricas como: % tickets resueltos automáticamente, reducción del MTTR, precisión de alertas generadas…
• Integración con ITSM y monitorización: Integrando la IA generativa con el ITSM o los sistemas de monitorización como Pandora FMS, para actuar como una capa de inteligencia sobre la operativa actual.

Casos prácticos con Pandora FMS y Pandora SIEM

Las capacidades IA de Pandora FMS y Pandora SIEM son las especialistas en análisis y correlación. Sin embargo, es cierto que, coordinadas con IA generativa, podríamos potenciar sus capacidades nativas de maneras como:

• Monitorización y observabilidad: Pandora FMS, al recopilar millones de métricas, puede usar IA generativa para crear resúmenes narrativos de los estados de los sistemas, que faciliten la vida del gestor IT.
• Correlación de eventos en seguridad: Pandora SIEM, ante un ciberataque, recibe cientos de alertas. Un motor de IA generativa puede generar un informe narrativo consolidado que especifique de manera clara las acciones a tomar.
• Automatización en ITSM: Conectando con el módulo de ITSM, un ticket de error puede permitir una primera solución que pueda probar el usuario, sin intervención humana. La IA generativa puede responder a la interacción con el usuario e incluso avisar para el cierre del ticket si comprueba su resolución. Igualmente, puede ayudar al técnico con posibles remedios que probar, si no se arregla en primera instancia.

¿Cuál es el futuro de la IA generativa en IT?

A todos nos encanta ejercer de adivinos, pero los verdaderos sabios en esto, cuando han de predecir el rumbo de la IA, responden con: «No lo sé».
Es lo honesto y se debería decir más a menudo.
Pero estos tiempos castigan eso y las tendencias emergentes apuntan a una integración más profunda y autónoma mediante:

• Agentes autónomos especializados: Que no solo generan una respuesta, sino que planifican y ejecutan secuencias de acciones complejas (ejemplo: resolver un incidente de principio a fin de forma autónoma).
• Multimodalidad en operaciones: Un modelo que analiza simultáneamente un log de errores (texto), un gráfico de rendimiento (imagen) y una métrica de latencia (serie temporal) podría ofrecer un diagnóstico unificado.
• Integración con AIOps: La IA generativa se convertirá en el cerebro narrativo y de acción de las plataformas AIOps, explicando las causas raíz de los incidentes y automatizando las respuestas de forma contextual. Como la computadora del Enterprise.

Independientemente del futuro, la IA generativa no es una simple herramienta de productividad, sino (perdón por el tópico) un cambio de paradigma.
Su promesa es una operación más eficiente, una seguridad más proactiva y servicios optimizados y resilientes.
Para los responsables IT, el reto ya no es si adoptarla, sino cómo hacerlo de forma segura, controlada y estratégica.
Comenzar con proyectos piloto, priorizar la integración con nuestro conocimiento corporativo y un control humano sobre los procesos críticos son claves para aprovechar su potencial sin introducir demasiados riesgos inmanejables.

FAQs

Resumamos los puntos clave que hemos visto en preguntas habituales.

¿Qué diferencia hay entre IA generativa e IA predictiva?

La IA predictiva analiza datos pasados para predecir resultados futuros o probabilidades (ejemplo: El servidor X tiene un 80% de probabilidades de fallar en 72 horas).
La IA generativa usa el conocimiento con el que se ha entrenado para crear contenido que no existía (ejemplo: Escribe un script en Python que monitorice ese servidor X y evite el fallo).

¿Cuáles son los principales modelos de IA generativa?

Los más relevantes son:

• Grandes Modelos de Lenguaje (LLM) como GPT-4 para generación de texto y código. Los más polivalentes para el día a día en IT.
• Redes adversarias GANs para la generación de datos sintéticos e imágenes.
• Modelos de Difusión. Para creación visual sobre todo.
• VAE (Variational Autoencoders). Posiblemente útiles para crear datos sintéticos.

¿Qué riesgos plantea la IA generativa en ciberseguridad?

Varios, como su potencial para crear phishing más convincente, deepfakes, nuevo código malicioso o incluso diseñar ataques complejos.
Además, existe el riesgo de fuga de datos sensibles si usamos modelos públicos.

¿Qué beneficios aporta en ITSM y cloud?

En ITSM, puede automatizar y agilizar la resolución de tickets, mejorar la experiencia del usuario y liberar equipos para tareas de mayor valor.
En cloud puede permitir un autoscaling inteligente, predecir fallos y optimizar costes y recursos.