La inteligencia artificial generativa plantea nuevos retos en la defensa digital, mientras las amenazas avanzan a un ritmo alarmante.
La transición de la inteligencia artificial tradicional a la IA generativa está redefiniendo el panorama de la ciberseguridad. Mientras los sistemas tradicionales se limitan al análisis de patrones y la detección de anomalías, la IA generativa introduce capacidades avanzadas que ofrecen tanto oportunidades como desafíos para la seguridad digital.
Héctor Kaschel, Cybersecurity Horizontal Head en Coasin Logicalis, expone que «la IA generativa permite crear contenido adaptativo y simular escenarios complejos, lo cual mejora la capacidad de las organizaciones para anticiparse y reaccionar frente a amenazas dinámicas».
Por otro lado, Kaschel destaca la relevancia de los modelos de lenguaje de gran tamaño (LLM) y las técnicas de Fine-Tuning y Retrieval Augmented Generation (RAG), las cuales permiten una mayor personalización en las respuestas de seguridad y la defensa avanzada contra ciberataques. Sin embargo, también advierte que «la proliferación de herramientas de IA generativa maliciosa como WormGPT, FraudGPT y DarkBART ha elevado el nivel de amenaza digital». Estos modelos permiten a los ciberdelincuentes crear contenido malicioso y ejecutar ataques de manera automatizada, lo que facilita la propagación de técnicas como el phishing y el malware, y reduce las barreras de entrada para los atacantes menos experimentados.
El experto señala que el concepto de Adversarial Machine Learning (AML) está jugando un papel clave tanto en la defensa como en la ofensiva en ciberseguridad. «AML puede ser utilizado para detectar vulnerabilidades en los modelos de IA, pero también por los atacantes para evadir sistemas de detección de amenazas», explica. Este enfoque hace que los ataques sean más sofisticados y difíciles de detectar, lo que incrementa la complejidad de la defensa en ciberseguridad.
«Es esencial implementar entrenamientos robustos de modelos, monitoreo continuo a las organizaciones y fomentar prácticas de IA responsable», concluyó Héctor Kaschel, Cybersecurity Horizontal Head en Coasin Logicalis.
