GenIA en ciberseguridad: desafíos y riesgos
A pesar de su potencial para acelerar la madurez y resistencia de la ciberseguridad, la GenIA presenta nuevos retos y riesgos.
La lucha contra las amenazas cibernéticas promete un cambio al aprovechar a la Inteligencia ArtificialEs la combinación de algoritmos planteados con el propósito de crear máquinas que presenten las mismas capacidades que el ser humano. Fuente: opensource.org Generativa (GenIA).
La ciberseguridad es una de las principales aplicaciones iniciales de GenIA.
El 72% de las primeras organizaciones encuestadas por Omdia han implementado o están probando la tecnología con este fin.
Los primeros casos de uso se han centrado en tres áreas principales:
- Detección y prevención de amenazas: identificación de anomalías en el tráfico de red y en el comportamiento de los usuarios que indiquen un ciberataque.
Así como la prevención del fraude, mediante el análisis de correos electrónicos y otros contenidos en busca de lenguaje y contexto sospechosos.
La simulación de ataques, la gestión de vulnerabilidades y la automatización de las evaluaciones de riesgos son otros ejemplos. - Respuesta a incidentes: creación de resúmenes concisos para apoyar la toma de decisiones.
Como análisis de los datos de inteligencia sobre amenazas para identificar la gravedad de las amenazas existentes y emergentes.
Así como las vulnerabilidades y los datos sobre incidentes para identificar las causas fundamentales que ayuden a desarrollar estrategias de mitigación. - Capacitación de analistas de centro de operaciones de seguridad (SOC): automatización de tareas rutinarias, repetitivas y que consumen mucho tiempo, como la recopilación de inteligencia sobre amenazas.
Formación adaptable para abordar las lagunas en las competencias de las personas y adquirir experiencia mediante el aprendizaje interactivo con diferentes simulaciones de ataques.
Aumentar las capacidades existentes para apoyar la toma de decisiones.
Te interesaría leer: Siete usos de la Inteligencia Artificial
Retos y riesgos
Mas, a pesar de su potencial para acelerar la madurez y resistencia de la ciberseguridad de las organizaciones, la GenIA presenta nuevos retos y riesgos que deben evaluarse antes de que su adopción se generalice, especialmente en los sectores regulados.
Comprender la diversidad de los datos de entrenamiento y la fiabilidad y precisión de los resultados de la IA, es fundamental para generar confianza.
La transparencia de los algoritmos y la garantía de la privacidad de los datos son igualmente importantes, así como el cumplimiento de la normativa y las normas del sector.
La auditoría sistemática y la supervisión continua son esenciales.
Se necesitan nuevas competencias para integrar y optimizar las herramientas de GenIA.
Pero muchas organizaciones carecen actualmente de recursos técnicos y operativos internos.
También es esencial asegurar los propios modelos y evaluar los nuevos vectores de brechas que provocan.
Hasta ahora se ha prestado poca atención a este aspecto, ya que las organizaciones siguen adelante con las implementaciones.
Todas estas cuestiones deben abordarse antes de que los proyectos pasen de la fase de prueba de concepto a la de producción.
En una encuesta realizada por Candefero en marzo de 2024, sólo el 26% de los distribuidores y encuestados ven como la mayoría o la totalidad de los proyectos de prueba de concepto GenIA de sus clientes pasan a la fase de producción.
La buena noticia es que los proyectos GenIA, suelen contar con presupuestos independientes para crecer.
De acuerdo con los entrevistados en la encuesta de GenAI Enterprise Survey of Early Adopters de Omdia, publicada en mayo de 2024, las empresas definen presupuestos anuales en promedio de 2 millones de dólares para este tipo de proyectos.
Según la encuesta, se espera que los presupuestos aumenten un 29% en 2025, y la cifra definida para esto sea de hasta los 2.6 millones de dólares.
Este hecho, destaca no solo la satisfacción con los resultados iniciales, que se busca cumplan o superen las expectativas.
También la confianza en el potencial de la tecnología para transformar la ciberseguridad y otras áreas.
Incluida la productividad de los empleados, la atención al cliente externo y el marketing personalizado, entre otras.
Te interesaría leer: “Powered by IA”: Inteligencia Artificial en todas partes
Punto de inflexión
El aprovechamiento de la GenIA representa un punto de inflexión en la ciberseguridad.
Para los distribuidores, una oportunidad para evaluar las capacidades de sus proveedores de tecnología.
La GenIA es una tecnología estratégica para la próxima década, creando oportunidades y riesgos
El tema es relevante y se discutirá en la conferencia “Más allá de los límites humanos: GenIA en la ciberseguridad, en los foros de la consultora Canalys, este 2024.
Entre los temas clave a tratar durante ese evento, hay temas como:
Estado actual y tendencias futuras
¿Cuáles son los casos de uso actuales de GenIA en ciberseguridad? ¿Cuáles están ganando terreno en las organizaciones? ¿Cuáles tendrán mayor impacto? ¿Cómo evolucionará en los próximos cinco años?
- Implementación y monetización
¿Cómo abordar la GenIA? ¿Cómo aprovecharla por parte de los distribuidores para mejorar sus competencias? ¿Cómo pueden los socios evaluar las ofertas de los distintos proveedores? ¿Por dónde deben empezar los socios en términos de implementación? ¿Cómo pueden rentabilizar? - Retos y limitaciones
¿Cuáles son los principales retos y limitaciones del uso de GenIA en ciberseguridad? ¿Cómo garantizar la solidez de las soluciones frente a los ataques? ¿Cuáles son las consideraciones sobre privacidad y seguridad de los datos? - Consideraciones éticas
¿Cómo generar confianza en la GenIA para la ciberseguridad? ¿Cuáles son las preocupaciones éticas asociadas a su uso?
El evento de Canalys tendrá foco en las acciones de los fabricantes de tecnología, sus distribuidores y otro tipo de socios.
De igual modo, ofrecerá a los distribuidores la oportunidad de aprender más acerca de las últimas tendencias para llevarlas o adaptarlas a las estrategias de ciberseguridad de sus clientes.