AI Defense de Cisco, protege el uso y desarrollo de la IA

Cisco prevé un futuro prometedor en el uso de la IA; no obstante, los retos en ciberseguridad son mayores, para ello lanzó una plataforma, AI Defense, para quien la usa, pero también para quien desarrolla Inteligencia Artificial.

Cisco lanzó AI Defense, una solución que protege a las empresas que usan, así como a las que desarrollan aplicaciones con Inteligencia Artificial (IA).

Con el surgimiento de la IA hay nuevos usuarios además de los humanos y los atacantes: Agentes de AI, aplicaciones de IA, robots y humanoides. Estos nuevos elementos generan riesgos diferentes a los conocidos actualmente.

Cada modelo de IA tendrá vulnerabilidades; al no ser estáticas y trabajar con datos vivos, irán cambiando y ,conforme esos modelos de IA se comuniquen con otros, las vulnerabilidades y riesgos se harán exponenciales.

A nivel usuario, la solución AI Defense limita los datos que se colocan en la Inteligencia Artificial, las consultas que se hacen y las respuestas que recibe, a fin de que no se desvié de su propósito creando sesgos en su aprendizaje.

Protege contra el mal uso de las herramientas de IA, fuga de datos y amenazas sofisticadas, las cuales no son detectadas por las herramientas de seguridad existentes.

En 2024, Cisco adquirió Robust Intelligence, una herramienta que valida los modelos de IA, detecta vulnerabilidades a gran escala y genera barandillas para poner límites a esa Inteligencia Artificial, de manera que la solución, garantiza que la IA solo va a aceptar ciertos datos y va a funcionar como el cliente lo desee.

“Las empresas no deben sacrificar el uso la Inteligencia Artificial y su potencial por temas de seguridad y vulnerabilidades no conocidas; solo hay que re imaginar la seguridad ante los riesgos que se pueden dar en este tipo de aplicaciones”, dijo Ramón Viñals, director de ingeniería para Cisco Latinoamérica y líder de IA en la región.

Por su parte, Ghassan Dreibi, director de ciberseguridad para Cisco Americas, señaló que AI Defense es una solución pensada para el mediano y largo plazo, en donde la IA será de uso tan común que, por ende, será el blanco de los atacantes.

AI Defense utiliza también inteligencia, por eso comprende las interacciones, la calidad de los datos, y detecta los riesgos, lanza alerta y pausa posibles ataques.

Un Red Team de validación

A nivel desarrollador, Dreibi explicó que AI Defense actúa como un red Team completo, es decir, un equipo de pentesting que estudia, analiza y detecta vulnerabilidades en los proyectos de desarrollo de aplicaciones de las empresas.

En vista de que muchos desarrolladores utilizan modelos de IA existentes, AI Defense estudia los datos con los que esos modelos se nutren, las bases de datos a las que se conecta, y propicia que la aplicación y su funcionamiento esté apegado a políticas de seguridad.

Lo hace a través de guardias dinámicos, que cuida que la aplicación que se está desarrollando no aprenda de información equivocada.

Con estas dos funcionalidades, Cisco espera que la solución AI Defense sea una plataforma estratégica de negocio, la cual estará lista para ser vendida en todo el mundo a partir de marzo de este año.

AI Defense como plataforma está diseñada para estar cerca del usuario, haciendo inventario de aplicaciones, teniendo control de uso y compliance de la organización; también es defensa y protección al alcance del desarrollador de aplicaciones en un ambiente corporativo.

Disponibilidad

Actualmente, los clientes de lo que fue Robust Intellience son usuarios de la plataforma, a ellos les invitó a seguir al tanto de las integraciones que la herramienta tendrá ahora que forma parte de Cisco.

De entrada, Dreibi señaló que la plataforma irá acogiendo nuevas integraciones de cisco como Multicloud Defense, Secure Access, Splunk y Talos, así como Hypershiled para dar integración adaptativa.

“Las empresas están aprendiendo a usar la Inteligencia Artificial, pero no olvidemos que esta tecnología usa muchos datos, y hay muchas maneras de vulnerarlos; Cisco quiere acompañar a los clientes a utilizar todos los modelos IA de manera simple y segura”, dijo Viñals.

Cisco avanza en su estrategia

La empresa ha realizado muchos lanzamientos en los últimos meses alrededor de ciberseguridad e Inteligencia Artificial ya que, en la estrategia de Cisco, toda la oferta debe basarse en IA.

Te interesa leer: Entrega servicios Premium y Enterprise Agreements con Cisco

Para lograr ese cometido, Cisco definió cinco pilares:

• Infraestructura rápida y sencilla para potenciar la IA, como los AI POD y Hyper Fabric
• Seguridad para IA
• Dar contexto a los datos a través de la herramienta Splunk
• Potenciar el software de Cisco a través de asistentes de IA para hacer más sencillo el uso de las soluciones.
• Servicios para potenciar en los clientes el uso de la IA para sus negocios

AI Defense tiene que ver con el segundo pilar, seguridad para Inteligencia Artificial e Inteligencia Artificial en la ciberseguridad.