Surge la Coalición para una IA Segura
La Coalición busca mitigar riesgos como: robo de modelos, envenenamiento de datos, inyección rápida, abuso a escala y ataques de inferencia, con sistemas de IA seguros por diseño.
Fabricantes de tecnología dieron a conocer la Coalición para una IA Segura (CoSAI) para impulsar el desarrollo de un ecosistema colaborativo sobre metodologías de código abierto, y herramientas para crear sistemas de IA seguros por diseño.
La nueva organización se presentó en el Foro de Seguridad de Aspen, del organismo de normalización global OASIS.
Sus patrocinadores fundadores son: Google, IBM, Intel, Microsoft, NVIDIA y PayPal.
“La creación de CoSAI se basó en la necesidad de democratizar el conocimiento y los avances esenciales para la integración y el despliegue seguros de la IA”, afirmó David LaBianca, copresidente del Consejo de Administración de CoSAI en Google.
Junto con Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI y Wiz.
“Nuestro objetivo es eliminar la redundancia y amplificar nuestro impacto colectivo a través de asociaciones clave que se centran en temas críticos”, afirmó Omar Santos, copresidente de la Junta Directiva de Cisco.
Conoce el alcance de su propuesta
El alcance de CoSAI, detalla el comunicado incluye la construcción, integración, implementación y operación segura de sistemas de IA.
“Se centra en mitigar riesgos como el robo de modelos, el envenenamiento de datos, inyección rápida, abuso a escala y los ataques de inferencia”, precisa el texto.
El proyecto tiene como objetivo desarrollar medidas de seguridad integrales que aborden los riesgos clásicos y únicos para estos sistemas.
“Para garantizar la confianza en la IA e impulsar un desarrollo responsable, es fundamental desarrollar y compartir metodologías que mantengan la seguridad en primer plano, identificar y mitigar las posibles vulnerabilidades y conducir a la creación de sistemas que sean seguros por diseño”, enfatiza el documento.
Retos actuales en la seguridad de la IA
Actualmente, menciona, proteger la IA, sus aplicaciones y servicios es una tarea fragmentada.
Los desarrolladores se enfrentan a un mosaico de directrices y estándares que, a menudo, son inconsistentes y están aislados.
Te puede interesar leer: Crece la demanda de talento con habilidades en IA
Por lo que, evaluar y mitigar los riesgos específicos y prevalentes de la IA sin mejores prácticas claras y enfoques estandarizados es un desafío importante incluso para las organizaciones más experimentadas.
Para ayudarles, CoSAI trabajará en el establecimiento de prácticas estandarizadas, que generen confianza entre las partes interesadas a nivel mundial.
Trabajo inicial
Para comenzar la Coalición formará tres grupos de trabajo y espera sumar otros con el tiempo
- Seguridad de la cadena de suministro de software para IA, a fin de mejorar el seguimiento de la composición y la procedencia para proteger las aplicaciones.
- Preparar a los defensores para un panorama cambiante de ciberseguridad.
- Gobernanza de seguridad de la IA, para desarrollar mejores prácticas y marcos de evaluación de riesgos.