Las herramientas de codificación automatizada basadas en inteligencia artificialEs la combinación de algoritmos planteados con el propósito de crear máquinas que presenten las mismas capacidades que el ser humano. Fuente: opensource.org Más, utilizadas por los nuevos desarrolladores, pueden introducir vulnerabilidades básicas en los proyectos.
La confianza excesiva que un desarrollador ignorante y/o inexperto tenga hacia asistentes de AI, o Inteligencia ArtificialEs la combinación de algoritmos planteados con el propósito de crear máquinas que presenten las mismas capacidades que el ser humano. Fuente: opensource.org Más, pueden devenir en aplicaciones que incluyan vulnerabilidades críticas introducidas por un código automatizado.
Corey Nachreiner, director de Seguridad de WatchGuard Technologies, señaló que herramientas como Copilot de GitHub son una de las más utilizadas entre los nuevos desarrolladores.
GitHub entrena a Copilot utilizando el “big data” de miles de millones de líneas de código que se encuentran en sus repositorios.
Sin embargo, como ocurre con cualquier algoritmo de IA/ML, la calidad de sus resultados depende de la calidad de los datos de aprendizaje que se le introducen y de las instrucciones que se le dan; si alimentas a la Inteligencia ArtificialEs la combinación de algoritmos planteados con el propósito de crear máquinas que presenten las mismas capacidades que el ser humano. Fuente: opensource.org Más con código malo o inseguro, puedes esperar que produzca lo mismo.
De acuerdo con estudios del Centro de Seguridad de NYU hasta el 40% del código generado por Copilot incluye vulnerabilidades de seguridad explotables, y este porcentaje aumenta cuando el propio código del desarrollador contiene vulnerabilidades.
Se considera un problema lo suficientemente grave como para que GitHub se apresure a advertir: “Eres responsable de garantizar la seguridad y la calidad de tu código [cuando utilizas Copilot]”.
Lee también: Alertan por escasa ciberseguridad
Área de aplicación
Marc Laliberte, Director de Operaciones de Seguridad en WatchGuard Technologies, informó que empresas tecnológicas como Cruise, Baidu y Waymo han empezado a probar robotaxis bajo el uso de herramientas de codificación automatizada.
Los robotaxis son automóviles autónomos que ofrecen una experiencia similar a Uber o Lyft, pero sin conductor humano.
Empresas como Baidu afirman que ya han completado con éxito más de un millón de estos viajes autónomos para pasajeros en el que los inversores se ven atraídos por el ahorro de costes al eliminar su mano de obra.
Investigaciones de seguridad han demostrado que los autos conectados a Internet pueden ser hackeados, y los humanos ya han demostrado que se puede diseñar socialmente y “visualmente” la IA.
Cuando se combinan estas dos cosas con un servicio basado en la telefonía móvil que cualquiera puede utilizar, seguramente veremos al menos un incidente de ciberseguridad en el que los actores de amenazas ataquen a los robotaxis por diversión y afán de lucro.