Las naciones se comprometieron a garantizar la supervisión humana de la IA y su seguridad en todo su ciclo de vida.
28 países llegaron a un acuerdo internacional que establece un entendimiento sobre las oportunidades y riesgos de la inteligencia artificialEs la combinación de algoritmos planteados con el propósito de crear máquinas que presenten las mismas capacidades que el ser humano. Fuente: opensource.org Más (IA), y la necesidad de una colaboración internacional.
En un esfuerzo impulsado por el Reino Unido, AI Safety Summit, los participantes establecieron la declaración sobre seguridad de la IA en Londres.
Te puede interesar leer: Biden firma orden para impulsar una IA segura
En el encuentro, donde también participaron representantes del Instituto Alan Turing, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) y el Instituto Ada Lovelace.
Al cierre del evento, firmaron una declaración en la que se describieron las preocupaciones entorno a estas soluciones y las acciones internacionales a seguir.
El documento destaca que es necesario abordar la supervisión humana de la IA, así como, la ética, mitigación de prejuicios, privacidad y la protección de los datos.
Además de, establecer la “frontera” de la IA, en sus diferentes versiones desde las soluciones básicas hasta los modelos de propósito general altamente capaces.
Si bien, la seguridad debe considerarse en todo el ciclo de vida de la IA, destaca la importancia de trabajar con los inusualmente poderosos y potencialmente dañinos.
Primeros pasos internacionales
Por ello, los firmantes se comprometieron a cooperar para:
- Identificar los riesgos de seguridad de la IA de interés compartido.
- Estar actualizados de las capacidades de esta tecnología, bajo un enfoque global.
- Construir políticas respectivas basadas en riesgos en sus naciones y colaborar internacionalmente.
- Empujar una mayor transparencia por parte de los actores privados, desarrolladores de IA, para contar con métricas de evaluación apropiadas y herramientas de pruebas.