La Comisión Europea ha presentado un Plan de Acción para dar una respuesta estructurada a fin de abordar los riesgos y aprovechar las oportunidades que ofrecen los modelos avanzados de Inteligencia Artificial (IA) para la ciberseguridad.
En una nota de prensa, la Comisión señala que “los nuevos modelos avanzados de IA están redefiniendo la ciberseguridad. La IA puede utilizarse indebidamente para detectar vulnerabilidades, automatizar ataques y aumentar la magnitud y la velocidad de los ciberincidentes a un ritmo sin precedentes. Sobre la base del marco jurídico único de la UE en materia de IA y ciberseguridad, el Plan de Acción reunirá a los Estados miembros, la industria y las organizaciones de la UE para reforzar la ciberseguridad de nuestro entorno digital frente a las vulnerabilidades que plantea la IA avanzada”.
“Una seguridad eficaz”, prosigue la nota, “requiere un conocimiento profundo de cómo las nuevas tecnologías pueden utilizarse correctamente, utilizarse indebidamente o explotarse. En virtud del Reglamento de Inteligencia Artificial, los modelos avanzados de IA deben evaluarse, y las medidas de mitigación deben sopesarse cuidadosamente antes de que dichos modelos se introduzcan en el mercado de la UE. Con el fin de fomentar los conocimientos especializados en nuestro territorio, la Comisión pondrá en marcha una convocatoria específica para crear una capacidad de evaluación de la UE que abarque la ciberseguridad, y que se espera que esté operativa en 2027. Esta nueva capacidad contribuirá a la función reguladora de la Oficina de IA al reforzar la evaluación independiente de las capacidades y los riesgos de la IA a escala mundial.”
La Comisión trabajará con la Agencia de la Unión Europea para la Ciberseguridad (ENISA) para definir un plan europeo para el acceso estructurado a capacidades avanzadas de IA para la ciberseguridad. Estas orientaciones servirán para que las organizaciones europeas pertinentes, tanto públicas como privadas, puedan acceder a modelos avanzados de IA.
ENISA y el Centro Común de Investigación de la Comisión crearán una plataforma segura para probar la IA aplicada a la ciberseguridad, lo que incluirá el uso de entornos simulados. Esto proporcionará conocimientos técnicos sobre el uso seguro de la IA a los operadores de sectores críticos, como el financiero, el energético, el sanitario, el del transporte y la Administración pública.
Para estimular el crecimiento del mercado europeo, afirma la nota de la Comisión Europea que ésta “pondrá en marcha el ‘Gran reto de la UE sobre IA para la ciberseguridad’. Este concurso reunirá a empresas, investigadores y organizaciones con el objetivo de desarrollar soluciones de inteligencia artificial para la ciberseguridad.