Redacción. La Oficina de Inteligencia Artificial (IA) de la Comisión Europea, creada en el seno de la Dirección General de Redes de Comunicación, Contenido y Tecnologías (CNECT), ha seleccionado a la consultora tecnológica Capgemini para liderar un consorcio que dará soporte en el modelado de ciberamenazas y la evaluación de riesgos vinculados a sistemas avanzados de IA, en el marco de la Ley de Inteligencia Artificial de la Unión Europea (AI Act).
El encargo forma parte del programa de seguridad de la IA de la UE y se centra en evaluar y mitigar los riesgos de ciberofensiva asociados a los modelos de IA de propósito general (GPAI, por sus siglas en inglés).
Según Capgemini, estos modelos adquieren con rapidez capacidades autónomas y de relevancia cibernética, como la detección automatizada de vulnerabilidades, la generación de exploits o la orquestación de ciberataques a gran escala.
La compañía sostiene que, ante este escenario, Europa necesita marcos de evaluación armonizados que permitan desplegar estas tecnologías de forma segura y responsable en toda la UE.
La empresa aportará su experiencia en IA, ciberseguridad y cumplimiento normativo a la misión de la Oficina de IA: el desarrollo y uso de una IA confiable. Su trabajo incluirá el modelado de riesgos emergentes, el desarrollo de herramientas de evaluación, el diseño de metodologías técnicas de cumplimiento y la realización de evaluaciones técnicas bajo demanda.
Además, asistirá a la Oficina en la identificación de riesgos sistémicos y en la aplicación de las obligaciones que la Ley de IA establece para los proveedores de GPAI.
«Mientras Europa implementa el primer marco integral de seguridad de la IA del mundo, esta colaboración con la Comisión Europea refleja nuestro compromiso compartido de garantizar que las tecnologías de IA se desarrollen y desplieguen de manera responsable. Al combinar rigor científico, experiencia operativa y conocimiento en la operativización de una IA de confianza, en Capgemini nos enorgullece contribuir al fortalecimiento de la resiliencia digital de Europa», declaró Andrea Falleni, CEO de la región del sur de Europa de Capgemini y miembro del comité ejecutivo del grupo.
El consorcio incluye también a Wavestone y a la entidad pública francesa Laboratoire National de Métrologie et d’Essais (LNE), que aportan capacidades en gestión de riesgos de ciberseguridad, seguridad operativa, evaluación de IA y evaluación de la conformidad.
Su objetivo es ayudar a la Comisión Europea a mantener el ritmo frente a unas ciberamenazas impulsadas por IA que evolucionan de forma constante y rápida.
