Novo plano da UE visa abordar os riscos e as oportunidades da IA avançada para a cibersegurança.

A Comissão Europeia apresentou um plano para abordar os riscos e aproveitar as oportunidades da inteligência artificial (IA) avançada na cibersegurança .

Embora a IA possa melhorar a segurança, ela também pode ser usada indevidamente para identificar vulnerabilidades, automatizar ataques e aumentar significativamente a escala e a velocidade dos incidentes cibernéticos. O novo plano reunirá países da UE, a indústria e organizações a nível da UE para fortalecer a cibersegurança do nosso ambiente digital contra as vulnerabilidades representadas pela IA avançada.

Ações principais

Avaliação de modelos de IA: A Lei de IA exige que modelos avançados de IA sejam avaliados e seus riscos sejam analisados antes de serem colocados no mercado da UE. A Comissão ajudará a estabelecer uma capacidade de avaliação na UE para fortalecer a avaliação por terceiros das capacidades e riscos da IA em nível global, apoiando a função regulatória do Gabinete de IA .
Acesso a modelos avançados de IA: a Europa precisa de condições claras e transparentes para o acesso aos sistemas de IA mais avançados. A Comissão Europeia trabalhará com a Agência Europeia para a Cibersegurança para definir um plano europeu para o acesso estruturado a capacidades avançadas de IA para a cibersegurança, apoiando organizações públicas e privadas no acesso a modelos avançados de IA.
Testando IA para cibersegurança : A Agência Europeia para a Cibersegurança e o Centro Comum de Investigação da Comissão criarão uma plataforma segura para testar IA para cibersegurança, inclusive utilizando ambientes simulados. Isso proporcionará conhecimento sobre o uso seguro de IA para operadores em setores críticos.
Reforçar a cibersegurança da UE e corrigir vulnerabilidades: A UE deve proteger as suas infraestruturas críticas. Em conformidade com as regras de cibersegurança da UE, as organizações devem intensificar as práticas de higiene cibernética, as medidas de gestão de riscos e os princípios de segurança desde a conceção. Devem também começar a utilizar as capacidades de IA disponíveis para corrigir vulnerabilidades mais rapidamente, bem como para prevenir e responder a ciberataques. A Agência Europeia para a Cibersegurança irá auxiliá-las nesta transição, incluindo orientações, recomendações e boas práticas, bem como uma campanha para proteger o software de código aberto crítico.
Ampliar as capacidades europeias de IA para a cibersegurança: A UE deve continuar a investir nas suas próprias capacidades avançadas de IA. Para tal, estão disponíveis as Fábricas de IA e a futura infraestrutura das Gigafábricas, bem como a capacidade de capital tecnológico europeu, anunciadas no Pacote de Soberania Tecnológica . A Comissão lançará também o Grande Desafio da UE em IA para a cibersegurança, reunindo empresas, investigadores e organizações para desenvolver soluções de IA para a cibersegurança e apoiar o crescimento do mercado da UE.