Matriz de Gravidade de Incidentes de IA Generativa: Modelo de Pontuação Personalizado para Resposta de Cibersegurança

Incidente de Tecnologia da Informação (TI):

Um incidente de TI é qualquer interrupção não planeada ou redução na qualidade de um serviço de TI. Os incidentes variam desde problemas menores, como uma aplicação lenta, até interrupções críticas, incluindo falhas de servidor. A Gestão de Incidentes (IM) visa lidar com estes incidentes de forma eficaz, garantindo que os serviços de TI sejam restaurados prontamente.

Incidente Cibernético:

Uma ocorrência que pode comprometer a confidencialidade, integridade ou disponibilidade de informações ou de um sistema de informação, ou constitui uma ameaça às políticas ou procedimentos de segurança.

Resposta a Incidentes Cibernéticos e Níveis de Severidade:

A Resposta a Incidentes (IR) é um processo organizado que uma organização segue para recuperar de um incidente de segurança. O objetivo principal de um programa de Resposta a Incidentes de cibersegurança é limitar os danos e reduzir o custo e o tempo de recuperação de uma violação de segurança, garantindo a continuidade do negócio e preservando a integridade dos sistemas e dados.

\ Os incidentes devem ter diferentes níveis de severidade porque nem todos os eventos têm o mesmo impacto no negócio. Atribuir um nível de severidade é um passo crítico que determina a velocidade e o âmbito dos recursos dedicados à resposta.

Incidente de IA Generativa e Matriz de Severidade:

O uso geral de métodos de Inteligência Artificial (IA), incluindo IA Generativa (GenAI) e modelos de linguagem grandes (LLMs) para atividades pessoais e profissionais, tornou-se possível devido aos avanços tecnológicos nos sistemas Generative Pre-trained Transformer (GPT). As aplicações de GenAI criaram novos riscos de segurança, que exigem que as equipas de segurança da informação ampliem as suas responsabilidades de proteção para estes sistemas.

\ Os tipos de incidentes possíveis incluem chatbots enganando clientes, dados vazados por Agentes de IA, e muitos mais. O Centro de Operações de Segurança (SOC) e as equipas de Resposta a Incidentes (IR) necessitam de uma matriz de severidade aplicada para incidentes de IA para criar um sistema padronizado que determine os efeitos reais e níveis de severidade de eventos relacionados com IA.

\ A ferramenta descrita no artigo funciona para determinar os níveis de severidade de incidentes para a distribuição adequada de recursos de IR. O novo sistema integra dados numéricos com fatores de avaliação humana usando um método de avaliação baseado em matriz.

\ A Matriz contém cinco 'Dimensões de Impacto' que avaliam os efeitos na Funcionalidade da IA, Integridade dos Dados, Disponibilidade Operacional, Reputação e esforços de Remediação.

\ A ferramenta permite a avaliação de cada dimensão através de um sistema de pontuação, que pode ter pontuações Baixa (1), Média (2), Alta (3) ou Crítica (4).

Fatores a Considerar Antes da Declaração de Incidente:

Uma avaliação preliminar precisa ocorrer antes de declarar um incidente de IA porque ajuda a estabelecer a necessidade de recursos substanciais e procedimentos de triagem imediatos. Os sistemas de IA possuem características distintas que os distinguem de todos os outros sistemas.

\ A avaliação precisa identificar quais sistemas de IA participaram no incidente e determinar a sua importância para a segurança operacional e operações de negócio. Alguns exemplos de sistemas são chatbots, modelos de visão computacional, sistemas de recomendação, agentes personalizados, etc. A avaliação do impacto funcional requer que os investigadores analisem como o design operacional muda quando os sistemas de IA encontram ataques adversários.

\ O sistema mostra diferentes níveis de mau funcionamento, que incluem problemas de desempenho menores que afetam a precisão e velocidade, e problemas maiores que resultam em falhas do sistema e resultados perigosos ou injustos. Alguns problemas de desempenho podem estar relacionados com precisão reduzida e latência aumentada nas respostas do modelo.

\ O sistema requer a identificação de duas coisas de acordo com a estrutura ATLAS: a natureza da anomalia detetada e se ela decorre de um ataque adversário ou mau funcionamento do sistema. MITRE ATLAS (MITRE, 2025) permite aos utilizadores identificar técnicas de ataque específicas (por exemplo, Injeção de Prompt LLM, Envenenamento de Dados de Treino, Negação de Serviço de IA), que mostram tanto os objetivos do ataque quanto a sua classificação correspondente.

\ A avaliação inclui verificação da integridade e confidencialidade dos dados, verificando qualquer comprometimento de dados de treino ou validação e informações sensíveis (PII, PHI, IP do modelo proprietário) e exfiltração. O processo de avaliação deve determinar quanto a saída do sistema de IA afeta elementos operacionais e sistémicos do serviço de negócio que dependem dos seus resultados. Deve ser feita uma determinação sobre a extensão do perigo físico, bem como da perda financeira para o negócio.

Calculando a Severidade do Incidente Declarado

A avaliação de incidentes declarados necessita de métodos padronizados para estabelecer procedimentos de resposta adequados. A avaliação da severidade do incidente requer tanto pontos de dados numéricos quanto julgamento humano através de sistemas baseados em matriz para alcançar uma avaliação precisa. O nível de severidade do incidente atinge o seu valor máximo de qualquer categoria de impacto relevante, o que permite que elementos graves aumentem todo o incidente para um status de prioridade mais alta.

O sistema de pontuação para cada dimensão relevante (A-E) vai de 1 a 4 para determinar a severidade do incidente para as organizações. A classificação de severidade do incidente torna-se a pontuação máxima de todas as dimensões avaliadas, o que determina o nível de severidade completo. O incidente pode atingir o status 'Crítico' se a pontuação de Impacto Funcional for '2', mas o Impacto de Dados atingir '4' enquanto outras dimensões variam de '1' a '2'. O processo de avaliação estruturado permite que as organizações obtenham resultados padronizados enquanto aceleram o processo de avaliação.

\ As organizações precisam escolher entre implementar esta estrutura como está ou criar a sua própria versão que corresponda aos seus sistemas de cálculo existentes para estabelecer níveis de severidade de Incidentes de IA.

Priorizar Riscos Com Base na Severidade do Incidente de IA:

O cálculo do nível de severidade ajuda as equipas de resposta a incidentes a decidir quais riscos precisam de atenção imediata ao planear a sua resposta e alocar recursos. A resposta a incidentes graves exige uma implantação imediata de uma equipa especializada composta por especialistas em Cibersegurança, Engenheiros de IA/ML, Cientistas de Dados, profissionais Jurídicos e representantes de RP. A resposta a incidentes com níveis de severidade mais baixos precisa de menos pessoal para gerenciá-los.

\ Incidentes críticos precisam de notificação imediata de executivos e membros do conselho, equipa jurídica, órgão regulador e partes interessadas públicas, mas incidentes de baixa severidade devem receber apenas compartilhamento limitado de informações internas. Desligamentos de sistema, juntamente com desconexões de API, funcionam como mecanismos de primeira defesa que impedem que incidentes de alta severidade se espalhem. O processo de contenção para incidentes de severidade mais baixa precisa impedir que ocorram grandes interrupções operacionais.