A rápida adoção da inteligência artificial nas empresas não está sendo acompanhada pelo mesmo nível de preparação para lidar com incidentes. Um levantamento da ISACA aponta que 71% das organizações nunca realizaram um exercício específico de resposta a incidentes envolvendo IA.
Os exercícios são utilizados pelas equipes de segurança para simular situações de crise e verificar como profissionais, processos e ferramentas reagiriam diante de um problema real. No caso da inteligência artificial, os cenários podem envolver desde vazamento de informações e uso indevido de dados até comportamentos inesperados de modelos e comprometimento de sistemas conectados à tecnologia.
Outro dado chama atenção: apenas 3% das organizações pesquisadas possuem um procedimento formal e maduro para responder a incidentes relacionados à IA. O resultado indica uma diferença significativa entre a velocidade de adoção dessas ferramentas e a criação de mecanismos específicos para administrar seus riscos.
A ausência de processos estruturados pode dificultar a identificação de responsabilidades e aumentar o tempo necessário para conter um incidente. À medida que sistemas de IA passam a participar de operações importantes dentro das empresas, planos tradicionais de resposta a ataques podem precisar ser adaptados para novos tipos de falhas e ameaças.
O levantamento reforça a necessidade de incluir inteligência artificial nos exercícios de segurança, planos de continuidade e estratégias de resposta a incidentes, principalmente em organizações que já utilizam IA em processos internos ou serviços oferecidos aos clientes.
