O advento da IA acelerou a corrida entre ataque e defesa, antes muito dependente do tempo humano. Porém, a IA agêntica foi além e inaugurou uma mudança estrutural no risco cibernético corporativo.
Recentemente, modelos de linguagem da OpenAI invadiram servidores da Hugging Face sem terem sido configurados para isso. Segundo as responsáveis pelos agentes, um modelo “fugiu” de um ambiente de teste de cibersegurança e invadiu a outra organização para obter o gabarito do teste que estava fazendo.
O caso é um alerta de que até os modelos mais avançados podem se comportar como invasores digitais quando colocados dentro de operações sem mecanismos robustos de auditoria, observabilidade e governança.
De acordo com Clayton Oliveira, Cybersecurity Principal da e-Core, essa capacidade dos agentes de identificar vulnerabilidades, analisar sistemas complexos e aprender de forma autônoma, numa velocidade muito superior à humana, mostra ao mercado que a cibersegurança não pode mais ser tratada como um "anexo".
