Pesquisadores de segurança desenvolveram o primeiro mecanismo de defesa funcional que oferece proteção contra ataques “criptanalíticos” usados para “roubar” os parâmetros do modelo que definem como um sistema de IA funciona.
“Sistemas de IA são propriedade intelectual valiosa, e ataques criptanalíticos de extração de parâmetros são a maneira mais eficiente, eficaz e precisa de ‘roubar’ essa propriedade intelectual”, diz Ashley Kurian, autora principal de um artigo sobre o assunto e estudante de doutorado na North Carolina State University. “Até agora, não havia como se defender desses ataques. Nossa técnica oferece proteção eficaz.”
O novo mecanismo de defesa é baseado em uma descoberta central dos pesquisadores sobre ataques criptanalíticos de extração de parâmetros. Ao analisar esses ataques, eles identificaram um princípio central em que cada ataque se baseava. Para entender suas descobertas, é preciso conhecer a arquitetura básica de uma rede neural.
O bloco de construção fundamental de um modelo de rede neural é chamado de “neurônio”. Os neurônios são organizados em camadas e usados em sequência para analisar e responder aos dados de entrada. Assim que os dados são processados pelos neurônios da primeira camada, suas saídas são encaminhadas para uma segunda camada. Esse processo continua até que todos os dados sejam processados pelo sistema. Em seguida, o sistema decide como responder aos dados de entrada.
Informações bibliográficas completas
“Train to Defend: First Defense Against Cryptanalytic Neural Network Parameter Extraction Attacks”Autores: Ashley Kurian e Aydin Aysu, North Carolina State University
Apresentado em: The Thirty-Neonth Annual Conference on Neural Information Processing Systems (NeurIPS 2025), 2 a 7 de dezembro, San Diego, Califórnia.
