Com o aumento do uso de inteligência artificial (IA) na medicina, os sistemas de análise de imagens médicas têm se tornado alvos frequentes de ataques cibernéticos, comprometendo diagnósticos e colocando em risco a saúde de pacientes. Para enfrentar esse desafio, Erikson Júlio de Aguiar, doutorando do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP), desenvolveu o Radar-Mix, uma ferramenta inovadora que detecta e analisa ataques externos em sistemas de IA. O projeto foi financiado pela FAPESP e orientado pela professora Agma Juci Machado Traina.
Aguiar está expandindo suas pesquisas e apresentará os resultados mais recentes no SPIE Medical Imaging, que ocorrerá entre 16 e 20 de fevereiro na Califórnia, EUA. Além disso, em junho de 2024, ele foi agraciado com o prêmio “Best Student Paper” no 37º Simpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS), realizado em Guadalajara, México. A solução foi detalhada no artigo intitulado “RADAR-MIX: How to Uncover Adversarial Attacks in Medical Image Analysis through Explainability”.
De acordo com Aguiar, ataques hackers podem inserir pequenas alterações ou ruídos em imagens médicas, como as obtidas por raios X e ressonância magnética, confundindo os sistemas e levando a diagnósticos incorretos. O Radar-Mix foi desenvolvido especificamente para mitigar esse tipo de ameaça, fornecendo uma análise detalhada dos ataques.
“A inteligência artificial tem sido uma grande aliada no diagnóstico de doenças, mas, ao mesmo tempo, hackers têm encontrado formas de comprometer esses sistemas. O Radar-Mix é uma ferramenta que permite não só detectar esses ataques, mas também entender como e onde eles acontecem, o que é crucial para garantir a segurança dos diagnósticos”, afirmou Aguiar em um comunicado à imprensa.
O modelo utiliza ferramentas avançadas, como Grad-CAM e SHAP, que ajudam a visualizar as partes de uma imagem que foram alteradas por um ataque. Isso torna a proteção mais eficiente, pois o Radar-Mix não apenas detecta se o sistema foi atacado, mas também explica onde e como o ataque ocorreu, oferecendo uma análise mais completa em comparação a outras soluções existentes.
Segundo a professora Traina, o Radar-Mix tem potencial para ser implementado diretamente em sistemas médicos, protegendo hospitais e centros de diagnóstico contra ataques cibernéticos que possam comprometer o tratamento dos pacientes. “O Radar-Mix foi desenvolvido de forma modular, facilitando sua implementação e adaptação em diferentes contextos. A interposição foi estruturada como um filtro entre o acesso aos serviços e servidores, oferecendo uma camada adicional de segurança e controle”, explicou a docente.
Essa proteção é fundamental, especialmente em um cenário em que o número de ataques cibernéticos a instituições de saúde tem crescido. “Nos Estados Unidos, por exemplo, um ataque pode afetar a reputação de um hospital e levar a grandes prejuízos financeiros e operacionais. O Radar-Mix ajuda a manter a confiança nesses sistemas de IA, o que é crucial tanto para os médicos quanto para os pacientes”, acrescentou Aguiar.
O Radar-Mix está disponível para uso, com o código-fonte aberto para reprodução em outras pesquisas ou para melhorias. Interessados podem acessar e contribuir pelo GitHub. O reconhecimento no CBMS 2024 e a participação no SPIE Medical Imaging ressaltam a relevância da experiência internacional de Aguiar. “O Erikson está trabalhando com grandes nomes na área de segurança em IA e essa vivência no exterior vai contribuir muito para a carreira dele”, concluiu Traina.