Pesquisadores de segurança desenvolveram um verme de IA em um ambiente de teste que pode se espalhar automaticamente entre agentes de IA generativa – potencialmente roubando dados e enviando e-mails de spam. O risco também afeta a medicina laboratorial da Alemanha e organizações de saúde essenciais como DGKL ou BDL.
Ambos abordam a IA na saúde e na medicina laboratorial nas conferências anuais deste ano.
Para demonstrar os riscos de ecossistemas de IA autônomos e interconectados, um grupo de pesquisadores criou o que eles acreditam ser um dos primeiros vermes de IA generativa, que pode se espalhar de um sistema para outro e potencialmente roubar dados ou implantar malware em procedimentos.
“Basicamente, isso significa que agora você tem a capacidade de realizar um novo tipo de ataque cibernético que nunca existiu antes”, disse Ben Nassi, pesquisador da Cornell Tech, por trás do estudo, à WIRED.
Em um relatório de pesquisa e um site compartilhados exclusivamente com a WIRED, os pesquisadores mostram como o verme de IA pode atacar um assistente de e-mail de IA generativa para roubar dados de e-mails e enviar mensagens de spam – contornando algumas medidas de segurança no ChatGPT e Gemini.
https://sites.google.com/view/compromptmized
