Investigadores de seguridad han desarrollado un gusano de IA en un entorno de prueba que puede propagarse automáticamente entre agentes de IA generativa, robando potencialmente datos y enviando correos electrónicos no deseados. El riesgo también afecta a la medicina de laboratorio alemana y a organizaciones sanitarias de importancia crítica como DGKL o BDL.
Ambos abordan la IA en el sector sanitario y la medicina de laboratorio en los congresos anuales de este año.
Para demostrar los riesgos de los ecosistemas de IA autónomos y conectados, un grupo de investigadores ha creado lo que creen que es uno de los primeros gusanos de IA generativa, capaz de propagarse de un sistema a otro y robar datos o desplegar malware en el proceso.
«Básicamente, significa que ahora tienes la capacidad de realizar un nuevo tipo de ciberataque que nunca antes había existido», dice Ben Nassi, investigador de Cornell Tech que está detrás del estudio, a WIRED.
En un informe de investigación y un sitio web compartidos exclusivamente con WIRED, los investigadores muestran cómo el gusano de IA puede atacar a un asistente de correo electrónico de IA generativa para robar datos de correos electrónicos y enviar mensajes de spam, eludiendo algunas medidas de seguridad en ChatGPT y Gemini.
https://sites.google.com/view/compromptmized
