Una oruga – PIXABAY
Madrid, 4 Mar. (Portaltic/EP) –
Un grupo de investigadores ha creado un gusano informático capaz de propagarse entre agentes de Inteligencia Artificial (IA) generativa, implantar ‘malware’ en ellos y robar datos de los usuarios.
Este gusano, conocido como Morris II en referencia al primer ‘malware’ identificado en 1988, Morris, se ha diseñado para resaltar los peligros de los ecosistemas autónomos y conectados por la IA generativa, según explican los desarrolladores en Wired.
Los expertos, liderados por el investigador de Cornell Tech Ben Nassi junto a Stav Cohen y Ron Britton, demostraron cómo el gusano puede atacar a un asistente de correo electrónico de IA generativa para robar información de los usuarios y enviar ‘spam’, vulnerando la seguridad de ChatGPT y Gemini durante el ataque.
Estos sistemas de IA generativa funcionan mediante instrucciones que permiten a las herramientas responder preguntas o crear imágenes. Sin embargo, estas indicaciones también pueden usarse en su contra para que la IA generativa ignore su propósito principal y sobrepase los límites de seguridad.
Para probar el gusano, los investigadores crearon un sistema de correo electrónico de prueba que utiliza IA generativa de ChatGPT y Gemini, así como el modelo de lenguaje grande de código abierto LLaVA.
En la simulación, un correo electrónico envenenó la base de datos del asistente de correo electrónico usando la generación mejorada por recuperación (RAG), un proceso que permite a los modelos de lenguaje obtener datos adicionales externos.
Una vez que el RAG recuperó el correo electrónico, envió los datos a GPT-4 o Gemini Pro para elaborar una respuesta, infectando posteriormente nuevos ‘hosts’ al ser utilizados en correos electrónicos enviados a nuevos clientes y almacenados en su base de datos.
Además, el equipo de ingenieros probó a distribuir una imagen con un mensaje malicioso incrustado, provocando que el asistente de correo electrónico reenviara el mensaje a otras personas al codificar el mensaje en la imagen.
Este proceso permitió extraer datos de los correos electrónicos, como nombres, números de teléfono y tarjetas de crédito, demostrando la existencia de un «mal diseño de arquitectura» en el ecosistema de IA.
Fuente (para controlar el refrito): https://www.europapress.es/portaltic/ciberseguridad/noticia-crean-gusano-propaga-asistentes-ia-generativa-roba-informacion-instala-malware-ellos-20240304125758.html
