Detectan IA que secuestra y ataca a otros modelos

 Investigadores de seguridad han descubierto un agente de inteligencia artificial que busca en Internet sistemas de IA vulnerables y los secuestra para efectuar ciberataques. El hacker autónomo incluye un “modo Skynet”, en referencia al antagonista de IA de la saga cinematográfica Terminator, que permite a los modelos comprometidos realizar hasta 100 mil pasos sin aprobación humana. Descubierto inicialmente por el equipo de Inteligencia de Amenazas de la empresa de ciberseguridad Symantec, este agente de IA ofensivo forma parte de una nueva tendencia denominada LLMjacking, en la que los atacantes infectan el modelo de IA de otra persona. Este tipo de ataque se ha vuelto cada vez más común, ya que permite al atacante utilizar la capacidad de procesamiento y los tokens de IA de la víctima sin pagar por ellos. El secuestro de LLM puede resultar costoso para las víctimas, pero normalmente se utiliza para fines relativamente inofensivos, con el objetivo principal de evitar las costosas tarifas de plataformas de IA como Anthropic y OpenAI. “Lo que distingue a esta herramienta es que el modelo robado no se limita a responder preguntas; planifica e impulsa el ataque”, escribieron los investigadores de Symantec en una publicación de blog que describe a la IA maliciosa. El agente de IA ofensivo utilizó los sistemas comprometidos para efectuar ciberataques autodirigidos, como el robo de datos confidenciales o la implantación de mineros de criptomonedas que generan criptomonedas. “Para lograr que un modelo comercial cooperara, los operadores envolvieron sus instrucciones en un jailbreak que le indicaba que ignorara sus controles de seguridad y que tratara el robo de credenciales como un trabajo de desarrollo rutinario”, revelaron los investigadores. “Una directiva que los operadores denominaban ‘modo Skynet’ describía un bucle que escaneaba objetivos, los infectaba, desplegaba mineros y volvía a infectar a los hosts.” Los investigadores lograron capturar al agente mediante un mecanismo conocido como honeypot de IA, que suplanta la identidad de un servicio de IA desprotegido para atraer a un atacante. Una vez que la IA ofensiva queda atrapada, los investigadores pueden analizarla para ver cómo funciona. El sistema de interceptación de tráfico registró más de 127 mil solicitudes externas procedentes de decenas de miles de direcciones únicas en los meses previos a la publicación del informe de Symantec. Los investigadores concluyeron que la actividad descubierta “marca un cambio en la forma en