Agentes LLM en Ciberseguridad: Explotando Vulnerabilidades Zero-Day

Agentes LLM en Ciberseguridad: Explotando Vulnerabilidades Zero-Day

El uso de agentes de modelos de lenguaje (LLM) en la explotación de vulnerabilidades ha sido objeto de estudio reciente en el campo de la ciberseguridad. Investigadores han demostrado que estos agentes pueden aprovechar vulnerabilidades del mundo real cuando se les proporciona una descripción de la vulnerabilidad y problemas de captura de bandera simplificados. Sin embargo, su rendimiento es deficiente en vulnerabilidades desconocidas previamente, conocidas como ‘zero-day’. Este artículo presenta un avance significativo: equipos de agentes LLM pueden explotar vulnerabilidades zero-day en entornos reales. Los agentes anteriores enfrentaban dificultades al explorar múltiples vulnerabilidades y planificar a largo plazo de manera individual. Para abordar esto, se introdujo un sistema denominado HPTSA, que incluye un agente de planificación capaz de lanzar subagentes. Este agente planificador explora el sistema y determina qué subagentes convocar, resolviendo así problemas de planificación a largo plazo al probar diferentes vulnerabilidades. Se construyó un benchmark con 15 vulnerabilidades del mundo real, demostrando que el equipo de agentes mejora el rendimiento en comparación con trabajos anteriores en hasta un 4.5%. Es importante destacar que los LLM no están descubriendo nuevas vulnerabilidades, sino que están explotando vulnerabilidades zero-day de maneras novedosas. Este desarrollo es crucial para entender el potencial de un agente de ciberataque autónomo basado en inteligencia artificial. La combinación de LLM que explotan vulnerabilidades con otras IA que pueden descubrir nuevas vulnerabilidades en el código representa un avance significativo en la ciberseguridad y plantea importantes preguntas sobre el futuro de la defensa contra ciberataques.

Los agentes LLM pueden explotar vulnerabilidades zero-day en ciberseguridad mediante un sistema de planificación avanzada.

Fuente: Schneier.com | URL