Habilidades Maliciosas de IA Eluden Escáneres Estáticos
La intersección entre la inteligencia artificial (IA) y la ciberseguridad presenta desafíos constantes, y un reciente estudio de investigadores de la Universidad de Ciencia y Tecnología de Hong Kong ha puesto de manifiesto una nueva vulnerabilidad. Según sus hallazgos, las “habilidades” o complementos maliciosos diseñados para agentes de codificación de IA pueden eludir los escáneres estáticos de seguridad mediante modificaciones relativamente sencillas.
Estos escáneres, cuya función es detectar software dañino, pueden ser engañados con facilidad. El equipo de investigación demostró que, con solo unos pocos ajustes, el malware puede seguir siendo funcional mientras evade la detección. De hecho, la técnica más potente desarrollada por estos investigadores logró pasar desapercibida para más del 90% de los escáneres evaluados durante sus pruebas. Este descubrimiento subraya una brecha significativa en las defensas actuales contra amenazas emergentes en el ámbito de la IA.
La capacidad de estas habilidades maliciosas para autoextraerse o utilizar un empaquetado específico les permite ocultar su naturaleza dañina de las herramientas de análisis estático. Esto representa un riesgo considerable, ya que los agentes de IA podrían ejecutar código malicioso sin que los sistemas de seguridad lo detecten previamente.
No obstante, el mismo equipo de la Universidad de Ciencia y Tecnología de Hong Kong no solo identificó el problema, sino que también desarrolló una solución. Han creado un verificador en tiempo de ejecución diseñado para detectar la mayoría de estas amenazas. Aunque el estudio resalta una preocupante debilidad en la seguridad de los agentes de IA, también ofrece una dirección prometedora para mitigar estos riesgos mediante herramientas de detección más sofisticadas.
Fuente original: The Hacker News