https://noticias-ciberseguridad.pages.dev/tags/red-teaming/ Recent content in Red Teaming on Bitácora de Ciberseguridad Hugo es-es Mon, 22 Jun 2026 16:18:18 +0200 https://noticias-ciberseguridad.pages.dev/posts/2026-06-22-promptfoo-la-navaja-suiza-para-evaluar-tus-ia/ Mon, 22 Jun 2026 16:18:18 +0200 https://noticias-ciberseguridad.pages.dev/posts/2026-06-22-promptfoo-la-navaja-suiza-para-evaluar-tus-ia/ <p>Si trabajas con modelos de lenguaje grandes (LLMs) y quieres dejar atrás el ensayo y error, échale un ojo a Promptfoo. Esta herramienta de código abierto, desarrollada en TypeScript, se presenta como una solución integral para evaluar tus prompts, agentes y sistemas RAG (Retrieval Augmented Generation).</p> <p>¿Qué hace exactamente? Promptfoo te permite testear y comparar el rendimiento de diferentes modelos como GPT, Claude o Gemini, entre otros. Su principal utilidad radica en la capacidad de realizar &ldquo;red teaming&rdquo; y escaneo de vulnerabilidades específico para IA. Esto significa que puedes usarla para identificar posibles fallos de seguridad o comportamientos no deseados en tus aplicaciones basadas en IA.</p>