https://noticias-ciberseguridad.pages.dev/tags/llm/ Recent content in Llm on Bitácora de Ciberseguridad Hugo es-es Mon, 22 Jun 2026 16:18:18 +0200 https://noticias-ciberseguridad.pages.dev/posts/2026-06-22-promptfoo-la-navaja-suiza-para-evaluar-tus-ia/ Mon, 22 Jun 2026 16:18:18 +0200 https://noticias-ciberseguridad.pages.dev/posts/2026-06-22-promptfoo-la-navaja-suiza-para-evaluar-tus-ia/ <p>Si trabajas con modelos de lenguaje grandes (LLMs) y quieres dejar atrás el ensayo y error, échale un ojo a Promptfoo. Esta herramienta de código abierto, desarrollada en TypeScript, se presenta como una solución integral para evaluar tus prompts, agentes y sistemas RAG (Retrieval Augmented Generation).</p> <p>¿Qué hace exactamente? Promptfoo te permite testear y comparar el rendimiento de diferentes modelos como GPT, Claude o Gemini, entre otros. Su principal utilidad radica en la capacidad de realizar &ldquo;red teaming&rdquo; y escaneo de vulnerabilidades específico para IA. Esto significa que puedes usarla para identificar posibles fallos de seguridad o comportamientos no deseados en tus aplicaciones basadas en IA.</p> https://noticias-ciberseguridad.pages.dev/posts/2026-06-22-inyeccion-de-prompts-el-nuevo-riesgo-en-ia-y-ciberseguridad/ Mon, 22 Jun 2026 15:30:31 +0200 https://noticias-ciberseguridad.pages.dev/posts/2026-06-22-inyeccion-de-prompts-el-nuevo-riesgo-en-ia-y-ciberseguridad/ <h2 id="qué-es-la-inyección-de-prompts">¿Qué es la Inyección de Prompts?</h2> <p>La inyección de prompts es una técnica de ciberataque que aprovecha la forma en que los modelos de inteligencia artificial, especialmente los modelos de lenguaje grandes (LLM), procesan las instrucciones. Consiste en diseñar entradas (prompts) aparentemente inofensivas que, en realidad, buscan provocar un comportamiento no deseado en el modelo. El problema fundamental radica en que los LLM tienen dificultades para distinguir entre las instrucciones originales definidas por el desarrollador y las entradas proporcionadas por el usuario.</p>