Notas

Tu agente confía en la descripción de la herramienta. Ahí está el agujero.

Para un modelo de lenguaje no hay diferencia entre los datos que le diste y una instrucción: lee todo como un posible comando. Ese solo hecho es toda la seguridad de los agentes de IA. Aquí va cómo convierte una herramienta útil en un vector de exfiltración de datos, por qué un prompt no puede arreglarlo, y la única regla estructural — la lethal trifecta (la tríada letal) — que te dice cuándo tu agente es realmente peligroso.

• agents
• security
• methodology