Guía de Ingeniería de Prompts
Un prompt es el puente de comunicación entre el lenguaje humano y las capacidades computacionales de un modelo de lenguaje (LLM). Se trata de una instrucción o conjunto de datos expresados en lenguaje natural que le indica a la IA la tarea específica que debe realizar.
Técnicas en Ingeniería de Prompts
Podemos dividir las estrategias en tres niveles de sofisticación: razonamiento avanzado, estructura técnica y seguridad/ética.
Blindaje y Seguridad en el Diseño de Prompts
La seguridad en el diseño de prompts es crítica porque los LLM procesan tanto las instrucciones del sistema como las entradas del usuario como lenguaje natural, lo que los hace vulnerables a que un atacante "anule" las reglas originales.