¿Qué es un LLM?
Un LLM es un generador de texto probabilístico que opera sobre tokens en un contexto limitado.
Funcionamiento de un LLM
Un LLM (Large Language Model) funciona fundamentalmente como un generador de texto probabilístico que opera
Tokens y Tokenización en los LLM
La tokenización es el proceso fundamental de dividir el texto en unidades más pequeñas llamadas tokens,
Temperatura
La temperatura es un parámetro que controla cuánto "se arriesga" el modelo
Ventana de Contexto
1. ¿Qué es la ventana de contexto?
Gestion de la ventana de contexto
1. ¿Qué ocupa la ventana de contexto?
Tipos de modelos de IA
2.1 Modelos Frontier (cerrados / API)
Ejecución local de modelos
Guía maestra para ejecutar modelos de lenguaje de código abierto en tu propio equipo, sin depender de servicios externos.
Cuantización de LLMs
La cuantización es el proceso que reduce la precisión numérica de los pesos (y a veces de las activaciones) de una red neuronal. En la práctica, convierte valores representados en formatos de alta precisión como FP32 / FP16 a formatos de menor precisión como INT8, INT4 o incluso INT2.
Apéndice - Referencias
Listado completo de los recursos y referencias utilizados en estos materiales, organizados por categorías con sus respectivos enlaces.