Las notas técnicas, los parámetros y las respuestas están actualmente en inglés.
Atención y máscaras
Lee el método, cambia una entrada y compara las exportaciones.
Atención causal
Future positions must receive zero probability.
Cálculo / simulación local · Abrir laboratorio ↗Contexto bidireccional
Removing the mask exposes future keys.
Cálculo / simulación local · Abrir laboratorio ↗Atención concentrada
Larger logits concentrate probability on the largest visible score.
Cálculo / simulación local · Abrir laboratorio ↗Atención uniforme
Equal visible logits yield uniform weights.
Cálculo / simulación local · Abrir laboratorio ↗Atención suave
A smaller scale moves weights toward uniform without changing visibility.
Cálculo / simulación local · Abrir laboratorio ↗Geometría de embeddings
Lee el método, cambia una entrada y compara las exportaciones.
Vecinos por coseno
A large document norm should not dominate cosine ranking.
Cálculo / simulación local · Abrir laboratorio ↗Sesgo de norma del producto escalar
The long vector may outrank a better-aligned short vector.
Cálculo / simulación local · Abrir laboratorio ↗Rotación de consulta
Rotating the query changes which document aligns best.
Cálculo / simulación local · Abrir laboratorio ↗Dirección opuesta
Opposite vectors receive negative cosine scores.
Cálculo / simulación local · Abrir laboratorio ↗Vector cero
The lab returns zero scores for an undefined cosine denominator.
Cálculo / simulación local · Abrir laboratorio ↗Caché KV y páginas
Lee el método, cambia una entrada y compara las exportaciones.
GQA de referencia
Eight KV heads use one quarter the cache of 32 heads.
Cálculo / simulación local · Abrir laboratorio ↗Caché multihead
More KV heads scale cache bytes linearly.
Cálculo / simulación local · Abrir laboratorio ↗Caché multiquery
One KV head sharply reduces logical cache size.
Cálculo / simulación local · Abrir laboratorio ↗Lote de contexto largo
Sequence and batch size multiply memory demand.
Cálculo / simulación local · Abrir laboratorio ↗Fragmentación de páginas
One extra token allocates an additional page per sequence.
Cálculo / simulación local · Abrir laboratorio ↗Entrena una red neuronal
Entrena una red neuronal pequeña y observa cómo aprende.
Aprender cuadrantes XOR
A nonlinear hidden layer can fit this non-linearly separable task.
Entrenamiento real en el navegador · Abrir laboratorio ↗Capa oculta insuficiente
One hidden unit limits the available decision boundaries.
Entrenamiento real en el navegador · Abrir laboratorio ↗Aprendizaje lento
A lower learning rate may need more epochs.
Entrenamiento real en el navegador · Abrir laboratorio ↗Clasificación circular
The hidden layer can approximate a curved boundary.
Entrenamiento real en el navegador · Abrir laboratorio ↗Sensibilidad a la semilla
Initialization and sampled data affect the learning trajectory.
Entrenamiento real en el navegador · Abrir laboratorio ↗Agentes con límites
Lee el método, cambia una entrada y compara las exportaciones.
Aprobación humana
A write pauses without the mock approval toggle.
Cálculo / simulación local · Abrir laboratorio ↗Escritura simulada autorizada
Approval permits only the local mock write.
Cálculo / simulación local · Abrir laboratorio ↗Lista de herramientas permitidas
A disallowed calculator call stops the workflow.
Cálculo / simulación local · Abrir laboratorio ↗Presupuesto agotado
The second paid action is blocked before exceeding budget.
Cálculo / simulación local · Abrir laboratorio ↗Truncamiento de memoria
Only the latest result survives FIFO truncation.
Cálculo / simulación local · Abrir laboratorio ↗Búsqueda híbrida y reranking
Lee el método, cambia una entrada y compara las exportaciones.
Fusión híbrida
Combining independent ranks can promote shared candidates.
Cálculo / simulación local · Abrir laboratorio ↗Solo búsqueda léxica
Exact query words alone set the ranking.
Cálculo / simulación local · Abrir laboratorio ↗Solo búsqueda densa
Only vector direction determines the ranking.
Cálculo / simulación local · Abrir laboratorio ↗Límite del reranking oráculo
Perfect labels can improve ordering only inside the candidate pool.
Cálculo / simulación local · Abrir laboratorio ↗Falta de candidatos
Even an oracle cannot recover documents excluded before reranking.
Cálculo / simulación local · Abrir laboratorio ↗Auditoría de jueces LLM
Lee el método, cambia una entrada y compara las exportaciones.
Acuerdo mixto del juez
Agreement and order consistency measure different properties.
Cálculo / simulación local · Abrir laboratorio ↗Acuerdo perfecto
Perfect labels yield agreement and consistency of one.
Cálculo / simulación local · Abrir laboratorio ↗Elegir siempre el primero
Selecting the first position fails swap consistency.
Cálculo / simulación local · Abrir laboratorio ↗Datos con muchos empates
A large tie class can make aggregate agreement misleading.
Cálculo / simulación local · Abrir laboratorio ↗Error consistente
A judge can be order-consistent and disagree with every human label.
Cálculo / simulación local · Abrir laboratorio ↗Routing y fallback
Lee el método, cambia una entrada y compara las exportaciones.
Routing de dos niveles
Most traffic uses the cheap path; failures add strong-model cost.
Cálculo / simulación local · Abrir laboratorio ↗Solo modelo potente
Strong-only routing provides a simple cost baseline.
Cálculo / simulación local · Abrir laboratorio ↗Fallback frecuente
High fallback frequency can erase routing savings.
Cálculo / simulación local · Abrir laboratorio ↗Fallo del modelo económico
Every request pays both cost and latency before successful fallback.
Cálculo / simulación local · Abrir laboratorio ↗Sin fallos primarios
Expected cost is a weighted average without retries.
Cálculo / simulación local · Abrir laboratorio ↗Cuantización y valores atípicos
Lee el método, cambia una entrada y compara las exportaciones.
Cuantización de 4 bits
Fewer representable values introduce rounding error.
Cálculo / simulación local · Abrir laboratorio ↗Reconstrucción de 8 bits
More quantization levels usually reduce reconstruction error.
Cálculo / simulación local · Abrir laboratorio ↗Prueba de 2 bits
Only three signed levels preserve little detail.
Cálculo / simulación local · Abrir laboratorio ↗Escala dominada por un atípico
An outlier enlarges the global step and collapses small values.
Cálculo / simulación local · Abrir laboratorio ↗Tensor de ceros
The zero-range safeguard reconstructs all zeros exactly.
Cálculo / simulación local · Abrir laboratorio ↗Caché de solicitudes y TTL
Lee el método, cambia una entrada y compara las exportaciones.
Localidad de referencia
Repeated keys can avoid repeated model work.
Cálculo / simulación local · Abrir laboratorio ↗Thrashing por capacidad
A tiny cache evicts useful entries before reuse.
Cálculo / simulación local · Abrir laboratorio ↗Caducidad del TTL
Entries expire at the next request with this interval.
Cálculo / simulación local · Abrir laboratorio ↗Carga con alta reutilización
Temporal locality improves the hit rate.
Cálculo / simulación local · Abrir laboratorio ↗Solicitudes únicas
Unique keys provide no exact-match cache savings.
Cálculo / simulación local · Abrir laboratorio ↗Tokenizers · RAG chunking · Sampling · Evals
Diferencias de prompts y tokens
Compara dos versiones por líneas y mide el cambio en tokens y bytes UTF-8.
Abrir herramienta →Inspector de datasets JSONL
Detecta registros mal formados, duplicados, entradas largas y solapamiento exacto entre entrenamiento y validación.
Abrir herramienta →Laboratorio de fragmentación RAG
Explora límites Unicode, solapamiento y recuentos reales de tokens por fragmento.
Abrir herramienta →Comparación de evaluaciones pareadas
Compara dos sistemas en los mismos ejemplos con un intervalo bootstrap reproducible.
Abrir herramienta →Estimador de memoria GPU
Desglosa pesos, caché KV y estados de entrenamiento antes de ejecutar.
Abrir herramienta →Laboratorio de muestreo: logits → tokens
Prueba temperature, top-k y top-p en una distribución local reproducible.
Abrir herramienta →Laboratorio de decodificación especulativa
Explora cuándo un modelo borrador acelera o ralentiza según aceptación y latencias explícitas.
Abrir herramienta →Experimento educativo local, sin API externa. Los datos sintéticos no son mediciones de producción.