Velocidad y VRAM de modelos locales · Ollama 0.40.14 en RTX 5060 Ti 16 GB

Fecha de medición: 04/11/2026
Equipo: Windows 11 Pro, Intel Core Ultra 5 245K, 31,3 GB de RAM, NVIDIA RTX 5060 Ti 16 GB
Corpus: Documentos 100 % ficticios (actas, facturas, correos) creados para el laboratorio.

Pruebas por modelo: arranque en frío (contexto 4.096), prompt medio de ~520 tokens 3 veces (contexto 8.192), prompt largo de ~9.400 tokens (contexto 32.768) y prompt medio solo con CPU (num_gpu 0).
Lectura = tokens del prompt por segundo; generación = tokens de respuesta por segundo. Las repeticiones 2 y 3 reutilizan la caché de prompt: su lectura no es comparable.
VRAM usada aprox. = vram_pico_equipo_mib − vram_reposo_equipo_mib (en reposo el escritorio ya ocupaba ~3 GB).
memoria_modelo_segun_api_ps_gb es lo que informa /api/ps de Ollama; para gemma4:12b no cuadra con el registro de carga (7,0 GB en GPU).
qwen3.6:35b no figura: no fue utilizable en esta GPU (error de CUDA tras la primera respuesta); ver la página.
Ejemplo: python resumen.py velocidad-vram-modelos-locales-rtx-5060-ti.csv modelo prueba

Comprobar la tabla: python resumen.py <archivo.csv> <columna> [<columna> ...]
Página: https://beautythings.net/lab/velocidad-vram-modelos-locales-rtx-5060-ti/

Licencia de los datos: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/deed.es).
Puedes usarlos, modificarlos y publicarlos citando: «Laboratorio BeautyThings, 04/11/2026, https://beautythings.net/lab/velocidad-vram-modelos-locales-rtx-5060-ti/».