NVIDIA · Placa / edge
Jetson AGX Thor (128GB)
Robótica, varios modelos a la vez y nodos soberanos para la administración
- 128 GBmemoria unificada
- 70Bcabe en memoria (Q4, 8k)
- 70Bpráctico (estimación)
- 130 Wconsumo máximo
- ~3.499 €precio orientativo
¿Qué puede ejecutar?
Elige una tarea o un tamaño de modelo. La barra compara lo que necesita con la memoria útil de esta máquina.
- Pesos del modelo
- Caché de contexto
- Motor + extras (Whisper, embeddings)
Cómo lo calculamos
Pesos = parámetros × bits por peso / 8 (Q4_K_M ≈ 4,85; Q8_0 ≈ 8,5). Caché = tokens de contexto × tamaño por token del modelo de referencia (capas × cabezas KV × dimensión × 2 × 2 bytes). Más 1,5 GB de motor. Memoria útil = total menos lo que se queda el sistema (3–6 GB en memoria compartida, 0,5 GB en una GPU). Holgado = cabe en el 85 %. Es una estimación de ±20 %: mídelo en tu máquina antes de decidir. Cómo elegir el archivo GGUF
¿Cuándo sale más barato que la nube?
Ajusta tu uso. Comparamos la compra más la luz con lo que pagarías a una API en la nube.
| Mes | Equipo propio | Nube |
|---|
- Equipo propio (compra + luz)
- API en la nube
Supuestos: 0,25 €/kWh (media en España, editable), 1 USD = 0,92 €, 3 tokens de entrada por cada 1 de salida, y la máquina a consumo máximo todas las horas que está encendida (el peor caso). Precios de API verificados el 9-9-2026. No incluye tu tiempo ni el mantenimiento. Ojo: la nube compara con un modelo de frontera y aquí correrías uno abierto más pequeño; es una comparación de coste, no de calidad.
Aprende con esta máquina
- Los 3 mejores dispositivos para IA local en 2026Jetson Orin Nano Super, Mac mini M4 y un mini PC Core Ultra comparados con las fichas del fabricante: memoria, TOPS, consumo y qué modelos locales caben.
- AITune: ajusta la inferencia local en tu tarjeta NVIDIAQué hace de verdad NVIDIA AITune, cuándo usarlo y los ajustes medidos de Ollama y vLLM que aceleran un modelo local en una GPU de consumo o una Jetson.
- NPU vs GPU: por qué las NPU son el futuro de la IA edgeCuándo basta una NPU para inferencia de IA local y cuándo sigue haciendo falta una GPU: TOPS de cada fabricante, consumo según ficha técnica y qué usa Ollama.
- Cuantización GGUF: elige el archivo correcto para tu máquinaCómo leer el nombre de un archivo GGUF, elegir entre Q4_K_M, Q5 y Q8 según tu memoria y medir tú mismo velocidad, memoria y calidad con tres comandos.
Sáltatela si…
- una API en la nube ya te cubre y tu volumen es bajo: mira el cálculo de amortización.
Ficha y procedencia de los datos
| CPU | 14-core Arm Neoverse V3AE |
|---|---|
| GPU | 2560 CUDA + 96 Tensor (Blackwell) |
| NPU | 2070 TFLOPS FP4 |
| Memoria | 128 GB (memoria unificada); útil para el modelo ≈ 122 GB |
| Velocidad | 80 tok/s con 70B FP16 estimación del fabricante o la comunidad, no medida por nosotros |
| Precio | ~3.499 € orientativo, revisado 2026-09-19; mira el precio real en la tienda |
Solo publicamos como "medido" lo que corre en nuestras máquinas. Política editorial