Objetivos de aprendizaje
- Elegir equipo según caso de uso real, no según marketing.
- Entender la diferencia entre RAM, VRAM y contexto.
- Evitar compras equivocadas para Ollama, RAG y coding local.
En cristiano: VRAM. Es la memoria de la tarjeta gráfica. Si el modelo y su contexto caben en VRAM, suele ir mucho más rápido. Si no caben, el sistema cae a RAM/CPU y la experiencia empeora.
Tabla rápida por objetivo
Aprender y probar: RAM: 16 GB VRAM: 6-8 GB o Apple Silicon con memoria unificada Modelos: 3B-8B Q4 RAG privado con documentos: RAM: 32 GB recomendado VRAM: 8-12 GB Modelos: 7B/8B Q4-Q5 + embeddings locales Coding local razonable: RAM: 32 GB VRAM: 12-16 GB Modelos: un modelo de código de 7B-14B en Q4-Q5 Agentes y tareas largas: RAM: 64 GB o más VRAM: 16-24 GB o más Modelos: 14B-32B, contexto controlado y logs
Idea clave. El mejor equipo para empezar no es el más caro: es el que te permite iterar rápido. Un 8B bien elegido y rápido enseña más que un 32B lento que no usas.
NVIDIA, AMD y Apple Silicon
- NVIDIA: suele ser el camino más directo para aceleración GPU en Windows/Linux por ecosistema CUDA.
- AMD: puede funcionar muy bien, pero depende más de drivers, ROCm/Vulkan, sistema operativo y herramienta.
- Apple Silicon: la memoria unificada ayuda mucho; mira RAM total y ancho de banda, no solo nombre del chip.
- CPU pura: sirve para aprender y modelos pequeños, pero no esperes agentes rápidos.
Cuidado. No compres hardware pensando solo en el tamaño del modelo. El contexto, embeddings, base vectorial, navegador, editor, Docker y el sistema operativo también consumen memoria.
Comprobación de tu equipo
# Windows / PowerShell systeminfo | findstr /C:"Total Physical Memory" wmic path win32_VideoController get name,adapterram nvidia-smi # macOS system_profiler SPHardwareDataType system_profiler SPDisplaysDataType # Linux free -h lspci | grep -Ei "vga|3d|display" nvidia-smi
Comprueba que funciona. Antes de comprar nada, ejecuta un 4B, un 8B y una prueba de RAG pequeña. Si la experiencia ya es buena para tu objetivo, no necesitas cambiar de equipo.
Guardar y reabrir el proyecto.
Compra por caso de uso: 16 GB RAM para aprender, 32 GB para trabajar cómodo con RAG/coding, 64 GB o GPU grande si quieres agentes largos y modelos mayores.
Siguiente misión recomendada
Si has guardado la evidencia de esta lección, continúa con «Open WebUI + Ollama + Qdrant». Si no, repite la comprobación antes de avanzar.