Arquitecturas ARM frente a x86 en escenarios reales

Durante años se asumió que x86 dominaría servidores y estaciones de trabajo mientras ARM se quedaba en móviles. Esa división se ha difuminado. Los procesadores Graviton3 de Amazon ofrecen 25 % más rendimiento por vatio que instancias equivalentes basadas en Intel Xeon de generación anterior en cargas de compilación y bases de datos.

Apple, por su parte, ha demostrado con los M3 que un diseño ARM puede mantener 22 núcleos de CPU y 40 núcleos de GPU dentro de 30 W de consumo sostenido.

La diferencia clave no reside solo en el conjunto de instrucciones. Los diseños ARM modernos incorporan extensiones específicas como SVE2 para vectorización o SME para operaciones matriciales que aceleran directamente marcos de machine learning sin necesidad de bibliotecas externas pesadas.

Casos prácticos con cifras concretas

En un servidor con dos AMD EPYC 9654 (96 núcleos cada uno) ejecutando inferencia de Llama 3 70B usando vLLM, se alcanzan 48 tokens por segundo por GPU A100 cuando la comunicación entre CPU y GPU se realiza por PCIe 4.0. Si se migra el mismo modelo a un clúster de instancias AWS Graviton3 con chips Inferentia2, el coste por millón de tokens baja aproximadamente un 38 % manteniendo latencias por debajo de 180 ms para secuencias de 2048 tokens.

• El Mac Studio con M2 Ultra procesa modelos de difusión estable en 3,8 segundos por imagen a 512×512 píxeles usando Core ML y Neural Engine.
• Una estación de trabajo con Threadripper PRO 5995WX y cuatro RTX 4090 puede entrenar un modelo ResNet-50 sobre ImageNet en 41 minutos cuando se usa DistributedDataParallel de PyTorch.
• Los servidores con procesadores Ampere Altra Max de 128 núcleos han demostrado ejecutar 19 000 contenedores Docker simultáneos manteniendo menos de 65 °C en el encapsulado con refrigeración por aire estándar.

El futuro inmediato: chiplets, CXL y aceleradores abiertos

La tendencia hacia diseños modulares mediante chiplets permite a los fabricantes combinar nodos de proceso distintos dentro del mismo paquete. AMD ya vende EPYC con CCD de 5 nm y un IOD de 6 nm. Intel planea ofrecer tiles de computación, tiles de E/S y tiles de memoria fabricados en procesos diferentes. Esta flexibilidad reduce costes y permite ofrecer configuraciones personalizadas sin rediseñar el silicio completo.

El estándar CXL 3.0 abre la puerta a pools de memoria compartida entre múltiples hosts. Un sistema puede asignar dinámicamente 2 TB de DRAM a una instancia de entrenamiento y, minutos después, reasignar esa misma memoria a un clúster de inferencia sin reiniciar los servidores. Esa capacidad cambia radicalmente la forma en que se dimensionan los centros de datos cloud computing.

Proyectos open-source que ya influyen en el hardware

RISC-V ha dejado de ser un experimento académico. El procesador SiFive P670 ya aparece en placas de desarrollo con soporte completo de Linux y rendimiento comparable a Cortex-A78. Alibaba ha desplegado miles de servidores con procesadores XuanTie RISC-V en sus centros de datos para tareas de almacenamiento y transcodificación de vídeo.

1. El framework OpenXLA permite compilar modelos de TensorFlow y JAX directamente a instrucciones RISC-V vectoriales sin pasar por LLVM genérico.
2. El proyecto Caliptra de Google y AMD define un subsistema de raíz de confianza implementado en RISC-V que se integrará en futuros chiplets de servidor.
3. La especificación CHERI, también basada en RISC-V, añade capacidades de seguridad de memoria que eliminan gran parte de las vulnerabilidades de corrupción de punteros que aún afectan a arquitecturas tradicionales.

Ejemplos concretos de configuraciones que se usan hoy

Una configuración típica para desarrollo de modelos de visión por computador en 2024 incluye un Ryzen 9 7950X, 128 GB de DDR5-6000, dos RTX 4090 conectadas por NVLink bridge y un SSD PCIe 5.0 de 4 TB. Esta máquina puede entrenar un modelo YOLOv8 sobre un dataset de 120 000 imágenes en menos de nueve horas manteniendo el consumo por debajo de 650 W en picos.

En el segmento de portátiles profesionales, el Framework Laptop 16 permite al usuario intercambiar la tarjeta gráfica MXM y el módulo de expansión de puertos sin soldadura. Esa modularidad, aunque no altera la arquitectura del procesador principal, demuestra cómo el diseño físico también evoluciona para alargar la vida útil del hardware.

• Los servidores de inferencia de Stability AI utilizan instancias con ocho H100 conectadas mediante NVLink y 1,5 TB de memoria sistema para generar imágenes a escala de producción.
• Los clústeres de entrenamiento de Meta para Llama 3 combinan 24 000 GPUs H100 distribuidas en pods de 4000 unidades cada uno, con una red InfiniBand NDR de 400 Gb/s entre nodos.
• Los MacBook Pro con M3 Pro ejecutan modelos de lenguaje de 7 mil millones de parámetros completamente en Neural Engine y GPU unificada sin necesidad de descargar pesos a memoria externa durante la inferencia.

La Explicación de la arquitectura de computadoras modernas deja claro que ya no basta con conocer el número de núcleos o la frecuencia máxima. Hay que entender cómo se comunican los distintos aceleradores, qué latencia introduce cada nivel de memoria y cómo las decisiones de diseño del silicio afectan directamente al rendimiento de los marcos de software que utilizamos a diario.