Superchip IA de NVIDIA

Autor: | Última modificación: 10 de abril de 2024 | Tiempo de Lectura: 3 minutos
Temas en este post:

Algunos de nuestros reconocimientos:

Premios KeepCoding

La inteligencia artificial lleva algunos años haciendo de las suyas, retando a las empresas a avanzar y crear productos de manera acelerada pero práctica y precisa. De ahí que empresas como Apple y por supuesto OpenAI cada día se esmeren por seguir sorprendiendo a su comunidad con creaciones que sobrepasan los límites de lo imaginado.

Hoy hablaremos del Superchip IA de NVIDIA, una de las empresas que ha revolucionado el mundo audiovisual. NVIDIA presenta en el mercado el chip Blackwell B200, una GPU IA de un solo chip que promete revolucionar el mundo del procesamiento de datos. Veamos cómo funciona.

superchip IA de NVIDIA

¿Qué es el superchip IA de NVIDIA?

El superchip IA de NVIDIA DGX B200 es una tecnología anunciada por el CEO Jensen Huang, en el evento GTC 2024 de la compañía, en donde, junto a otras nuevas tecnologías como el Earth-2 el Project Groot, lanzó este chip que promete seguir estando en la cima en lo que a procesamiento de datos concierne.

Aludiendo al hecho de que se necesitaban GPU más grandes, Huang empezó su discurso y destacó la gran capacidad del superchip IA de NVIDIA, que podrá de entrenar modelos de IA de billones de parámetros, en comparación con, por ejemplo, el GPT-3 de OpenAI, que a su lanzamiento apenas podía incluir 175.000 millones de parámetros. Este es un indicador de la gran complejidad de modelos de IA.

NVIDIA DGX B200 es una plataforma integral de inteligencia artificial diseñada para facilitar el desarrollo e implementación de procesos para empresas de todos los tamaños y en cualquier fase de su viaje hacia la IA. Con ocho GPU NVIDIA Blackwell conectadas mediante NVIDIA NVLink de última generación, el superchip IA de NVIDIA ofrece un rendimiento líder en la industria, con un aumento de hasta 3 veces en el rendimiento de entrenamiento y 15 veces en el rendimiento de inferencia en comparación con generaciones anteriores.

Gracias a la arquitectura de GPU NVIDIA Blackwell, el superchip IA de NVIDIA puede gestionar una variedad de cargas de trabajo, desde modelos de lenguaje de gran escala hasta sistemas de recomendación y chatbots, lo que lo convierte en la elección ideal para empresas que buscan acelerar su adopción de la IA.

Si hacemos un comparativo entre el B200, con 208.000 millones de transistores, capaces de ofrecer hasta 20 petaflops de potencia FP4, y el H100 (su predecesor), con apenas 80.000 millones de transistores, vemos el salto cuantitativo y la abismal diferencia entre uno y otro y entendemos por qué este superchip IA de NVIDIA ha sido una gran noticia para el mundo de la inteligencia artificial y para todas aquellas empresas que buscan mejorar la implementación de la misma.

Algunas especificaciones del nuevo superchip IA de NVIDIA

ComponenteEspecificaciones
GPU8x NVIDIA Blackwell GPUs
Memoria de GPUMemoria GPU total de 1.440 GB
RendimientoEntrenamiento de 72 petaFLOPS y inferencia de 144 petaFLOPS
Consumo de Energía~14,3 kW máx.
CPU2 procesadores Intel® Xeon® Platino 8570
112 núcleos en total, 2,1 GHz (base), 4 GHz (aumento máximo)
Memoria del SistemaHasta 4TB
Redes4 puertos OSFP que sirven 8 NVIDIA ConnectX-7 VPI de un solo puerto
Hasta 400 Gb/s InfiniBand/Ethernet
2 DPU NVIDIA BlueField-3 QSFP112 de doble puerto
Hasta 400 Gb/s InfiniBand/Ethernet
Red de GestiónNIC integrada de 10Gb/s con RJ45
NIC Ethernet de doble puerto de 100Gb/s
Controlador de gestión de placa base de host (BMC) con RJ45
AlmacenamientoSO: 2 NVMe M.2 de 1,9 TB
Almacenamiento interno: 8x 3,84 TB NVMe U.2
SoftwareNVIDIA AI Enterprise: software de IA optimizado
NVIDIA Base Command™: orquestación, programación y gestión de clústeres
DGX OS/Ubuntu: Sistema operativo
Unidades de Bastidor (RU)10 rupias
Dimensiones del SistemaAltura: 17,5 pulgadas (444 mm)
Ancho: 19,0 pulg. (482,2 mm)
Longitud: 35,3 pulgadas (897,1 mm)
Temperatura de Funcionamiento5 a 30 °C (41 a 86 °F)
Soporte EmpresarialSoporte empresarial estándar empresarial de tres años para hardware y software
Acceso al portal de soporte empresarial 24 horas al día, 7 días a la semana
Soporte de agente en vivo durante el horario comercial local

NVIDIA se ha posicionado como una de las empresas (si no la más) fuertes en el mercado tecnológico, gracias a su creación de chips para IA. De ahí que todos tengan el ojo puesto en cada uno de los productos que saca la empresa y que exista emoción y expectativa al respecto.

Por ahora el superchip IA de NVIDIA es la propuesta más prometedora en el sector, veamos si más adelante existen otras empresas que quieran replicarla o si NVIDIA misma se anima a adentrarse en otros territorios no tan conocidos, como la optimización para PC, portátiles, tablets y smartphones.

Si te interesó esta noticia sobre el superchip IA de NVIDIA y quieres seguir aprendiendo sobre inteligencia artificial, únete a Keepcoding con el Bootcamp de inteligencia artificial que tenemos para ti, en donde aprenderás desde cero todo lo necesario para incursionar en un mercado laboral lleno de oportunidades en el sector IT.

¡No esperes más y únete a la revolución tecnológica!

¡CONVOCATORIA ABIERTA!

Inteligencia Artificial

Full Stack Bootcamp

Clases en Directo | Profesores en Activo | Temario 100% actualizado