La inteligencia artificial lleva algunos años haciendo de las suyas, retando a las empresas a avanzar y crear productos de manera acelerada pero práctica y precisa. De ahí que empresas como Apple y por supuesto OpenAI cada día se esmeren por seguir sorprendiendo a su comunidad con creaciones que sobrepasan los límites de lo imaginado.
Hoy hablaremos del Superchip IA de NVIDIA, una de las empresas que ha revolucionado el mundo audiovisual. NVIDIA presenta en el mercado el chip Blackwell B200, una GPU IA de un solo chip que promete revolucionar el mundo del procesamiento de datos. Veamos cómo funciona.
¿Qué es el superchip IA de NVIDIA?
El superchip IA de NVIDIA DGX B200 es una tecnología anunciada por el CEO Jensen Huang, en el evento GTC 2024 de la compañía, en donde, junto a otras nuevas tecnologías como el Earth-2 el Project Groot, lanzó este chip que promete seguir estando en la cima en lo que a procesamiento de datos concierne.
Aludiendo al hecho de que se necesitaban GPU más grandes, Huang empezó su discurso y destacó la gran capacidad del superchip IA de NVIDIA, que podrá de entrenar modelos de IA de billones de parámetros, en comparación con, por ejemplo, el GPT-3 de OpenAI, que a su lanzamiento apenas podía incluir 175.000 millones de parámetros. Este es un indicador de la gran complejidad de modelos de IA.
NVIDIA DGX B200 es una plataforma integral de inteligencia artificial diseñada para facilitar el desarrollo e implementación de procesos para empresas de todos los tamaños y en cualquier fase de su viaje hacia la IA. Con ocho GPU NVIDIA Blackwell conectadas mediante NVIDIA NVLink de última generación, el superchip IA de NVIDIA ofrece un rendimiento líder en la industria, con un aumento de hasta 3 veces en el rendimiento de entrenamiento y 15 veces en el rendimiento de inferencia en comparación con generaciones anteriores.
Gracias a la arquitectura de GPU NVIDIA Blackwell, el superchip IA de NVIDIA puede gestionar una variedad de cargas de trabajo, desde modelos de lenguaje de gran escala hasta sistemas de recomendación y chatbots, lo que lo convierte en la elección ideal para empresas que buscan acelerar su adopción de la IA.
Si hacemos un comparativo entre el B200, con 208.000 millones de transistores, capaces de ofrecer hasta 20 petaflops de potencia FP4, y el H100 (su predecesor), con apenas 80.000 millones de transistores, vemos el salto cuantitativo y la abismal diferencia entre uno y otro y entendemos por qué este superchip IA de NVIDIA ha sido una gran noticia para el mundo de la inteligencia artificial y para todas aquellas empresas que buscan mejorar la implementación de la misma.
Algunas especificaciones del nuevo superchip IA de NVIDIA
| Componente | Especificaciones |
|---|---|
| GPU | 8x NVIDIA Blackwell GPUs |
| Memoria de GPU | Memoria GPU total de 1.440 GB |
| Rendimiento | Entrenamiento de 72 petaFLOPS y inferencia de 144 petaFLOPS |
| Consumo de Energía | ~14,3 kW máx. |
| CPU | 2 procesadores Intel® Xeon® Platino 8570 |
| 112 núcleos en total, 2,1 GHz (base), 4 GHz (aumento máximo) | |
| Memoria del Sistema | Hasta 4TB |
| Redes | 4 puertos OSFP que sirven 8 NVIDIA ConnectX-7 VPI de un solo puerto |
| Hasta 400 Gb/s InfiniBand/Ethernet | |
| 2 DPU NVIDIA BlueField-3 QSFP112 de doble puerto | |
| Hasta 400 Gb/s InfiniBand/Ethernet | |
| Red de Gestión | NIC integrada de 10Gb/s con RJ45 |
| NIC Ethernet de doble puerto de 100Gb/s | |
| Controlador de gestión de placa base de host (BMC) con RJ45 | |
| Almacenamiento | SO: 2 NVMe M.2 de 1,9 TB |
| Almacenamiento interno: 8x 3,84 TB NVMe U.2 | |
| Software | NVIDIA AI Enterprise: software de IA optimizado |
| NVIDIA Base Command™: orquestación, programación y gestión de clústeres | |
| DGX OS/Ubuntu: Sistema operativo | |
| Unidades de Bastidor (RU) | 10 rupias |
| Dimensiones del Sistema | Altura: 17,5 pulgadas (444 mm) |
| Ancho: 19,0 pulg. (482,2 mm) | |
| Longitud: 35,3 pulgadas (897,1 mm) | |
| Temperatura de Funcionamiento | 5 a 30 °C (41 a 86 °F) |
| Soporte Empresarial | Soporte empresarial estándar empresarial de tres años para hardware y software |
| Acceso al portal de soporte empresarial 24 horas al día, 7 días a la semana | |
| Soporte de agente en vivo durante el horario comercial local |
NVIDIA se ha posicionado como una de las empresas (si no la más) fuertes en el mercado tecnológico, gracias a su creación de chips para IA. De ahí que todos tengan el ojo puesto en cada uno de los productos que saca la empresa y que exista emoción y expectativa al respecto.
Por ahora el superchip IA de NVIDIA es la propuesta más prometedora en el sector, veamos si más adelante existen otras empresas que quieran replicarla o si NVIDIA misma se anima a adentrarse en otros territorios no tan conocidos, como la optimización para PC, portátiles, tablets y smartphones.
Si te interesó esta noticia sobre el superchip IA de NVIDIA y quieres seguir aprendiendo sobre inteligencia artificial, únete a Keepcoding con el Bootcamp de inteligencia artificial que tenemos para ti, en donde aprenderás desde cero todo lo necesario para incursionar en un mercado laboral lleno de oportunidades en el sector IT.
¡No esperes más y únete a la revolución tecnológica!
