martes, 19 de marzo de 2024

La nueva arquitectura NVIDIA Blackwell ya es oficial

Nueva arquitectura NVIDIA Blackwell

La innovación tecnológica actualmente llega de mano de las IA, y con la nueva arquitectura Blackwell, NVIDIA busca liderar la nueva era de la computación, dos años después del lanzamiento de NVIDIA Hopper, convirtiéndose en los chips más potentes del mundo. La presentación ha tenido lugar durante el GTC, y ha conseguido captar rápidamente la atención de todas las personas debido a que se trata de una arquitectura que busca impulsar tanto la computación acelerada como la IA generativa.

Desde NVIDIA aseguran que esta nueva arquitectura será capaz de cumplir las expectativas de las compañías más exigentes, ya que permitirá a una gran cantidad de organizaciones crear y ejecutar IA generativa en tiempo real sobre modelos de lenguaje con miles de millones de parámetros. Por otra parte, el coste se reducirá considerablemente, ya que desde la compañía creadora de este chip, aseguran que su nueva arquitectura tendrá un coste y consumo de energía 25 veces menor.

Chip arquitectura Blackwell NVIDIA

NVIDIA, líder del sector IA

Durante los últimos dos años, desde que se lanzo la arquitectura Hopper, hemos visto como NVIDIA ha conseguido estar dentro de las posiciones de las organizaciones más grandes a nivel mundial, con unos ingresos extremadamente elevados. Esto en sí, es la causa de haber creado el que era hasta ahora el chip más potente del mundo a nivel de solución comercial para productos relacionados con la IA, haciendo que la mayoría de sus competidores no pudiesen ni acercarse a la potencia que los Hopper son capaces de ofrecer.

Ahora, dos años después, vuelven a la carga para presentar los chips Blackwell que además de haber mejorado en términos de estructura y potencia, también incorporan seis nuevas tecnologías de aceleración computacional que permitirán a la compañía abrirse camino en muchos más campos. Algunas de las compañías más famosas del mundo ya han decidido que incorporarán estos chips, ya que lo ven como una oportunidad para poder desarrollar nuevas tecnologías y productos de una forma mucho más avanzada.

En conjunto, las nuevas seis tecnologías que incluye esta nueva arquitectura presentada por NVIDIA permiten el entrenamiento de la IA y el uso de LLM en tiempo real para modelos de hasta 10 billones de parámetros.

Arquitectura NVIDIA Blackwell vs Hopper

Qué introduce la arquitectura Blackwell

Como bien hemos indicado antes, uno de los factores clave de este superchip es que incorpora seis nuevas tecnologías que son clave para entender cual es su uso, ya que está directamente orientado a ofrecer velocidades superiores de procesamiento de datos, lo que resulta perfecto tanto para la computación acelerada como para la IA generativa.

Este nuevo chip incluye 208.000 millones de transistores, siendo una GPU fabricada mediante un proceso personalizado denominado como TSMC 4NP, que además integra los frameworks NVIDIA TensorRT-LLM y NeMo Megatron, que junto con el NVLink de quinta generación, garantizarán la mayor velocidad posible, gracias a un rendimiento bidireccional de 1,8 TB/s.

Por otra parte, los chips con arquitectura Blackwell incluyen un motor dedicado a la fiabilidad, la disponibilidad y el mantenimiento, así como una serie de funciones de seguridad avanzadas que permiten proteger los modelos de IA y los datos de los clientes sin disminuir el rendimiento, haciendo que sean fiables, tanto por dentro, como por fuera.

Y por último, incluye también un motor de descompresión dedicado, que al soportar todos los formatos actuales, permite acelerar las consultas a bases de datos, ofreciendo de esta forma, el mayor rendimiento posible en temas relacionados con análisis de datos.

El sistema multi nodo NVIDIA GB200 NVL72, será uno de los que se aseguren de proporcionar la máxima potencia con el menor consumo posible, ya que combina 36 Grace Blackwell Superchips, que incluyen 72 GPU Blackwell y 36 CPU Grace interconectadas mediante NVLink de quinta generación. Proporciona hasta 30 veces más rendimiento que el mismo número de GPU NVIDIA H100 Tensor Core para cargas de trabajo de inferencia LLM y reduce hasta 25 veces el coste y el consumo de energía.

The post La nueva arquitectura NVIDIA Blackwell ya es oficial appeared first on HardZone.



from HardZone https://ift.tt/X7EFIG4
via IFTTT

No hay comentarios:

Publicar un comentario