miércoles, 25 de septiembre de 2024

Intel lanza Gaudi 3, un potente acelerador de IA que cuesta la mitad que los de NVIDIA

Intel Gaudi 3

La carrera por lograr ofrecer el mejor hardware utilizado para la inteligencia artificial tan solo acaba de comenzar, y aunque desde NVIDIA tienen claro que están dominando una gran parte del mercado, otras empresas dedicadas al desarrollo de procesadores y hardware en general no quieren quedarse atrás. Ahora, Intel ha lanzado Gaudi 3, un acelerador de IA que cuenta con un precio mucho más bajo de lo que podíamos imaginar, y es que cuesta la mitad de lo que costaría un H100 de NVIDIA, buscando ofrecer una solución mucho más barata.

Uno de los grandes problemas que tienen las inteligencias artificiales en el ámbito empresarial actualmente está en el precio que tiene su hardware, y es que su coste resulta demasiado alto, lo que hace que sacarle rentabilidad sea bastante complicado durante los primeros años. Esto ha causado que muchas empresas estén buscando la forma de abaratar los costes incluso si eso implica perder un poco de potencia, y es uno de los principales motivos por los que algunas de las compañías más antiguas del sector están creando hardware que resulta más barato que el de NVIDIA aunque no alcance en mejor rendimiento posible.

Gaudi 3

Gaudi 3 llega con grandes mejoras y con un precio mucho más bajo de lo que podíamos imaginar

Durante estas últimas semanas Intel ha estado bastante ocupada, ya que están preparando el lanzamiento de sus nuevos procesadores para ordenadores de sobremesa, pero también tienen otros que son bastante importantes y de los que no nos podemos olvidar. En este caso tenemos la llegada tanto de los Xeon 6 como el nuevo acelerador de IA Gaudi 3, que presenta una mejora extremadamente grande con respecto a Gaudi 2 al ofrecer un rendimiento más alto junto con un TDP de 600 W.

En términos generales, el nuevo acelerador de IA que ha presentado Intel busca competir frente al H100 de NVIDIA, aunque tal y como han indicado hay partes en las que el rendimiento no logra prácticamente ni acercarse al de la compañía líder del sector. Una de las primeras afirmaciones que hace la compañía, es que esta versión puede ofrecer hasta 1.856 TFLOPS de matriz BF16/FP8, así como hasta 28,7 TFLOPS de vector BF16 con el TDP de 600 W que hemos mencionado.

Intel Gaudi 3

Si esto lo comparamos con el H100 de NVIDIA vemos que el rendimiento es muy inferior, y es que Gaudí 3 ofrece un rendimiento matricial BF16 ligeramente inferior ya que tiene 123 TFLOPS menos,  (1.856 frente a 1.979 TFLOPS), por otra parte, cuenta con la mitad del rendimiento matricial FP8 que ofrece el chip contra el que compite (1.856 frente a 3.958 TFLOPS) y por último tenemos un rendimiento vectorial BF16 que no tiene punto de comparación al ofrecer prácticamente 1951 TFLOPS menos (28,7 frente a 1.979 TFLOPS).

La mayor ventaja que presenta este nuevo acelerador está en su precio, y es que la compañía sabe que el rendimiento no es el mejor, por lo que la estrategia estaría en crear hardware más barato aunque sea un poco peor para que resulte más accesible. Esto se debe a que un kit acelerador basado en ocho procesadores Gaudi 3 en una placa base costará 125.000 dólares, es decir, unos 15.625 dólares cada uno, mientras que una única tarjeta H100 tiene un precio de 30.678 dólares, por lo que habrá que ver si Intel es capaz de competir en términos de rendimiento frente a NVIDIA.

The post Intel lanza Gaudi 3, un potente acelerador de IA que cuesta la mitad que los de NVIDIA appeared first on HardZone.



from HardZone https://ift.tt/vcK5dCh
via IFTTT

No hay comentarios:

Publicar un comentario