Cuando Microsoft anunció la certificación «Copilot+ PC«, lo hizo dejando claro una cosa: para disfrutar de las funciones avanzadas de Inteligencia Artificial de forma local en el ordenador es necesario que el procesador cuente con una NPU (Unidad de Procesamiento Neuronal) dedicada.
Aquella decisión, obviamente unilateral, dejó a millones de usuarios con ordenadores de escritorio y portátiles potentes con la sensación de haber quedado obsoletos de la noche a la mañana, al menos en lo relacionado con la Inteligencia Artificial.
Ya no es necesario una NPU para utilizar LLMs de forma local
Sin embargo, el gigante tecnológico ha decidido dar marcha atrás. Según una actualización en sus documentos oficiales de desarrollo y en GitHub, Microsoft ya permite que las tarjetas gráficas de NVIDIA ejecuten las API de sus modelos de lenguaje locales en Windows 11. El único requisito de hardware es contar con una gráfica RTX de la serie 30 o superior que tenga al menos 6 GB de memoria VRAM.
Este movimiento sirve para demostrar una realidad que muchos de nosotros sabíamos: las tarjetas gráficas modernas son perfectamente válidas para tareas de IA. De hecho, los chips de NVIDIA han sido el motor de la revolución de la IA en la nube durante años gracias a su espectacular capacidad de procesamiento en paralelo.
Aunque las NPU de los nuevos procesadores son extremadamente eficientes en términos de consumo energético (ideales para estirar la batería de un portátil), las GPU dedicadas ofrecen una potencia bruta y una velocidad de procesamiento que, en muchos escenarios, supera con creces lo que un chip NPU actual puede lograr. Microsoft simplemente había decidido bloquear esta capacidad en Windows para impulsar las ventas de la nueva marca «Copilot+».
Entonces ¿Por qué se crearon las NPU si las GPU podían hacerlo mismo?
Si bien es cierto que una GPU ya podía hacer la misma función que una NPU, el principal motivo para crearlas fue poder hacerlo de forma más eficiente en equpos portátiles. Una GPU, a diferencia de una NPU, consume mucha energía, genera más calor y reduce la duración de la batería.
Las NPU existen, además, para estar siempre en funcionamiento de forma silenciosa y barata, algo que una GPU no puede hacer sin afectar la autonomía o disparar el consumo.
from Hard Zone : Hardware, Reviews, Noticias, Tutoriales, Foros de ayuda https://ift.tt/s7MHPVA
via IFTTT
No hay comentarios:
Publicar un comentario