Al comprar una computadora para nuestras actividades diarias hay que tomar en cuenta la NPU, pues permite ejecutar las operaciones de redes neuronales requeridas por la inteligencia artificial.
Imagen de DC Studio en Freepik
POR ALEJANDRO PADILLA, SOFTWARE ENGINER
El papel que está teniendo la inteligencia artificial (IA) en la industria y en general en el día a día de los usuarios parece estar muy claro. El uso que le estaremos dando a herramientas como Chatgpt-4 y el más reciente lanzado Gemini será muy frecuente, y para eso se requiere o se requerirá de equipos más potentes, capaces de ejecutar tareas que involucren a estos modelos de lenguaje de gran tamaño (LLMS). Es aquí donde la mirada se inclina hacia la Unidad de Procesamiento Neural (NPU).
Por eso, al comprar un equipo nuevo para nuestras actividades cotidianas hay que tomar en cuenta este elemento, además de las características que tiene la unidad central de procesamiento (CPU), es decir, qué procesador tiene, con cuánta memoria RAM cuenta el equipo y cuánto almacenamiento tiene. Además, cuando queremos utilizar el ordenador para juegos debemos revisar qué tarjeta gráfica (GPU) es la ideal.
En este artículo hablaremos de qué son las NPU y su importancia a la hora de ejecutar tareas de redes neuronales, las cuales son vitales para el funcionamiento de las herramientas de IA que conocemos hoy en día.
Una NPU es una unidad de procesamiento que viene integrada en los equipos actuales. Este chip permite ejecutar operaciones de redes neuronales.
El proceso de cálculo que realizan las redes neurales se divide en dos:
El primero es por repetición y consiste en el diseño de una red neuronal para después proporcionarle datos para que finalmente ejecute millones de cálculos. Esto, con la finalidad de que la red neuronal pueda aprender. ¿Qué papel tendría la NPU en este tipo de proceso? Pues bien, esos millones de cálculos que hablamos están constituidos de sistemas de ecuaciones y operaciones que involucran matrices, por lo que la NPU entra en acción para poder procesar estas operaciones.
El segundo calculo se hace por inferencia y consiste en ingresar un dato en una red neuronal ya entrenada para que al final se reciba un dato de salida.
Si bien la NPU está presente en la mayoría de los smartphones y ordenadores, empresas grandes y pequeñas han desarrollado sus propias implementaciones de la NPU. Aquí hablaremos de algunas de las principales:
El objetivo de esta NPU es hacer que las redes neuronales presentes en los productos de Apple tengan una mejor eficiencia energética. Esto permite una ejecución rápida, vasta memoria y una potencia superior en comparación con la CPU o la GPU. Todo esto, gracias a los algoritmos de machine learning e inteligencia artificial.
Esta implementación fue introducida por Apple en 2017 en su chip Apple A11 Bionic, presente en los iPhone 8 y iPhone X. Estos chips fueron evolucionando en cada generación de iPhone y iPad, hasta que en 2020 Apple decidió dejar de utilizar procesadores Intel y comenzó a implementar sus propios procesadores (con NPU incluida) en sus productos Mac, con los chips M1, hasta llegar al más reciente chip M3.
Estos procesadores son la primera generación y fueron lanzados en diciembre de 2023, los cuales podemos ver en equipos como el Zenbook 14 OLED 2024.
El diseño de esta NPU está basado en chiplets, que son un chip que contiene diferentes elementos y que está diseñado para trabajar de manera conjunta con otros chips. Estos chiplets cuentan con tecnología de interconexión Foveros, una solución que permite construir procesadores con mosaicos de computación apilados de forma vertical, la cual facilita la comunicación entre los chips, de manera que sea eficiente y rápida. Los chiplet se dividen para los núcleos del chip.
AMD tampoco se ha quedado atrás, de hecho, ellos ya habían lanzado su propia implementación de NPU meses antes que Intel. Esto lo podemos ver en ordenadores de Ryzen serie 7040 (Zen 4), los cuales incluyen Ryzen AI. Podríamos decir que esta fue de las primeras NPU integradas en un procesador con arquitectura x86 para Windows.
Las características de esta NPU están más enfocadas en videoconferencia, como:
Ryzen AI es una tecnología creada por AMD, la cual cuenta con capacidades de inteligencia artificial y está presente en procesadores de la gama Ryzen con arquitectura x86.
Entonces, una vez visto lo anterior, ¿qué tan importante debe de ser contar con una NPU en los próximos equipos que vayamos a adquirir? Si bien es cierto que algunas compañías ya integran la NPU en sus procesadores, otras apenas se están abriendo camino, así que todo dependerá de qué tipo de usuario seas:
Si eres alguien que necesita aprovechar al máximo las capacidades de la inteligencia artificial en tareas exigentes como la edición de foto/video o aprovechar las APIs que ofrece la industria a los desarrolladores, entonces podrías considerar comprar equipos que cuenten con NPUs potentes en sus chips.
Ahora bien, si eres el usuario que sólo realiza tareas no muy exigentes, como generar una imagen hecha por inteligencia artificial o usar chatbot de IA generativa, no sería tan necesario contar con una NPU dedicada (independiente).