Ejecutar el modelo de IA de 397B de AMD en su PC pequeño: El futuro de la computación en el borde

AMD ha logrado ejecutar un modelo de inteligencia artificial de 397 mil millones de parámetros en una pequeña PC en lugar de un cuarto lleno de GPU. Esto pone de manifiesto las innovaciones y el potencial en el campo de la computación en el borde.

¿Qué pasó?

Longsys, utilizando una PC personalizada basada en AMD Ryzen AI Max+ 395 con 128 GB de RAM, logró ejecutar con éxito un gigantesco modelo de inteligencia artificial. Este tipo de procesamiento, hace solo un año, requería múltiples GPU y grandes centros de datos. Este avance muestra que las aplicaciones de inteligencia artificial se están volviendo mucho más compactas y portátiles.

¿Por qué es importante?

En los últimos años, el papel de la computación en el borde ha ido en aumento. Esta tecnología permite que los procesos de procesamiento de datos se realicen más cerca de los dispositivos de los usuarios. Por lo tanto, los tiempos de transferencia de datos se reducen y la potencia de procesamiento aumenta. Por ejemplo, las soluciones desarrolladas por Nokia para aplicaciones 5G aprovechan la velocidad de la computación en el borde para ofrecer una estructura de red más rápida y eficiente. Además, estos avances también pueden proporcionar un menor consumo de energía y ventajas de costo.

La accesibilidad de este tipo de tecnologías también acelerará la proliferación de aplicaciones de inteligencia artificial. Hace años, los grandes proyectos de inteligencia artificial solo eran posibles para grandes empresas con acceso a enormes servidores y máquinas. Ahora, pequeñas empresas e incluso desarrolladores individuales pueden utilizar estos modelos en sus propios dispositivos. Por lo tanto, las soluciones de inteligencia artificial están preparando el terreno para aplicaciones revolucionarias en salud, educación, agricultura y muchos otros campos.

¿Qué está cambiando?

Este desarrollo parece ofrecer una gran oportunidad, especialmente para las pequeñas empresas. Ahora no se necesitará una gran infraestructura para ejecutar un potente modelo de inteligencia artificial. Con una PC compacta y personalizada, se podrán realizar estos procesos. Esto también podría cambiar el entorno competitivo; la capacidad de los pequeños jugadores para beneficiarse de grandes conjuntos de datos y aplicaciones de inteligencia artificial podría reconfigurar los balances de poder en la industria.

¿Qué sigue?

En el futuro, se espera que con el crecimiento de la computación en el borde, las aplicaciones de inteligencia artificial se generalicen rápidamente. Los costos más bajos y la mayor accesibilidad para los usuarios pueden abrir nuevas oportunidades comerciales. Además, estos desarrollos también ofrecen una ventaja significativa en términos de seguridad y privacidad de los datos; dado que los datos se procesarán en los dispositivos de los usuarios, se reduce la necesidad de transferir datos al exterior.

En conclusión, este proceso realizado con la nueva PC de AMD no solo es un éxito tecnológico, sino también una señal importante de cómo evolucionará la industria. El auge de la computación en el borde permitirá que las aplicaciones de inteligencia artificial lleguen a un público más amplio, lo que podría traer cambios profundos en una serie de sectores.