Intel presentó sus procesadores Xeon de 5ta generación: IA en la nube, la red, el borde y los centros de datos

“Queremos hacer que la inteligencia artificial sea accesible para todos”, dijo Sandra Rivera, vicepresidenta ejecutiva y gerente general del Centro de Datos y Grupo de IA de Intel. Fue en el marco de un Taller intensivo que ofreció la compañía para periodistas y analistas en el Centro de Conferencias Jones Farm que tiene la empresa en Oregon, Estados Unidos.

Allí, se anticipó el lanzamiento de sus procesadores Intel Xeon de 5ta generación. ITSitio estuvo presente en ese encuentro en el cual se dieron a conocer los detalles de este nuevo “cerebro” capaz de procesar programas intensivos y tareas de misión crítica.

Rivera describió a la IA como una tecnología que atraviesa diferentes industrias y que está generando cambios como ninguna otra. En el marco de las finanzas, por ejemplo, permite desarrollar soluciones para detectar fraudes o evaluar riesgos; en la medicina ha potenciado el desarrollo de fármacos y optimizados los diagnósticos; en el área del retail permite manejar inventario así como en la manufactura ha favorecido la eficiencia energética y el control de calidad.

Sin datos no hay inteligencia artificial

La explosión de la inteligencia artificial y sobre todo de la IA generativa que se potenció con los transformers -un tipo de modelo que surgió en 2017 y sobre el cual se puede leer en el paper “Todo lo que necesitas es atención”– hizo aumentar la generación de datos a niveles inimaginables. Desde aquel entonces hasta la fecha el volumen de datos creció 15 mil veces. Hoy se generan más de 300M de TB de datos a diario.

El desafío en este contexto es cómo crear información a partir de este océano de datos. Y luego cómo utilizar esa información para producir valor. Otra tendencia que llegó para quedarse es un enfoque de IA híbrido en el cual conviven diferentes modelos de IA: desde Llama hasta Stable Diffusion, entre muchos otros.

También, como se mencionó varias veces durante las charlas de la jornada, Intel sigue trabajando para profundizar un modelo en el que se busca escalar la IA desde la nube al borde.

Intel Xeon de 5ta generación

Tras contextualizar la situación actual de la IA y lo que viene por delante, Lisa Spelman, vicepresidenta corporativa y directora general de productos Xeon en Intel, presentó los procesadores Xeon de 5ta generación.

Destacó especialmente los saltos en el rendimiento y las mejoras en materia de eficiencia energética. A su vez, estos procesadores fueron desarrollados contemplando medidas de seguridad para cuidar el activo más importante de la empresa: los datos.

En relación a la generación anterior, los Xeon de 5ta generación ofrecen hasta un 42% de mejora del rendimiento en la inferencia de IA y un 21% de ganancia de rendimiento de cómputo general.

Los números son todavía más significativos si se analizan los beneficios de pasar de un Xeon de 1era generación a uno de 5ta. Según explicó Spleman, un upgrade de este tipo implica una reducción de hasta el 77% en el TCO o costo total de propiedad. Y también puntualizó que se logra hasta un 90% de reducción en la emisión de dióxido de carbono, con lo cual el factor de la eficiencia energética también juega a favor de esta nueva generación de Xeon.

Por su parte, Ronak Singhal, senior fellow de Intel destacó la compatibilidad con la cuarta generación. También profundizó en algunos detalles sobre las mejoras que llegan de la mano de los nuevos procesadores.

Se subió de 60 núcleos en la 4ta generación a 64 núcleos en esta nueva generación. También se incrementó la velocidad: la generación anterior admitía hasta 4800 en DDR5 y ahora ese límite se subió a 5600.

“El beneficio de esto es un mayor ancho de banda de memoria, no solo para las cargas de trabajo tradicionales de HPC, sino también para las cargas de trabajo de IA que consumen mucho ancho de banda”, subrayó Singhal.

A su vez, hay una mejora de UPI de 16 GT/s a 20 GT/s en esta nueva generación. Otro punto para destacar es que el diseño integra dos matrices en lugar de las cuatro de la cuarta generación. A su vez, estas dos matrices están interconectadas a través de una tela de matriz modular. ¿Por qué es importante este cambio? Porque la reducción de tamaño ayuda a mejorar la latencia.

Xeon destaca como el único procesador convencional para centros de datos que incorpora aceleración de inteligencia artificial. La nueva generación de Xeon, la quinta en su línea, ofrece mejoras significativas con hasta un 42% más de capacidad de inferencia y ajuste preciso en modelos que alcanzan hasta 20 mil millones de parámetros. Este procesador también se distingue al ser la única unidad central con un conjunto coherente y constantemente mejorado de resultados de referencia en las pruebas de MLPerf tanto en entrenamiento como en inferencia.

Los aceleradores de inteligencia artificial integrados en Xeon, combinados con un software optimizado y capacidades mejoradas de telemetría, posibilitan implementaciones más eficientes y gestionables de cargas de trabajo exigentes. Esto se traduce en beneficios específicos para proveedores de servicios de comunicación, redes de distribución de contenidos y diversos mercados verticales como el comercio minorista, la atención médica y las fábricas.