En exclusiva: Todo lo que necesita saber sobre el procesador de IBM que impulsará Deep Learning desde el chip

El pasado 17 de agosto, y ante un grupo reducido de periodistas y partners de todo el mundo, IBM hizo públicas las características destacadas y el campo de aplicaciones de su procesador Telum para las próximas generaciones de los mainframes IBM z y de servidores LinuxOne. Vale recordar que, hacia fines de julio de este año, la compañía había anunciado IBM z/OS v2.5, un sistema operativo orientado a la habilitación de la IA, la modernización de las aplicaciones, la resistencia, una seguridad superior  y una experiencia de desarrollador mejorada.

En aquella oportunidad, Ross Mauri, gerente general, IBM z, había explicado: “IBM apuesta por la nube híbrida y la inteligencia artificial, y estamos profundamente enfocados en ofrecer nuevas innovaciones como la inteligencia artificial y las nuevas capacidades de seguridad en IBM z para ayudar a nuestros clientes a avanzar más rápidamente en sus viajes de modernización. Para nuestros clientes, IBM z/OS v2.5 brinda nuevas capacidades de seguridad y resistencia a la plataforma, y permite a los clientes infundir inteligencia artificial en tiempo real en cada transacción comercial, imperativos que se volvieron más urgentes durante la pandemia”. Ahora, en el marco de Hot Chips, Mauri fue uno de los tres especialistas que, de manera escueta, explicaron cómo han mejorado los motores de la próxima generación de la plataforma empresarial para aplicaciones de misión crítica de IBM.

“Los clientes me han dicho durante varios años que querían correr IA, Deep Learning y obtener inferencias en cada una de sus transacciones (…) hablamos de mil, 10.000, 50.000 transacciones por segundo. Estamos hablando de un volumen muy alto, de velocidades muy altas de transacciones que además son complejas, con escrituras y lecturas en múltiples bases de datos. Son transacciones den Banca, Finanzas, Retail, Seguros, etcétera”, expresó Mauri durante el encuentro de Hot Chips, en relación con el contexto de este nuevo procesador. “La innovación está llegando de la mano de IBM Research y el equipo de Ingeniería de IBM z”, agregó.

A su turno, Christian Jacobi, el Arquitecto en jefe del Diseño del nuevo procesador para los sistemas IBM z, explicó que IBM puso mucha innovación en cada una de las dimensiones del nuevo procesador, incluyendo una seguridad y una disponibilidad que son las mejor en su clase, y la optimización del desempeño en las transacciones más pesadas de misión crítica. Acaso esta especificidad en cuanto a las cargas de trabajo y al tipo de procesos críticos que se espera de los sistemas motorizados por el nuevo chip de IBM (en conjunción con el software y el middleware específicos) marquen la primera gran diferencia entre Telum y otros procesadores de la competencia que incluyen algún tipo de capacidad de IA.

Además de los ocho núcleos de procesamiento que cada chip tiene (especialmente diseñados para brindar un altísimo desempeño en los escenarios transaccionales y de análisis antes mencionados), Jacobi destacó los cachés de 32 MB de nivel 2 que tiene cada uno de esos núcleos, “los cuales pueden cooperar a lo largo de los ocho núcleos del chip y en hasta ocho chips, para formar cachés virtuales de nivel 3 y 4, llegando a 2GB de caché de nivel 4 que se extienden a los ocho chips”. Con todo, la estrella en materia de innovación de este chip, según Jacobi, es el acelerador de IA, “que permite atender la demanda de parte de los clientes de la cual hablaba Ross (Mauri)”. Este acelerador está conectado directamente a la infraestructura de los cachés en el chip para bajar la latencia en tareas de inferencia basada en Deep Learning. De este modo, el procesador de IA puede acceder más velozmente a los datos transaccionales y de modelado directamente desde el caché.

Kailash Gopalakrishnan, del IBM Research, a la sazón uno se los artífices de los núcleos de baja latencia del chip, explicó que su unidad viene innovando en materia de algoritmos de inteligencia artificial y hardware por los últimos cinco a seis años, pero siempre con el foco puesto en el código abierto y en un ecosistema amplio. Telum es el primer producto surgido de este ecosistema. Esto cristalizó en junio de 2019 en el AI Hardware Center, del cual este chip es el primer producto. Este centro trabaja de la mano de partners de la Industria y la Academia, y en la actualidad cuenta con 16 miembros.

La industria financiera, de parabienes

Con un desarrollo que llevó cerca de tres años, Telum es el primer procesador de IBM que contiene aceleración para la inferencia de Inteligencia Artificial (AI) desde el chip, proceso que se realiza al mismo tiempo que la transacción se está realizando. Así, la aceleración del hardware fue concebida para ayudar a los clientes para obtener insights de negocio a escala en aplicaciones bancarias, financieras, comerciales, de seguros e interacciones con los clientes.

Adicionalmente, IBM Telum fue diseñado para permitir a las aplicaciones correr eficientemente donde residen los datos, ayudando a superar los enfoques tradicionales de IA empresarial que tienden a requerir una cantidad significativa de memoria y capacidades para mover los datos para gestionar la inferencia. Aquí surge el concepto de aceleración cercana (en proximidad) para los datos de misión crítica y las aplicaciones, todo lo cual permite a las organizaciones realizar un alto volumen de inferencias para transacciones sensibles en tiempo real, sin tener que llamar soluciones de IA fuera de la plataforma (evitando al mismo tiempo que se degrade el desempeño).

Los clientes también pueden construir y entrenar modelos de IA fuera de la plataforma, desplegar e inferir para análisis en un sistema IBM habilitado para Telum.

El chip se caracteriza por un diseño centralizado que les permite a los clientes aprovechar completamente el poder de un procesador de IA para estas cargas de trabajo específicas. Por este motivo, resulta ideal para cargas de trabajo de servicios financieros como la detección de fraudes, el procesamiento de préstamos, las compensaciones y la liquidación de valores, la  lucha contra el lavado de dinero y el análisis de riesgos. Con estas innovaciones, los clientes estarán posicionados para mejorar las reglas existentes de detección de fraude o para utilizar el Machine Learning, acelerar los procesos de aprobación de créditos, mejorar el servicio al cliente y la rentabilidad, identificar qué operaciones o transacciones pueden fallar y proponer soluciones para crear un proceso de conciliación más eficiente.