Gracias a que la Inteligencia Artificial (IA) requiere mayor procesamiento, m\u00e1s energ\u00eda y mayor poder tecnol\u00f3gico, se convierte en un verdadero reto para los centros de datos que para responder a estos requerimientos tendr\u00e1n que cambiar para siempre mientras siguen en su lucha por ser m\u00e1s eficientes, limpios y responsables con sus recursos y su entorno.<\/p>\n
Esta situaci\u00f3n se hace cada vez m\u00e1s intensa si miramos la perspectiva de los negocios. El uso intensivo de IA que arranca con peque\u00f1os y b\u00e1sicos bots que responden a los usuarios en sus dudas cotidianas de servicio, tambi\u00e9n est\u00e1 presente en las inmensas aplicaciones de anal\u00edtica que buscan respuestas complejas a temas de ingenier\u00eda, bilog\u00eda, qu\u00edmica y finanzas.<\/p>\n
Pero m\u00e1s all\u00e1 de estas aplicaciones, la IA Generativa, exige a\u00fan mayores recursos tanto de datos como de procesamiento para obtener resultados con audio y video por lo que hoy, toda esta cadena de valor requiere y exige nuevas soluciones cada vez m\u00e1s veloces y proactivas.<\/p>\n
Es por esto que, para lograr los potenciales requeridos, todos acuden a los centros de datos para exprimir al m\u00e1ximo las capacidades de la IA a un costo equitativo para todos los negocios. Por esto mismo los cambios en los centros de datos pasaron de ser necesarios a urgentes para atender tanta demanda, que adem\u00e1s d\u00eda por d\u00eda seguir\u00e1 creciendo de manera casi exponencial.<\/p>\n
De acuerdo con un estudio de Gartner para la firma\u00a0Daon<\/strong>, empresa de investigaciones, se ponen estos datos en consideraci\u00f3n: \u00a0De 2023 a 2026, los modelos basados en soluciones de IA Generativa pasar\u00e1n del 1% a m\u00e1s del 60%, desplazando a modelos monomodales de IA.<\/p>\n De igual forma Gartner asegura que las ofertas de AIaaS (Inteligencia Artificial como Servicio) est\u00e1n creciendo en demanda. Esto incluye soluciones como AI TRiSM (Gesti\u00f3n de Confianza, Riesgo y Seguridad), gesti\u00f3n de alucinaciones, detectores de procedencia, IA responsable e IA sostenible.<\/p>\n Recientemente hablamos con Jonathan Jew, Secretario del Comit\u00e9 de Ingenier\u00eda TR-42 de la Telecommunications Industry Association, TIA. Jew nos ayudar\u00e1 a entender hacia d\u00f3nde se dirigen los centros de datos frente a la creciente demanda de recursos generada por la Inteligencia Artificial, IA.<\/p>\n De hecho, es importante resaltar que, desde la pandemia los centros de datos han comenzado a adaptarse a nuevas tareas y funcionalidades. Sin embargo, el auge de la Inteligencia Artificial, IA, implica que estos deben reforzar elementos claves de sus infraestructuras para responder a la nueva demanda.<\/p>\n J<\/b>onathan Jew explica que \u201cLa IA es la pr\u00f3xima revoluci\u00f3n. Todo lo que hacemos, y esto es muy emocionante, va a exigir una mayor demanda para los centros de datos. Por ejemplo, algunos usuarios de centros de estaban buscando mayor espacio para\u00a0colocation<\/i>\u00a0y eso conduce tambi\u00e9n a buscar m\u00e1s energ\u00eda y capacidad de enfriamiento. Estamos en consumos de 30 KW por gabinete cuando, en el pasado, el consumo promedio era de 8KW\u201d.<\/p>\n Otro punto que est\u00e1 cambiando es la manera como se construyen los centros de datos. De hecho, las redes de servidores con GPU, o unidades de procesamiento de gr\u00e1ficos que pueden realizar c\u00e1lculos matem\u00e1ticos a alta velocidad, exigen formas m\u00e1s eficientes de conectividad a la red y de alimentaci\u00f3n energ\u00e9tica con el fin de obtener todo su potencial.<\/p>\n En el campo de los centros de datos de hyperscale, se busca crear grandes cl\u00fasteres de GPU, a menudo con 64K o m\u00e1s GPU. Esto les permite adaptarse con mayor versatilidad a todas las variantes de cargas de trabajo de entrenamiento de IA generativa (genAI).<\/p>\n El tama\u00f1o de estos grandes modelos de transformadores y los conjuntos de datos pueden necesitar miles de GPU para complementarse. Por lo tanto, proporcionar conectividad de red sin bloqueo (Fully Non-Blocking) entre las GPU podr\u00eda ser un dise\u00f1o excesivo.<\/p>\n As\u00ed, comprender la partici\u00f3n del modelo y los patrones de tr\u00e1fico para las cargas de trabajo de entrenamiento de GenAI optimiza la topolog\u00eda de red. De paso, permite el uso eficiente de los conmutadores Infiniband y Ethernet b\u00e1sicos para las estructuras de GPU.<\/p>\n Adicionalmente, los centros de datos requieren mayor velocidad de conectividad. De acuerdo con Jew, los centros de datos requieren mayor conectividad para las redes con GPU. Por esta raz\u00f3n se est\u00e1n usando fibras \u00f3pticas multimodo, para mejorar la velocidad. Ahora estamos con 8,6 TB de velocidad, pero muchos de nuestros clientes est\u00e1n buscando el punto de conectividad dentro de los centros de datos con fibra \u00f3ptica mono modo.<\/p>\n Frente al uso de recursos como energ\u00eda y enfriamiento, Jew aclara que \u201cLos sistemas de energ\u00eda y enfriamiento tambi\u00e9n deben ajustarse a los servidores. Si se construye un centro de datos desde cero, se debe pensar en darle soporte a una alta densidad. As\u00ed que, si se quieren tener tres o cuatro servidores con GPU en un gabinete, se requieren entre 30 y 40 KW en ese gabinete. Esta cifra es solo para arrancar, no sabemos hasta d\u00f3nde llegar\u00e1, pero es un buen n\u00famero para arrancar.\u201d<\/p>\n Igualmente, es necesario mejorar la conectividad basada en fibra \u00f3ptica. La fibra \u00f3ptica proporciona una alta velocidad de transmisi\u00f3n y baja latencia, lo que permite un procesamiento r\u00e1pido y eficiente de los datos necesarios para la inteligencia artificial.<\/p>\n De acuerdo con Jonathan Jew, \u201cen los centros de datos se est\u00e1 pasando de la transmisi\u00f3n multimodo a la transmisi\u00f3n monomodo a trav\u00e9s de las redes de fibra \u00f3ptica, con esto se obtendr\u00e1 una velocidad m\u00e1s alta\u201d.<\/p>\n De esta forma, se calcula que los centros de datos atender\u00e1n de forma m\u00e1s confiable y oportuna los incrementos considerables en demanda de procesamiento en los pr\u00f3ximos a\u00f1os, pero la verdad, la historia lo dir\u00e1.<\/p>\nLos Centros de Datos se transforman<\/span><\/h4>\n
Las GPU requieren m\u00e1s recursos<\/span><\/h4>\n
M\u00e1s energ\u00eda, enfriamiento y fibra para el centro de datos<\/strong><\/span><\/h3>\n