Red Hat anunció la adquisición de Chatterbox Labs, una compañía pionera en seguridad de IA agnóstica al modelo y en medidas de protección (guardrails) para IA generativa. La operación suma capacidades clave de seguridad para IA al portafolio de Red Hat AI, reforzando su estrategia de ofrecer una plataforma de IA empresarial abierta, integral y diseñada para entornos de nube híbrida.
El anuncio se da tras un año de fuerte innovación para Red Hat AI, marcado por la introducción de Red Hat AI Inference Server y el lanzamiento de Red Hat AI 3. Empresas de múltiples industrias ya adoptan estas soluciones para impulsar aplicaciones de IA generativa, predictiva y agéntica, en un contexto donde el paso de la experimentación a la producción exige modelos no solo potentes, sino también confiables, demostrables y seguros.
En este escenario, las capacidades de seguridad y guardrails se vuelven fundamentales para las operaciones modernas de MLOps. La integración de la tecnología de Chatterbox Labs permite incorporar la seguridad de forma nativa, alineada con el compromiso de Red Hat e IBM de promover una mentalidad de seguridad primero, facilitando el despliegue responsable de IA en cualquier entorno, con cualquier modelo y cualquier acelerador.
Fundada en 2011, Chatterbox Labs aporta una sólida experiencia en riesgo cuantitativo de IA, reconocida por think tanks y formuladores de políticas a nivel global. Su tecnología de aprendizaje automático permite evaluar y transparentar los riesgos asociados a modelos y datos, brindando a las organizaciones métricas objetivas para aprobar el uso de IA en entornos productivos.
Entre sus capacidades se destacan AIMI para IA generativa, que entrega métricas de riesgo independientes para LLMs; AIMI para IA predictiva, que valida arquitecturas de IA en pilares como robustez, imparcialidad y explicabilidad; y guardrails automatizados, que identifican y corrigen prompts inseguros, tóxicos o sesgados antes de la puesta en producción.
La adquisición también refuerza la visión de Red Hat de soportar la próxima generación de cargas de trabajo de IA, especialmente en IA agéntica y en el Protocolo de Contexto de Modelo (MCP) introducido en Red Hat AI 3. Al combinar las capacidades de MLOps de Red Hat con la experiencia en seguridad agéntica de Chatterbox Labs, la compañía busca habilitar sistemas inteligentes más seguros, autónomos y confiables, preparados para operar sobre una base lista para la empresa.
Leer más
El desafío de gobernar la ciberseguridad: la estrategia del agente unificado
ChatGPT Imágenes: cómo crear y editar fotos con inteligencia artificial paso a paso
Compartir nota:
