Después de que Red Hat adquiriera Neural Magic el año pasado para fortalecer sus capacidades de IA de código abierto, anunció hoy que adquirió otra empresa de inteligencia artificial y continúa aumentando su diseño comercial de IA a nivel empresarial. El objetivo de esta adquisición es Chatterbox Labs, una empresa privada fundada en 2011 que se centra en pruebas de modelos de IA y capacidades de protección de seguridad ("barandillas") para la IA generativa.
Chatterbox Labs proporciona una plataforma llamada AIMI, que puede proporcionar indicadores cuantitativos para los riesgos de la IA y proporcionar una serie de funciones en torno al comportamiento del modelo y la gestión de riesgos para ayudar a las empresas a evaluar y controlar los resultados inadecuados y los riesgos potenciales de los modelos en aplicaciones prácticas.
Red Hat dijo que a medida que las empresas impulsan los proyectos de IA desde la etapa experimental al entorno de producción, el monitoreo continuo del sesgo del modelo, la toxicidad y diversas vulnerabilidades se ha convertido en una necesidad. Las pruebas de seguridad de la IA y las capacidades de "barandilla" se están convirtiendo en el "umbral básico" de las plataformas MLOps y LLMOps modernas.
Red Hat declaró en un comunicado que la adquisición está diseñada para responder directamente al rápido aumento de la demanda de "seguridad de IA" y espera que al integrar la tecnología de Chatterbox Labs, proporcione a los clientes una plataforma de IA de código abierto de nivel empresarial más completa para que puedan "ejecutar cargas de trabajo de IA en entornos de producción con confianza". Al incorporar la tecnología de Chatterbox Labs a su matriz de productos existente, Red Hat espera ayudar a las empresas a promover más fácilmente la implementación de grandes modelos e IA generativa, garantizando al mismo tiempo la seguridad y el cumplimiento.
En términos de hoja de ruta del producto, Red Hat dijo que la tecnología de Chatterbox Labs complementará el Red Hat AI 3 lanzado recientemente, agregando capacidades de gestión de riesgos y pruebas de seguridad más completas a la plataforma.
La compañía también reiteró su línea consistente de código abierto: en el futuro, planea abrir gradualmente la tecnología de IA relevante adquirida a partir de esta adquisición para expandir la adopción comunitaria y promover la innovación.
Red Hat dijo en el anuncio que su modelo de larga data es primero adquirir tecnología patentada y luego promover la evolución tecnológica y la prosperidad ecológica a través del código abierto. Esta transacción también continuará con este "modelo de desarrollo estándar de código abierto". A medida que la tecnología de Chatterbox Labs sea de código abierto en fases, estas herramientas críticas de seguridad de IA se pondrán gradualmente a disposición de la comunidad en general, lo que permitirá que más organizaciones se beneficien de capacidades de control de sesgos, revisión de seguridad y cuantificación de riesgos.