Red Hat Enterprise Linux AI

Présentation
Red Hat Enterprise Linux AI rassemble :

• Red Hat AI Inference Server, qui assure un déploiement rapide et cohérent des modèles dans divers environnements de cloud hybride grâce à une grande compatibilité matérielle.

• Une image de démarrage de Red Hat Enterprise Linux, comprenant des bibliothèques d’IA fréquemment utilisées, telles que PyTorch, ainsi qu’un modèle d’inférence optimisé pour le matériel NVIDIA, Intel et AMD.

• Un service d’assistance technique de niveau professionnel, ainsi qu’une protection juridique dans le cadre du programme d’assurance Open Source.

Inférence rapide et flexible

Les entreprises qui souhaitent mettre en œuvre des applications d'IA générative disposent de deux options : adapter leur stratégie à un produit préconfiguré ou développer une solution personnalisée alignée sur leurs objectifs métier. 

Basée sur des technologies Open Source, la plateforme Red Hat Enterprise Linux AI fournit une infrastructure sécurisée et fiable pour l'exécution de tous les modèles, avec tout type de matériel et d'accélérateur dans des environnements de cloud hybride. Elle inclut Red Hat AI Inference Server, une appliance immuable spécialement conçue pour l'inférence. Cette combinaison de système d'exploitation et de serveur d'inférence d'IA en fait une solution prête à l'emploi pour le déploiement de modèles. L'environnement d'exécution de vLLM et l'outil LLM Compressor intégrés assurent en outre une optimisation du débit et une réduction de la latence, pour un déploiement de modèles rapide et rentable.