Red Hat lanceert updates in Red Hat OpenShift AI en Red Hat Enterprise Linux AI

Red Hat kondigt updates aan voor Red Hat AI. Dit platform helpt organisatiessneller en efficiënter AI-oplossingen te ontwikkelen en in te zetten binnen hybride cloudomgevingen. Red Hat AI biedt een krachtig en gebruiksvriendelijk systeem voor AI-training en -gebruik, met de flexibiliteit om AI-modellen overal te implementeren.

Met Red Hat AI, dat bestaat uit Red Hat OpenShift AI en Red Hat Enterprise Linux AI (RHEL AI), kunnen organisaties AI-modellen optimaliseren en efficiënter gebruiken. Deze modellen worden afgestemd op bedrijfsspecifieke data en kunnen in verschillende omgevingen worden ingezet voor training en gebruik. Red Hat OpenShift AI is een compleet platform voor AI-beheer in de hybride cloud. Het ondersteunt MLOps en LLMOps, biedt tools voor modelbeheer en helpt om AI-modellen eenvoudiger te ontwikkelen, trainen en monitoren.

De recente release, Red Hat OpenShift AI 2.18, biedt nieuwe functionaliteiten om AI-modellen efficiënter te maken:
• Verspreide modelserving: Dankzij de vLLM-inferentieserver kunnen AI-modellen over meerdere GPU's worden verdeeld. Dit versnelt training en optimaliseert het gebruik van rekenkracht.
• Eenvoudige modelafstemming: Met InstructLab en OpenShift AI-data science pipelines kunnen organisaties hun AI-modellen makkelijker aanpassen en beheren via een overzichtelijk dashboard.
• AI Guardrails: Dit helpt de nauwkeurigheid en betrouwbaarheid van AI-modellen te verbeteren en voorkomt ongewenste output zoals beledigende taal of gevoelige informatie.
• Modelevaluatie: Met lm-eval kunnen organisaties AI-modellen testen op verschillende taken, zoals logisch redeneren en tekstbegrip. Zo krijgen ze beter afgestemde, responsieve AI-modellen.

RHEL AI
RHEL AI, onderdeel van Red Hat AI, biedt een stabiel platform om AI-modellen te ontwikkelen, testen en implementeren in bedrijfstoepassingen. Dit platform bevat Granite LLM's en InstructLab-tools en is beschikbaar als een opstartbare Red Hat Enterprise Linux-server. Sinds februari 2025 bevat RHEL AI 1.4 enkele verbeteringen:
• Granite 3.1 8B-model ondersteuning: Dit open-source AI-model ondersteunt meerdere talen en biedt een groter contextvenster voor betere resultaten bij AI-taken.
• Nieuwe visuele interface: Een gebruiksvriendelijke tool waarmee organisaties hun data makkelijker kunnen verwerken en hun AI-modellen kunnen uitbreiden.
• Document Knowledge-bench (DK-bench): Een vergelijkingstool waarmee getrainde AI-modellen kunnen worden vergeleken met standaardmodellen.