Red Hat biedt automatisering met OpenShift AI, RHEL AI en Lightspeed-integratie

Tijdens de Red Hat Summit in Denver heeft Red Hat tal van productinnovaties bekendgemaakt. De grootste updates integreren krachtige mogelijkheden voor automatisering en voorspellende- en generatieve AI-mogelijkheden binnen de platforms van Red Hat. Red Hat OpenShift AI versnelt AI/ML-implementatie in hybride clouds; Red Hat Enterprise Linux (RHEL) AI biedt een fundament voor AI-modellen; en Red Hat Lightspeed-integraties in zowel OpenShift als RHEL verbeteren de productiviteit van teams die deze platformen gebruiken.

Red Hat OpenShift AI is een open hybride AI- en ML-platform dat bedrijven in staat stelt om AI-gestuurde applicaties op grote schaal te ontwikkelen en te implementeren in hybride clouds. Dit leidt tot snellere innovatie, een hogere productiviteit en de mogelijkheid om AI in te bedden in dagelijkse bedrijfsprocessen door middel van een flexibeler, schaalbaarder en aanpasbaar open-source platform. Hiermee kunnen zowel voorspellende als generatieve modellen worden gebruikt, met of zonder gebruik van cloudomgevingen.

Red Hat OpenShift AI biedt onder meer:
• Modelgebruik aan de edge met de uitrol van AI-modellen naar afgelegen locaties via een enkele OpenShift-node. Dit biedt inferentiemogelijkheden in omgevingen met beperkte middelen en onderbroken of geïsoleerde netwerktoegang. Beschikbaar in preview.
• Verbeterde uitvoering van voorspellende en generatieve AI-modellen door gebruik te maken van meerdere model-servers. Zo kun je verschillende typen servers inzetten voor model-orkestratie, LLM's en natuurlijke taalverwerking.
• Gedistribueerde workloads met Ray door gebruik te maken van CodeFlare en KubeRay, die meerdere cluster nodes gebruiken voor snellere en efficiëntere gegevensverwerking en modeltraining. Ray versnelt AI-workloads, terwijl KubeRay deze op Kubernetes beheert. CodeFlare biedt een gebruiksvriendelijk framework voor versimpelde taakorkestratie en monitoring.
• Verbeterde modelontwikkeling door middel van project-workspaces en extra workspace-images die datawetenschappers de flexibiliteit bieden om IDE's en toolkits te gebruiken zoals VS Code en RStudio (beschikbaar als preview), en een verbeterde CUDA-architectuur voor diverse use cases en modeltypes.
• Visualisering van modelwerking en operationele statistieken voor meer inzicht in de prestaties van AI-modellen.
• Nieuwe acceleratorprofielen waarmee beheerders verschillende soorten hardwareversnellers voor modelontwikkeling en -workflows kunnen configureren. Dit biedt eenvoudige toegang tot het juiste type accelerator voor specifieke workloads.

RHEL AI
Red Hat Enterprise Linux AI (RHEL AI) dient als fundament voor AI-modellen, waarmee gebruikers op gebruiksvriendelijke wijze generatieve AI-modellen kunnen ontwikkelen, testen en implementeren. RHEL AI combineert de open source-gelicenseerde Granite LLM’s van IBM Research, InstructLab-tools om modellen op elkaar af te stemmen op basis van de LAB-methodologie (Large-scale Alignment for chatBots) en een community-gedreven benadering voor modelontwikkeling via InstructLab. De InstructLab open source-community is opgericht door Red Hat en IBM om het developers net zo makkelijk te maken om bij te dragen aan LLM-ontwikkeling als ieder ander open source-project.

RHEL AI wordt aangeboden als een geoptimaliseerde, startklare RHEL-image voor individuele serverimplementaties in hybride cloudomgevingen. RHEL AI wordt onderdeel van OpenShift AI voor meer mogelijkheden in het opschalen van AI-modelontwikkeling en levenscyclusbeheer op basis van MLOps. Zowel OpenShift AI als RHEL AI worden ook geïntegreerd met IBM watsonx, wat extra mogelijkheden biedt voor enterprise AI-ontwikkeling, gegevensbeheer en modelgovernance.

Uitbreiding van Red Hat Lightspeed
Lightspeed wordt geïntegreerd in Red Hat OpenShift en Red Hat Enterprise Linux. Deze integraties bieden intelligente, op natuurlijke taalverwerking gebaseerde mogelijkheden die het gebruik van Red Hat's Linux- en cloud-native applicatieplatformen voor beginners versimpelen en voor ervaren professionals efficiënter maken. Daarnaast zijn nieuwe functies beschikbaar in Red Hat Ansible Lightspeed.

Red Hat Lightspeed integreert generatieve AI in bestaande platformen om de productiviteit en efficiëntie van gebruikers te verbeteren. Hierdoor krijgen gebruikers toegang tot de uitgebreide kennis van Red Hat over het gebruik van open-source technologieën in bedrijfskritische omgevingen. Deze kennis kunnen ze vervolgens contextueel toepassen op specifieke situaties.
Zo kan Red Hat OpenShift Lightspeed beheerders adviseren over de inzet van autoscaling op basis van realtime gegevens en de scalingmogelijkheden van de specifieke cloudomgeving. En Red Hat Enterprise Linux Lightspeed kan beheerders bijvoorbeeld helpen met het inplannen van patching op basis van best practices en de actuele staat van de omgeving. Tot slot zijn er verschillende verbeteringen aangebracht in Red Hat Ansible Lightspeed.