Cloudera integreert Mistral in hybride dataplatform
Cloudera gaat AI-modellen en tools van Mistral integreren in zijn hybride data- en AI-platform. Organisaties kunnen de modellen daardoor gebruiken met eigen bedrijfsdata in cloud-, on-premises en volledig afgeschermde omgevingen. Dat meldt Cloudera gisteren in een persbericht.
De samenwerking is gericht op organisaties die AI willen gebruiken zonder gevoelige of bedrijfseigen data naar externe AI-diensten te verplaatsen. Mistral-modellen kunnen binnen de omgeving van de klant inference uitvoeren en worden aangepast met eigen data.
De integratie moet beschikbaar komen voor publieke en private clouds, eigen datacenters, edge-omgevingen en volledig air-gapped infrastructuur. Bij die laatste categorie bestaat geen directe netwerkverbinding met externe systemen.
Cloudera zegt momenteel ongeveer 30 exabyte aan door klanten beheerde data op zijn platform te ondersteunen. De samenwerking met Mistral moet het mogelijk maken AI-modellen direct naast die data te gebruiken, waarbij bestaande beveiligings- en governance-regels van kracht blijven.
Eigen modellen
Organisaties kunnen onder meer gebruikmaken van Mistral Forge. Daarmee kunnen modellen volgens de bedrijven met grote hoeveelheden eigen bedrijfsdata worden aangepast en getraind.
Het idee is dat organisaties niet alleen hun data onder eigen beheer houden, maar ook controle behouden over de modellen en kennis die daaruit ontstaat. Cloudera en Mistral spreken daarom van sovereign AI: data, rekenkracht, modellen en de uitvoering van AI blijven binnen grenzen die de organisatie zelf bepaalt.
De samenwerking omvat meerdere typen Mistral-modellen en tools. Daaronder vallen modellen voor reasoning, chat, programmeren, documentverwerking en spraak.
Inference
Ook inference kan binnen de eigen infrastructuur worden uitgevoerd. Organisaties hoeven daardoor volgens Cloudera niet uitsluitend afhankelijk te zijn van externe AI-API’s en kunnen zelf bepalen op welke infrastructuur een model draait.
De bedrijven willen daarnaast samenwerken aan AI aan de edge. Daarbij worden modellen dichter bij de locatie uitgevoerd waar data ontstaat. Dat kan bijvoorbeeld relevant zijn voor omgevingen met een beperkte netwerkverbinding, lage latency-eisen of apparatuur die niet continu met een centrale cloud kan communiceren.
De gezamenlijke oplossingen worden via Cloudera en zijn partnernetwerk beschikbaar. Cloudera en Mistral zeggen later aanvullende integraties en functionaliteit toe te voegen.
Bron: Cloudera
