Dynatrace introduceert AI Observability voor LLM en generatieve AI

Dynatrace kondigt een uitbreiding aan van haar analyse- en automatiseringsplatform, die holistische observability en beveiliging van large language modellen (LLM's) en generatieve AI-aangedreven applicaties biedt. Door deze verbeteringen van het Dynatrace-platform kunnen organisaties generatieve AI vol vertrouwen en kostenefficiënt omarmen als onderdeel van hun focus op het vergroten van innovatie, productiviteit en omzet.

Dynatrace AI Observability is een alomvattende oplossing. Het omvat een end-to-end AI-stack, inclusief infrastructuur zoals Nvidia GPU’s, fundamentele modellen zoals GPT4, semantische caches en vectordatabases zoals Weaviate, en orkestratieframeworks zoals LangChain. Daarnaast ondersteunt het belangrijke platforms voor het bouwen, trainen en leveren van AI-modellen zoals Microsoft Azure OpenAI Service, Amazon SageMaker en Google AI Platform.

Dynatrace AI Observability maakt gebruik van de Davis AI en andere core-technologieën om een nauwkeurig en compleet beeld te genereren van AI-aangedreven applicaties. Hierdoor kunnen organisaties betere gebruikerservaringen bieden en tegelijkertijd prestatieknelpunten en root causes automatisch identificeren. Dynatrace AI Observability met Davis AI helpt hen verder te voldoen aan privacy- en veiligheidsvoorschriften en governancestandaarden door de oorsprong van de output die door hun apps wordt gecreëerd nauwkeurig te traceren. Bovendien helpt het hen bij het voorspellen en beheersen van de kosten door het monitoren van hun verbruik van tokens (de basiseenheden die generatieve AI-modellen gebruiken om zoekopdrachten te verwerken).

Nieuwe digitale transformatie
Generatieve AI is volgens CTO Bernd Greifeneder bij Dynatrace de nieuwe digitale transformatie. “Met deze technologie kunnen organisaties innovatieve oplossingen creëren die de productiviteit, winstgevendheid en concurrentiekracht vergroten. Hoewel het transformerend is, brengt het ook nieuwe uitdagingen met zich mee op het gebied van beveiliging, transparantie, betrouwbaarheid, ervaring en kostenbeheer. Om deze uitdagingen het hoofd te kunnen bieden, hebben organisaties AI-observability nodig die elk aspect van hun generatieve AI-oplossing omvat. Dynatrace breidt zijn observability en AI-leiderschap uit om aan deze behoefte te voldoen en helpt klanten AI vol vertrouwen en veilig te omarmen met ongeëvenaarde inzichten in hun generatieve AI-aangedreven applicaties.”