IBM lanceert AI Explainability 360 Toolkit

IBM Research heeft de AI Explainability 360 Toolkit gelanceerd, een open source bibliotheek voor data scientists en developers. De bibliotheek geeft uitleg over algoritmes en coding door middel van tutorials, demo’s, handleidingen en meer. Hierdoor kan op een eenvoudige en transparante manier kennis over Artificial Intelligence worden gedeeld.

De toolkit bestaat uit acht algoritmes en geeft gebruikers vertrouwen en inzicht waarom een AI-systeem tot een bepaald resultaat komt. Dit is uiterst belangrijk bij het creëren van vertrouwen onder de verschillende gebruikers van een AI-systeem. Een data scientist kan de toolkit bijvoorbeeld gebruiken om een model of onderliggende trainingsdata te verbeteren. Voor ontwikkelaars kan de toolkit handig zijn om een AI-toepassing te debuggen.
Daarnaast kan de toolkit ook gebruikt worden als hulpmiddel om eindgebruikers uitleg en vertrouwen te geven over een bepaalde voorspelling of aanbeveling, die via een bepaalde AI-toepassing tot stand is gekomen. Denk hierbij aan een financieel adviseur die een aanvraag beoordeelt voor een lening of een huiseigenaar die een beslissing over een hypotheek probeert te begrijpen.

Het creëren van vertrouwen en transparantie op het gebied van AI is cruciaal omdat er bij gebruikers veel onduidelijkheden zijn over deze technologie. Volgens een recent onderzoek van IBM gelooft 68 procent van de business leaders dat klanten steeds meer behoeften hebben aan uitleg over AI. Doordat IBM fors investeert in onderzoek en wetenschap loopt IBM Research niet alleen voorop in het genereren van vertrouwen als het gaat om AI-systemen, maar leert het organisaties ook hoe ze eerlijk en transparant kunnen omgaan met AI.

Meer informatie: AI Explainability 360 Toolkit
IBM Research blog