Info Support sluit zich aan bij NL4XAI

Info Support sluit zich aan bij het grootste Europese project over de uitlegbaarheid van kunstmatige intelligentie: NL4XAI (Natural Language for eXplainable Artificial Intelligence). Het project heeft als doel om met behulp van begrijpelijke taal te verklaren hoe toepassingen met kunstmatige intelligentie (AI) tot hun besluiten komen. Zo kan een AI-besluit uiteindelijk ethisch worden beoordeeld.

Volgens de voorschriften van de Europese Unie (EU) heeft elk mens het recht om een ​​verklaring te ontvangen over besluiten die hem of haar rechtstreeks aangaan. Dit heeft ook betrekking tot besluiten die door machines worden genomen. Daarom moeten we kunnen uitleggen hoe een bijbehorend algoritme tot een besluit is gekomen. Vooral omdat algoritmes steeds meer worden toegepast in ons dagelijks leven, zoals bijvoorbeeld in gezondheidszorg en door de overheid, groeit ook het belang naar AI-systemen die door iedereen worden begrepen. Om mogelijke vooroordelen te voorkomen, is een nieuwe generatie verklaarbare AI-systemen nodig. Daarom is dit Europese onderzoek naar het ontwikkelen en toepassen van Explainable AI (XAI) opgestart.

Bij NL4XAI zijn achttien organisaties uit vijf Europese landen aangesloten; vanuit Nederland zijn onder meer Universiteit Twente, TU Delft en Universiteit Utrecht vertegenwoordigd.

Innovatieprogramma met 11 PhD-onderzoekers
NL4XAI is een project dat wordt gefinancierd door het Horizon 2020-onderzoeks- en innovatieprogramma van de Europese Unie, in het kader van de Marie Skłodowska-Curie Grant Agreement nr. 860621. Binnen dit Europese project worden elf creatieve, ondernemende en innovatieve beginnende onderzoekers opgeleid. Deze PhD-onderzoekers gaan de uitdaging aan om AI voor iedereen begrijpelijk te maken. Uiteindelijk moet deze ontwikkeling bijdragen aan het vertalen van kennis naar producten en diensten met XAI die geschikt zijn voor economisch en sociaal gebruik. Elke ESR werkt zowel aan een individueel onderzoeksproject binnen een gastinstelling en neemt tegelijkertijd deel aan een integraal onderzoek met alle NL4XAI-leden.

AI begrijpelijk maken
Innovatiecentra, technologiebedrijven en kennisinstellingen vanuit verschillende landen werken samen aan het project. Vanuit het bedrijfsleven is Info Support een van de Nederlandse experts die hun kennis en middelen ter beschikking stelt. Info Support stelt een plaats voor een PhD-onderzoeker beschikbaar. Hier zal deze onderzoeker gaan kijken naar wat ervoor nodig is om het besluit van een algoritme zo begrijpelijk mogelijk uit te leggen aan een ontvanger. Volgens Joop Snijder, Head of Research Center AI bij Info Support, is dit Europese project een mooie stap richting de toekomst. “Samen met alle partners en PhD-onderzoekers hebben we als doel om de taal van AI begrijpelijk te maken. Momenteel is zulk soort informatie, als die er al is, vaak enkel begrijpelijk voor een afgestudeerde data scientist. Met NL4XAI proberen we gezamenlijk daar verandering in te brengen.”

Virtuele karakters
“Vanuit Universiteit Twente dragen wij graag bij aan dit Europese project”, zegt Mariët Heune, Assistant Professor in de Human-Media Interaction onderzoeksgroep bij de Universiteit Twente. “Samen met Info Support gaan we later in het project onderzoek doen naar de toevoeging van gepersonaliseerde uitleg via virtuele karakters. Het belangrijkste is om daarbij uit te gaan van de ontvanger en hoe zij een boodschap waarnemen. Het is een unieke kans om vorm te geven aan de toekomst van AI.”
De PhD positie vanuit Universiteit Twente en Info Support is hier te vinden.