Waarborg de kwaliteit van kunstmatige intelligentie (AI)

De VCP heeft samen met Jong Rabo een Tech Talk georganiseerd in het teken van kunstmatige intelligentie (AI). Catelijne Muller, beleidsadviseur Europese aangelegenheden van de VCP, sprak deze avond over het belang van de kwaliteit van AI.

Algoritme
Jong Rabo is één van de aangesloten organisaties van de VCP. Binnen de financiële sector zijn verschillende ontwikkelingen gaande op het gebied van AI. Een algoritme zou bijvoorbeeld kunnen bepalen of iemand van een bank een hypotheek krijgt of niet. Volgens Muller moet je er in zo’n situatie wel heel zeker van zijn dat het algoritme het bij het rechte eind heeft.

Data zijn geen feiten
“De kwaliteit van AI moet goed zijn. Data zijn geen feiten. Vooroordelen kunnen onbewust onderdeel worden van een algoritme. Dit kan verstrekkende gevolgen hebben voor mensen”, zegt Muller. Een voorbeeld waarbij dit heel erg misging, was in Amerika, waar een zwart meisje dat een keer een fiets had gestolen door een computer als risicovol werd aangeduid, en een witte crimineel die meerdere malen over de schreef ging niet. Om die reden werd de blanke man wel op borgtocht vrijgelaten en het zwarte meisje niet. Muller: “Zoiets moet je dus absoluut niet willen. Hier gaat het over justitie, maar het kan dus net zo goed over arbeid gaan, of over de vraag of je een lening kunt krijgen.”

Discriminatie
“Als de kwaliteit niet gewaarborgd is, zullen mensen onterecht worden benadeeld. Discriminatie ligt op de loer”, zegt Muller. Muller riep Europa twee jaar geleden op om verantwoord om te gaan met AI. De Europese Commissie heeft dat advies vorig jaar overgenomen en publiceert volgende week Ethische Richtlijnen voor Betrouwbare AI, opgesteld door een onafhankelijke AI adviesgroep (High Level Expert Group on AI), waar Muller lid van is.

Aansprakelijkheid
Een ander belangrijk vraagstuk van deze avond was: Wie is aansprakelijk voor schade wanneer er iets mis gaat met AI? Sommige mensen pleiten voor rechtspersoonlijkheid voor AI. Muller is hier fel tegen. “Als een hond een kind bijt, spreek je de eigenaar van de hond aan, niet de hond zelf. Hetzelfde geldt voor een kind dat een bal door een raam schiet, dan spreek je de ouders aan en niet het kind. Aansprakelijkheid is bovendien een waarborg voor kwaliteit, vanwege de preventieve werking ervan. De dreiging van aansprakelijkheid voorkomt dat er te snel onbetrouwbare of inferieure AI op de markt wordt gebracht”, zegt Muller.