Artificial Intelligence & Implicit Bias [3]

Wat is een psychologische bias?

Wat bedoelen we als we het hebben over bias? Wat is bias, en wat zijn precies de onderscheidende factoren die een bias impliciet maken? Om een beter begrip van de term te krijgen, kijken we naar de oorsprong van het woord. Het concept ‘bias’ vindt zijn etymologische oorsprong in de Occitano-Romaanse talen, vertaald in het Oud-Frans als ‘biais’, wat betekent dat iets ‘schuin, scheef of tegen de draad in’ ging. Dit evolueerde uiteindelijk naar een ‘helling of een schuine kant’. De term werd in het Engels geïntegreerd via het bowls spel, waarbij ballen werden gemaakt met meer gewicht aan één kant, waardoor het concept een negatieve connotatie kreeg. Het gebruik van de term ‘bias’ verbreedde later naar ‘een eenzijdige neiging van de geest’ en ‘onrechtvaardige vooringenomenheid of vooroordeel’. Een cognitieve bias vertegenwoordigt een systematische afwijking van een ware of eerlijke representatie, vaak beïnvloed door vooropgezette ideeën, vooroordelen of bevoorrechting, die kan voorkomen in verschillende velden zoals statistiek, onderzoek of menselijke besluitvorming. Cognitieve bias belemmert het vermogen om rationele oordelen te vellen. Het is een vorm van systematische fout die de perceptie, maatschappelijke houdingen en zelfs wetenschappelijk onderzoek kan beïnvloeden. Een cognitieve bias is een mentale snelkoppeling – een heuristiek – die de agent vrijstelt van uitgebreid kritisch onderzoek en maakt de bias, de facto, onvolledig en epistemologisch problematisch.

Impliciete versus expliciete bias.

De psychologie erkent echter tal van cognitieve biases, waarvan de meeste ofwel impliciet of expliciet zijn voor de agent. Het is echter belangrijk op te merken dat het onderscheid tussen expliciet en impliciet vooral wordt gebruikt om de invloed van impliciete bias op sociale kwesties aan te pakken, en niet zozeer op individueel gehouden biases. Een expliciete bias vertegenwoordigt een vooroordeel waarvan de agent zich bewust is. Een impliciete bias daarentegen vertegenwoordigt een vooroordeel waarvan de agent zich niet bewust is. De agent kan meestal een expliciete bias expliciet rechtvaardigen, wat deze bias waarneembaar en herzienbaar maakt voor het subject. Vanwege de impliciete aard kan het voor de agent uitdagend zijn om een impliciete bias te identificeren en te beheersen. Aan de andere kant, zelfs als een expliciete bias rationeel gemotiveerd kan worden, kan deze nog steeds worden ondersteund door impliciete intuïties of onbewuste neigingen. Dit benadrukt de veelzijdige aard van cognitieve biases in het algemeen, wat suggereert dat elke bias waarschijnlijk elementen van zowel bewuste rationalisatie als onbewuste predisposities bevat. Met andere woorden, hoewel het impliciet-expliciet onderscheid een nuttig kader biedt, is de mate van implicitie van een cognitieve bias waarschijnlijk verdeeld over een spectrum op een continuüm.

Divergentie.

Het belangrijkste kenmerk van een impliciete bias is het verschil tussen het gedrag van de agent en zijn uitgesproken overtuigingen. In het artikel van Gabbrielle Johnson getiteld ‘The Psychology of Bias: From Data to Theory’, presenteert de auteur twee standpunten die deze divergentie kunnen verklaren. Het eerste standpunt pleit voor het zogenaamde ‘Dual Construct Model’, dat voorstelt dat twee verschillende cognitieve constructies aan beide zijden van de divergentie werken. Het tweede standpunt ondersteunt het zogenaamde ‘Rationality of Bias Model’, dat voorstelt dat twee identieke rationele processen aan het werk zijn aan beide zijden van de divergentie. Het laatste model suggereert dat een impliciete bias niet volledig bestand is tegen tegenbewijs, in tegenstelling tot het eerste, dat impliceert dat alleen een expliciete bias vatbaar is voor cognitieve herziening wanneer geconfronteerd met tegenbewijs. Verder moet worden opgemerkt dat zelfs expliciet gehouden biases bestand kunnen zijn tegen tegenbewijs, aangezien agenten bewust kunnen afzien van het serieus overwegen van alternatieve scenario’s. Gelijk hebben en congruent zijn met eerder uitgesproken overtuigingen kan een volledig onafhankelijke psychologische kracht zijn, die in staat is om een bias in stand te houden. In de volgende video zullen we drie veelgebruikte strategieën opsommen om de identificatie en herziening van impliciete bias in natuurlijke intelligentie te bevorderen.