Terzet-Digitaal Congres-5-mr. Pauline Woudenberg

TERZET 25 JAAR- DIGITAAL CONGRES 2018 3 wel ‘the big five’ genoemd: openheid voor nieuwe ervaringen, zorgvuldigheid, extraversie, meegaandheid en emotionele stabiliteit. Kosinski kwam erachter dat de genoemde kenmerken nauwkeurig zijn vast te stellen op basis van Facebook-likes. Mensen die Lady Gaga bijvoorbeeld geliked hebben zijn vaker extravert en mensen die ‘filosofie’ geliked hebben zijn vaker introvert. Hoe meer likes, hoe nauwkeuriger iemands persoonlijkheid is vast te stellen. Zo zijn er 68 likes per gebruiker nodig om onder meer huidskleur, seksuele oriëntatie, politieke voorkeuren, intelligentie, gescheiden ouders, drankgebruik en religie vast te stellen. Op basis van 300 likes kent de gebruiker van het systeem een persoon beter dan zijn of haar eigen partner. Cambridge Analytica ontwikkelde een algoritme waarmee een grote hoeveelheid data van Facebook gebruikers volgens de methode van Kosinski kon worden geanalyseerd, om dezelfde gebruikers vervolgens te benaderen met politieke boodschappen die precies werden afgestemd op hun persoonlijkheid, angsten en behoeften. Op deze manier is getracht het stemgedrag van deze ‘targets’ te sturen. 7 Dit soort vergaande toepassingen drijven nu langzaam maar zeker naar de oppervlakte. Maar ondanks de grote media-aandacht, lijkt niemand dit soort systemen nog echt te doorgronden. De materie blijft complex en ondoorzichtig. Hierdoor blijft het onduidelijk wat er ‘aan de achterkant’ van bedrijven zoals Cambridge Analytica speelt en hoeveel invloed zij daadwerkelijk hebben op de wereld. Wel maakt het voorbeeld van Cambridge Analytica duidelijk dat wiskunde en data lang niet zo onschuldig en objectief zijn als sommigen wellicht denken. De maker van het algoritme bepaalt immers welke data worden gebruikt en hoe deze data worden meegewogen in de uitkomst. Overigens zijn ook de data zelf niet objectief: deze zijn doorspekt van (voor)oordelen van de mensen van wie de data afkomstig zijn. Daarnaast kunnenrelevante data ontbreken, waardoor een vervormd beeld kan ontstaan. In de letselschadepraktijk zou het bovenstaande bijvoorbeeld als volgt tot uiting kunnen komen: stel dat een algoritme wordt ontwikkeld voor de automatische afwikkeling van zaken waarin niet-objectiveerbaar letsel speelt. De programmamaker gaat aan de slag met het systeem, maar op een gegeven moment loopt hij vast. In zijn opdracht staat dat de hoogte van de schade onder andere gekoppeld moet zijn aan de prognose van de klachten, oftewel de ingeschatte hersteltijd. Als in nieuwe, toekomstige dossiers de prognose onduidelijk is, dan is de gemiddelde prognose van de oude dossiers leidend. Er is alleen één probleem: in de oude dossiers blijkt dat de prognose vaak mist of onduidelijk is. Welk uitgangspunt moet de programmamaker voor deze dossiers kiezen? Dat maakt nogal wat uit voor de uitkomst. Hij vraagt het na bij de projectleider die toevallig voor een verzekeraar werkt. Deze stuurt hem door naar de medisch adviseur, die uitlegt dat de prognose bij niet-objectiveerbaar letsel over het algemeen erg goed is. De meeste mensen zijn na drie maanden al helemaal klachtenvrij. Voor dossiers met een ontbrekende of onduidelijke prognose moet hij dus maar gewoon invullen dat er na drie maanden sprake is van restloos herstel. Het moge duidelijk zijn: een automatisch systeem in de letselschade vergt een zeer fijnmazig plan. Een extra moeilijkheid bestaat uit het feit dat als een systeem eenmaal fouten of onwenselijke uitgangspunten bevat, deze vooralsnog moeilijk zijn op te merken. Programma’s zijn vaak ondoorzichtig en oncontroleerbaar door hun complexiteit. Bovendien kunnen programmabouwers weigeren om inzicht te geven in de precieze werking van een systeem. Onafhankelijke toetsing vanuit de overheid gebeurt nu nog niet of nauwelijks. Dit betekent dat de macht over de uitkomst grotendeels bij de programmabouwers ligt en niet bij de opdrachtgevers. Onder de verkeerde omstandigheden kan de ondoorzichtigheid een vruchtbare voedingsbodem vormen voor fouten en zelfs misbruik. In dat kader pleit wiskundige Cathy O’Neil voor een hippocratische eed voor data-wetenschappers, waarin wordt gezworen dat ze alleen wiskundige modellen maken om mensen te helpen en niet om mensen te schaden. 8 Dat laatste lijkt een mooi streven te zijn, zeker wanneer de digitalisatie volledig doorbreekt in de letselschadepraktijk. 7 Het eerste artikel hierover werd gepubliceerd in het Duits in Das Magazin, in december 2016. De inhoud van het artikel is later in het Engels en Nederlands weergegeven door Motherboard van Vice: H. Grassegger, M. Krogerus, ‘De data die de wereld op zijn kop zette’, Motherboard, 28 januari 2017 en een geüpdatete versie 19 maart 2018. Overigens is Facebook waarschijnlijk niet de enige partij dit data heeft verkocht. Zie bijvoorbeeld: redactie NU.nl , ‘Twitter verkocht data aan omstreden onderzoeker Cambridge Analytica’, NU.nl , 30 april 2018. 8 G. Janssen, ‘Wiskundige Cathy O’Neil en de ‘weapons of math destruction’, Vrij Nederland, 16 november 2016.