Vertrouwen in het tijdperk van de machine

In bijvoorbeeld de medische wereld nemen apparaten delen van beslissingen over van mensen. De vraag is wat dit doet voor het vertrouwen dat mensen hebben in beslissingen van zichzelf en van anderen.

Politici, psychologen, marketeers, moralisten, sociologen – allemaal bedoelen ze iets anders als ze ‘vertrouwen’ zeggen. Vaak is vertrouwen een maat voor de kans om iets van iemand gedaan te krijgen, bijvoorbeeld een product kopen of op een partij stemmen. Vertrouwen is in dat laatste geval een instrument in een transactie. Dat is niet wat dr. Philip Nickel onder vertrouwen verstaat.

‘Ik zie vertrouwen als een overdracht van moraal’, zegt hij. ‘Je vertrouwen in iemand stellen, betekent dat je je door hem laat beïnvloeden bij het nemen van een ethische beslissing, en hem er ook op aanspreekt als hij je teleurstelt.’

Het meest voor de hand liggende voorbeeld is de relatie tussen arts en patiënt. De laatste verlaat zich voor belangrijke beslissingen op het advies van de eerste, omdat hij niet de kennis heeft om zelf een goed oordeel over zijn gezondheid te geven. Dat is toch iets fundamenteel anders dan je laten aanpraten dat een bepaald wasmiddel de witste lakens geeft.

Broncode

In het huidige technologische tijdperk spelen apparaten een steeds grotere rol in de medische wereld. ‘Een machine heeft echter geen moraal’, zegt Nickel. ‘Waarom zou je er dan toch vertrouwen in hebben? Dokters verlaten zich bijvoorbeeld meer en meer op kennissystemen die zijn ingebouwd in scanapparaten. Die doen dus een deel van de analyse. Wat betekent dat voor het gevoel van zekerheid waarmee de arts zijn diagnose stelt? En heeft het invloed op het vertrouwen van de patiënt in de arts? Dat zijn vragen die mij intrigeren.’

Een volgens Nickel interessante manier om hier tegenaan te kijken, is dat mensen ervan overtuigd moeten zijn dat de motivatie van anderen ook hun belangen omvat. Je vertrouwt de dokter, omdat je weet dat het ook in zijn belang is dat jij beter wordt. Als er technologie in het geding is, moet je ervan overtuigd zijn dat de makers ervan ook hun best doen om jouw belangen te dienen.

Dit speelt niet alleen in de medische context, maar ook bij volslagen andere zaken, zoals open source software. Gebruikers hiervan maken hun keuze vaak niet alleen op praktische maar ook op morele gronden: omdat de makers van open source software openheid betrachten door hun broncode openbaar te maken, tonen zij aan er bepaald morele standaarden op na te houden. ‘Open source fans’ identificeren zich met die houding, waardoor zij meer vertrouwen hebben in dit soort software.

×