Categorieën
Digitale Transformatie Security en privacy

Toen ik op vakantie was

Toen ik op vakantie was kwam ik bij een restaurant die net iets nieuws hadden. Als je iets wilde eten of drinken moest je je telefoon koppelen en dan kon je je bestelling invoeren. Die werd dan gebracht door een aardige dame die je gelijk hartelijk welkom heette.

Ik kan nu gaan schrijven over de onpersoonlijkheid die het bij mij oproept. Ik kan gaan schrijven over beveiligingsproblematiek: wat voor risico loop ik door te moeten koppelen? Of, als u dat liever hebt, over privacy: mag een restaurant mijn gegevens wel zo verwerken? Of over discriminatie: wat als ik geen smartphone heb?

Maar vandaag wil ik filosoferen over de blijkbaar onvermijdelijke ontwikkeling dat software onze leefwereld intens verandert. Wat gebeurt er met ons?

De meesten van ons herinneren het zich niet meer, maar rond 1860 kwam de auto in ons leven. Een ramp: herrie, stank, en wat reed dat ding hard! In steden moest er iemand voor lopen om met een luide bel te waarschuwen. Sinds heeft de auto het leven aardig veranderd en heeft de paard-en-wagen afgedaan.

Zitten we nu op net zo’n omslagpunt? Vast wel.

Het is mijn gevoel dat we vóór 2025 omkomen in de apps die omgaan met spraak, reizen, tekst, foto’s en gezichtsherkenning. Veel bestaat al en is gemeengoed in onze hoofden. Ik denk aan Google Maps, navigatie, apps die in de laatste 15 jaar kwamen en nu min of meer normaal zijn. Vermenigvuldig de intensiteit met een factor 10, dat geeft een beeld van 2025.

Dit beeld roept ethische vragen op. Een dankbaar onderwerp. Mag de zelfrijdende auto kiezen wie sterft als het remsysteem faalt[1]? Wat als op Google Maps een plaats staat die in werkelijkheid er niet is[2]? Bestaat dan die plaats toch, al is het maar in Google? 

Dus toenemende aanwezigheid en invloed van apps, en toenemende ethische dilemma’s. Wie is dan verantwoordelijk voor de gevolgen? Een interessante vraag. Je kunt moeilijk stellen: de maatschappij als geheel, of de gebruiker van een app. Beiden hebben weinig invloed op wat er gebeurt. Als je het afpelt, dan zijn het IT’ers, en vooral de ontwikkelaars, die bepalen hoe onze wereld er over een paar jaar uitziet. En hoe we dat beleven. 

In mijn gedachten komt de sjoemelsoftware naar boven. Zoals bekend hebben diverse autobedrijven software zo geschreven dat bij een milieutest de uitstoot minimaal was, en op de weg de prestaties maximaal bij minimaal verbruik. Het is breed in de pers verschenen, heeft voor veel onrust gezorgd. Niet helemaal terecht want een diesel-personenauto met sjoemelsoftware is nog steeds beter voor het milieu dan een benzineversie. Desondanks, je voelt aan dat zoiets niet de bedoeling is. Ook al kan het. Hier gaven ontwikkelaars vorm aan de wereld zoals we die beleven.

Natuurlijk, en dat is het probleem, hebben de ontwikkelaars dat niet zelf gedaan. Er zijn vast geen programmeur geweest die ’s morgens bij de koffie dacht: laat ik vandaag eens een leuk stukje sjoemelsoftware schrijven. Dat doet er niet aan af dat zij een belangrijk onderdeel van het systeem zijn geweest dat heeft geleid tot het in gebruik nemen van sjoemelsoftware. Een systeem dat keuzes maakte tussen conflicterende belangen.

Voor een deel ook kan je terecht stellen dat de IT’ers het door hun vakbekwaamheid mogelijk gemaakt hebben dat het systeem de wet kon ontduiken. Wat best wel een verantwoordelijkheid legt bij de vakman in IT. Die verantwoordelijkheid zal in de nabije toekomst alleen maar toenemen.

Vergelijkbare impacts zullen we vaker gaan zien. Vrij binnenkort, zelfs, verwacht ik. 

Terugkomend op dat restaurant: wie heeft de keuze gemaakt dat ik daar niet hartelijk ontvangen werd, maar wel professioneel en snel geholpen werd met een kop koffie en appelgebak? Het is een intrigerende vraag. Natuurlijk heeft de IT het in eerste instantie mogelijk gemaakt, aan de andere kant, de eigenaar van het restaurant koos ervoor om het te gebruiken, en de klant kiest ervoor in dat restaurant iets te nuttigen. En de ober om om die manier te willen werken. Er is een complex van oorzaken. Zo verandert de maatschappij zonder dat wij dat beseffen. Gaat de menselijke bediening het verliezen van de efficiënte automaat, kiezen we uiteindelijk toch voor een nog meer geautomatiseerde maatschappij?

Waar ik me dan zorgen over maak is, wat als de programmeur in zijn werk fouten maakt? De systemen worden groter, complexer, er komt een moment dat een programmeur en/of een team verantwoordelijk gesteld wordt voor de gevolgen van hun fouten. Of van vermeende fouten. Op zo’n moment zal de vraag gesteld worden: hadden die fouten vermeden of gevonden kunnen worden? 

Ik vind dat we als professionele ontwikkelaars van software moeten nadenken over de wereld die we creëren. Het wordt uiteindelijk ook onze wereld waarin we leven. Is dat een wereld waarin een biertje door een robot aan tafel wordt afgegeven? En willen we dat?


[1] https://www.theglobeandmail.com/globe-drive/culture/technology/the-ethical-dilemmas-of-self-drivingcars/article37803470

[2] https://www.scientias.nl/agloe-het-verhaal-van-de-plaats-die-niet-bestond , https://www.zdnet.com/article/google-maps-and-the-mystery-of-the-non-existent-town

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *