Sociaal-maatschappelijke softwarekritiek

Hij doet het niet, hij doet het niet
Het spijt me zeer, mevrouw, meneer
De computer wil het niet
Hij doet alleen delete delete
Hij doet het niet, hij doet het niet

Dat is de eerste strofe van een liedje dat Tamara Bos schreef voor de verfilming van Annie M.G. Schmidts verhaal "Otje". De computer in kwestie bevindt zich in het gemeentehuis en is die dag alles behalve bereidwillig Otjes vader Tos te helpen. Het probleem van Tos is dat hij nergens aan het werk kan omdat zijn papieren ergens in hetzelfde gemeentehuis zijn zoekgeraakt. De halsstarrigheid van de ambtelijke software leidt tot een indrukwekkend staaltje technology related anger aan de zijde van Tos, die daarop onverrichter zake het gemeentehuis uitgezet wordt.

Deze moderne zedenschets is nauwelijks absurdistisch of overdreven. Onze productiemiddelen, ons overheidsapparaat, ons financiële stelsel, onze creatieve cultuur, onze hulpdiensten, alle aspecten van onze samenleving zijn inmiddels zo afhankelijk van het juist functioneren van software, dat het onjuist functioneren ervan leidt tot onmenselijke, oncontroleerbare of kritieke situaties. De kredietcrisis werd ingeleid door gecomputeriseerde financiële transacties waarbij de risico’s en waardering van grote pakketten subprime hypotheken in milliseconden door software werden berekend. Of neem mensen die in een jaren slepende juridische hel belandden doordat overheidssoftware hun bestaan ontkende of hun identiteit verwarde.

Het grootste probleem van deze situatie, waarin we op zeer complexe manieren en onontkoombaar afhankelijk zijn van software, is niet dat zulke software fouten bevat. Alle software bevat technische onvolkomenheden die opgelost kunnen worden. Het grootste probleem van software is dat het juiste functioneren ervan juist niet alleen een kwestie van technische correctheid is. De vraag of software juist functioneert raakt ook aan vragen over de ethische, sociale en economische overtuigingen die vervat zijn in computercode.

Aan hun wiskundige en elektronische fundamenten ontlenen computers en software een vanzelfsprekend lijkende claim van mathematische precisie, correctheid en niet zelden onfeilbaarheid. Maar die technische correctheid impliceert allesbehalve vanzelfsprekend de juistheid van het doel van de software, en nog minder de juistheid en rechtvaardigheid van de politieke overtuigingen en de maatschappelijke waardes die een rol spelen bij het schrijven van die software.

Vergelijk het met de aard en kleuring van websites. We vinden het vanzelfsprekend dat een website van een stichting die het welzijnsbelang van dieren vooropstelt een ander verhaal vertelt, een andere bedoeling heeft, en een andere vormgeving gebruikt dan een website die het belang van de bio-industrie dient. Net zo min neutraal zijn de miljoenen regels programmacode die minder zichtbaar zijn, maar die meer directe invloed hebben op het bestaan van mensen. Wat betekent het dat het ontwerp van softwaresystemen die de massale informatiestromen van een overheid in banen leiden en analyseren in handen is van bedrijven die een onverholen belang hebben bij een neoliberale marktopvatting?

Computercode is niet neutraal, verre van. Zo ontwikkeld als onze culturele en politieke kritiek mag zijn, er bestaat nog niet zoiets als sociaal-maatschappelijke softwarekritiek – al deed David M. Berry in maart van dit jaar een beloftevolle voorzet met zijn boek Critical Theory and the Digital.

 

 

 

Joris van Zundert is onderzoeker in computationele en digitale geesteswetenschappen aan het Huygens Instituut voor Nederlandse Geschiedenis van de Koninklijke Nederlandse Akademie van Wetenschappen.