De rampzalige illusie van perfecte software

(Gepubliceerd in SDN magazine nr 150 april 2024)

Met ergernis door slechte software worden we dagelijks geconfronteerd, maar het debacle bij het Britse Post Office is er een van de buitencategorie. Vanaf 1999 werden 900 filiaalhouders vervolgd voor grootschalige fraude en belandden honderden achter de tralies. In bijna alle gevallen waren bugs in het boekhoudpakket Horizon de schuldige achter het vermeende gesjoemel. De leiding was op de hoogte en verdient daarmee de grootste blaam voor de gerechtelijke dwaling. Met miljarden aan compensatie mag de regering het beschaamde vertrouwen in de rechtsstaat nu herstellen, voor zover dat nog kan.

Meteen vallen je de overeenkomsten op met onze eigen toeslagenaffaire. Arrogantie van de macht die uitdraait op faillissementen, echtscheidingen tot zelfdoding aan toe. Groot verschil was wel dat onze politiek een draconische wet had bedacht en de rechterlijke macht nul coulance toonde in de uitvoering. Het was in essentie geen softwareprobleem. De opsporingsalgoritmes met hun discriminerende voorkeur maakten het weliswaar erger, maar werkten verder as designed.

Horizon van leverancier Fujitsu was daarentegen zo lek was als het spreekwoordelijke mandje. Als je vervolgens niet mocht twijfelen aan de kwaliteit krijg je cognitieve dissonantie. Zie maar: kort nadat je landelijk een nieuw boekhoudsysteem uitgerold hebt kloppen de cijfers van honderden kantoren niet meer. Hoe is dat ineens mogelijk? Brengt een boze geest plotseling al die hardwerkende franchisenemers massaal op het slechte pad? Natuurlijk had de Post Office niet zo’n naïef en verknipt mensbeeld. Alles wees op fouten in de software. Maar in een laffe poging hun eigen straatje schoon te vegen moesten de onschuldige postmasters hangen. Dit waren mensen die iedereen kende en waardeerde in de gemeenschappen waar ze hun nering hadden. Toch waren bugs hier enkel de lont in het kruitvat. Als de rechtsstaat zijn beloop had gehad was het tenminste bij een financiële ramp gebleven.

De Post Office had zich de illusie van perfecte software laten verkopen. Ik ken de cultuur van het Japanse Fujitsu niet, maar ik denk niet dat men er ruimhartig en constructief omging met fouten. Nu draait de doorsnee lezer van dit blad niet aan de knoppen van de democratie, maar als makers van software kunnen wij wel degelijk bijdragen aan een cultuur die dit soort rampen helpt voorkomen. Weg dus met de mythe dat er überhaupt zoiets bestaat als onfeilbaar technisch vernuft binnen een team of individu. Stoot de arrogante nerd van zijn voetstuk – en ja, het zijn altijd mannen. Geef toe dat jij met je twintig jaar ervaring nog steeds uitglijers maakt. Foutloze software schrijven is gewoon hartstikke lastig. Er is eigenlijk maar één verhaal dat we in alle eerlijkheid aan de klant mogen vertellen. “We hebben ons uiterste best gedaan om kwaliteit te leveren, maar het kan altijd dat we steken hebben laten vallen. Dus laat ons alsjeblieft meteen weten als je iets geks ziet, dan gaan we het oplossen”.

Maar ja, in de macho hackercultuur waar niemand durft toe te geven dat iets hun boven de pet gaat klink je dan meteen weer als zo’n watje.