Software Destroying Lives — the UK Post Office Scandal — a Solitary Case?

“Hundreds of self-employed workers at the state-owned Post Office were wrongly prosecuted or convicted between 1999 and 2015 for false accounting, theft and fraud because of glitches in a software system that incorrectly showed money missing from accounts.

Some spent time in jail, while others went bankrupt, saw their marriages destroyed, and some died before their names were cleared.”

and: “The Post Office maintained for years that data from the defective Horizon computer accounting system, developed by Japan's Fujitsu and rolled out in 1999, was reliable, while accusing sub-postmasters of theft.”, Reuters

I have been working for a long time on the question of software complexity and quality, or rather, the lack thereof, in most systems under observation. The low quality of software combined with increasing, I want to say, crippling complexity shows increasing bad effects on our society, which is entirely dependent on software. Software is the digital nervous system of our world, and we are suffering from a severe neurological disease in that sense.

Take a look at my YouTube video on software complexity for more context and examples.

Now, what interests me even more than the specifics of this case is: why would this be an isolated case? Because all others produce software so much better? 🤣

Wissen aus dem Rauschen

Wenn man natürliche Phänomene misst, etwa mit chemischen Sensoren, oder mit Kameras, die in der Dunkelheit versuchen, Objekte mit geringer Helligkeit aufzunehmen, ist man mit dem Problem des Rauschens konfrontiert. Rauschen kommt von Elektronik, natürlichen Phänomenen und anderen Störungen und ist (im Idealfall) zufällig.

Aus der Tatsache, dass Rauschen zufällig ist, das zu messende Signal aber nicht, sondern zumindest für eine bestimmte Zeit konstant ist, lässt sich eine einfache Methode anwenden, das Rauschen zu unterdrücken und das Signal zu verstärken: 

Die Abbildung ist beispielhaft generiert. Man könnte sich vorstellen, dass wir mit einem chemischen Sensor ein Spektrum messen, das eine Frequenz von 0 bis 50 zeigt, oder die Achse eine Reihe von 50 Pixeln auf einem Kamera-Sensor darstellt. Bei Frequenz (oder Pixel) 10 und 20 ist ein Signal. Allerdings ist das Rauschen so groß, dass beiden Signale darin verschwinden. Wenn wir einen Blick auf die erste Abbildung werfen, sehen wir folglich, dass nach einer einzelnen Messung nur Rauschen zu sehen ist. Nun wiederholen wir allerdings die Messung mehrfach, die zweite Abbildung zeigt sechs Messungen und die dritte zwölf. Die sechs und zwölf Messungen werden jeweils schlicht addiert. Da das Rauschen zufällig ist, das Signal aber konstant, beginnen die beiden Signale (Peaks) langsam aus dem Rauschen herauszuwachsen. Denn einmal ist das Rauschen an einem Punkt positiv, dann wieder negativ und würden wir in einem idealen System unendlich viele Aufnahmen machen und addieren, würde das Rauschen verschwinden und nur die Signale stehen bleiben.

Diese Methode, die in der Messtechnik angewandt wird, ist eine gute Metapher, wie Wissenschaft funktioniert. Die meisten Arbeiten sind Rauschen, dazwischen sind Signale. Nur wenn wir Experimente wiederholen, Studien reproduzieren, Ergebnisse hart diskutieren, Studien und Artikel, die sich als falsch herausstellen, werden korrigiert oder verworfen und so verschwindet *langsam* das Rauschen und die relevanten Ideen treten deutlicher hervor.