Page - 26 - in Algorithmuskulturen - Über die rechnerische Konstruktion der Wirklichkeit

Jonathan Roberge und Robert Seyfert26 tragen. Unzählige solcher Fehler ließen sich hier anführen, von »Amazons 23 698 655,93 $ Angebot für ein Buch über Fliegen« (Eisen 2011) bis zum Nieder- gang von Knight Capital, einer algorithmischen Börsenhandelsgesellschaft, die aufgrund der Störung eines Handelsalgorithmus 400 Millionen US $ in 45 Mi- nuten verlor (SEC 2013: 6). Die Nutzung von Algorithmen birgt im Alltag also eine Mischung aus Überraschungen und Enttäuschungen. Die immer wieder zum Ausdruck gebrachte Verwunderung über die Treffsicherheit von Ama- zons Empfehlungs-Algorithmen bei der Vorhersage (oder Erzeugung) von Ge- schmäckern und den daraus folgenden Käufen geht Hand in Hand mit zahlrei- chen Beschwerden darüber, wie sehr sie doch daneben liegen. Wir haben uns an falsch liegende algorithmische Systeme gewöhnt und wir haben uns daran gewöhnt mit ihnen umzugehen. In der Tat sind Witze über fehlerhafte Algo- rithmen mittlerweile ein eigenes Genre: »da @Amazons Algorithmen derart fortschrittlich sind, wurden mir mehr als 10.000 #PrimeDay-Geschäfte an- geboten und ich bin an keinem einzigen von ihnen interessiert« (Davis 2015). Shintaro Miyazaki erläutert in seinem Beitrag zu diesem Band den Lawi- neneffekt von »Mikro-Fehlern« in algorithmischen Kulturen. Er zeigt auf, wie winzig und irrelevant erscheinende Kleinigkeiten, eine kleine Abweichung vom Code, eine unmerkliche Dezentrierung in algorithmischen Rückkopp- lungsprozessen zu Ergebnissen katastrophischen Ausmaßes führen können. Miyazakis historische Fallstudie zu AT&Ts Absturz im Jahre 1990 zeigt über- dies, dass solche Fehler von Anfang an Bestandteil algorithmischer Kulturen waren. In dem beschriebenen Fall erzeugte ein Update innerhalb AT&Ts Tele- fonnetzwerkes eine Feedbackschleife mit der das gesamte System in einen un- stabilen Zustand geriet, aus dem es nicht mehr herausgekommen ist. Während die einzelnen Subsysteme Notfallroutinen enthielten, die jedes von ihnen dazu in die Lage versetzte, sich von Funktionsstörungen zu erholen, verursachten algorithmische Rückkopplungsschleifen zwischen den Subsystemen einen Zustand, in denen sich interagierende Algorithmen gegenseitig ausschalteten. Resultat war ein algorithmisches Netzwerk von unproduktiven Operationen, das seine Ursache letztlich in »gestreuten Dysfunktionalitäten« hatte (vgl. Mi- yazaki in diesem Band: 180) . Wenn wir die Tatsache ernst nehmen, dass Fehler unweigerlich einen Teil algorithmischer Kulturen ausmachen, bekommt Miyazakis Analyse eine noch weitreichendere Implikation: Man könnte annehmen, dass »verteilte Dysfunk- tionalitäten« einen Prozess darstellen, in welchem algorithmische Netzwerke irrtümlich eine höhere Form der ultimativen Maschine hervorbringen. Der von Claude E. Shannon erschaffene Prototyp der ultimativen Maschine hat nur einen einzigen Zweck: sich selbst abzuschalten. »Sie könnte nicht simpler aussehen. Es handelt sich um ein kleines hölzernes Kästchen in der Form und Größe einer Zigarettenschachtel mit einem einzelnen Schalter auf einer