The Rule of the System of Technology and Its Algorithms and the Problem of Moral Responsibility

The article offers an analysis of the problems of technology in the context of exercising power in an organization. The power of the system today is addressed in terms of the “rule of numbers,” based on the impersonal authority of the algorithms which is an extension of the modern concept of the instrumental reason. In keeping with the rules of efficiency the employees manifest modes of behavior analogous to those characterizing the functioning of technology and specifically emphasized by Max Horkheimer and Jacques Ellul. In the author’s view, the rule of the algorithm-based technological systems leads to the atrophy of the moral responsibility and the loss of agency. Attempting to defend the idea of man’s free agency in the context of the algorithm-based technological system, the author invokes Hans Jonas’s theory of moral responsibility and refers to the concept of “ethical anarchism” as proposed by Emmanuel Lévinas.

Autor w artykule analizuje problematykę techniki w kontekście sprawowania władzy w instytucji. Obecnie władzę systemu można określić jako rządy liczb (statystyk, reguł parametryzacyjnych i procedur), opartych na bezosobowym autorytecie algorytmów. Rządów tych nie można sprawować bez odpowiednich narzędzi technicznych (maszyn) i odpowiednio zdefiniowanych reguł działania. Rządy algorytmów stanowią rozwinięcie nowożytnej koncepcji rozumu instrumentalnego nakierowanego na pragmatyzm i realizację założonych celów. W związku z regułami skuteczności w realizacji celu oczekuje się od pracowników zachowań podobnych do działania systemów technicznych i informatycznych. Na ten aspekt rozwoju techniki zwracają uwagę analizowani w artykule filozofowie zajmujący się techniką, czyli Max Horkheimer i Jacques Ellul. W przekonaniu autora artykułu rządy systemów techniki opartych na algorytmach prowadzą do zaniku odpowiedzialności moralnej pracowników instytucji. Nie dostrzegają oni swojego wpływu na skutki i politykę działań instytucji, czują się “trybami” w maszynie. Chcąc obronić idee wolnego działania człowieka w kontekście systemu technicznego opartego na algorytmach, autor artykułu odwołuje się do teorii odpowiedzialności moralnej Hansa Jonasa oraz koncepcji “anarchizmu etycznego” Emmanuela Lévinasa.