Zur Kritik der Technologie

4 Thesen zur Desorientierung

Zum Seminar: Künstliche Intelligenz, Automatisierung und abstrakte Herrschaft: Technologie kritisch verstehen

Philipp Wissing

These 0 – Grundlegung

“Technologie bezeichnet den Zusammenhang von Idealität, Materialität, Realität und Notwendigkeit – und einen verselbständigten, zerstörerischen Prozess“

Die Geschichte des menschlichen Fortschritts ist bedingt durch die Notwendigkeit und Möglichkeit, mit der zunächst fremden und bedrohlichen Umwelt materiell in Interaktion zu treten. Die Erfahrungen der Menschen bei diesem Prozess schlagen sich in ihren Ideen nieder; sie sind in der Lage, unter bestimmten Umständen Erkenntnisse zu generieren und mittels ihrer Vorstellung die Realität zu verändern. Auf diese Weise haben sich die Menschen, getrieben von Notwendigkeit, die Welt umfassend angeeignet. Dabei ist die reale Bedrohung durch primär naturhafte Effekte geschwunden; die Bedrohung durch menschlich generierte Effekte hat gleichzeitig beständig zugenommen.

Die Dimension dieser Aneignung ist so umfassend, dass wir auf abstraktes Denken zurückgreifen müssen, wenn wir sie verstehen und mit den Konsequenzen umgehen können wollen. Auch die praktisch-transformierende Aneignung der von Menschen geschaffenen Welt ist nur mittels Technologie denkbar.

Die menschengemachte Welt erscheint uns wie eine naturhafte Konstellation, die wir nur mittels Technologie verstehen, konzeptualisieren und transformieren können. Gleichzeitig ist dieser Zustand untrennbar von Technologie als Bedingung seiner Möglichkeit.

Unsere gegenwärtige Realität ist wesentlich bedingt durch menschliche Gestaltung, ist also offensichtlich historisch gestaltbar. Gleichzeitig scheitern wir (noch) daran, die technologischen Möglichkeiten zur Überwindung alles unnötigen Leids einzusetzen. Im Gegenteil, Technologie ist in Form der globalen Industrie dabei, Menschen zu entmündigen, Pandemien hervorzubringen, Grenzregimes und Kriege zu entfachen, den Planeten langfristig für Menschen unbewohnbar zu machen.

These 1

“Die heutige Krise der Technologie besteht in ihrer verselbständigten, selbstreferentiellen Eindimensionalität“

Die meisten globalen Krisen sind mittels Technologie vom Menschen produziert. Gleichzeitig erscheint Technologie selbst immer öfter krisenhaft. Im öffentlichen Diskurs überwiegen die dystopischen Szenarios die Utopien; es ist leichter, Apokalypsen skizziert zu bekommen als den Weltfrieden.

Besonders düster wird die Zukunft der Digitalisierung, der Algorithmen, der künstlichen Intelligenz ausgemalt. Die technologische Entwicklung wird in solchen Dystopien oft als verselbständigter Prozess prognostiziert, der nicht dem menschlichen Willen dient, sondern sich die Menschen zum Mittel macht. Diese Herrschaft der Maschinen geht dann wahlweise mit der vollkommenen menschlichen Entmündigung einher, mit totaler Überwachung, überflüssig gemachten Massen, umfangreicher Manipulation – eine Welt, in der nur die Logik des Algorithmus herrscht, an die sich alles andere unweigerlich anpasst.

Wie konnte es passieren, dass die Menschen vor der Zukunft ihrer selbst gestalteten Welt so viel Angst haben (müssen)?

Technologisch-konzeptualisierendes Denken geht einher mit einer gewissen Selbstreferenzialität, sofern es unter dem Zeichen der Effizienz stehen muss. Technologie basiert wesentlich auf der Konzeptualisierung dessen, was ist. Historisch erfolgreiche Technologie basiert auf der Automatisierung des Vertrauten. Die Möglichkeit des Anderen wird dabei tendenziell ausgeschlossen. Zivilisation bedeutet Ordnung und Strukturierung einer Welt, um sie möglichst kontrollieren und beherrschen zu können.

Die dabei entstehenden „Echo-Chambers“ entmündigen uns, weil sie Perspektiven auf das verhindern, was anders ist bzw. wäre. Somit bleiben wir der Bewältigung der alten Notwendigkeit verhaftet, die Welt nach unserem Ebenbild zu formen.

These 2

“Die Krise der Technologie ist kein ethisch-politisch zu lösendes Problem der Zukunft, sondern Teil einer schon lange gegenwärtigen Vergesellschaftungsweise“

Für Autoren wie Yuval Noah Harari besteht die Gefahr der technologischen Entwicklung im Wesentlichen in Form einer unmündigen Zukunft, in der wir aufgrund von Big Data unsere Entscheidungen als Bürger und Marktteilnehmer nicht mehr frei, sondern manipuliert fällen. Er täuscht sich: Es gibt kein „wir“, dass bis dato jemals frei entschieden hätte. Das menschliche Sein ist bis jetzt unmündig in einer Welt, die mehr zur Angleichung drängt, als zu freier Entfaltung anzustoßen.

Harari warnt außerdem vor dem Entstehen einer „useless class“, vor unserer Zukunft als „downgraded humans“ angesichts der übermächtigen Maschinen, die sich unserer nur bedienen. Doch sind wir nicht schon heute „downgegradet“, indem wir gesellschaftlich nur als das gelten, was wir leisten können bzw. geerbt haben? Und was sind die schon heute existierenden Abermillionen von Slum-Bewohner*innen und Obdachlosen anderes als eine „nutzlos“ gemachte Klasse? Hararis Dystopie ist schon lange Gegenwart.

Zu Fragen ist nach dem Ursprung der menschlichen Kondition, um die es hier geht. Warum können über ein Medium, wie es das Internet ist, Menschen in ihrer Wahlentscheidung beeinflusst werden? Warum funktioniert Werbung überhaupt und warum haben Menschen nichts Besseres zu tun als sich ständig unterwerfen zu lassen? An der Technologie allein kann es nicht liegen – ist sie doch primär Ausdruck und Mittel der rationalen Gestaltung der Welt und kann nur im Kontext der Notwendigkeit ihrer Entstehung verstanden werden.

Es ist falsch, zu sagen, dass der Mensch nunmal so ist, wie er ist. Die Menschen sind so, wie sie sind, weil sie so geworden sind, im Zuge des historisch- gesellschaftlichen Prozesses, der durch Technologie möglich geworden ist, aber mehr ist als bloße Technologie.

These 3

“Technologische Rationalität ist ein Moment der Herrschaft des Kapitals – The Paperclip Maximizer Ecosystem“

Auf einer rein abstrakten Ebene lässt sich die Überwindung der Selbstreferenzialität durchaus konzeptualisieren. Das Problem von Echo Chambers ist nicht, dass es keine Konzepte gäbe, die aus ihnen hinaus führen könnten. Sondern, dass sie unweigerlich erfolgreich sind in einer Gesellschaft, die strukturiert ist wie die unsere.

Essentiell für die Entwicklung der modernen Gesellschaft war die Ablösung von Leibeigenschaft durch Lohnarbeit. Menschen sind auf diese Weise nicht mehr an Grund und Boden ihres Lehnsherrn gebunden, sondern können dort arbeiten, wo sie gebraucht werden.

Die Menschen sind frei in dem Sinne, dass sie niemandes Besitz sind, aber auch frei in dem Sinne, dass sie nicht mehr von Geburt an Zugang zu den Arbeitsstätten haben, an denen sie ihren Lebensstandard erarbeiten können; sie sind persönlich unabhängig und sachlich abhängig.

Die Ordnung, die mittels Technologie durch moderne Zivilisationen hergestellt wird, ist stets eine warenförmige. Der Antrieb der gesellschaftlichen Produktion, durch die die Menschheit sich den Planeten aneignet, ist das Streben nach Gewinn. Es wird alles nicht irgendwie geordnet, sondern muss tendenziell so geordnet werden, dass es sich verkaufen lässt. Es gibt keine unmittelbar natürliche Notwendigkeit mehr, sondern nur die menschengemachte Knappheit durch Konkurrenz.

Marktförmige Produktion hat das Unmögliche möglich gemacht: Bevor es die technologischen Mittel dazu gab, konnten die Menschen anhand der Real-Abstraktion des Preises das produzieren, was für den Fortschritt notwendig war. Marktförmige Produktion bedeutet aber auch immer Konkurrenz und Unbewusstheit – niemand kontrolliert den Markt, alle müssen schauen, dass sie überleben.

Es muss nicht erst zur AI kommen – der Sachzwang des Kapitals bedingt seit Anbeginn ein Paperclip Maximizer Ecosystem, das zwanghaft alles maximiert, was Gewinn bringt. Diese Logik muss aufrecht erhalten werden und an diese Logik muss sich alles anpassen, und wenn dabei alles zerstört wird.

These 4

“Nur eine Gesellschaft, die sich zum Zweck ihrer Produktionsweise macht, kann die (technologische) Dystopie verhindern und die Utopie verwirklichen“

Der Widerspruch, den wir gesehen haben, ist ein Widerspruch des Menschen gegen den Menschen: Technologie, die gegen die Notwendigkeit helfen sollte, perpetuiert die Notwendigkeit und führt uns um uns selbst herum anstatt über uns hinaus. Die materielle Grundlage dafür ist eine Gesellschaft, die immer noch wesentlich aus zwei widerstreitenden Klassen besteht: Denen, die ihre Arbeitskraft verkaufen, und die, die sie kaufen.

Technologie ist dabei an sich kein Heilmittel. Im Gegenteil, Technologie ist wesentlich geprägt von der Notwendigkeit, die sie antreibt; im Falle der industriellen Technologie ist es die Notwendigkeit der Profitabilität.

Dazu aus den Umrissen der Weltcommune:

„Der Zweck der Mehrwertproduktion ist der Maschinerie nicht äußerlich, sondern durchformt sie und den gesamten Arbeitsprozess. […] Auf der einen Seite begründet erst die »automatische Fabrik (…) potentiell die Herrschaft der assoziierten Produzenten über den Arbeitsprozess«, stellt also die Bedingung der Möglichkeit für eine befreite Gesellschaft ohne Mangel dar. Auf der anderen Seite erscheint die Maschinerie im modernen Fabriksystem selbst als »Subjekt, und die Arbeiter sind nur als bewußte Organe seinen bewußtlosen Organen beigeordnet und mit denselben der zentralen Bewegungskraft untergeordnet« (Panzieri).“

Nur eine kollektiv-bewusste Aneignung der gesellschaftlichen (Re-)Produktionsweise kann dazu führen, der dystopischen Tendenz einer selbstreferenziellen Produktion zu entkommen – und die Technologie einer befreiten, friedlichen Welt hervorzubringen.

Literatur

arXiv: Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims

Yuval Noah Harari in The Atlantic Magazine: Why Technology Favors Tyranny

Freundinnen und Freunde der klassenlosen Gesellschaft: Umrisse der Weltcommune

Herbert Marcuse: Industrialisierung und Kapitalismus im Werk Max Webers, in: Kultur und Gesellschaft 2

Patricia Reed: Xenophily and Computational Denaturalization, in: Artificial Labor, a collaborative project between e-flux Architecture and MAK Wien within the context of the VIENNA BIENNALE 2017

Weitere Empfehlungen:

Ingo Elbe: Entfremdete und abstrakte Arbeit

Max Horkheimer: Zur Kritik der instrumentellen Vernunft

Max Horkheimer, Theodor W. Adorno: Dialektik der Aufklärung

Isabelle Klasen: “Erfahrung wider das Ich“. Überlegungen zu einem Begriff des Schönen nach Adorno, in: Unreglementierte Erfahrung, Hg. Devi Dumbadze/Christoph Hesse

Karl Marx:
. Lohnarbeit und Kapital, in MEW 6
. Der Fetischcharakter der Ware und sein Geheimnis, in MEW 23
. „Maschinenfragment“, in MEW 42, S. 590-604

Jörg Stadlinger, Dieter Sauer: Marx & Moderne: Dialektik der Befreiung oder Paradoxien der Individualisierung? In: PROKLA. Zeitschrift für Kritische Sozialwissenschaft, 40 (159)

Bildquelle: wikimedia.org/wikipedia/commons/