Alle Menschen eint, dass es vieles gibt, was sie nicht wissen. Und: Je mehr Wissen, desto mehr Nichtwissen auch. (Eigentlich ein Umstand, der alle einander näherbringen müsste.) Homo sapiens sapiens neigte freilich immer schon dazu, die Erfahrung seines Nichtwissens zu verdrängen, und die Unmöglichkeit, alles zu wissen, dadurch zu kompensieren, dass er an einem Anderen seiner selbst, worauf er den Wunsch nach Allwissenheit projiziert, Halt sucht. Ein pseudoneutrales Mittel, das quälende Gefühl des Nichtwissens zu verdrängen, lieferte ihm die Moderne in Form einer scheinbar unanfechtbaren Technik. Die Fetischisierung technischer Errungenschaften verleiht ihnen eine irrationale Wirkungsmacht, die sie gegen jede Kritik an der ihnen attestierten Fähigkeit, die Grenzen des Machbaren stets weiter zu verschieben, immunisiert. In der KI-Techno-Logik verbindet beides sich zu einer technizistischen Eschatologie/einem eschatologischen Technizismus. Der KI-Glaube vereint das Bedürfnis, die eigenen Begrenzungen zu kompensieren, indem man das, was man gern wäre, aber nicht sein kann, als Wunschbild projiziert, mit einer fetischisierenden Aufwertung von artificial intelligence, – der man bescheinigt, (bald) mit dem göttlichen Privileg der Allwissenheit ausgestattet zu sein.

Intelligenz bedeutet, sich seines Bewusstseins bewusst sein zu können. Wissen bedeutet, etwas bewusst von etwas anderem unterscheiden zu können. Von künstlicher Intelligenz zu sprechen, ist irreführend. KI verfügt nicht über das, was Intelligenz und Wissen heißen darf. Es handelt sich nicht mal um eine Intelligenz- und Wissenssimulation. Etwas vortäuschen (simulieren) kann man nur, wenn man weiß und versteht, was vorgetäuscht werden soll. Algorithmische Systeme, wie z. B. ChatGPT, sind indifferent gegenüber jedem Sinn und jedem Sein. Sie verstehen nichts. Sie kennen und machen keinen Unterschied zwischen wahr und falsch, Absicht und Zufall, real und fiktiv, gut und böse, Empirie und Illusion etc.

Indifferenz (Gleichgültigkeit) ≠ Neutralität (Unparteilichkeit). Dass algorithmische Systeme indifferent sind, heißt nicht, dass ihnen ihre Entwickler, sei᾿s bewusst und gewollt, sei᾿s unbewusst und unabsichtlich, keine Bias einprogrammieren. Die in den algorithmisch erzeugten Dateibeständen vorhandenen Informationen sind nicht wertfrei. Unter den gegenwärtigen Bedingungen verstärkt KI die Vor-Urteile ihrer Schöpfer und Anwender, codieren Algorithmen Meinungen, nicht Wissen.

Des Weiteren ist KI unter kapitalistischen Produktionsverhältnissen kapitalistische KI. Im Kapitalismus validieren algorithmische Systeme die kapitalistische Normalität. Normalität ist immer das Produkt gesellschaftlicher Verhältnisse. Die von Chatbots wie ChatGPT kreierte Normalität – genauer: die einer blinden Prä-Selektion sich verdankende Normalität jener Datenwelten, die Chatbots wie ChatGPT kreieren – ist ein Resultat der sie formenden gesellschaftlichen Praxis. Selbstverständlich folgt der Einsatz von KI-Systemen im Kapitalismus – nicht nur auf der Ebene der Produktionsverhältnisse, sondern zumal auf der Ebene der Diskurse und kulturellen Leitbilder – der kapitalistischen Logik. (Wohingegen in einer auf Kooperation ausgerichteten Gesellschaft KI-Systeme idealerweise dazu beitrügen, eine humane, eine solidarische Welt zu schaffen.) Selbstverständlich werden die Informationen, die Chatbots wie ChatGPT bereithalten, solange den Prinzipien des allerkleinsten gemeinsamen Nenners gehorchen, wie KI Daten einer Gesellschaft verarbeitet, deren Hauptmerkmal ein allgemeines dumbing down ist. KI wird niemals schlauer sein als die Gesellschaft, deren Daten sie verwertet.

Chatbots wie ChatGPT – und KI-Systeme per se – sind blind: außerstande, hinter die materiellen und ideologischen Bedingungen ihrer Möglichkeit zu kommen, geschweige denn, sie zu verändern. Man könnte KI-Systeme so programmieren und anwenden, dass sie die blinden Flecken ihrer Programmierer und Anwender neutralisieren. Was allerdings voraussetzte, dass Programmierer und Anwender sich erstens der Tatsache bewusst würden, blinde Flecken zu haben, und zweitens bereit wären, dieser Tatsache abzuhelfen. Das wird nicht passieren, solange das Ziel gesellschaftlicher Organisation und Planung nicht darin besteht, die Ausbeutung des Menschen durch den Menschen zu beenden. Als Bedrohung nehmen die Menschen KI insoweit wahr, als sie sich selbst und einander mehr denn je zu Feinden geworden sind und die Verdrängung, die Verleugnung ebendieser Misere zur Signatur einer Gesellschaft gemacht haben, die nun zusätzlich zunehmend von anonymen, KI-induzierten Kontroll- und Steuerungsmechanismen bestimmt wird.

Eine KI- oder Algorithmen-Herrschaft wäre die nächste Variante, die nächste Stufe jener Herrschaft der Sachzwänge, in die Menschen sich verstricken, weil ihnen das Ende der Welt einleuchtender vorkommt als das Ende des Kapitalismus. Eine KI- oder Algorithmen-Herrschaft wäre das ultimative Beispiel für selbstverschuldete Unmündigkeit. Die Verdrängung der selbstauferlegten Ohnmacht führt dazu, dass KI den Eindruck hinterlässt, alien (fremdartig) zu sein. In dem Maße, wie KI als künstliches Werkzeug im Zeichen menschlicher Unfreiheit – im Zeichen menschlicher Unterwerfung unter eine scheinbar autonome Techno-Logik – die reflexive Impotenz ihrer Entwickler und Nutzer spiegelt, erleben sie sie als unheimlich. Hier wiederholt sich, was wir bereits aus der Zeit der Romantik kennen. Damals waren es Automaten, von denen eine unheimliche Wirkung ausging, weil sie zum Gegenstand von Projektionen wurden, zu Verkörperungen dessen, was ihre Schöpfer unter den Verhältnissen der Gestalt annehmenden Konkurrenzwirtschaft bei sich selbst zu erkennen begannen: Produkte einer unkontrollierbaren, dunklen Macht zu sein, die sie hinter ihrem Rücken beherrscht und lenkt. (Um Büchners Danton zu zitieren: „Puppen sind wir, von unbekannten Gewalten am Draht gezogen; nichts, nichts wir selbst!“) Der Unterschied zum frühen 19. Jahrhundert besteht darin, dass die Mechanismen, durch die der Kapitalismus, nicht zuletzt im Zuge technischer Höherrüstung, Entfremdung hervorbringt, inzwischen bekannt und verstanden sein sollten. Die Fetischisierung von Technik dürfte Ausdruck einer halbbewussten Verzweiflung sein, der man zu entkommen sucht, indem man sich identifiziert mit jenen Kräften, deren unheimliche Macht man fürchtet.

KI-Systeme figurieren als kybernetische Verstärker dessen, was eine Gesellschaft verdrängt und auf diese Weise normalisiert. Wenn sie, wie der Kapitalismus, nur existieren kann, weil sie ihre Schattenseiten verleugnet, weil nur diese Logik der Verdrängung ihr Funktionieren ermöglicht – sodass das Verdrängte ihre Normalität konstituiert (und zugleich latent bedroht) –, führt die Präsenz des Verdrängten in der kybernetischen Realität zu deus malus ex machina-Effekten. (Hekatomben von science fiction sind diesen Effekten gewidmet.) Selbstverständlich gibt es auch Köpfe, denen der Kapitalismus als höchste gesellschaftliche Entwicklungsstufe gilt, denen dessen Schattenseiten nicht nur egal sind, sondern als Zeichen der Überlegenheit erscheinen. Für solche capitalist Darwinists/Darwinist capitalists erfüllt der Advent neuer KI-Systeme die strahlende Vision eines sich selbst regulierenden kybernetischen Kapitalismus, in dem Algorithmen den Kostenfaktor Mensch weitgehend beseitigen. („By AGI [artificial general intelligence], we [= OpenAI LP] mean highly autonomous systems that outperform humans at most economically valuable work.“) – Verbreiteter freilich: das Gefühl, die Kontrolle über KI-Systeme zu verlieren und einer dystopischen Zukunft entgegenzugehen, darin Algorithmen Menschen bezwingen bzw. zwangsbeglücken.

Einerseits die Heilserwartung einer auf kybernetische Effizienz setzenden KI-Ideologie, andrerseits die Ahnung, KI werde sich früher oder später gegen ihre Entwickler und Nutzer wenden: Zwei Seiten derselben Medaille. Die menschliche Erfahrung des Nichtwissens findet in der Faszination für eine scheinbar omnipotente algorithmische Intelligenz einen kompensatorischen Ausdruck, ohne so jedoch dem zugrunde liegenden Minderwertigkeitskomplex zu entkommen. Tatsächlich ist die Wirklichkeit der KI-Systeme der Effekt einer doppelten Verdrängung. Die erste Verdrängung betrifft das Moment der Fetischisierung von Technik als etwas, das übermenschliche Eigenschaften aufzuweisen und ein Eigenleben zu führen scheint. Die zweite Verdrängung gilt dem Umstand, dass die Bedingungen des gegenwärtigen zombie bzw. cannibal capitalism Minderwertigkeitsempfindungen aller Art und so den schlimmsten Tendenzen und Impulsen zumal des homo digitalis Auftrieb geben. Wie sehr, davon legen die algorithmisch gesteuerten Anwendungen und Inhalte der (a)sozialen Medien Zeugnis ab. Erst recht droht diese doppelte Verdrängung im Rahmen kybernetischer Groß- und Größtprojekte zu einem destruktiven Faktor zu werden.

Solange der kapitalistische Imperativ herrscht, jeden Mist zu Gold zu machen und dabei alles Gold in Mist zu verwandeln, werden neue technologische Mittel wie Zerrspiegel wirken, die das spätkapitalistische Individuum zur Kenntlichkeit entstellen. Genauer: Die ihm seine Verdinglichung zur Erscheinung und ins Bewusstsein brächten, wenn es noch die Fähigkeit besäße, zu sich selbst und zur Gesamtsituation Distanz zu wahren. Die skizzierte zweifache Verdrängung unterdrückt jeden Gedanken an eine Mitverantwortung dafür, wie KI das intellektuelle und moralische Elend des Kapitalismus vertieft. Die Kreativität der KI erschöpft sich darin, den status quo – also Verdinglichung – zu reproduzieren. So, wie der Kapitalismus jeden Widerstand, jede Subversion aufsaugt, entkräftet, so grotesk dünkt KI-Entwickler und -Nutzer die Behauptung, nicht in der tendenziell wünschenswertesten aller Welten zu leben. Was umso absurder, pathologischer ist, als die gesellschaftliche Grundstimmung überall ins Depressive umschlägt. Man spürt, den Produktionskräften ausgeliefert zu sein. Doch während es bis in die 1980er-Jahre hinein ein Bewusstsein für die Perfektibilität der Welt gab, hat sich seitdem die Ansicht durchgesetzt, dass einem nichts anderes bleibe, als sich den Sachzwängen zu beugen. Die KI-Techno-Logik führt zu neuen Erfahrungen des Ausgeliefertseins. Welche ihrerseits den Eindruck festigen, im Griff einer übermenschlichen, alienhaften KI-Macht zu sein. Die neuen KI-Technologien und -Techniken verringern nicht die Entfremdung des spätkapitalistischen subiectums, sie steigern sie. So oder so: Die, je nachdem, entweder erhoffte oder befürchtete Herrschaft der KI wäre die Herrschaft des nicht zu einem Bewusstsein seiner selbst fähigen automatischen Subjekts. Vor allem aber übernimmt KI jene Rolle einer menschlicher Verfügbarkeit sich entziehenden Gewalt, die früher Gott oder die Natur innehatten. Gott, Natur, KI als Potenzen, deren Macht sich allein der Projektion menschlicher Ohnmachtserfahrungen verdankt. Es spricht nicht für ihre Lernfähigkeit, dass KI-Diskursler Denkweisen wiederbeleben, die bereits im 19. Jahrhundert ad absurdum geführt wurden.

Ein vorläufiges Fazit? Der traurige Witz des ganzen Hypes besteht darin, dass KI nicht dem menschlichen Geist immer ähnlicher wird, sondern, im Gegenteil, der menschliche Geist sich immer mehr dem rein Reproduktiven und Passiven der KI anpasst.