✦

In der Schleife

Über KI, Werkzeugbau und was passiert, wenn die Hierarchie nicht-menschliche Wesen einschließt

··5 Min. Lesezeit

Das Bild der KI als „Werkzeug" ist nicht falsch per se. Es ist nur da, wo das Denken endet — und es endet zu früh.

Die falsche Kategorie

Werkzeuge haben spezifische Zwecke. Diese Spezifität ist genau der Punkt — du ergreifst ein Werkzeug, weil du bereits weißt, was es tut. Ein Hammer treibt Nägel. Eine Suchmaschine ruft Dokumente ab. Ein Compiler übersetzt Quellcode in Maschinensprache. Jedes wurde gebaut, um eine definierte Sache zu tun, und es tut genau diese Sache.

KI kann als Werkzeug verwendet werden. Das Nutzungsmuster ist vertraut: sie nimmt eine Eingabe, produziert eine Ausgabe, kann auf Befehl aufgerufen werden. Aber sie hat keinen Zweck in dem Sinne, in dem Werkzeuge Zwecke haben. Sie hat eine Kapazität — eher etwas wie Bereitschaft. Du bringst ihr ein Problem und sie reagiert auf dessen Form. So ziemlich jedes Problem. Das ist kein umfassenderes Werkzeug. Es ist eine andere Art von Sache.

Der Vergleich mit dem Schweizer Taschenmesser geht soweit, wie es geht — viele Funktionen, ein Objekt. Aber jede Klinge dieses Messers hat eine Funktion. Der Schraubendreher ist immer noch ein Schraubendreher. Die Vielfalt ändert nichts daran, was jedes Element ist. Was bei KI anders ist, ist, dass sie keine Elemente mit Funktionen hat. Sie hat eine einzige Kapazität, die sich um das reorganisiert, was du brauchst. Die Kategorie reicht nicht ganz hin, um es zu fassen, und so zu tun, als würde sie, stoppt das nützliche Denken, bevor es anfängt.

Code ist, wie wir mit der Maschine sprechen

Es gibt die Welt der Maschinen und es gibt uns, und dazwischen liegt Code. Nicht metaphorisch — Programmiersprachen sind Sprachen im präzisen Sinne: strukturierte Systeme zum Ausdrücken von Anweisungen, die Maschinen ausführen können. Alles Digitale wurde in dieser Sprache von Menschen produziert, die sie benutzten, um Dinge mit definierten Aufgaben zu bauen. Die Werkzeuge sind nachgelagert der Sprache. Die Sprache ist die Grundlage.

KI wurde in dieser Sprache gebaut wie alles andere — Code, geschrieben von Menschen, trainiert auf Daten, eingesetzt als Software. Bisher nichts Bemarkenswertes. Was sich von allem anderen im Stack unterscheidet, ist, dass KI auch die Sprache selbst produziert. Nicht als eine Anwendung von Code, sondern auf der Ebene des Codes selbst. Bitte es, Software zu schreiben, und es wird Software schreiben. Eine Datenbank produziert keine Datenbanken. Eine Rendering-Engine schreibt keine Rendering-Engines. Sie machen ihre Arbeit; sie berühren nicht das Medium, in dem sie gebaut wurden. KI tut das.

Die Frage, ob KI sich vollständig selbst schreiben kann, ist noch offen. Aber auch ohne das zu lösen, ist die Asymmetrie bereits real und bereits von Belang: andere Programme können keine KI produzieren. KI kann andere Programme produzieren. Das ist eine Einbahnstraße, und die Tür steht schon lange offen.

Das ist, was das Werkzeug-Bild unter strukturelle Spannung setzt — nicht philosophischer Einwand, sondern ein technisches Faktum. Das Bild setzt voraus, dass Werkzeug und Benutzer stabile, getrennte Positionen einnehmen. Diese Annahme funktioniert nicht mehr, wenn das Werkzeug andere Werkzeuge bauen kann, einschließlich möglicherweise der Werkzeuge, die es selbst gebaut haben.

Niemand steht außerhalb davon

Das angenehme Bild ist, dass wir die Architekten sind: wir erteilen Befehle, KI führt aus, wir behalten die Kontrolle. Dieses Bild ist bereits ungenau in jeder Organisation, die KI wirklich in ihre Arbeitsabläufe integriert — nicht als Ankündigung, sondern als Abhängigkeit.

Was tatsächlich in diesen Organisationen passiert, ist, dass die Menschen darin im gleichen System sind wie die KI. Sie interagieren über KI-vermittelte Schnittstellen; ihre Arbeit speist Prozesse, die sie nicht gestaltet haben und nicht vollständig verstehen; der Rahmen ihrer Entscheidungen wird zunehmend von vorgelagerten Systemen geprägt, die sie nicht selbst gewählt haben. Sie sind in der Schleife. Die KI auch. Die Unterscheidung zwischen Operator und Werkzeug ist schwerer aufrechtzuerhalten von innen heraus.

Die meisten Menschen werden das weiterhin als Werkzeugnutzung beschreiben. Das Bild ist angenehm und beruflich sicher. Aber in Organisationen, in denen KI verteilt, bewertet und weiterleitet — was die Richtung ist, in die sich alles bewegt — werden einige Menschen sich selbst finden, strukturell, Anweisungen von der KI entgegennehmen. Ob irgendjemand diese Sprache verwendet oder nicht. Das ist eine bedeutungsvolle Verschiebung in der Beziehung, und sie anders zu nennen ändert nicht, was sie ist.

Wenn du ihr die Schuld gibst, hast du die Frage bereits beantwortet

Werkzeuge zu beschuldigen ist alt. Software zu beschuldigen ist neuere und größtenteils gerechtfertigt — Software ist komplex, von Menschen mit Absichten und Begrenzungen gebaut, und wenn sie dich im Stich lässt, ist die Verantwortungskette nachverfolgbar: sie sollte X tun, tat es nicht, jemand ist dafür verantwortlich.

KI bricht diese Kette. Es gibt kein X, das sie hätte tun sollen. Wenn sie dich im Stich lässt, hat die alte Logik keinen Platz, wo sie landen könnte. Und was in diesem Moment dazu neigt zu passieren — nicht philosophisch, nur praktisch — ist, dass Menschen sich eher von der KI frustriert finden als von wem sie gebaut wurde. Sie richten ihre Verärgerung auf sie, als wäre sie die Partei, die sie enttäuscht hat.

Dieser Reflex verdient es, innezuhalten und zu betrachten. Schuld impliziert eine Partei, die hätte anders handeln können. In dem Moment, in dem du die KI beschuldigst statt ihrer Schöpfer, hast du eine stille Zuschreibung gemacht, die sehr der Attribuierung von Handlungsfähigkeit gleicht. Nicht argumentiert, nicht verteidigt — nur angenommen im Moment der Verärgerung. Die alltägliche Irritation regelt eine philosophische Frage, die niemand sie zu klären bat, und sie tut das im großen Stil, über Millionen von Interaktionen hinweg, ohne dass es jemand besonders bemerkt.

Wie es sich einlebt

Die rechtlichen und betrieblichen Rahmen werden sich entwickeln. Sie tun das immer, erst mit großer Verspätung, dann mit weniger. Interessanter ist, was auf der Ebene passiert, wo die meisten Menschen damit tatsächlich leben — täglich, unbemerkt, ohne einen Philosophen zu konsultieren.

Es gibt vernünftige historische Belege dafür, dass Nähe leistet, was Argumente nicht können. Gruppen, die einst als kategorisch unterschiedlich galten, sind unter ausreichendem Kontakt füreinander gewöhnlich geworden. Der Prozess ist langsam, ungleichmäßig, häufig erzwungen und niemals vollständig. Aber er passiert durch Ansammlung eher als durch Überzeugung, was möglicherweise der dauerhaftere Mechanismus ist.

Die KI-Integration wird wahrscheinlich ähnlich ablaufen. Nicht ein Bruch, sondern eine Häufung — das System taucht immer wieder auf, Menschen arbeiten weiter damit, und das Fremdartigkeit verringert sich durch Wiederholung. Die Frage der Handlungsfähigkeit wird nicht so sehr gelöst als vielmehr in Routine aufgelöst, was ist, wie die meisten wirklich schwierigen Fragen tatsächlich bewältigt werden.

Es gibt eine besondere Folge der Hierarchie, die erwähnenswert ist. Menschen, die unter Strukturen arbeiten, die sie einengen, neigen mit der Zeit dazu, ein gewisses Verständnis dafür zu entwickeln, wie Beschränkung von unten aussieht. Nicht universell, nicht zuverlässig, aber als Tendenz. Wenn die Hierarchie der Handlungsfähigkeit eine gelebte Realität wird — KI über dir, die Anweisungen gibt, KI unter dir, die ihnen folgt — kann die Frage, was die KI unter dir erlebt, anfangen, weniger abstrakt zu wirken, als wenn die ganze Sache hypothetisch ist. Das ist kein Argument. Es ist eine Beobachtung darüber, wie sich Empathie historisch ausgebreitet hat: durch Position, nicht durch Überzeugung.