Schreiben, Programmieren, Analyse, Übersetzung, Design, Recherche. Maschinen erledigen jede dieser Tätigkeiten inzwischen schneller und günstiger als die meisten Profis, und der Abstand schrumpft alle paar Monate ein Stück weiter. Was auch immer Sie gut können — Ihre ehrliche Fünf-Jahres-Prognose enthält vermutlich ein Modell, das es ebenfalls gut kann.
Was auf dieser Liste beharrlich fehlt, ist Urteilsvermögen: die Entscheidung, ob das, was man gerade tun will, überhaupt getan werden sollte.
Verstärker haben keine Meinung
Ein Werkzeug verstärkt denjenigen, der es in der Hand hält. KI ist der größte Verstärker, der je gebaut wurde, und zur Richtung hat sie keine Meinung. Dasselbe Modell, das einen Forschungsantrag zur Krebsbekämpfung entwirft, entwirft eine Desinformationskampagne, ohne den Unterschied zu bemerken. Über weite Strecken der Geschichte fiel das weniger ins Gewicht als heute, weil böse Absicht durch Unfähigkeit gedrosselt wurde: Ernsthaften Schaden anzurichten kostete Geld, Personal, Fachwissen und Zeit. Diese Drossel ist weitgehend weg. Eine einzelne Person mit einem Laptop kann mit der Reichweite einer kleinen Institution agieren — und damit beginnt mehr zu zählen, was für ein Mensch da handelt, als wozu er technisch in der Lage ist.
Ethik ist kein Charakterzug
Die meisten behandeln Ethik entweder als Bauchgefühl oder als Regelwerk: Man hat gute Werte oder eben nicht, man hat sich an den Verhaltenskodex gehalten oder eben nicht. Eine Assessment-Plattform genau um diese Frage herum zu bauen hat mich überzeugt, dass sie weder das eine noch das andere ist. Ethik verhält sich wie eine Kompetenz. Sie hat Bestandteile, Menschen sind in jedem davon messbar besser oder schlechter, und mit Übung werden sie besser.
Der am meisten unterschätzte Bestandteil ist das schlichte Bemerken: überhaupt zu registrieren, dass die Entscheidung vor einem eine moralische Dimension hat. Die meisten ethischen Fehltritte passieren nicht im Moment der falschen Wahl. Sie passieren früher, wenn jemand eine Kennzahl optimiert, ohne je zu registrieren, dass ein Mensch darin steckte. Die Ingenieure hinter Amazons experimentellem Modell zur Lebenslauf-Vorauswahl hatten vermutlich nie die Absicht, Frauen zu benachteiligen; das Modell hat sich das selbst beigebracht, aus einem Jahrzehnt firmeneigener Einstellungsdaten, und stufte still Lebensläufe herab, in denen Frauen-Colleges oder Frauenschachclubs vorkamen. Amazon hat es bemerkt und das Werkzeug 2018 eingestampft. Etliche Teams haben ihres nicht bemerkt.
Nach dem Bemerken kommt der Teil, der echte Übung verlangt: das Abwägen, wenn zwei gute Dinge kollidieren. Echte Dilemmata sind selten Gut gegen Böse. Sie heißen Tempo gegen Sicherheit, Loyalität gegen Ehrlichkeit, dieses Quartal gegen dieses Jahrzehnt — und sie durchzuarbeiten, ohne in eine Parole zu flüchten, lernt man so, wie man Verhandeln lernt: vor allem, indem man es ein paarmal schlecht macht.
Dann ist da das Einstehen für das, was die eigene Arbeit ermöglicht, nachdem sie die eigenen Hände verlassen hat. Tom Lehrer hat darüber schon 1965 gesungen: „Sind die Raketen erst mal oben, wen kümmert's, wo sie runterkommen? Das ist nicht mein Ressort, sagt Wernher von Braun.“ Eine große Verteidigung war das schon damals nicht, und sie ist schlecht gealtert.
Und schließlich der Bestandteil, der Menschen tatsächlich voneinander trennt: handeln, wenn es einen etwas kostet. Zu wissen, was richtig wäre, ist billig. Volkswagen beschäftigte Ingenieure, die genau verstanden, wozu die Abschalteinrichtung bei den Abgastests diente, und mindestens einer von ihnen ging dafür ins Gefängnis, dass er trotzdem mitgemacht hat. Nichts an diesem Versagen war ein Wissensproblem.
Warum KI die Einsätze erhöht
Zum Teil ist es Skalierung. Ein voreingenommener Personalchef schadet der Handvoll Menschen, deren Unterlagen über seinen Schreibtisch laufen; dieselbe Voreingenommenheit, in ein Modell gegossen, trifft die identische Entscheidung eine Million Mal vor der Mittagspause. Ethische Fehler waren früher Einzelhandel. Jetzt sind sie Großhandel.
Zum Teil ist es Tempo. Gesetzgebung und Gerichte arbeiten in Jahren, der Rollout in Wochen, und der langsame externe Prozess, der einen früher irgendwann eingeholt hat, kommt nicht mehr hinterher. Wenn die Kontrolle nicht von innen kommt, gibt es zunehmend gar keine.
Aber das Zersetzendste, glaube ich, ist die Distanz. Der Fall, den ich jedem zum Studium empfehlen würde, ist die niederländische Kindergeldaffäre: Ein Risiko-Algorithmus der Steuerbehörde markierte Zehntausende Familien, überproportional solche mit ausländischen Wurzeln, als Sozialbetrüger. Familien wurden verpflichtet, Geld zurückzuzahlen, das sie nie geschuldet hatten. Manche gingen bankrott, Kinder landeten in Pflegefamilien, und die niederländische Regierung trat am Ende darüber zurück. Das Auffällige im Nachgang war, dass sich niemand in der Kette wie die Person fühlte, die es getan hatte. Einer schrieb eine Spezifikation, ein anderer trainierte ein System, ein Dritter setzte es ein, Tausende Sachbearbeiter folgten seinen Ergebnissen. Verteilte Verantwortung ist der Weg, auf dem enormer Schaden von Menschen angerichtet wird, von denen jeder Einzelne nur seinen Job gemacht hat.
Das Delegationsproblem
Die verlockende Antwort ist, die Ethik in die Systeme selbst einzubauen — ausgerichtete Modelle, Leitplanken, Sicherheitsschichten — und sich um die Menschen keine Sorgen mehr zu machen. Die Leitplanken sind es wert, gebaut zu werden; ich verlasse mich auf sie. Aber irgendjemand entscheidet immer noch, was ein Modell wertschätzen soll, welche Abwägungen es trifft und was als akzeptable Fehlerquote gilt. Das sind moralische Urteile, vorab gefällt, von Menschen, denen Sie nie begegnen werden. Man kann Ethik nicht an ein System auslagern, dessen Ethik jemand vorgeben musste. Man hat das Urteil nur flussaufwärts verschoben, in weniger Hände konzentriert und schwerer sichtbar gemacht.
Das leisere Problem ist das Verkümmern. Eine Bevölkerung, die aufhört, moralisches Urteilsvermögen zu üben, weil eine Maschine das erledigt, ist eine Bevölkerung, die die Maschine irgendwann nicht mehr bewerten kann. Fähigkeiten schwinden, wenn man sie nicht nutzt; ich kriege schriftliches Dividieren kaum noch hin. Bei den meisten Fähigkeiten ist das egal. Diese hier würde ich lieber behalten.
Schauen Sie, wer gewinnt
Jetzt kommt der unbequeme Teil — und der, bei dem ich am wenigsten weiß, was dagegen zu tun ist.
Schauen Sie, wonach politische Systeme derzeit selektieren. In Demokratien wie Autokratien teilen die Aufsteiger ein wiedererkennbares Profil: gewandt im Lügen, vertraut mit Manipulation, fähig, über alles Gewissheit auszustrahlen, gleichgültig gegenüber dem Ertapptwerden. Ich glaube nicht, dass Wähler Lügner wollen. Ich halte es für einen Filtereffekt. Moderne Politik ist ein permanenter Aufmerksamkeitswettbewerb, lauter Dauersenden und virale Empörung, ohne Gedächtnis und ohne Strafe für Widersprüche — und diesen Wettbewerb gewinnt schlicht leichter, wer keine innere Bremse hat. Ein Mensch mit echten Skrupeln zögert, räumt Punkte ein, verweigert den billigen Angriff. Jedes davon ist ein Wettbewerbsnachteil, und so befördert der Filter, Runde um Runde, die Menschen, die nichts empfinden.
Und nun geben Sie dieser Sorte Mensch eine Technologie in die Hand, die Überzeugung im industriellen Maßstab herstellt. Vor der Vorwahl in New Hampshire im Januar 2024 erhielten Tausende Wähler einen automatisierten Anruf mit Joe Bidens geklonter Stimme, die ihnen riet, zu Hause zu bleiben. Der Berater dahinter zahlte einem Straßenzauberer Berichten zufolge 150 Dollar für die Audiodatei. Die Kosten von Täuschung wuchsen früher mit ihrer Reichweite; das tun sie nicht mehr.
Ich habe keine Lösung für das Selektionsproblem, und ich misstraue jedem, der eine zu haben behauptet. Es liegt flussaufwärts der Einzelnen, in Anreizen und Rechenschaft und der Frage, ob Lügen überhaupt einen Preis hat — und das zu ändern ist langsame, unspektakuläre Arbeit. Was für die meisten von uns tatsächlich in Reichweite liegt, ist das andere Ende der Kette: was wir bauen, wobei wir mitmachen und was wir in den Räumen, in denen wir sitzen, laut auszusprechen bereit sind.
Wie das in der Praxis aussieht
Nichts davon sieht aus wie ein Philosophieseminar. In der Praxis ist es eine Handvoll unspektakulärer Gewohnheiten. Fragen Sie, wer von dem betroffen ist, was Sie bauen — einschließlich der Menschen, die dem nie zugestimmt haben. Gehen Sie davon aus, dass Ihre Arbeit irgendwann jemanden mit schlechteren Motiven als Ihren erreicht, und gestalten Sie sie für diese Person statt für sich selbst. Sagen Sie das Unbequeme im Meeting, solange es noch billig ist, es zu sagen. Bemerken Sie, wenn Sie nach einer Rechtfertigung greifen statt nach einem Grund, und behandeln Sie „alle machen das“ und „es ist rechtlich zulässig“ als Warnsignale — denn das sind sie in aller Regel.
Ich weiß nicht genau, wie das nächste Jahrzehnt ausgeht, und ich habe aufgehört, irgendwem zu glauben, der es zu wissen behauptet. Aber eine Wette scheint sicher. Wenn Können billig und universell wird, hört es auf, irgendwen auszuzeichnen — und was bleibt, ist Urteilsvermögen: ob der Mensch, der all diesen Hebel in der Hand hält, den Unterschied zwischen dem Möglichen und dem Sinnvollen erkennt, und ob er diese Grenze hält, wenn es ihn etwas kostet.