Ethik ist keine Rolle, die man besetzen kann

Einer der großen KI-Anbieter hatte im August 2025 eine Verantwortliche für KI-Ethik eingestellt. Knapp ein Jahr später war sie wieder weg und die Stelle blieb unbesetzt. Nach übereinstimmenden Berichten vom August 2026 war sie die einzige Person im Unternehmen, deren Aufgabe ausdrücklich Ethik hieß. Im selben Monat verließen zwei weitere Führungskräfte aus dem Umfeld von Sicherheit und Modell-Alignment das Unternehmen.

Interessant an diesem Vorgang ist weniger der Abgang als die Begründung, mit der er eingeordnet wurde. Ethische Fragen, so das Unternehmen, seien nicht auf eine einzelne Person oder ein einzelnes Team begrenzt, sondern fest in die Modellentwicklung mehrerer Forschungsteams eingebettet.

Dieser Satz ist richtig. Genau das macht ihn problematisch.

Ethik sollte tatsächlich nicht an eine einzelne Person delegiert werden. Als Begründung gegen eine entsprechende Stelle überzeugt das allerdings nur, wenn die Organisation auf andere Weise dafür sorgt, dass ethische Fragen in ihren Entscheidungen berücksichtigt werden.

Warum sich Ethik nicht an eine Rolle delegieren lässt

Eine einzelne Ethikrolle hat einen eingebauten Konstruktionsfehler. Sie sitzt mit am Tisch, wenn über Zeitpläne, Marktfenster und Budgets entschieden wird, vertritt dort jedoch ein Anliegen, das keinen unmittelbaren Umsatz produziert. Ihr Widerspruch kann berücksichtigt, aber ebenso gut überstimmt werden. Unter wirtschaftlichem oder zeitlichem Druck steigt die Wahrscheinlichkeit, dass andere Interessen mehr Gewicht erhalten.

Der Hersteller Axon, bekannt für Taser und Bodycams, hatte eigens ein KI-Ethikgremium eingerichtet. Ihm gehörten dreizehn Fachleute aus Informatik, Recht, Bürgerrechten und Polizeiarbeit an. Im Frühjahr 2022 legte das Unternehmen Pläne für taserbestückte Drohnen in Schulen vor. Das Gremium stimmte mit acht zu vier Stimmen bereits gegen eine eng begrenzte Pilotstudie. Axon kündigte das Vorhaben trotzdem an. Daraufhin traten neun der dreizehn Mitglieder zurück. Erst dieser öffentliche Rücktritt stoppte das Projekt, nicht die vorausgegangene ethische Bewertung. [1]

Das Beispiel zeigt die Grenzen eines beratenden Ethikgremiums. Es durfte prüfen, beraten und widersprechen, hatte aber keinen verbindlichen Einfluss auf die Entscheidung. Wirkung entfaltete es erst, als neun seiner Mitglieder zurücktraten und den Konflikt öffentlich machten.

Das spricht nicht grundsätzlich gegen Ethikgremien oder spezialisierte Ethikrollen. Sie können Fachwissen einbringen, blinde Flecken sichtbar machen und unbequeme Fragen stellen. Die ethische Verantwortung der Entscheidenden können sie jedoch nicht übernehmen. Problematisch wird es, wenn die Organisation ihre Verantwortung mit der Einrichtung einer solchen Instanz als erfüllt betrachtet.

Hinzu kommt ein Entlastungseffekt, der schwerer wiegen kann als die begrenzte Entscheidungsmacht. Sobald es jemanden gibt, dessen Aufgabe Ethik heißt, scheint die Zuständigkeit geklärt. Das Produktteam entwickelt, was spezifiziert wurde, die Verantwortlichen verweisen auf die erfolgte Prüfung und in der Rückschau lässt sich belegen, dass die Organisation das Thema berücksichtigt hat, zumindest formal.

Ethische Abwägungen müssen deshalb dort verankert sein, wo Entscheidungen getroffen werden: in der Architekturdiskussion, bei der Formulierung von Anforderungen, in Reviews und Freigaben. Der Satz, mit dem das Unternehmen die ausbleibende Nachbesetzung erklärt hat, beschreibt somit durchaus einen sinnvollen Zustand. Er kann allerdings ebenso einen Zustand beschreiben, in dem sich niemand mehr verantwortlich fühlt. Von außen klingt beides zunächst gleich.

Was Ethik in einer Organisation bedeutet

Ethik ist in diesem Zusammenhang weder ein anderes Wort für Recht noch für Compliance. Das Recht bestimmt, was eine Organisation tun darf. Compliance soll sicherstellen, dass Regeln und Vorgaben eingehalten werden. Eine ethische Abwägung wird vor allem dort notwendig, wo mehrere rechtlich zulässige Möglichkeiten bestehen und eine Organisation entscheiden muss, welche davon sie verantworten will.

Bei KI-Systemen betrifft das zum Beispiel die Frage, welche Entscheidungen automatisiert werden dürfen, welche Daten verwendet werden sollten oder wann ein Mensch eingreifen muss. Es geht nicht allein darum, ob ein System technisch funktioniert. Entscheidend ist auch, welche Folgen sein Einsatz für Betroffene hat und wer dafür Verantwortung übernimmt.

Organisatorische Ethik zeigt sich daher nicht zuerst in Leitbildern oder Stellenbezeichnungen, sie wird in konkreten Entscheidungen sichtbar.

Woran sich eingebettete Ethik erkennen lässt

Was der Begriff „eingebettet“ wert ist, entscheidet sich an drei Fragen. Sie funktionieren in einem Softwarehaus ebenso wie in einem Maschinenbauunternehmen mit dreihundert Beschäftigten.

1. Steht hinter einer konkreten Entscheidung ein Name?

Nehmen Sie eine beliebige Festlegung der vergangenen Monate, die Menschen betrifft: eine automatisierte Vorsortierung, ein Scoring oder eine Kundenkommunikation ohne menschliche Prüfung. Fragen Sie, wer diese Entscheidung verantwortet.

Wird eine Person genannt, ist die Verantwortung erkennbar zugeordnet. Wird lediglich auf einen Prozess, ein Gremium oder „das Team“ verwiesen, lohnt es sich nachzufragen. Verteilte Verantwortung ist sinnvoll, sie darf aber nicht dazu führen, dass sich am Ende niemand für die konkrete Entscheidung zuständig fühlt.

Das bedeutet nicht, dass eine einzelne Person alle ethischen Fragen allein beantworten soll. Beraten können und sollten mehrere Fachleute. Entscheiden und Verantwortung übernehmen muss jedoch jemand, der benannt werden kann.

2. Wurde aus ethischen Gründen schon einmal etwas abgelehnt?

Eine tatsächlich eingebettete Ethik hinterlässt Spuren. Ein Feature wurde gestrichen. Eine Datenquelle ging nicht ins Training ein. Ein Anbieter wurde aus einem anderen Grund als dem Preis nicht ausgewählt. Eine Automatisierung blieb auf unterstützende Funktionen beschränkt, obwohl technisch mehr möglich gewesen wäre.

Wenn niemand ein solches Beispiel nennen kann, hat die ethische Abwägung bislang offenbar nie zu einer unbequemen Entscheidung geführt. Das ist möglich, aber wenig wahrscheinlich. Ethik, die weder Zeit noch Geld kostet und nie eine bestehende Planung verändert, bleibt vermutlich folgenlos.

3. Wo landet ein ethischer Zweifel?

Wenn eine Entwicklerin bei einer Anforderung ein ungutes Gefühl hat, an wen wendet sie sich? Kennt sie den Weg, ohne erst eine Richtlinie suchen zu müssen? Kann sie die Frage ansprechen, ohne als Hindernis für das Projekt zu gelten? Und was ist beim letzten Mal aus einem solchen Hinweis geworden?

Ein Eskalationsweg, den niemand kennt oder zu nutzen wagt, hilft im Ernstfall nicht. Zur ethischen Struktur gehört deshalb nicht nur ein formal beschriebener Prozess, sondern auch die Erfahrung, dass ein begründeter Zweifel ernst genommen wird.

Drei Fragen, ein Nachmittag und einige konkrete Beispiele reichen oft aus, um einen ersten Eindruck zu gewinnen. Das Ergebnis ist meist aussagekräftiger als eine Richtlinie im Intranet.

Warum Unternehmen trotzdem Ethikrollen schaffen

Der Weg über eine eigene Stelle ist attraktiv, und die Gründe dafür sind nachvollziehbar:

• Eine Ethikrolle ist schnell geschaffen. Sie lässt sich in einer Vorstandssitzung beschließen und innerhalb weniger Wochen besetzen. Eine Struktur zu verändern dauert länger. Sie berührt Zuständigkeiten, Entscheidungswege und Routinen, die häufig über Jahre gewachsen sind.
• Eine Rolle ist außerdem sichtbar. Sie erscheint im Nachhaltigkeitsbericht, im Organigramm und in der Antwort an einen Auditor. Eine Zuordnung ethischer Verantwortung, die in Tickets, Reviews und Freigaben verankert ist, lässt sich nach außen schwerer darstellen.
• Und schließlich schafft eine Rolle eine Adresse für Fragen, die sonst an vielen Stellen gleichzeitig bearbeitet werden müssten. Das kann hilfreich sein, vor allem wenn eine Organisation erst damit beginnt, sich systematisch mit den Folgen ihrer KI-Nutzung auseinanderzusetzen.

Deshalb lässt sich auch die aktuell diskutierte Frage, ob Unternehmen einen Head of AI brauchen, nicht mit einem schlichten Ja oder Nein beantworten. [2] Eine solche Rolle kann sinnvoll sein, wenn ihr Auftrag darin besteht, Wissen aufzubauen, Prozesse zu entwickeln und ethische Fragen in die Arbeit der verschiedenen Bereiche zu tragen.

Sie wird zum Problem, wenn sie dauerhaft an die Stelle dieser Strukturen tritt. Dann wird die Rolle zum Ort, an den ethische Fragen abgegeben werden, statt zum Ausgangspunkt für ihre gemeinsame Bearbeitung.

Wie Ethik in Entscheidungen verankert wird

Damit der Anspruch einer eingebetteten Ethik trägt, braucht es vier Dinge, die sich überprüfen lassen:

1. Eine Zuordnung nach Tragweite

Gemeinsam mit den Bereichen, die für die jeweiligen Prozesse verantwortlich sind, sollte geklärt werden: Wo darf eine KI selbstständig handeln? Wo darf sie lediglich Vorschläge machen? Wo muss ein Mensch entscheiden? Und in welchen Situationen sollte kein automatisiertes System beteiligt sein?

Solche Entscheidungszonen machen deutlich, dass nicht jeder KI-Einsatz nach denselben Maßstäben beurteilt werden kann. Eine Formulierungshilfe für interne Texte hat eine andere Tragweite als ein System, das Bewerbungen vorsortiert oder Kreditrisiken bewertet.

2. Ein Name pro Entscheidungszone

Die Verantwortung für maschinell unterstützte Entscheidungen über Menschen sollte bei einer benannten Person liegen. Diese Person muss nicht jede Prüfung selbst durchführen und auch nicht allein über alle ethischen Fragen entscheiden. Sie muss aber dafür einstehen, dass die notwendige Abwägung erfolgt und dokumentiert wird.

Fachliche Beratung, ein Ethikgremium oder externe Begleitung können diese Verantwortung unterstützen, sie können sie aber nicht ersetzen.

3. Dokumentation dort, wo entschieden wird

Wer einen Schwellenwert, eine Merkmalsauswahl oder einen Eskalationsweg festlegt, sollte kurz dokumentieren, warum die Entscheidung so getroffen wurde. Dafür braucht es keine umfangreiche Abhandlung, oft genügen fünfzehn nachvollziehbare Zeilen im Ticket oder im Review.

Wichtig ist, dass die ethische Begründung nicht getrennt von der fachlichen und technischen Entscheidung abgelegt wird. Sie sollte dort stehen, wo später auch nachvollzogen wird, wie und warum ein System entstanden ist.

4. Ein fester Rhythmus für die ethische Prüfung

Dieser Punkt wird häufig übersehen, obwohl er die anderen drei schnell entwerten kann. Eine einmal getroffene Zuordnung altert in dem Tempo, in dem sich Werkzeuge, Modelle und Anwendungsfälle verändern.

Modellversionen werden abgekündigt, Nachfolger verhalten sich in Grenzfällen anders, Datenbestände verändern sich oder ein zunächst unterstützendes System erhält zusätzliche Befugnisse. Die Freigabe aus dem vergangenen Jahr gilt formal weiter, obwohl ihre Voraussetzungen längst nicht mehr dieselben sind. Ohne einen festen Rhythmus für die erneute Prüfung erfährt eine Organisation von solchen Verschiebungen möglicherweise erst durch eine Beschwerde oder einen Vorfall.

All das ist wenig spektakulär. Es braucht keine neue Stelle, aber verbindliche Entscheidungen und Menschen, die sie treffen.

Abbildung: Ethik verankern

Warum Ethik eine belastbare Struktur braucht

Eine einzelne Rolle kann verschwinden, ohne dass im Arbeitsalltag unmittelbar etwas passiert. Genau das lässt sich im Ausgangsfall beobachten: Eine Person geht, die Stelle bleibt leer, der Betrieb läuft weiter, und das Unternehmen erklärt, ethische Fragen seien ohnehin in mehreren Teams verankert.

Ob das zutrifft, lässt sich von außen kaum beurteilen. Entscheidend wäre, was innerhalb der Organisation geschieht. Bleibt in einem Ticket die notwendige Einordnung aus, sollte das auffallen. Ist für eine Entscheidung niemand benannt, sollte die Freigabe stocken. Läuft eine Eskalation ins Leere, sollte klar sein, wer den Prozess wieder in Gang setzt.

Daran zeigt sich der Unterschied zwischen einer Rolle und einer Struktur. Das Ausscheiden einer Person kann eine Organisation auffangen. Wenn dagegen ein verbindlicher Bestandteil des Entscheidungsprozesses fehlt, darf die Arbeit nicht einfach unverändert weiterlaufen.

Für Organisationen, die unter regulatorischem Druck stehen, ist diese Unterscheidung auch praktisch relevant. Ein Titel lässt sich schnell schaffen und ebenso schnell wieder streichen. Im Prüfungsfall zählen jedoch nachvollziehbare Entscheidungen mit Namen, Zeitpunkten und Begründungen. Die regulatorische Dokumentation ersetzt dabei keine Ethik. Sie kann aber sichtbar machen, ob ethische Fragen tatsächlich Teil der Entscheidung waren oder lediglich Teil der Außendarstellung.

Ethik darf weder ausgelagert noch aufgelöst werden

Der Satz „Ethik ist keine Rolle, die man besetzen kann“, beschreibt einen Zustand, den eine Organisation im Umgang mit KI anstreben sollte: Ethische Fragen gehören nicht in die Hände einer einzelnen Person, sondern in die tägliche Arbeit der Teams und Verantwortlichen.

Er ist allerdings auch eine bequeme Erklärung dafür, eine Ethikstelle nicht neu zu besetzen, ohne an anderer Stelle erkennbare Verantwortung zu schaffen. Deshalb sollte der Hinweis auf eine „eingebettete Ethik“ nie für sich stehen bleiben. Er muss sich an Entscheidungswegen, Zuständigkeiten und dokumentierten Abwägungen zeigen.

Ethik darf nicht an eine einzelne Person ausgelagert werden. Sie darf sich aber auch nicht so weit in der Organisation verteilen, dass niemand mehr zuständig ist. Sie braucht Fachwissen, verbindliche Prozesse und benannte Verantwortung.

Eine Frage genügt für den Anfang: Wenn Ihre Ethik-Zuständigkeit morgen wegfiele, woran würde Ihre Organisation bemerken, dass etwas fehlt?

Hinweise:

Guido Bosbach unterstützt Organistationen auf ihrem Weg zu Klarheit im Miteinander. Gerne tauscht er sich mit Ihnen über die konkrete Klärung von Verantwortung in Ihrem Unternehmen aus. Kontaktieren Sie ihn einfach über seine Website oder schreiben Sie ihn auf LinkedIn an.

Sehr zu empfehlen ist zudem sein workLIFE Stories Blog, in dem er regelmäßig Erfahrungen aus Unternehmen, Ideen und Impulse anbietet.

[1] Axon legt Taser-Drohne für Schulen auf Eis
[2] Brauchen Unternehmen einen Head of AI?

Wollen Sie Guido Bosbach unterstützen und über Ethik und Verantwortung diskutieren? Dann teilen Sie diesen Beitrag auf Social Media oder in Ihrem Unternehmen.

Guido Bosbach hat einen weiteren Beitrag im t2informatik Blog veröffentlicht: