FOLA

FOLA – Wenn aus Unterstützung Fremdsteuerung wird

Künstliche Intelligenz kann Entscheidungen vorbereiten, Optionen sortieren, Empfehlungen aussprechen und ganze Arbeitsschritte übernehmen. Das kann entlasten. Es kann aber auch eine neue Unsicherheit erzeugen: Wie viel entscheide ich eigentlich noch selbst?

FOLA, die „Fear Of Losing Agency“, beschreibt genau diese Sorge. Gemeint ist die Befürchtung, dass menschlicher Einfluss schleichend kleiner wird, während KI-Systeme immer stärker bestimmen, welche Möglichkeiten sichtbar werden, welche Empfehlungen naheliegen und welche nächsten Schritte gewählt werden.

Dabei muss niemand offiziell Entscheidungsbefugnisse verlieren. Schon die Art, wie Systeme Informationen vorsortieren oder Lösungen vorschlagen, kann beeinflussen, wie frei eine Entscheidung tatsächlich noch ist. Im deutschsprachigen KI-Diskurs wird FOLA deshalb zunehmend als Gegenstück zu FOBO beschrieben. Während FOBO die Sorge betrifft, beruflich an Bedeutung zu verlieren, richtet FOLA den Blick auf eine andere Frage: Bleibt der Mensch tatsächlich Gestalter oder wird er zunehmend zum Empfänger technischer Vorschläge? [1]

Was bedeutet Agency?

Der englische Begriff „Agency“ lässt sich nicht mit einem einzigen deutschen Wort vollständig übersetzen.

Gemeint ist die Fähigkeit, selbst wirksam zu handeln. Dazu gehört, eigene Ziele zu verfolgen, Entscheidungen zu treffen, Alternativen abzuwägen und Einfluss auf das Ergebnis zu nehmen. Agency zeigt sich also nicht nur darin, dass ein Mensch am Ende auf „Ja“ oder „Nein“ klicken darf. Entscheidend ist auch, ob er versteht, worüber entschieden wird, welche Alternativen bestehen und welche Konsequenzen damit verbunden sind.

Genau deshalb ist Agency für den Umgang mit KI so wichtig. Ein Mensch kann formal die letzte Entscheidung treffen und trotzdem nur wenig Handlungsspielraum besitzen, wenn ein System die Optionen bereits vollständig vorgibt oder eine Empfehlung so dominant präsentiert, dass andere Möglichkeiten kaum noch betrachtet werden.

Wie verändert KI den eigenen Handlungsspielraum?

KI kann Agency erweitern. Sie kann Informationen verfügbar machen, die vorher schwer zugänglich waren. Sie kann neue Möglichkeiten aufzeigen, Zusammenhänge sichtbar machen oder bei komplexen Entscheidungen zusätzliche Perspektiven liefern. Damit kann sie Menschen sogar handlungsfähiger machen.

Der gleiche Mechanismus kann aber auch in die andere Richtung wirken. Wer sich dauerhaft auf Vorschläge eines Systems verlässt, beginnt möglicherweise irgendwann, weniger eigene Alternativen zu entwickeln. Wer Entscheidungen regelmäßig an KI delegiert, verliert womöglich Routine darin, selbst abzuwägen. Aus Unterstützung kann dann schleichend Abhängigkeit werden.

Besonders interessant ist deshalb nicht nur die Frage, was KI kann, sondern was Menschen mit zunehmender Unterstützung noch selbst tun, entscheiden und hinterfragen. Forschung zur Zusammenarbeit zwischen Mensch und generativer KI beschäftigt sich genau mit dieser Spannung zwischen Unterstützung und dem bewussten Zurückholen menschlicher Handlungsmacht. [2]

Wo kann Agency verloren gehen?

Ein Verlust an Agency muss nicht spektakulär sein. Häufig beginnt er im Kleinen.

• Ein Vorschlag wird übernommen, weil er plausibel klingt.
• Eine Alternative wird nicht mehr geprüft, weil das System bereits eine Empfehlung geliefert hat.
• Eine Entscheidung wird damit begründet, dass die KI sie vorgeschlagen hat.
• Oder eine Aufgabe wird so regelmäßig delegiert, dass die eigene Fähigkeit, sie selbst auszuführen, langsam in den Hintergrund tritt.

Das Problem liegt dabei nicht in der Delegation selbst. Arbeitsteilung gehört seit jeher zu Organisationen. Kritisch wird es dort, wo Delegation kaum noch bewusst geschieht oder Menschen nicht mehr nachvollziehen können, welchen Einfluss ein System auf ihre Entscheidung hatte.

FOLA richtet den Blick deshalb auf etwas sehr Alltägliches: Wie viel eigenes Urteil steckt noch in einer KI-gestützten Entscheidung?

Kontrolle und Agency sind nicht dasselbe

Kontrolle ist ein wichtiger Bestandteil von Agency, aber nicht mit ihr identisch. Kontrolle bedeutet beispielsweise, einen Prozess stoppen oder eine Empfehlung ablehnen zu können. Agency geht weiter. Sie beinhaltet auch, selbst Ziele zu setzen, Alternativen zu entwickeln und Entscheidungen aus eigener Überzeugung zu treffen. Eine Stopptaste allein macht einen Prozess also noch nicht selbstbestimmt.

Wenn ein Mensch kaum versteht, wie eine Empfehlung zustande kommt, welche Alternativen möglich wären oder welche Folgen eine Entscheidung haben kann, bleibt sein tatsächlicher Handlungsspielraum begrenzt. Souveränität entsteht deshalb nicht allein durch technische Kontrollmöglichkeiten. Sie braucht auch Verständnis, Urteilsfähigkeit und die Freiheit, eine andere Entscheidung treffen zu können.

Welche Rolle spielt Autonomie?

Autonomie beschreibt die Möglichkeit, das eigene Handeln an selbst gewählten Zielen und Werten auszurichten. Agency beschreibt stärker die Fähigkeit, daraus tatsächlich Handlungen entstehen zu lassen. Beides hängt eng zusammen.

KI kann Autonomie unterstützen, wenn sie Menschen zusätzliche Handlungsmöglichkeiten eröffnet oder Informationen liefert, mit denen sie bessere Entscheidungen treffen können. Sie kann Autonomie einschränken, wenn technische Systeme zunehmend bestimmen, wie Aufgaben erledigt werden sollen, welche Optionen überhaupt sichtbar werden oder welche Empfehlung als vermeintlich beste Lösung erscheint.

Dabei gilt auch hier: Der Einsatz von KI bedeutet nicht automatisch weniger Autonomie. Entscheidend ist, wie Aufgaben, Verantwortlichkeiten und Entscheidungsräume gestaltet werden. [3]

Was kann FOLA begünstigen?

FOLA kann insbesondere dort entstehen, wo Menschen den Eindruck gewinnen, dass sie zwar weiterhin Verantwortung tragen, aber immer weniger Einfluss auf den Weg zur Entscheidung haben. Dazu können verschiedene Faktoren beitragen:

• Intransparente Systeme: Wenn nicht nachvollziehbar ist, wie eine Empfehlung entsteht, wird es schwieriger, sie kritisch zu prüfen.
• Hohe Automatisierung: Je mehr Schritte automatisch ablaufen, desto weniger Gelegenheiten gibt es möglicherweise, selbst einzugreifen.
• Zeitdruck: Unter hohem Zeitdruck ist die Versuchung groß, eine plausible Empfehlung einfach zu übernehmen.
• Gewöhnung: Was zunächst bewusst delegiert wurde, kann mit der Zeit selbstverständlich werden.
• Unklare Verantwortung: Wenn niemand genau weiß, wer eine Entscheidung tatsächlich verantwortet, verschwimmen technische Unterstützung und menschliche Zuständigkeit.

FOLA entsteht damit nicht nur aus der Leistungsfähigkeit von KI. Sie hängt auch davon ab, wie Menschen und Organisationen diese Systeme einsetzen.

Weniger selbst entscheiden kann durchaus sinnvoll sein

Mehr Agency ist nicht in jeder Situation automatisch besser. Menschen delegieren ständig. Sie folgen Navigationssystemen, nutzen automatisierte Berechnungen, verlassen sich auf Fachsoftware oder geben Aufgaben an andere Menschen ab. Das ist sinnvoll, weil niemand alles selbst tun kann und sollte.

Die interessante Frage lautet deshalb nicht: Wie verhindere ich jede Form von Delegation? Sie lautet vielmehr: Welche Entscheidungen möchte ich bewusst abgeben und bei welchen möchte ich meine eigene Urteilskraft erhalten? Genau darin liegt der Unterschied zwischen Entlastung und Fremdsteuerung.

Wer bewusst delegiert und jederzeit nachvollziehen kann, was delegiert wurde, behält eine andere Position als jemand, der nur noch den Empfehlungen eines Systems folgt.

Wie lässt sich Agency im Umgang mit KI erhalten?

Ein souveräner Umgang mit KI verlangt nicht, jede Empfehlung grundsätzlich anzuzweifeln oder jeden Arbeitsschritt selbst auszuführen. Hilfreicher ist eine bewusste Aufgabenteilung.

• Klären Sie Entscheidungsräume: Welche Entscheidungen darf KI vorbereiten und welche möchten Sie selbst treffen?
• Formulieren Sie zunächst eine eigene Einschätzung: Gerade bei wichtigen Themen kann es helfen, die eigene Position zu kennen, bevor eine KI-Empfehlung hinzukommt.
• Fragen Sie nach Alternativen: Ein einzelner Vorschlag wirkt schnell alternativlos. Mehrere Optionen schaffen wieder Entscheidungsspielraum.
• Prüfen Sie wichtige Ergebnisse: Je größer die Konsequenzen einer Entscheidung, desto wichtiger wird eine bewusste menschliche Prüfung.
• Erhalten Sie relevante Fähigkeiten: Wer jede Aufgabe vollständig delegiert, verliert möglicherweise mit der Zeit die Fähigkeit, Ergebnisse sinnvoll zu beurteilen.
• Erlauben Sie Widerspruch: Menschen müssen Empfehlungen ändern, ablehnen oder einen anderen Weg wählen können.

Damit rückt eine einfache Frage in den Mittelpunkt: Hilft KI Ihnen dabei, besser zu entscheiden oder entscheidet sie zunehmend für Sie?

Forschung zur Gestaltung KI-gestützter Arbeit beschäftigt sich zunehmend mit genau dieser Balance zwischen technischer Unterstützung, menschlichem Urteil und dem Erhalt wichtiger Fähigkeiten. [4]

FOLA als Frage der Arbeitsgestaltung

Wie viel Agency Menschen im Umgang mit KI behalten, entscheidet sich nicht nur individuell. Organisationen gestalten Prozesse, wählen Systeme aus und definieren Verantwortlichkeiten. Damit bestimmen sie ganz wesentlich, wie viel Einfluss Beschäftigte tatsächlich behalten.

Eine Organisation kann KI so einführen, dass Menschen bessere Informationen erhalten und dadurch souveräner entscheiden können. Sie kann Prozesse aber auch so gestalten, dass Beschäftigte hauptsächlich Vorschläge bestätigen, deren Entstehung sie kaum nachvollziehen können. Deshalb lohnt es sich, bei jeder Automatisierung nicht nur nach Effizienz zu fragen.

• Wer darf Entscheidungen überstimmen?
• Wann ist menschliche Prüfung vorgesehen?
• Welche Fähigkeiten sollen bewusst erhalten bleiben?
• Und wer trägt am Ende die Verantwortung?

FOLA macht damit eine Frage sichtbar, die bei der Einführung von KI leicht übersehen wird: Nicht nur die Qualität technischer Ergebnisse ist wichtig. Ebenso entscheidend ist, welche Rolle Menschen künftig in ihrem Zustandekommen spielen.

Hinweise:

Wenn Ihnen der Beitrag gefällt, teilen Sie ihn gerne in Ihrem Netzwerk. Und falls Sie sich für Tipps aus der Praxis interessieren, dann testen Sie unseren wöchentlichen Newsletter mit neuen Beiträgen, Downloads, Empfehlungen und aktuellem Wissen. Vielleicht wird er auch Ihr Lieblings-Newsletter.

[1] Prof. Dr. Yasmin Weiß: „Fear of Losing Agency“ (FOLA): Was wir über die aktuelle Debatte über KI-Kontrollverlust wissen müssen
[2] Human agency and deliberate reassertion in the age of generative AI: Evidence from online labor platforms
[3] Artificial intelligence and autonomy at work: empirical insights from Germany
[4] Human Agency and Skill in AI-Supported Work: Countering Cognitive Offloading

Hier finden Sie einen interessanten Beitrag über die Zukunft der menschlichen Autonomie.