Künstliche Intelligenz und Verantwortung

Ein imaginäres Gespräch zwischen Peter Drucker und Papst Leo XIV. über Verantwortung im Umgang mit KI in Organisationen

Dies ist der zehnte und finale Teil einer Serie mit fiktiven Gesprächen. Peter Drucker trifft darin bekannte Persönlichkeiten ebenso wie Menschen wie Sie und mich. Menschen mit unterschiedlichen Rollen in Organisationen und mit unterschiedlichen Blickwinkeln auf Künstliche Intelligenz: vom technologischen Optimismus über die pragmatische Anwendung und die historische Warnung bis zur ökonomischen Realität.

Heute unterhält er sich mit Papst Leo XIV., der ihn kurz nach der Veröffentlichung seiner ersten Enzyklika „Magnifica Humanitas“ zu einem Gespräch in den Vatikan eingeladen hat. Das Dokument markiert einen wichtigen Moment für die katholische Soziallehre. Der Papst möchte die Gedanken der Enzyklika mit einem Denker teilen, der sich sein Leben lang mit Führung, Verantwortung und dem Wert des Menschen in Organisationen beschäftigt hat. So entsteht ein Austausch zwischen geistlicher Tiefe und praktischer Managementklugheit und zeigt, wie nah beide Perspektiven beieinanderliegen.

Ein historischer Bogen

Peter Drucker: Eure Heiligkeit, ich habe mit großem Interesse Eure erste Enzyklika mit dem Titel „Magnifica Humanitas“ gelesen. Der Untertitel hat mich sehr neugierig gemacht. Erzählen Sie mir etwas „Über den Schutz des Menschen im Zeitalter der Künstlichen Intelligenz“ und warum Sie den 15. Mai als Veröffentlichungsdatum gewählt haben. Ist das nicht genau der Tag, an dem Papst Leo XIII vor 135 Jahren das „Rerum Novarum“ vorstellte?

Papst Leo XIV: Das war mir sehr wichtig, Herr Drucker. Damals ging es um die Frage, wie die Menschenwürde in der industriellen Revolution bewahrt werden kann. Heute stellt sich dieselbe Frage im Zeitalter der Künstlichen Intelligenz. Und wir als christliche Institution haben da immer etwas zu sagen.

Peter Drucker: Sie ziehen also eine bewusste Parallele zwischen der Arbeiterfrage von damals und der KI-Frage von heute.

Papst Leo XIV: Genau das. Beide Male geht es um Machtverhältnisse, um Ausbeutung und um die Frage, wem der technologische Fortschritt am Ende wirklich dient.

Peter Drucker: Ich habe mein ganzes Leben mit dem Wandel von Arbeit beschäftigt. Was mich an Ihrer Enzyklika berührt, ist die Konsequenz, mit der Sie diese Geschichte weiterschreiben. Sie sprechen nicht nur über Technik, sondern über den Menschen selbst.

Papst Leo XIV: Der Titel Magnifica Humanitas ist bewusst gewählt. Es geht um die Größe des Menschen, die durch keine Maschine ersetzt werden kann.

Peter Drucker: Diese Größe des Menschen war für mich immer der Kern von Führung. Eine Organisation ist nur so gut wie die Menschen, die in ihr arbeiten.

Papst Leo XIV: Und genau deshalb müssen wir jetzt besonders wachsam sein. Wenn wir die Menschenwürde aus dem Blick verlieren, verlieren wir den Kern jeder Organisation.

Peter Drucker: Wenn ich an meine eigene Zeit denke, dann war es immer die gleiche Erfahrung. Sobald eine Organisation vergisst, wofür sie eigentlich da ist, verliert sie auch ihre Kraft, gute Entscheidungen zu treffen.

Papst Leo XIV: Das gilt für Unternehmen genauso wie für die Kirche. Wir dürfen niemals aufhören, uns an unseren eigentlichen Auftrag zu erinnern, auch wenn neue Werkzeuge wie die Künstliche Intelligenz auftauchen.

Peter Drucker: Genau darin liegt für mich die eigentliche Herausforderung dieser Zeit. Die Werkzeuge ändern sich schneller als je zuvor, aber die grundlegenden Fragen und auch Antworten bleiben dieselben.

Papst Leo XIV: Deshalb lohnt sich der Blick in die Geschichte. Rerum Novarum hat uns gezeigt, dass eine klare moralische Haltung auch in stürmischen Zeiten Orientierung geben kann.

Macht in wenigen Händen

Peter Drucker: Eure Heiligkeit, ein Punkt in Ihrer Enzyklika hat mich besonders aufhorchen lassen: Sie sprechen von einem neuen Kolonialismus durch wenige Technologiekonzerne.

Papst Leo XIV: Ja, das ist eine meiner größten Sorgen. Wenige Unternehmen kontrollieren heute wesentliche Elemente der Künstlichen Intelligenz. Das schafft eine Machtkonzentration, die wir so noch nicht gesehen haben.

Peter Drucker: Ich habe schon vor Jahrzehnten vor Monopolen gewarnt. Wettbewerb ist notwendig, damit Organisationen sich immer wieder neu erfinden müssen. Ohne Wettbewerb erlahmt jede Institution.

Papst Leo XIV: Das sehe ich genauso. Doch bei Künstlicher Intelligenz kommt eine zusätzliche Dimension hinzu. Es geht nicht nur um wirtschaftliche Macht, sondern um die Kontrolle über Information, Meinung und letztlich über das Denken der Menschen.

Peter Drucker: Sie sprechen von einer Kolonialisierung des Geistes. Das ist eine markante Aussage.

Papst Leo XIV: So könnte man es nennen. Wenn wenige Konzerne bestimmen, welche Informationen wir sehen und welche Antworten wir von einer Maschine erhalten, dann verschiebt sich die Macht in einer Weise, die demokratische Gesellschaften gefährden kann.

Peter Drucker: Ich stimme Ihnen uneingeschränkt zu. Was schlagen Sie als Gegenmittel vor?

Papst Leo XIV: Klare Richtlinien und wirksame Kontrollen. Der Einsatz von KI darf niemals allein den Interessen einzelner Unternehmen dienen, sondern muss dem Gemeinwohl verpflichtet bleiben.

Peter Drucker: Das erinnert mich an meine eigene Überzeugung, dass jede Organisation eine soziale Verantwortung trägt, die über den eigenen Erfolg hinausgeht.

Papst Leo XIV: Genau diese Verantwortung müssen wir heute neu einfordern, Herr Drucker.

Peter Drucker: Ich frage mich dabei auch, welche Rolle kleinere Organisationen in diesem Zusammenhang spielen können. Nicht jeder verfügt über die Mittel, eigene Kontrollen aufzubauen.

Papst Leo XIV: Das stimmt. Deshalb braucht es gemeinsame Standards, die für alle gelten, nicht nur für die großen Akteure. Kleinere Organisationen dürfen mit dieser Verantwortung nicht allein gelassen werden.

Peter Drucker: Vielleicht liegt genau darin eine Chance für Zusammenschlüsse und Netzwerke, die gemeinsam Verantwortung übernehmen, anstatt jede Organisation für sich allein kämpfen zu lassen.

Papst Leo XIV: Ein sehr wertvoller Gedanke. Solidarität war schon immer eine Antwort auf ungleiche Machtverhältnisse, und sie bleibt es auch im Zeitalter der Künstlichen Intelligenz.

Die Frage der Entwaffnung

Peter Drucker: Eure Heiligkeit, ein weiterer Begriff aus Ihrer Enzyklika hat mich sehr beschäftigt: Sie fordern, dass Künstliche Intelligenz entwaffnet werden muss.

Papst Leo XIV: Ja, das ist mir ein zentrales Anliegen. Tödliche oder irreversible Entscheidungen dürfen niemals in die Hände einer Maschine gelegt werden.

Peter Drucker: Das ist eine sehr klare Grenze und da wird wohl niemand widersprechen, oder?

Papst Leo XIV: Sie muss klar sein. Eine Maschine kann keine moralische Verantwortung tragen. Wenn wir ihr trotzdem Entscheidungen über Leben und Tod übertragen, geben wir einen Teil unserer Menschlichkeit auf.

Peter Drucker: In meinem Wirken habe ich oft gesagt, dass Führungskräfte Verantwortung niemals delegieren können, auch nicht an Systeme oder Prozesse. Am Ende trägt immer ein Mensch die Verantwortung.

Papst Leo XIV: Das ist ein Gedanke, den ich vollkommen teile. Verantwortung lässt sich nicht outsourcen, weder an eine Behörde noch an eine Maschine.

Peter Drucker: Aber wie stellen wir sicher, dass diese Grenze auch eingehalten wird? Die Versuchung ist groß, Entscheidungen an effiziente Systeme abzugeben.

Papst Leo XIV: Deshalb braucht es internationale Vereinbarungen und klare rechtliche Rahmenbedingungen. Einzelne gute Absichten reichen nicht aus, wenn der wirtschaftliche oder militärische Druck groß ist.

Peter Drucker: Das klingt nach einer Aufgabe, die weit über einzelne Organisationen hinausgeht.

Papst Leo XIV: Genau deshalb spreche ich nicht nur zu den Gläubigen meiner Kirche, sondern zu allen Menschen guten Willens.

Peter Drucker: Ich glaube, dass gerade Führungskräfte hier eine besondere Vorbildrolle einnehmen müssen. Wenn sie in ihren eigenen Organisationen klare Grenzen setzen, wirkt das weit über die Organisation hinaus.

Papst Leo XIV: Das sehe ich genauso. Jede einzelne Entscheidung, die Menschlichkeit über bloße Effizienz stellt, ist ein kleiner Beitrag zu einer größeren Kultur der Verantwortung.

Die Kette der Verantwortung

Peter Drucker: Eure Heiligkeit, Sie schreiben auch, dass der Einsatz von KI niemals eine rein technische Angelegenheit ist.

Papst Leo XIV: Das ist mir sehr wichtig, Herr Drucker. Wenn KI in Prozesse eingebunden wird, die das Leben von Menschen betreffen, dann tragen alle Beteiligten Verantwortung, von den Entwicklern bis zu den Nutzern.

Peter Drucker: Diese Kette der Verantwortung war für mich immer entscheidend. Eine Führungskraft kann sich nicht hinter einer Technologie verstecken und sagen, das System hat entschieden.

Papst Leo XIV: Genau. Verantwortung endet nicht bei der Entwicklung einer Technologie. Sie zieht sich durch die gesamte Nutzung.

Peter Drucker: Wie stellen Sie sich diese Verteilung von Verantwortung in der Praxis vor?

Papst Leo XIV: Jedes Glied in der Kette muss seine Rolle kennen. Der Entwickler trägt Verantwortung für die Gestaltung, das Unternehmen für den Einsatz und der einzelne Nutzer für den bewussten Umgang. Niemand kann sich vollständig herausziehen.

Peter Drucker: Das erinnert an meine Idee der verantwortlichen Führungskraft. Führung bedeutet, für die Konsequenzen des eigenen Handelns einzustehen, auch wenn Technologie im Spiel ist.

Papst Leo XIV: Und diese Verantwortung kann niemals vollständig an ein System delegiert werden, ganz gleich wie fortschrittlich es ist.

Peter Drucker: Das setzt voraus, dass Organisationen ihre Mitarbeitenden befähigen, diese Verantwortung auch tatsächlich zu tragen.

Papst Leo XIV: Genau das ist die Aufgabe guter Führung in unserer Zeit. Und wenn wir ehrlich sind ist es das nicht erst jetzt, oder?

Peter Drucker: Ich denke dabei auch an die Ausbildung junger Menschen. Wenn wir ihnen nicht beibringen, Verantwortung zu übernehmen, werden sie sich später zu leicht auf Maschinen verlassen.

Papst Leo XIV: Ein wichtiger Punkt. Bildung im umfassenden Sinn, die auch das Gewissen formt, ist die beste Voraussetzung für einen verantwortungsvollen Umgang mit Künstlicher Intelligenz.

Was den Menschen unersetzlich macht

Peter Drucker: Eure Heiligkeit, Ihre Enzyklika hat 122 Seiten Umfang und eine Menge Inhalt. Es gibt eine Reihe von Sätzen und Aussagen, die mir sofort ins Auge gesprungen sind. Sie warnen vor einer Entmenschlichung durch verfehlte Nutzung digitaler Technologien.

Papst Leo XIV: Ja, das ist eine reale Gefahr. Wenn wir Technologie falsch einsetzen, verlieren wir Fähigkeiten, die uns als Menschen ausmachen.

Peter Drucker: Welche Fähigkeiten meinen Sie konkret?

Papst Leo XIV: Die Fähigkeit zur echten Begegnung, zum Mitgefühl, zur moralischen Urteilskraft. Eine Maschine kann Informationen verarbeiten, aber sie kann nicht lieben und sie kann kein Gewissen haben. Sie hat auch kein Bewusstsein.

Peter Drucker: In meiner Arbeit habe ich immer betont, dass Kreativität, Urteilsvermögen und zwischenmenschliche Beziehungen das sind, was Menschen unersetzlich macht. Effizienz kann eine Maschine liefern, aber Wirksamkeit im eigentlichen Sinn braucht immer einen Menschen.

Papst Leo XIV: Das trifft den Kern meiner Sorge sehr genau. Wenn wir uns zu sehr auf die Effizienz von Maschinen verlassen, laufen wir Gefahr, die Bedeutung menschlicher Urteilskraft zu verlieren.

Peter Drucker: Wie können Organisationen in der heutigen Zeit ihrer Meinung nach dem entgegenwirken?

Papst Leo XIV: Indem sie bewusst Räume schaffen, in denen Menschen Zeit für echte Begegnung haben. Technologie sollte diese Räume unterstützen, nicht ersetzen.

Peter Drucker: Das erinnert mich an meine eigene Überzeugung, dass die wichtigste Ressource einer Organisation immer der Mensch bleibt, nicht die Technologie, die er nutzt.

Papst Leo XIV: Und genau diese Überzeugung müssen wir heute mit neuer Klarheit verteidigen.

Peter Drucker: Ich beobachte in vielen Organisationen, dass Menschen sich zunehmend von Bildschirmen und Systemen leiten lassen, anstatt sich gegenseitig zuzuhören. Das halte ich für eine stille, aber ernste Gefahr.

Papst Leo XIV: Diese stille Gefahr beschäftigt mich ebenfalls sehr. Der Mensch braucht echte Beziehung, um zu wachsen, und keine noch so ausgereifte Technologie kann diese Beziehung ersetzen.

Peter Drucker: Vielleicht ist das die wichtigste Aufgabe der kommenden Jahre, Räume für echte menschliche Begegnung bewusst zu schützen, auch wenn es scheinbar effizienter wäre, alles der Technologie zu überlassen.

Papst Leo XIV: Dem stimme ich von Herzen zu. Effizienz allein war noch nie ein Maßstab für ein gutes Leben, weder für den Einzelnen noch für eine Organisation.

Der Blick nach vorne

Peter Drucker: Eure Heiligkeit, das ist ein bewegendes Gespräch. Ich fühle mich geehrt, mich so mit Ihnen austauschen zu können. Wenn Sie in die Zukunft schauen, welche Rolle sollte Künstliche Intelligenz in unseren Organisationen spielen?

Papst Leo XIV: Sie sollte dem Gemeinwohl dienen, nicht nur wirtschaftlichen Interessen. Das ist das zentrale Leitprinzip, das ich in meiner Enzyklika beschreibe.

Peter Drucker: Das trifft sich mit meiner alten Frage, die ich jeder Führungskraft gestellt habe: Wofür ist unsere Organisation eigentlich da? Wenn die Antwort nur Gewinn lautet, wird sie am Ende scheitern.

Papst Leo XIV: Genau das ist meine Hoffnung. Dass Organisationen sich fragen, wie sie mit Hilfe von Technologie ihrem eigentlichen Zweck besser dienen können, anstatt sich von der Technologie treiben zu lassen.

Peter Drucker: Sie sprechen also von einer bewussten Gestaltung der Zukunft, nicht von einer passiven Anpassung an technologische Entwicklungen.

Papst Leo XIV: Ja, genau. Die Zukunft der Künstlichen Intelligenz liegt nicht in den Händen der Maschinen, sondern in unseren eigenen Entscheidungen.

Peter Drucker: Wenn ich auf mein Lebenswerk zurückblicke, dann war genau das meine tiefste Überzeugung. Die Zukunft entsteht nicht durch Zufall, sondern durch bewusste Entscheidungen mutiger Menschen.

Papst Leo XIV: Und diese Entscheidungen brauchen nicht nur Klugheit, sondern auch Demut. Wir dürfen nie vergessen, dass wir Verwalter einer Schöpfung sind, die größer ist als wir selbst.

Peter Drucker: Diese Demut fehlt oft in der Wirtschaft, wo Erfolg schnell mit Kontrolle verwechselt wird. Ihre Worte erinnern mich daran, dass wahre Größe in Verantwortung liegt, nicht in Macht.

Papst Leo XIV: Genau das ist die Botschaft, die ich mit Magnifica Humanitas weitergeben möchte. Die Größe des Menschen zeigt sich nicht in der Kontrolle über Maschinen, sondern in der Sorge für den Nächsten.

Peter Drucker: Ich danke Ihnen für dieses Gespräch, Eure Heiligkeit. Ihre Enzyklika verbindet auf beeindruckende Weise geistliche Tiefe mit praktischer Klugheit für Organisationen.

Papst Leo XIV: Und ich danke Ihnen, Herr Drucker. Ihre Gedanken über Führung und Verantwortung haben eine erstaunliche Nähe zu dem, was ich in meinem Amt jeden Tag erlebe. Am Ende geht es immer um den Menschen, egal welche Werkzeuge wir ihm zur Seite stellen.

Peter Drucker: Dem kann ich mich nur anschließen. Die größte Aufgabe jeder Führung bleibt es, Menschen zu stärken, nicht Maschinen zu perfektionieren.

Papst Leo XIV: Möge dieser Gedanke alle begleiten, die heute Verantwortung tragen, in der Wirtschaft ebenso wie in der Kirche und in jeder Gemeinschaft von Menschen guten Willens.

Hinweise:

Auch dieses fiktive Gespräch baut auf den theoretischen Grundlagen auf, die Dierk Söllner im ersten Beitrag dieser Serie – Peter Drucker trifft KI – beschrieben hat. Dort geht es unter anderem um den wahren Wert von Wissensarbeit.

Dierk Söllner unterstützt Fach- und Führungskräfte bei aktuellen Herausforderungen durch professionelles Coaching und bietet nützliche Trainings zu KI an.

Peter Drucker und Papst Leo XIV betrachten Künstliche Intelligenz aus zwei unterschiedlichen Perspektiven: Drucker fragt nach Wirksamkeit und Verantwortung, der Papst nach Würde und Menschlichkeit. Am Ende verbindet beide ein Gedanke: Technologie muss dem Menschen dienen und darf ihn nicht auf das reduzieren, was sich berechnen, optimieren oder automatisieren lässt.

Mit diesem Beitrag endet die Gesprächsserie rund um Peter Drucker und Künstliche Intelligenz. In den bisherigen Gesprächen hat er das Thema aus sehr unterschiedlichen Perspektiven betrachtet: mit der Marketingmanagerin Anna, Sam Altman, dem Gründer Marc, Yuval Noah Harari, dem Mediziner Dr. Rashid, Satya Nadella, Prof. Dr. Juliane Weber, Frederick Winslow Taylor und nun Papst Leo XIV. Dabei ging es um Arbeit und Identität, Kundennutzen und Verantwortung, menschliche Autonomie, Medizin, Bildung, Wirksamkeit, Effizienz und Menschlichkeit. So unterschiedlich die Themen und Gesprächspartner auch sind, eine Frage zieht sich durch die gesamte Serie: Wofür setzen wir Künstliche Intelligenz ein? Technologie schafft Möglichkeiten. Ob daraus Fortschritt entsteht, entscheidet sich daran, ob sie Menschen dient, echten Nutzen stiftet und Raum für Denken, Entscheiden und verantwortliches Handeln lässt.

Wollen Sie Dierk Söllner unterstützen oder über Künstliche Intelligenz und Verantwortung diskutieren? Dann teilen Sie diesen Beitrag in Ihrem Netzwerk oder in Ihrem Unternehmen. 

Im t2informatik Blog finden Sie weitere imaginäre Gespräche mit Peter Drucker, u. a.: