AGI ohne klaren Kundennutzen und Kompass

Ein imaginäres Gespräch zwischen Peter Drucker und  Sam Altman, CEO von OpenAI

Dies ist der dritte Teil einer Serie mit fiktiven Gesprächen. Peter Drucker trifft darin bekannte Personen und Menschen wie Sie und mich. Menschen mit unterschiedlichen Rollen in Organisationen, die den technologischen Optimismus, die pragmatische Anwendung, die historische Warnung und die ökonomische Realität verkörpern. Heute unterhält er sich mit Sam Altman im Hauptsitz von OpenAI in San Francisco. Der Raum mit bodentiefen Fenstern ist lichtdurchflutet und bietet einen wunderschönen Blick auf die Bucht. An den Wänden hängen riesige Bildschirme mit Live-Dashboards zu API-Anfragen pro Sekunde, Trainingsmetriken und Wachstumskurven. 

Die faszinierende technische Ambition

Sam Altman: „Herr Drucker, willkommen bei OpenAI. Lassen Sie mich Ihnen zeigen, was wir hier aufbauen. In den letzten Monaten haben wir die Leistungsfähigkeit unserer Modelle massiv gesteigert. Wir sind auf dem Weg zu AGI, also Artificial General Intelligence. Das ist ein System, das jede intellektuelle Aufgabe eines Menschen übernehmen und sogar übertreffen kann. Vielleicht erreichen wir das schon vor Ende dieses Jahrzehnts.“

Peter Drucker: „Das ist eine faszinierende technologische Ambition. Ich sehe hier auf Ihren Bildschirmen eine enorme Menge an Aktivität und Rechenleistung. Darf ich Ihnen gleich eine wichtige Frage zu Beginn stellen: Wofür genau bauen Sie das? Welchen gesellschaftlichen oder wirtschaftlichen Zweck erfüllt dieses Werkzeug?“

Sam Altman: „Wir bauen es, um der Menschheit ein unglaublich mächtiges Werkzeug zu geben. Stellen Sie sich ein System vor, das komplexe wissenschaftliche Probleme im Bereich der Klimaforschung löst, schwere Krankheiten frühzeitig diagnostiziert und jedem Menschen auf der Erde eine völlig personalisierte Bildung ermöglicht. Es ist ein Gehirn für die Welt, das jeder nutzen kann.“

Peter Drucker: „Ein Gehirn für die Welt klingt nach einer eindrucksvollen Vision. In der Managementpraxis müssen wir diese Vision jedoch erden. Wer genau ist eigentlich Ihr Kunde? Und was kauft dieser Kunde von Ihnen?“

Sam Altman: „Unser Kunde ist die gesamte Menschheit. Wir demokratisieren den Zugang zu Intelligenz. Unser kostenloses Angebot hat Hunderte Millionen Nutzer weltweit. Wir nehmen von der großen Masse kein Geld, wir blenden keine Werbung ein und wir verfolgen keine versteckten Monetarisierungsstrategien. Wir geben den Menschen das Werkzeug kostenlos in die Hand und sie finden selbst heraus, wie sie es nutzen wollen.“

Der Mythos der gesamten Menschheit als Kunde

Peter Drucker: „Lassen Sie uns das ökonomisch betrachten. Nutzer, die nichts bezahlen, sind im klassischen Sinne keine Kunden. Eine echte Kundenbeziehung entsteht durch eine Transaktion. Der Kunde gibt freiwillig Geld aus, weil er glaubt, dass die gekaufte Leistung mehr wert ist als sein Geld.

Allein diese Bereitschaft zu zahlen, zwingt ein Unternehmen zur absoluten Disziplin. Sie zwingt Sie zu der harten Frage, was für diesen spezifischen Menschen wirklich von Wert ist. Ohne zahlende Kunden fehlt Ihnen das wichtigste Feedbacksystem der freien Wirtschaft.“

Sam Altman: „Ich muss Ihnen hier widersprechen, Herr Drucker. Das ist eine Sichtweise aus dem Industriezeitalter. Wir leben in einer Plattformökonomie. Der traditionelle zahlende Kunde ist nur ein Modell von vielen. Unsere kostenlosen Nutzer liefern uns durch ihre ständige Interaktion die wertvollsten Daten der Welt. Sie trainieren und verfeinern unsere Modelle mit jedem Satz, den sie eingeben. In der modernen Softwarebranche ist Reichweite die härteste Währung. Wer das grundlegende System kontrolliert und die meisten Nutzer bindet, der definiert den gesamten Zukunftsmarkt.

Außerdem möchte ich anmerken: Wir haben sehr wohl zahlende Kunden. Große Konzerne nutzen unsere Programmierschnittstellen und Millionen von Menschen zahlen für Premium-Abonnements. Aber die Basis muss ein für alle zugängliches Gut bleiben.“

Peter Drucker: „Sie sprechen von einem öffentlich zugänglichen Gut. Ein öffentliches Gut ist jedoch eine politische Kategorie. Solche Güter werden von Regierungen bereitgestellt und durch demokratische Prozesse legitimiert und kontrolliert. Sie leiten aber ein privates Unternehmen mit Investoren, die Milliardenbeträge bereitstellen und eine gigantische Rendite erwarten. Sie können nicht gleichzeitig Retter der Menschheit und ein renditegetriebenes Unternehmen sein. Entweder Sie sind ein wirtschaftliches Geschäft, dann müssen Sie den konkreten Kundennutzen in den Mittelpunkt stellen. Oder Sie sind eine öffentliche Infrastruktur, dann müssen Sie sich einer externen demokratischen Kontrolle unterwerfen. Die Vermischung dieser beiden Sphären führt unweigerlich zu massiven Governance-Problemen.“

Die neue Ökonomie und die Frage der Verantwortung

Sam Altman: „Wir haben genau für dieses Problem eine völlig neue Unternehmensform geschaffen. Wir sind ein Unternehmen mit gedeckelter Rendite. Unsere Investoren wissen, dass unsere Mission, die künstliche Intelligenz zum Wohle aller zu entwickeln, immer Vorrang vor dem maximalen Profit hat. Wir müssen schnell skalieren, aber wir tun das mit einem festen ethischen Kompass. Wenn wir langsam machen, überlassen wir das Feld autoritären Regimen. Es geht hier um harte geopolitische Realitäten. Wenn amerikanische Unternehmen zögern, diktieren andere Nationen die Regeln der künstlichen Intelligenz. Der zeitliche Vorsprung ist absolut entscheidend.“

Peter Drucker: „Geopolitik wird sehr oft als Argument genutzt, um riskantes Wachstum zu rechtfertigen. Ich bestreite nicht den internationalen Wettbewerb. Aber die ökonomische Realität zeigt, dass blindes exponentielles Wachstum gefährlich ist. Nur weil eine technologische Neuerung machbar ist, bedeutet das nicht automatisch, dass sie in dieser Form nützlich oder sicher ist. Innovation darf kein reiner Selbstzweck der Ingenieure sein. Sie entfaltet ihren Wert erst, wenn sie zielgerichtet echte Probleme löst.“

Sam Altman: „Wir lösen unzählige Probleme. Unsere Modelle helfen Millionen von Fachkräften, wesentlich produktiver zu sein. Softwareentwickler schreiben in der halben Zeit fehlerfreien Code. Ärzte erhalten wertvolle Zweitmeinungen bei komplexen Diagnosen. Wir steigern die intellektuelle Kapazität unserer Nutzer drastisch.“

Peter Drucker: „Die Frage ist, ob diese Menschen wirklich effektiver werden oder ob sie nur effizienter darin sind, mehr Informationen zu produzieren. Wenn ein Unternehmen nicht klar definiert, welchen spezifischen Wert es liefert, gerät es in Schwierigkeiten. Ein Arzt kauft keine künstliche Intelligenz. Er kauft eine verlässliche Lösung für sein Diagnoseproblem. Ein Student kauft keinen Zugang zu maschinellem Lernen, er kauft das tiefe Verständnis für komplexe Mathematik. Was das Unternehmen in seinen Laboren zu produzieren glaubt, ist zweitrangig. Einzig entscheidend ist, was der Kunde als Wert empfindet.“

Die Lektionen der Geschichte

Sam Altman: „Wir sehen aber eine beispiellose Nachfrage. Jedes große Unternehmen auf der Welt will unsere Technologie sofort integrieren. Unsere Infrastruktur wird überall benötigt. Denken Sie an die Elektrifizierung der Welt. Thomas Edison wusste nicht im Voraus, dass sein Stromnetz eines Tages Serverfarmen, globale Kommunikationsnetze oder Beatmungsgeräte in Krankenhäusern betreiben würde. Er hat eine universelle Infrastruktur geschaffen. Genau das tun wir auch. Wir bauen das intellektuelle Stromnetz des einundzwanzigsten Jahrhunderts.“

Peter Drucker: „Das Beispiel von Thomas Edison wird von Technologen gerne bemüht. Es lohnt sich aber, genauer hinzusehen. Edison startete nicht mit dem abstrakten Ziel, ein universelles Stromnetz zu bauen. Er hatte ein messerscharf definiertes Kundenproblem vor Augen. Er wollte private Haushalte beleuchten und Fabriken ermöglichen, auch nach Sonnenuntergang sicher zu produzieren. Das Problem war extrem konkret und der Kundennutzen war sofort offensichtlich. Die Lösung war universell, aber der Einstieg war absolut fokussiert.

Betrachten wir ein anderes historisches Beispiel. In der Dotcom-Blase der späten neunziger Jahre haben Telekommunikationsfirmen Hunderte Milliarden in Glasfaserkabel investiert. Sie dachten, diese Infrastruktur sei ein Selbstläufer. Die Nachfrage schien grenzenlos. Nahezu alle diese Unternehmen sind kollabiert, weil die bloße Existenz von Infrastruktur noch lange kein tragfähiges Geschäftsmodell garantiert. Wenn Sie nur Kapazitäten bauen, ohne den konkreten Anwendungsfall zu verantworten, bauen Sie eine Lösung auf der Suche nach einem Problem.“

Sam Altman: „Unsere Anwendungsfälle entwickeln sich jeden Tag weiter. Wir investieren Milliarden in die Sicherheit der Modelle. Wir prüfen sehr genau, welche Outputs unsere Systeme generieren. Wir messen alles, was wir kontrollieren können.“

Peter Drucker: „Aber was genau messen Sie auf diesen Bildschirmen um uns herum? Sie messen Parameter wie Modellgröße, Trainingsgeschwindigkeit und Auslastung der Server. Das sind reine Input Metriken. Sie dokumentieren lediglich, dass Ihre Maschinen laufen. Das beantwortet nicht die Frage nach dem gesellschaftlichen Beitrag. Ein gesundes Unternehmen definiert sich über seinen Beitrag zur Gesellschaft und nicht über seine bloße Aktivität.“

Systematische Müllabfuhr in der Forschung

Sam Altman: „Herr Drucker, Sie betonen den strategischen Fokus. Aber wie sollen wir in einem völlig unbekannten Terrain vorab wissen, was der richtige Fokus ist? Was würden Sie konkret an meiner Stelle tun, um diesen Beitrag messbar zu machen?“

Peter Drucker: „Ich würde Ihnen drei konkrete strategische Schritte empfehlen:

1. Hören Sie auf, AGI als isoliertes Ziel zu behandeln, denn es ist lediglich eine technische Spezifikation. Sie müssen einen spezifischen Kundenstamm definieren und beweisen, dass Sie dort ein messbares Problem nachhaltig lösen.
2. Wenden Sie das Prinzip der systematischen Müllabfuhr an. Gehen Sie die Liste Ihrer verschiedenen Forschungsprojekte durch und fragen Sie sich bei jedem Projekt ehrlich, ob Sie es mit dem heutigen Wissen noch einmal neu starten würden. Wenn die Antwort Nein lautet, müssen Sie es sofort beenden und Ihre Talente auf die wirklich entscheidenden Aufgaben konzentrieren.
3. Geben Sie die Illusion auf, Ihre Technologie sei völlig wertneutral.“

Sam Altman: „Lassen Sie mich auf Ihren zweiten Punkt eingehen. Das Prinzip der systematischen Müllabfuhr ergibt in der klassischen Güterproduktion absolut Sinn. In der Grundlagenforschung ist das jedoch extrem riskant. Innovation lässt sich nicht am Reißbrett planen. Die Entwicklung von künstlicher Intelligenz erfordert eine extreme Diversität der Ansätze. Ein Projekt, das heute wie eine Sackgasse aussieht, kann morgen den entscheidenden mathematischen Durchbruch liefern. Wenn wir Projekte zu früh streichen, kappen wir vielleicht genau den Zweig, der uns zur echten Intelligenz führt. Wir müssen es uns leisten, unrentable oder scheinbar ziellose Projekte lange am Leben zu halten.“

Peter Drucker: „Diversität in der Forschung ist wichtig, aber sie darf keine Ausrede für Beliebigkeit sein. Wenn mittelmäßige Projekte aus purer Gewohnheit oder aus internen politischen Gründen weiterlaufen, binden sie wertvolle Ressourcen. Nichts zerstört die Motivation brillanter Mitarbeiter schneller, als zusehen zu müssen, wie Ressourcen für unproduktive Traditionen verschwendet werden. Ein starkes Management zeichnet sich dadurch aus, mutige Entscheidungen zu treffen und auch schmerzhafte Trennungen von alten Projekten vorzunehmen.“

Skalierung und das Manhattan-Projekt

Sam Altman: „Das ist ein legitimer Punkt über Ressourcenallokation. Aber Ihr dritter Ratschlag betrifft unsere Neutralität. Wir müssen als Plattform zwingend neutral bleiben. Wir haben Nutzer auf der ganzen Welt. Wenn wir anfangen, unsere eigenen moralischen oder politischen Werte explizit in die Modelle einzucodieren, werden wir sofort zum Spielball globaler Konflikte. Wir können unmöglich ein ethisches Komitee mit Vetorecht installieren. Das würde unsere Entwicklung um Jahre zurückwerfen und uns im globalen Wettbewerb handlungsunfähig machen.“

Peter Drucker: „Die Behauptung der Neutralität ist der größte intellektuelle Irrtum der Technologiebranche. Eine Maschine, die Sprache verarbeitet, Argumente gewichtet und Wissen sortiert, kann niemals neutral sein. Allein die Entscheidung, bestimmte schädliche Inhalte herauszufiltern, ist eine tiefgreifende Wertentscheidung. Ihre Modelle spiegeln unweigerlich die Weltanschauung der Ingenieure wider, die sie in Kalifornien programmieren.

Das ist nicht per se schlecht, aber es erfordert schonungslose Ehrlichkeit. Sie müssen diese Wertentscheidungen transparent machen und einer breiten gesellschaftlichen Kontrolle öffnen. Ein Gremium, das Sie selbst auswählen, bietet keine demokratische Legitimität.“

Sam Altman: „Echte demokratische Kontrolle über unsere Quellcodes würde bedeuten, die Kontrolle über das Unternehmen de facto abzugeben. Unsere Investoren finanzieren uns, weil sie an unsere Führungsstärke glauben. Wenn wir jeden strategischen Schritt öffentlich debattieren müssen, verlieren wir unsere Handlungsfähigkeit.“

Peter Drucker: „Die Geschichte ist voll von brillanten Technologen, die glaubten, ihre Erfindungen seien zu wichtig, um sie durch externe Kontrollen auszubremsen. Betrachten Sie das Manhattan-Projekt. [1] Die klügsten Köpfe ihrer Zeit bauten unter extremem Zeitdruck die Atombombe, weil sie fürchteten, der Feind sei schneller. Sie lösten ein gewaltiges technisches Problem. Danach verbrachten viele dieser Wissenschaftler den Rest ihres Lebens damit, die Folgen ihrer Schöpfung zu bereuen und vor ihr zu warnen, weil die politische Governance völlig fehlte.

Oder betrachten Sie die sozialen Medien in unserer jüngeren Vergangenheit. Das Versprechen der Gründer lautete, die Welt zu vernetzen und Informationen zu demokratisieren. Das Resultat ist in vielen Teilen eine enorme gesellschaftliche Polarisierung, die Aushöhlung des öffentlichen Diskurses und eine Krise der mentalen Gesundheit. All das geschah, weil die Skalierung der Plattformen unendlich viel schneller ablief als die Übernahme von Verantwortung für die gesellschaftlichen Konsequenzen. Glauben Sie wirklich, dass ausgerechnet künstliche Intelligenz die historische Ausnahme von dieser Regel sein wird?“

Sam Altman: „Wir sind uns dieser Gefahren sehr bewusst. Deshalb arbeiten wir intensiv an der Ausrichtung der künstlichen Intelligenz auf menschliche Werte. Wir wollen nicht die Fehler der Social-Media-Ära wiederholen. Aber die Entwicklung lässt sich nicht aufhalten. Wir müssen sie anführen, um sie sicher zu gestalten.“

Peter Drucker: „Wenn Sie sie sicher gestalten wollen, müssen Sie beweisen, dass Ihre Mission Vorrang vor Ihrem Wachstum hat. Ein Unternehmen, das die Welt retten will, muss bereit sein, auf Marktanteile zu verzichten, wenn die Sicherheit es erfordert. Sie können nicht gleichzeitig der kompromisslose Retter der Menschheit und das unangefochten wertvollste Unternehmen der Welt sein wollen. Eines von beiden wird in Krisenzeiten weichen müssen. Die Frage ist nicht, ob Sie das Rennen gewinnen. Die Frage ist, ob Sie wirklich bereit sind, die historische Verantwortung für das zu übernehmen, was nach der Ziellinie auf Sie wartet.“

Sam Altman: „Sie fordern eine radikale strategische Ehrlichkeit. Sie haben mir heute sehr viel gegeben, worüber ich nachdenken muss.“

Peter Drucker: „Das ist die eigentliche Aufgabe eines Beraters. Ich liefere Ihnen keine fertigen Algorithmen. Ich fordere Sie auf, die richtigen Fragen zu stellen. Der wahre Test Ihrer Führungskraft wird darin bestehen, ob Sie den Mut haben, die Antworten ernst zu nehmen.“

Hinweise:

Dieses fiktive Gespräch baut auf den theoretischen Grundlagen auf, die im ersten Beitrag dieser Serie – Peter Drucker trifft KI – beschrieben sind. Dort geht es unter anderem um den wahren Wert von Wissensarbeit.

Das imaginäre Gespräch mit Sam Altman zeigt die gefährliche Lücke zwischen technologischer Allmacht und fehlender gesellschaftlicher Verankerung. Innovation ohne klaren Kundennutzen und ohne ethischen Kompass droht zum Selbstzweck zu verkommen. Wer die Infrastruktur von morgen baut, muss heute Verantwortung für die Konsequenzen übernehmen und die Illusion der Neutralität ablegen.

Doch was passiert, wenn diese gigantischen KI-Infrastrukturen auf die ungeduldige Welt junger Gründer treffen? Im nächsten Gespräch trifft Peter Drucker auf Marc, einen ambitionierten Startup-Gründer. Zwischen Burnrate, Skalierungsdruck und KI-Hype stellt sich die fundamentale Frage: Wann wird Technologie zum echten Geschäftsmodell?

Dierk Söllner unterstützt Fach- und Führungskräfte bei aktuellen Herausforderungen durch professionelles Coaching und bietet nützliche Trainings zu KI an.

[1] Manhattan-Projekt

Hier finden Sie einige Zitate von Peter Drucker.

Wollen Sie als Multiplikatorin oder Meinungsführer über KI aus Peter Druckers Perspektive diskutieren? Dann teilen Sie diesen Beitrag in Ihrem Netzwerk.

Dierk Söllner hat weitere Beiträge im t2informatik Blog veröffentlicht, u. a.: