Die Künstliche Intelligenz und unsere Zukunft

Gastbeitrag von | 06.06.2019 | Softwareentwicklung | 0 Kommentare

Künstliche Intelligenz kann unser Leben nachhaltig verändern. Zukünftig werden nicht nur handwerkliche sondern auch intellektuell anspruchsvolle Tätigkeiten automatisiert. Ist Künstliche Intelligenz damit lediglich die Fortführung einer bekannten Entwicklung oder wird sie das menschliche Leben als solches revolutionieren? Eine Meinung.

Rationalisierung als Motiv

Die dampfgetriebenen Webstühle machten zahlreiche Weber*innen arbeitslos und gaben ihre Familien dem Hunger preis. Die Erfindung des Tonfilms nahm all jenen Musikern den Broterwerb, die bisher im Lichtspieltheater die Stummfilme musikalisch untermalten. Wenn Chatsbots die Fragen der Kunden automatisiert beantworten, können 80% der Servicemitarbeiter/innen ihren Hut nehmen. Und so weiter…

Gleichzeitig haben diese Automatisierung und Digitalisierung nicht nur den Unternehmern höhere Gewinne gebracht. Die steigende Produktivität führte nicht automatisch zu einer höheren Produktion und niedrigeren Preisen. Aber die Investition in die neuen Technologien lohnte sich natürlich erst ab einer gewissen Stückzahl. Dadurch standen die Produzenten unter Druck, mehr zu verkaufen, und schafften dies u.a. durch niedrigere Preise. Das Handgemachte wurde in die Ecke der hochpreisigen Luxuswaren verdrängt. Anschließend führten die Hersteller einen ruinösen Preiskampf gegeneinander. Diesen Druck können sie teilweise an ihre verbliebenen Mitarbeiter*innen, ihre Zulieferer und die Händler abgeben. Insgesamt jedoch sind die Preise für die Dinge des täglichen Bedarfs gesunken, der Lebensstandard gestiegen. So haben wir dann fast alle einen Vorteil von dieser Entwicklung.

So lief die Rationalisierung also bisher. Automatisiert werden konnten vor allem handwerkliche Tätigkeiten und einfach geistige Tätigkeiten wie das Heraussuchen von Antworten aus einem Fragenkatalog.

Nun erhofft man sich durch die Vernetzung von Produktionsmitteln, autonomen Systemen und Künstlicher Intelligenz (KI) auch die Automatisierung von intellektuell anspruchsvolleren Tätigkeiten. Sogar den Umsetzern dieser Entwicklung, den Softwareentwicklern, geht es an den Kragen. Aus beliebigen Texten können dank automatischer Sprachanalyse Anforderungen extrahiert werden, aus Modellen generiert ein Werkzeug auf Knopfdruck Code und die entstandene Software lässt sich automatisch testen. (Tatsächlich dauert es noch eine Weile, bis das wirklich funktioniert.) Nach wie vor müssen Menschen qualitätssichernd und steuernd eingreifen, so wie die verbliebenen paar Techniker in den automatisierten Produktionshallen. Aber im Prinzip können auch viele Experten jetzt weg, wenn Bilderkennung Tumore besser klassifizieren kann als der übernächtigte Krankenhausarzt, und auch Operationen und Altenpflege können ja irgendwann die Roboter übernehmen. Kaum ein Beruf kann so bleiben wie er ist.

Als Dozentin erleide ich bereits schleichend dasselbe Schicksal wie die Kinomusiker. Durch Online-Videos kann ich meine Leistung zwar mehr Lernenden zukommen lassen, aber heutzutage werden ja Videos auch schon von Avataren gesprochen. Der Trend geht zur Fernlehre, und ich als Wissensträgerin erstelle das Kursmaterial nur noch. Aus einem früher mehrtägigen Seminar wird ein zweistündiges Repetitorium. Multiple-Choice-Tests geben den Lernenden Feedback darüber, ob sie den Stoff richtig verstanden haben. So wird heutzutage sogar den Hochqualifizierten die Arbeit von Maschinen abgenommen oder durch Digitalisierung effizienter und damit weniger.

Nun könnte man die Künstliche Intelligenz als eine Fortführung der bisherigen Entwicklung sehen: Immer komplexere Aufgaben können durch Maschinen übernommen werden. Nichts Neues also? Kein Grund zur Aufregung? Die Welt ist durch die Einführung des Tonfilms schließlich auch nicht untergegangen.

Neue Ära durch Künstliche Intelligenz

Leider könnte durch KI eine neue Ära beginnen, in die wir besser nicht eintreten sollten. Früher hielt ich die Fehlerhaftigkeit von Software für das Hauptproblem. Momentan gibt es auch zahlreiche Studien, die zeigen, dass es Computern sehr, sehr schwer fällt, nutzbringend menschliche Intelligenz zu simulieren, weil sie nicht wirklich verstehen, was sie tun, weil ihnen der Blick und das Verständnis fürs große Ganze fehlt, sie mit unzureichenden Daten trainiert wurden oder schlichtweg menschliche Fehler imitieren. Andererseits haben wir uns bisher ja immer irgendwann daran gewöhnt, dass neue Technologien Menschen töten. Trotz aller Sicherheitsmaßnahmen sterben immer noch Personen durch Stromstöße, Schwelbrände und vielleicht sogar durch Elektrosmog. Trotzdem akzeptieren wir diese Risiken als Nebenwirkung einer nützlichen Erfindung, von der wir alle profitieren. Ohne Elektrizität wollen wir nicht mehr leben und könnten wir vermutlich auch nicht mehr. Darüber denkt noch nicht mal irgendjemand noch nach. Und selbst wenn würden wir den hohen Nutzen der Elektrizität dagegen rechnen sowie die Todesfälle, die durch Strom vermieden werden können. Analog könnte KI auch etwas sein, das zwar hin und wieder Menschen tötet. Das ist nicht das Hauptproblem.

Es geht um Verantwortung. Bisher hat die Technologie uns nur darin unterstützt, unsere Arbeit besser zu erledigen. Sie sind Werkzeuge für menschliche Arbeit. Ich mache im Prinzip immer noch dasselbe wie vor zwanzig Jahren, aber schneller und besser. Zu einer Recherche muss ich nicht mehr in die Bücherei fahren und dort dicke Bücher wälzen, um Fachartikel Seite für Seite zu kopieren, beim Schreiben formatiere und layoute ich meine Texte nebenbei (kein Setzer mehr nötig) und kann Schreibfehler im Nu entdecken und korrigieren, ohne die entsprechende Seite vollständig neu tippen zu müssen. Mathematische Formeln muss ich nicht von Hand in Schönschrift schreiben und mit Klebestift an die richtige Stelle auf das Papier kleben. Präsentationsfolien sind von Hand gemacht auch nicht so wirklich gut lesbar gewesen, aber immerhin schon effizienter als Tafelanschriebe, die man jedes Mal neu schreiben musste und die viel Vortragszeit kosteten. Texte kann ich in die Spracherkennung diktieren und so meine Gedanken schneller notieren. Von unnötigem Zeitverlust entlastet, kann ich mich mehr auf Inhalte konzentrieren als je zuvor, dank Technik.

Künstliche Intelligenz dagegen ist etwas ganz, ganz anderes. Sie trifft selbst und autonom Entscheidungen und übernimmt damit Verantwortung. Die Frage, ob sie das kann oder nicht, ist weniger wichtig als die grundlegende ethische Frage, ob wir Verantwortung an Maschinen abgeben möchten oder dürfen. Das ist die zentrale Frage, die wir uns stellen müssen.

Die Autonomie der KI erscheint erstmal nützlich, weil sie praktisch bedeutet, dass die KI nicht für jeden Anwendungsfall neu programmiert werden muss. Sie braucht keinen fallspezifischen Algorithmus, sondern findet anhand von Daten heraus, wie es geht. Sie analysiert die Ergebnisse der Expertenarbeit und ahmt sie nach. Es entsteht wenig Initialaufwand, außer der Beschaffung dieser Daten, weil das System sich selbständig einlernt. Nachher wundern wir uns manchmal über die Ergebnisse. Der Fehler liegt dann aber weniger an der KI, sondern an den eingegebenen Daten. So wie Irren menschlich ist, so wird auch die KI sich irren. Da sie aber in kürzerer Zeit mehr Informationen objektiver verarbeiten kann, wird sie schnell die Erfahrung mehrerer Berufsleben nutzen können.

Wollen wir Verantwortung an KI abgeben?

Aber wir geben Verantwortung aus der Hand, wenn KI autonom entscheidet. Ich glaube nicht, dass die KI absichtlich die Weltherrschaft an sich reißen wird, aber die Souveränität über unsere Welt wird uns entgleiten, bzw. wir geben sie leichtsinnig aus der Hand, um Zeit und Geld zu sparen. Dann werden wir irgendwann nicht mehr wissen, wie man manuell eine Rechnung bezahlt, vielleicht unterstützt die Bank das gar nicht mehr. Studenten werden ausführliche maschinell erstellte Gutachten für ihre Masterarbeit erhalten, aber es gibt bei Missverständnissen keinen menschlichen Ansprechpartner mehr für eine Beschwerde. Was sollte der auch sagen, hat er doch keinen Einblick in die Denkweise der Bewertungs-KI und muss sich auf die Objektivität der Maschine verlassen können. Die Börse kollabiert, weil alle Handelsbots im selben Moment in den Krisenmodus schalten. Zwei Züge fahren stundenlang frontal aufeinander zu, aber niemand kann es aufhalten. Kriege werden geführt aufgrund von Softwarefehlern.

Dabei geht es mir nicht um den jeweiligen finanziellen Schaden. Sondern das Netz von Menschen wird zerstört, das bisher unsere Gesellschaft bildet. Menschen stellen Waren für Menschen her, Menschen lernen von Menschen, Menschen helfen Menschen. Das verbindet uns alle miteinander. Das wird dann aufhören. Stattdessen vernetzen sich Geräte zum Internet of Things. Wo auch immer werden wir von Maschinen bedient, ob gut oder schlecht, aber das zwischenmenschliche Internet of Humans löst sich auf. Niemand ist mehr für irgendetwas verantwortlich. Was machen wir dann noch? Sitzen den ganzen Tag allein in einer Einzimmerwohnung und werden von Maschinen betreut? Zwischenmenschliche Beziehungen werden virtuell simuliert? Dann leben wir in der Matrix!

Ich gehe gerne einkaufen, weil ich dabei unter die Menschen komme. Bei der Massage wird nett gequasselt. Soll ich denn mit einem Massageroboter Small Talk machen? Und wenn ich bei der Arbeit nicht mehr selbst Entscheidungen treffe und Verantwortung trage, sondern nur noch die Korrekturmaschinen neu boote, was soll das? Oder die Suchmaschine informiert mich über eine neue Version eines Standards, eine andere Software aktualisiert automatisch die entsprechenden Kursunterlagen, und ich betreue nur noch die Software-Tools?

Im Prinzip argumentiert auch die neuste EU-Richtlinie zur KI in diese Richtung: KI soll gesetzestreu, ethisch und robust sein. Die vier genannten ethischen Prinzipien sind

  • der Respekt vor der menschlichen Autonomie,
  • Schadensvermeidung,
  • Fairness und
  • Erklärbarkeit.

Betont wird ausdrücklich, dass die KI die Menschen bei ihren Entscheidungen unterstützen soll, während die menschliche Autonomie bewahrt bleibt. Ich hoffe sehr, dass dies bei der Entwicklung und bei der Entscheidung über den KI-Einsatz jederzeit und immer berücksichtigt wird!

Dr. Andrea Herrmann

Dr. Andrea Herrmann

Dr. Andrea Herrmann ist seit 2012 freiberufliche Trainerin und Beraterin für Software Engineering. Sie hat mehr als 20 Berufsjahre in Praxis und Forschung bis hin zu Vertretungs- und Gastprofessuren. Sie hat mehr als 100 Fachpublikationen veröffentlicht und hält regelmäßig Konferenzvorträge. Frau Dr. Herrmann ist offizielle Supporterin des IREB-Board, Mitautorin von Lehrplan und Handbuch des IREB für die CPRE Advanced Level Zertifizierung in Requirements Management.

Share This