Wenn Menschen und KI zusammenarbeiten, leisten sie in der Regel bessere Arbeit als jeder für sich allein. Die angeborene Skepsis der Menschen gegenüber KI stellt ein Hindernis dar, das jedoch überwunden werden kann. Dafür muss eine fruchtbare Zusammenarbeit gefördert werden, die Vertrauen schafft. Ziel dieses Textes ist es daher, eine alternative, pragmatische Perspektive auf die Vertrauensfrage aufzuzeigen, wenn Unternehmen mit KI arbeiten.
 

Wenn Sie mit KI arbeiten, kommt früher oder später das Thema Vertrauen auf. „Wir trauen dem System nicht zu, dass es verantwortungsvolle Entscheidungen trifft.“ Oder: „Wenn wir nicht genau sehen können, wie der Algorithmus zu den einzelnen Schritten gekommen ist, können wir ihm nicht vertrauen.“ Dies sind typische Aussagen, die das Misstrauen gegenüber Künstlicher Intelligenz beschreiben.

Der Mangel an Vertrauen ist eine besondere Herausforderung, denn das größte Potenzial von KI wird erst dann erreicht, wenn Menschen und KI zusammenarbeiten und sich gegenseitig ergänzen. Am deutlichsten zeigt sich dies in Spielen, aber es gilt nicht minder für die Arbeitswelt. Doch irgendetwas hindert uns daran, dieses Potenzial voll auszuschöpfen. Und dieses Etwas liegt in uns selbst.

Da es offensichtlich ist, dass Vertrauen eine so wichtige Rolle in dieser Beziehung spielt, wollen wir ein wenig darüber nachdenken.

Menschen, die Menschen vertrauen vs. Menschen, die KI vertrauen

Am Anfang zwischenmenschlicher Beziehungen steht in der Regel ein Vertrauensvorschuss. Der größte Teil unseres Zusammenlebens basiert auf gegenseitigem Vertrauen. Mit einem Vertrauensvorschuss zu beginnen, hat sich aus evolutionärer Sicht ausgezahlt und macht das Leben viel einfacher, als wenn wir jedem von Anfang an misstrauen. Der britische Journalist, Geschäftsmann und Schriftsteller Matt Ridley schlägt in seinem Buch „Die Biologie der Tugend“ (The Origins of Virtue) vor, dass sich dies so weit ausgezahlt hat, dass Kooperation selbst in unserer DNA stecken könnte. Wahrscheinlich werden Gene weitergegeben, die reziprokes altruistisches Verhalten hervorrufen. Laut dem Psychoanalytiker Erik Erikson entwickeln wir zudem in den ersten beiden Lebensjahren Urvertrauen – das erste Stadium der psychosozialen Entwicklung.

Vertrauen, Kommunikation, Reputation und Mechanismen, die opportunistisches Verhalten regulieren, sind die Grundlage einer erfolgreichen Zusammenarbeit. Die Spieltheorie hat sehr schön gezeigt, dass es eigentlich in unserem eigenen Interesse ist, auf kurzfristige Gewinnmaximierung zu verzichten und stattdessen für das Gemeinwohl zu sorgen, wenn wir mit anderen Menschen zusammenarbeiten. Zusammenfassend können wir sagen, dass Vertrauen einer der Schlüsselfaktoren ist, damit wir Menschen miteinander kooperieren.

Leider lassen sich diese uralten Mechanismen nur schlecht auf die Interaktion zwischen Mensch und KI übertragen. Wenn die KI dem Menschen ähnlicher wäre, wären wir vielleicht eher geneigt, ihr das gleiche Urvertrauen wie uns Menschen entgegenbringen. Vorerst müssen wir jedoch Wege finden, unsere emotionale Abneigung gegen die Zusammenarbeit mit KI zu überwinden. Wir wissen auf rationaler Ebene, dass diese Zusammenarbeit dem Menschen oder der allein arbeitenden KI weit überlegen sein kann.

Das wirft die Frage auf, wie das Vertrauen in KI gesteigert werden kann. Interessanterweise schlagen Forschungsergebnisse vor, dass Vertrauen eher als Ergebnis anstatt als Voraussetzung für Kooperation verstanden wird. Das heißt, wir vertrauen dem Algorithmus, wenn wir wissen, welchen Teil der Aufgabe er erledigen soll, wir verstehen, wie er es tut, und wir sehen können, dass er einen soliden Versuch unternimmt, sein Ziel zu erreichen. Die praktische Auswirkung ist also, dass es besser wäre, wenn wir lernen, wie eine bestimmte KI funktioniert, und wir sie auf verantwortliche Weise in unseren Arbeitsablauf integrieren. Vertrauen sollte dann die natürliche Folge einer erfolgreichen Zusammenarbeit sein.

Es werden bereits viele Anstrengungen unternommen, um die Kooperation zwischen Mensch und KI zu erleichtern (siehe human-zentriertes Design). Dafür werden Systeme entwickelt, mit denen Menschen leichter zusammenarbeiten können. Wenn wir diese Bemühungen von der anderen Seite her ergänzen und den Menschen mehr Möglichkeiten geben, sich auf breiterer Ebene über KI zu informieren – insbesondere über ihre tatsächlichen Fähigkeiten und Grenzen – würden wir die Kooperation zwischen ihnen fördern und gleichzeitig daran arbeiten, KI zu entmystifizieren.

Die Europäische Kommission hat sich mit diesem Gedankengang in ihren kürzlich veröffentlichten „Ethics guidelines for trustworthy AI“ genauer beschäftigt. Gemäß den Leitlinien sollte vertrauenswürdige KI (1) rechtmäßig sein, d. h., alle geltenden Gesetze und Vorschriften einhalten, (2) ethisch sein, d. h., ethische Prinzipien und Werte einhalten, und (3) robust sein – sowohl technisch als auch in Bezug auf das soziale Umfeld. Das Ziel der Leitlinien ist es, vertrauenswürdige KI zu fördern sowie einen Rahmen zu schaffen, um ebendiese zu erreichen. Das dritte Ziel ist für das vorliegende Thema von besonderem Interesse. Wenn man mit KI arbeiten will, muss eines der Hauptziele sein, KI zuverlässiger, erklärbar und damit für den Menschen verständlich zu machen.

Bei dem Versuch, greifbare, nachvollziehbare und transparente Interaktionen zwischen Mensch und KI in größerem Umfang zu fördern, können wir auf andere Länder wie Finnland blicken. Das Land hat sich vorgenommen, einem Prozent der Bevölkerung des Landes die grundlegenden Konzepte der KI-Technologie beizubringen. Damit will es den Menschen einen einfachen Zugang zu KI und die Möglichkeit bieten, sich auf geeignete Weise mit ihr vertraut zu machen.

Für viele Mitarbeitende scheint KI immer noch eher eine Kuriosität zu sein, anstatt eine tatsächliche Bereicherung für ihren Arbeitsalltag – auch wenn sie persönlich sehr daran interessiert sind, mehr über KI im Allgemeinen zu erfahren und wie sie von der Arbeit mit ihr profitieren könnten. Eine Lehre, die wir aus der obigen Diskussion ziehen, ist folgende: Wir müssen die Anzahl der Berührungspunkte erhöhen, die Menschen mit KI haben, wie z. B. Demos und Schulungen für alle Mitarbeitende eines Unternehmens. Auch Visualisierungen in Form von Wandbildern können für Unternehmen als Kommunikationsmittel fungieren, da sie die anstehenden Veränderungen aufzeigen („Change Pictures“). Sie helfen, die gefühlte Distanz zwischen Mensch und KI zu verringern. Nicht zuletzt ist ein zusätzlicher Motivator, um eine positive KI-Kultur in einer Organisation zu entwickeln, wenn die Kooperation zwischen Mensch und KI aktiv belohnt wird.

Künstliche Intelligenz ist zu einer wichtigen Priorität für Unternehmen geworden. Je mehr sie sich jedoch mit der Integration von KI beschäftigen, desto deutlicher wird, welche Hürden sie auf diesem Weg und zu ihrer erfolgreichen Annahme überwinden müssen. Basierend auf zehn tief greifenden Interviews und Gesprächen sowie Interaktionen mit Dutzenden von Unternehmen haben wir acht Barrieren identifiziert. Diese müssen für den erfolgreichen Einsatz von KI gemeistert werden.

Künstliche Intelligenz (KI) als nächster logischer Schritt der Digitalisierung wurde in den letzten Jahren immer bedeutungsvoller. Sie versetzt Unternehmen in die Lage, ihre Prozesse weiter zu optimieren und zu automatisieren sowie neue Produkte und Geschäftsmodelle zu entwickeln. So machen sie ihr Geschäft zukunftssicher. KI-Systeme zu entwickeln, sie zu implementieren und anzunehmen, birgt jedoch mehr Hindernisse und Risiken, als manch einer erwartet. Ressourcen zu beschaffen ist komplex und mühsam: Die Nachfrage nach relevanten Fähigkeiten auf dem Arbeitsmarkt übersteigt das Angebot bei Weitem. Die benötigten Daten sind oft nicht verfügbar, nicht zugänglich oder nicht von ausreichender Qualität. Wenn immer mehr Daten erfasst werden sollen, ergeben sich jedoch Probleme mit deren Verarbeitung. Hinzu kommen Bedenken zu ethischen Implikationen, wenn datenbasierte Entscheidungssysteme umfassend eingesetzt werden. Regierungen reagieren mit strengen regulatorischen Rahmenbedingungen, wie z. B. der europäischen DSGVO. Dadurch entsteht ein komplexes und sich schnell veränderndes Umfeld.

Auf der Grundlage von zehn tief greifenden Interviews mit Unternehmensvertretern aus verschiedenen Branchen haben wir die folgenden acht Hauptbarrieren identifiziert, um KI zu implementieren und anzunehmen:

1. Organisatorische Aspekte

Bislang fehlt vielen Unternehmen das Verständnis dafür, wie und wo KI-Kompetenzen in ihrer Organisationsstruktur verankert werden sollten. Damit einher geht die unklare Verteilung von Verantwortlichkeiten und Aufgaben, wie z. B. die Entwicklung von Prototypen oder die Verwaltung von Daten. Notwendig ist zudem, dass Modelle zur Zusammenarbeit definiert werden.

2. Kultur & Wandel

In Zeiten unsicherer und schnelllebiger Marktveränderungen spüren Unternehmen den Druck, sich zu öffnen, um innovativer zu sein und mit ihrem Ökosystem zusammenzuarbeiten. Das gilt auch für die Entwicklung von KI-Anwendungen. Gerade in großen Unternehmen erfordern kulturelle Veränderungen viel Zeit und ein starkes Management.

Neben dem kulturellen Aspekt unterschätzen viele Unternehmen (weiterhin), wie wichtig strategisches Change-Management ist. Statt den Einführungsprozess ganzheitliche zu begleiten werden oft nur isolierte (Kommunikations-) Maßnahmen durchgeführt.

3. Kompetenz & Fähigkeiten

Bei vielen Unternehmen liegt der langsame KI-Fortschritt an mangelnden, relevanten KI-Experten. Alle an der Studie beteiligten Unternehmen sehen erhebliche Herausforderungen, um neue Talente zu gewinnen und zu binden. Das interne Upskilling von Mitarbeitenden ist eine Möglichkeit, das Problem anzugehen. Es ersetzt aber nicht die jahrelange spezialisierte Ausbildung und Erfahrung von KI-Experten.

Um neue Mitarbeitende langfristig zu binden, müssen Unternehmen sicherstellen, dass sie attraktive und transparente Karrierewege entwickeln und weitere anstehende Anforderungen erfüllen.

Nehmen wir an, ein Unternehmen verfügt über die notwendigen KI-Ressourcen, zu denen vor allem KI-Experten (aus dem Bereich Mathematik, Statistik oder einem vergleichbaren Studium), Data Scientists, Ingenieure sowie Softwareingenieure gehören. Dann steht es immer noch vor der Herausforderung, die interdisziplinären Teams zu führen. Aufgrund ihrer unterschiedlichen Hintergründe und Arbeitsweisen benötigen sie ein gut strukturiertes Management.

4. KI-Anwendung

Wenn wir daran denken, KI anzuwenden, wissen wir, dass die wahrgenommene geringe Komplexität und hohe Kompatibilität eines Systems zu einer schnelleren Benutzerakzeptanz beitragen. Dies gilt insbesondere für KI-Systeme. Die unzureichende Vorhersagbarkeit und Erklärbarkeit und damit die oft nicht intuitiven Ergebnisse des KI-Systems führen zu einer wahrgenommenen höheren Komplexität. Diese stellt eine Barriere für die Annahme dar. Das bedeutet, dass KI-Anwendungen sorgfältig gestaltet werden müssen. Dies ist von zentraler Bedeutung, um sicherzustellen, dass der Endbenutzer ihr vertraut und mit ihr kooperiert.

5. Daten & Infrastruktur

Ein großes Hindernis, das in jedem Interview genannt wurde, sind die fehlenden qualitativ hochwertigen Daten. Die wichtigsten Fragen hierbei sind: Welche Daten werden benötigt? Sind sie verfügbar? Wie können sie beschafft werden? Wer hat Zugang zu ihnen? Ist ihre Qualität ausreichend?

6. Wettbewerbsdruck

Aus der traditionellen Marktperspektive haben die KI-Pioniere, die an unserer Studie teilgenommen haben, nicht viel zu befürchten und sind ihren Wettbewerbern weit voraus. Heutzutage müssen wir jedoch unsere Definition des Wettbewerbsumfeldes erweitern: Viele Technologieunternehmen werden inzwischen ebenfalls als relevante Wettbewerber wahrgenommen, da sie KI-Lösungen anbieten. Das erhöht die Erwartungen auf Anbieter- und Kundenseite und steigert den Druck auf die Unternehmen.

7. Partner & Ökosystem

Vor allem die fehlenden Talente und Datenressourcen stellen viele Unternehmen vor eine große Frage: Wie können wir KI unter diesen Umständen erfolgreich implementieren? Viele der Befragten bestätigten, dass sie ihr Ökosystem nutzen, um den KI-Fortschritt voranzutreiben. Sich abzeichnende Herausforderungen sind die Frage nach den richtigen Partnern und die Vereinbarung von gemeinsamen Zielen.

8. Vorschriften

Die Entwicklung von KI hängt unter anderem von dem Land ab, in dem das Unternehmen tätig ist. Strengere Datenschutzbestimmungen, die zum Beispiel einen ethischeren Umgang mit Daten fördern, können den KI-Fortschritt drastisch verlangsamen. Ob dies ein Vor- oder Nachteil für Unternehmen ist, eröffnet eine umfassende Diskussion. Tatsache ist jedoch, dass KI-Systeme ohne Daten nicht trainiert werden können.

Viele Unternehmen stehen den gleichen Herausforderungen bei der Implementierung und Annahme von KI gegenüber. Daher ist es für sie eine gute Option, Teil eines Netzwerks zu werden. So profitieren sie vom Austausch mit KI-Experten und anderen Unternehmen.

Dieser Artikel basiert auf Forschung im Rahmen der Masterarbeit „Success factors for the implementation and adoption of applied artificial intelligence within established companies“ von Laura A. Solvie (2019), die in Zusammenarbeit mit appliedAI und Dr. Theo Schöller – Stiftungslehrstuhl für Technologie- und Innovationsmanagement, TUM, entwickelt wurde.

Die Autoren dieser Serie

Miriam van Lijnden

Dr. Hendrik Brakemeier

Dr. Philipp Hartmann - Director of AI Strategy & Enablement, appliedAI Initiative