Warum wir bei KI auch über Ethik sprechen müssen

Frau Coester, Sie beschäftigen sich beruflich viel mit künstlicher Intelligenz und Ethik. Wie wird die Ethik beim Einsatz von KI diskutiert?

Ulla Coester: Ein Hauptproblem ist, dass KI nicht einheitlich definiert wird. Das bedeutet, dass in der Diskussion über ethische Probleme der individuelle Kenntnisstand beziehungsweise die jeweilige Sicht auf KI den Standpunkt diesbezüglich beeinflusst. Hinzukommt eine teilweise sehr unterschiedliche Wertvorstellung. So findet etwa ein Großteil der Amerikaner es gerechtfertigt, wenn ihre Daten verwendet werden – so sind sie der Meinung, dass beispielsweise Meta die Daten zustehen, weil das Unternehmen den Dienst kostenfrei anbietet. In Deutschland wird diese Einstellung von den Menschen eigentlich nicht geteilt, sie akzeptieren jedoch trotzdem die AGBs, sodass Facebook auch hier die Daten nutzen darf.

Aber natürlich finden auf verschiedenen Ebenen – was allerdings der breiten Öffentlichkeit zumeist nicht bekannt ist – Bemühungen statt, um ethische Standards für die Entwicklung und Nutzung der KI zu entwerfen. Ich war zum Beispiel Mitglied in einem internationalen Komitee, das Vorschläge für die Umsetzung von ethischen Standards für KI-Anwendungen erarbeitet hat. In dieser Zusammenarbeit hat sich auch gezeigt, dass KI-Ethik kein deutsches oder europäisches Thema ist, sondern ein globales. Aber vieles was wir in Deutschland oder Europa hervorbringen findet international Anerkennung, so hat zum Beispiel der amerikanische Experte aus dem Komitee mehrfach hervorgehoben, wie großartig er die DSGVO findet, weil der Datenschutz dadurch besser geregelt wird.

Grundsätzlich wurde hier jedoch noch einmal offensichtlich, dass verschiedene Nationen unterschiedliche Wertvorstellungen haben und das macht die Diskussion über Ethik so schwierig. Trotzdem bestand Einigkeit über die Grundsätze, die für den Einsatz von KI berücksichtigt werden müssen. Dazu zählen Aspekte wie Privatsphäre, Autonomie, Gerechtigkeit, Solidarität, Erklärbarkeit, Transparenz, Robustheit, Kontrolle und – nicht zuletzt auch – welche Auswirkungen die jeweilige Anwendung auf die Gesellschaft haben könnte.

Ein wichtiges Thema, das sehr intensiv diskutiert wurde, war die Option der Wiedergutmachung (Redress). Damit ist gemeint, dass grundsätzlich die Möglichkeit bestehen muss, wenn die KI-Anwendung zu Ungunsten des Menschen entschieden hat, dieser eine Nachprüfung verlangen kann, um so das Anliegen durch hinzuziehen weiterer relevanter Faktoren – die die KI-Anwendung nicht berücksichtigt hat – eventuell zu seinen Gunsten zu ändern.

Das heißt, wir brauchen nicht nur europäische, sondern auch weltweit, internationale Standards?

Coester: Innerhalb Europas funktionieren gemeinsame Standards ja schon gut, international gesehen ist es schwieriger. Ein Diskussionspunkt war zum Beispiel, dass in China eine prinzipielle Überwachung gutgeheißen wird, weil dann der Einzelne weiß, wenn ich kontrolliert werde, wird es mein Nachbar auch und jeder muss gleich (gut) agieren. Deshalb sei diese Art der Offenheit positiv und notwendig.

In Deutschland hingegen wollen wir unsere Privatsphäre schützen und beispielsweise Eingriffe in vertrauliche oder private Kommunikation nicht akzeptieren. Das ist nur eines von vielen Beispielen, woran sich offenbart, wo international gesehen die Stolpersteine liegen, um einheitliche Standards umzusetzen. Keinesfalls darf das jedoch dazu führen, hier nicht weiter nach Lösungen zu suchen, weil diese für unsere globale Gesellschaft dringend erforderlich sind.

Wo stehen wir denn beim Thema KI und Ethik?

Coester: In einigen Unternehmen wird das Thema schon diskutiert. Auch im Start-up-Bereich hatte ich dazu bereits Gespräche. Dort wurde mir aber indirekt zu verstehen gegeben, dass man als Start-up erst einmal erfolgreich werden muss und sich deshalb über Aspekte wie KI und Ethik noch keine großen Gedanken machen kann. Ich denke aber, dass dort ein Umdenken stattfinden muss, weil die Anwender es nicht mehr lange akzeptieren werden.

Es gab hierzu bereits einige Studien – so kam beispielsweise in einer Umfrage heraus, dass fast die Hälfte der Befragten gesagt hat, die zunehmend schnellere Digitalisierung sowie die komplette Vernetzung mache ihnen Angst. Diese Ängste sollten Unternehmen nicht ignorieren, da ansonsten die Akzeptanz für KI-Lösungen schwindet.

Gibt es denn beim Thema KI und Akzeptanz für KI einen Unterschied zwischen den Generationen?

Coester: Was ich erstaunlich finde ist, dass sich in Projektarbeiten mit Studierenden oft herausstellt, dass sie teilweise nicht wissen, welche Daten zum Beispiel Facebook wie genutzt werden. Sie haben sich vorher nicht wirklich mit der Thematik auseinandergesetzt. Einerseits sind sie sehr motiviert sich mit diesen Themen zu beschäftigen und finden die Ergebnisse zu großen Teilen erschreckend. Doch andererseits sind sie dazu bereit, Informationen bezüglich KI – und dies tatsächlich, ohne diese groß zu hinterfragen – einfach zu übernehmen. Von daher glaube, dass sich die jüngere Generation per se mehrheitlich gar nicht so intensiv mit KI und Ethik auseinandersetzen möchte, weil sie an zu vieles einfach schon gewöhnt sind.

Können Sie ein Beispiel geben, wo die Studierenden die Vor- und Nachteile von KI gesehen haben?

Coester: Zum Beispiel bei einer Projektarbeit zum Einsatz von KI im HR-Bereich. Die Idee dahinter fanden eigentlich alle ausgesprochen gut, weil – ihrer Meinung nach – die Fähigkeiten der Bewerber dann objektiv von der künstlichen Intelligenz beurteilt würden und Aussehen oder Sympathie keine Rolle dabei spielen. Zudem wäre dadurch das anstrengende persönliche Gespräch ersetzbar, was sie als Vorteil ansahen. Denn es könne ja sein, dass sie sich genau bei diesem Treffen nicht optimal präsentieren. Mit der KI sei das alles einfacher.

Trotzdem müsse eine Lücke im Lebenslauf weiterhin erklärbar sein, vor allem dürfe die KI diese nicht negativ bewerten. Also im Prinzip wünschten sie sich eine persönlich zugeschnittene KI, die zwar einerseits objektiv auswertet, aber bestimmten Stellen wiederum nicht.

Sie beraten beruflich Unternehmen beim Thema KI und Ethik. Was müssen Firmen denn dabei beachten?

Coester: Wir beraten die Unternehmen dahingehend, ein Vertrauenswürdigkeitsmanagement aufzubauen. Denn Anwender und Konsumenten sind nur bereit die digitale Transformation zu akzeptieren, wenn sie einerseits dem Produkt, aber andererseits auch dem Unternehmen vertrauen können.

Das heißt konkret?

Coester: Nehmen wir Apple zum Beispiel. Ich benutze nur Apple-Endgeräte und habe weder diese noch das Unternehmen jemals hinterfragt. Das liegt daran, dass Apple in den vergangenen Jahren Datenschutz sehr stark in den Fokus gesetzt hat und es immer den Mythos gab, dass Apple sicherer sei, also quasi nicht angegriffen werden könnte.

Vor kurzem hat Apple dann bekanntgegeben, dass sie künftig auf den Mobiltelefonen die Fotoalben nach bestimmten Kriterien durchsuchen wollen. Nach dieser Ankündigung habe ich meine grundsätzlich positive Einstellung infrage gestellt. Denn im Prinzip war ich bis dato der Ansicht, dass das Unternehmen viel Wert auf Datenschutz legt – etwa mit der Maßnahme, um ein Tracking durch Apps zu verhindern – wodurch meines Erachtens Vertrauenswürdigkeit aufgebaut wurde. Denn dadurch haben sie für mir unter anderem suggeriert, dass sie sich Gedanken über die Bedürfnisse der Nutzer machen. Also bis dahin eigentlich alles richtiggemacht, um dann einfach die Vertrauenswürdigkeit aufs Spiel setzen, indem sie ungefragt Daten durchsuchen wollten.

(Hintergrund: Apple hatte angekündigt, mit einem Photo-Scan-Programm automatisch alle ein- und ausgehenden Nachrichten überwachen zu wollen. Außerdem sollten regelmäßig gespeicherte Fotos kontrolliert werden.)

Es war übrigens interessant zu sehen, dass unmittelbar nachdem Apple das Vorhaben publik gemacht hat, mindestens 90 Organisationen dagegen protestiert haben. Und dies hat Wirkung gezeigt: Das Programm wurde erst einmal auf Eis gelegt.

Das heißt, Unternehmen sollten durch die Themen Ethik und Moral insbesondere in Bezug auf KI ernst nehmen und dadurch Vertrauen bei den Nutzern aufbauen?

Coester: Ja, und um dies zu erreichen bedarf es einer durchdachten und zielgerichteten Vorgehensweise. Diese lässt sich zum Beispiel durch das von uns weiterentwickelte Vertrauenswürdigkeitsmodell gewährleisten. Basierend auf den Kriterien „Zutrauen, Zuverlässigkeit, Integrität und Sicherheit“, wird den Unternehmen im ersten Schritt ermöglicht eine Vertrauenswürdigkeits-Agenda sowohl für das Unternehmen als auch ihre Produkte, hier mit den Kriterien „Transparenz, Zweckprägnanz und Leistungsfähigkeit“, zu erarbeiten.

Ziel dabei ist, dem Nutzer offen und zugleich nachvollziehbar darzulegen, warum er dem Unternehmen insgesamt vertrauen kann. Zum Beispiel in Bezug auf „Sicherheit“ der Anwendungen – also indem ein Unternehmen darlegt, was es alles tut, um bei Entwicklung und Einsatz einer Anwendung den Schutz zu gewährleisten, etwa die verwendeten Daten gegen unbefugte Zugriffe oder Manipulation abzusichern.

Beim Thema „Zutrauen“ geht es unter anderem um die Frage, ob ein Unternehmen überhaupt in der Lage ist, eine Technologie beziehungsweise Anwendung adäquat zur Verfügung stellen zu können. Also ob sie zum Beispiel wirklich die Mitarbeitenden, die eine entsprechende Ausbildung oder Qualifikation für das jeweilige Aufgabengebiet, etwa dediziertes Know-how im Bereich KI, haben.

Welche weiteren Punkte sind noch wichtig?

Coester: In Bezug auf die Vertrauenswürdigkeit eines Produkts ist zum Beispiel das Kriterium „Transparenz“ relevant. Unternehmen sollten hier alle Daten zur Verfügung stellen, die aus Sicht des Nutzers wichtig sind, um eine informierte Entscheidung dahingehend treffen zu können, ob er die Anwendung nutzen möchte. Denkbar wäre hier unter anderem eine Art Beipackzettel zu gestalten, in dem detailliert steht, was das Produkt kann, wo die Risiken liegen und was beim Umgang beachtet werden muss.

Wichtig ist, so viele Informationen wie möglich zur Verfügung zu stellen. Wohlwissend, dass der Nutzer diese vielleicht nicht alle benötigt. Denn hier muss dem Fakt Rechnung getragen werden, dass die Kriterien, warum ein Mensch Vertrauen aufbaut, subjektiv sind. Durch die Informationstiefe wird zudem dokumentiert: Wir unternehmen alles, um dir – lieber Kunde – zu zeigen, dass du uns vertrauen kannst.

Noch einmal zum Abschluss ein Resümee zur Ethik: Deutschland brauche dringend KI-Ethiker, fordert der Philosoph Thomas Metzinger im DLF. China habe die Führung in der KI-Forschung übernommen, teile aber die europäischen Werte nicht. Muss Europa etwas an seiner Einstellung ändern?

Coester: Wenn die Sprache auf Werte beziehungsweise Ethik kommt, wird sofort immer damit argumentiert, dass dadurch Innovationen und Entwicklungen gehemmt werden. Ich finde, dass KI dem Menschen dienen muss und dass die Maschinenintelligenz nicht die menschliche ersetzen soll. Es ist daher unlogisch zu sagen, ich entwickle jetzt etwas mit KI, aber weiß nicht, ob es unseren Werten entspricht. Hauptsache, ich habe eine Innovation entwickelt. Wir müssen eben auch betrachten, welche Auswirkungen KI auf den Menschen und die Gesellschaft hat.

Ein interessantes Beispiel, das meines Erachtens einen entsprechenden Forschungsbedarf aufwirft, könnte ein Patent sein, das Microsoft im letzten Jahr angemeldet hat. Es geht darum, mit Hilfe von KI eine verstorbene Person emulieren zu können. Die KI kann – vereinfacht gesagt – aufgrund der Analyse von vorhandenen Daten Gedanken und damit Antworten eines Verstorbenen produzieren. Vorstellbar ist also, dass der verstorbene Opa als Hologram auf dem Sofa sitzt und mit der Familie sprechen kann. Da wirft natürlich die Frage auf, was das mit der Gesellschaft machen würde, wenn der Tod nicht mehr als endgültig akzeptiert werden müsste.