Zurück
Kolumne 02/19: KI und Regulatorik
Weit mehr als nur eine Technologie
In der Finanzbranche bedienen sich immer mehr Anwendungen „Künstlicher Intelligenz“, um etwa Prozesse und Services zu optimieren. Die Technologie wird damit zum Megathema der Digitalisierung und gewinnt auch in der Sparkassen-Finanzgruppe enorm an Bedeutung. Trotz bereits erwiesener Vorteile muss sich die Technologie dennoch auch kritischen Fragen der Regulatorik – etwa zum Thema Datensicherheit – stellen, meint BBL-Kolumnist Daniel Draenkow.

Einige der mathematischen Grundlagen für das, was wir unter „Künstlicher Intelligenz“ (KI) verstehen, sind bereits in den 1950er Jahren gelegt worden. Das Thema ist also gar nicht so neu, wie es oftmals in den Medien den Anschein hat. Allerdings ermöglichen erst jüngste Durchbrüche wie eine Verfügbarkeit enorm hoher Rechenkapazitäten den breiten Einsatz von KI-Technologie in immer mehr Lebensbereichen. Neben den Annehmlich­keiten passender Film- oder Musikempfehlungen bei Streaming-Diensten oder optimierten Routen, auf dem Weg zur Arbeit, auf Basis des aktuellen Verkehrsaufkommens, bietet der Einsatz von KI viele Möglichkeiten, substanzielle Verbesserungen zu erreichen. Bereits heute erkennen KI-basierte Systeme etwa in der Medizin Tumore besser als Ärzte, was die Zahl der Fehldiagnosen enorm verringern kann. Im Zahlungs­verkehr werden bereits länger neuronale Netze eingesetzt, um Betrugsmuster zu erkennen und damit Schäden bei Kunden und Sparkassen zu reduzieren.

Vertrauen als Basis

Gerade weil KI in nahezu sämtliche Lebens- und Arbeitsbereiche vordringt, werfen die Technologie und die durch sie ausgelösten Veränderungen auch zahlreiche Fragen auf wie:

  • Welche Auswirkungen hat KI auf den eigenen Arbeitsplatz, wenn einzelne Arbeitsschritte oder ganze Bereiche automatisiert werden können?
  • Kann KI Entscheidungen zu meinen Lasten treffen und wer ist dann für diese Entscheidungen verantwortlich, vor allem wenn sie falsch sind?
Wie und unter welchen Bedingungen KI-Systeme eingesetzt werden können und dürfen, sind daher die zentralen Fragestellungen und Inhalte intensiver Diskussionen sowohl in der Sparkassen-Finanzgruppe, in der sich Mitte Dezember 2018 erstmals eine Expertengruppe zu einem Aus­tausch getroffen hat, als auch auf nationaler und internationaler Ebene.

Dabei ist man sich überall einig, dass es Leitlinien für die Entwicklung und den Einsatz von künstlicher Intelligenz bedarf. Darin sind vor allem Grundsätze, Grundrechte und Werte zu definieren, die von KI, aber auch von Unternehmen und Entwicklern, die diese Technologie einsetzen, eingehalten werden müssen. Anforderungen wie Wahrung des Datenschutzes, Rechenschafts­pflicht und Transparenz sind in diesem Zusammenhang ebenso wichtig, wie fortlaufend zu prüfen, ob die KI wunschgemäß funktioniert. Vor und während des Einsatzes einer KI muss unter anderem laufend geprüft werden, ob die Algorithmen unter Umständen aufgrund fehlerhafter oder schlechter Daten zu Vorurteilen und Diskriminierungen neigen.

Bereits heute werden viele sensible Bereiche wie Verkehr, Stromversor­gung oder Gesundheit mit Hilfe von Computern gesteuert. Wenn KI-Systeme auch im Bereich der kritischen Infrastrukturen Einzug halten und diese autonom steuern, ist es extrem wichtig, diese gegenüber Angriffen robust zu gestalten. Ob und wie robust sie sind bzw. sein müssen, ist je nach Einsatzgebiet zu definieren und vor dem Einsatz nachzuweisen.

Ohne Training keine Erfolge

KI-Systeme werden auf Basis großen Datenmengen entwickelt. Je mehr Daten für das Training zur Verfügung stehen, desto besser kann die KI Muster und für den Menschen nicht offensichtliche Zusammenhänge erkennen und diese Erkenntnis anschließend auf neue Daten anwenden. So haben Systeme in autonom fahrenden Autos kaum Schwierigkeiten, Verkehrsschilder, Fahrzeuge oder Personen zu erkennen. Hier stehen mit jeder Trainingsfahrt ausreichend Daten zur Verfügung, mit denen das System optimiert werden kann.

Nächtliche Wildschweine sind allerdings eine Herausforderung, da sie nur sehr selten anzutreffen sind. Dennoch ist es wichtig, dass ein autonom fahrendes Auto auch auf diese Gefahr angemessen reagiert. Aus diesem einfachen Beispiel wird deutlich, dass der Zugang zu und die Verarbeitung von Daten höchste Priorität hat.

Aus dieser Priorität lassen sich verschiedene Forderungen ableiten, ohne deren Erfüllung die milliardenschweren KI-Förderprogramme von Bund und EU keine durchschlagende Wirkung entfalten können. Zwei Beispiele:

  • Die Infrastruktur muss so ausgelegt sein, dass große Datenmengen schnell und zuverlässig bewegt und genutzt werden können. Der flächendeckende Ausbau mit schnellem Internet muss daher vorangetrieben werden sowohl mit Glasfaser für Haushalte, Unternehmen und Behörden als auch mit schnellem, mobilem Internet (5G) für Mobilität und mobilen Anwendungen.
  • Daten müssen zweckgebunden über offene Schnittstellen zugänglich sein. Projekte – wie Open-Data – sind daher zu fördern und die Bildung von Datenmonopolen zu vermeiden. Ähnlich, wie bei Banken, mit der Zahlungsverkehrsrichtlinie PSD2, sollten auch andere Branchen verpflichtet werden, standardisierte Schnittstellen zu ihren Infrastrukturen anzubieten.
Die Verfügbarkeit quantitativ und qualitativ hochwertiger Daten ist Grundvoraussetzung für alle KI-Anwendungen.

Den Menschen dienen

Die Sparkassen-Finanzgruppe beschäftigt sich auf verschiedensten Feldern mit dem Thema „Künstliche Intelligenz“. Ob bei Cybersecurity, Automatisierung von Geschäftsprozessen oder auch im direkten Kundenkontakt mit Bots und Voice Services ist es stets ein Hauptanlie­gen, die Kundenerwartungen (z. B. mit welcher Geschwindigkeit Anfragen und Aufträge erledigt werden) zu erfüllen oder interne Prozesse, Prüfungen und Bewertungen zu optimieren und auf diese Weise bessere Nutzererfahrungen zu schaffen. Nur wenn Kundenbedürfnisse und Verhaltensmuster besser verstanden werden, können Services und Mehrwerte für die Kunden etwa durch individuelle Beratungsansätze verbessert oder sogar erst ermöglicht werden.

Bevölkerung mitnehmen, Ausbildung modernisieren

Produkte, die auf „Künstlicher Intelligenz“ basieren, sind längst in der Bevölkerung angekommen und werden von Menschen wie selbstver­ständ­lich genutzt. Vielen ist dabei nicht bewusst, dass Produkte und Dienstleistungen auf Algorithmen beruhen oder nur aufgrund von KI in dieser Qualität zur Verfügung stehen. Dies deckt sich mit dem Eindruck vieler Unternehmen, die mitunter eine fehlende gesellschaftliche Akzeptanz neuen Technologien feststellen müssen und dies als Innovationshemmnis wahrnehmen. Eine der größten Herausforderungen besteht darin, die breite Bevölke­rung über die positiven Möglichkeiten von neuen Technologien aufzu­klären, grundsätz­li­ches Misstrauen zu überwinden und einen bewussten Umgang auch mit KI zu fördern.

Unternehmen und Arbeitnehmer müssen sich auf technologische Veränderungen einstellen und einen aktiven Umgang mit den Chancen und Risiken suchen. Konzepte wie „Lebenslanges Lernen“ und „Offenheit für Neues“, sind mehr denn je gefragt. Leider finden vor allem die neuen Technologien nur sehr lang­sam ihren Weg in Lehr- und Ausbildungspläne. Ein Beispiel: Die „Verord­nung über die Berufsausbildung zum Bankkauf­mann/zur Bankkauffrau“ wird aktuell mit dem Ziel überarbeitet, noch in 2019 eine neue Version zu verabschieden. Die aktuell gültige Version datiert vom Dezember 1997. Zu dieser Zeit gab es weder WhatsApp oder YouTube noch Smart­phones. Dinge, die aus dem Leben vieler Menschen und sogar dem Banking nicht mehr weg zudenken sind. Wenn moderne Technologien in Schule und Ausbildung allzu stiefmütterlich behandelt werden, darf es nicht verwundern, dass Fachkräfte mit technischem Sachverstand nur schwer zu finden und wenn doch, teuer zu bezahlen sind.

Aber nicht nur Schul- und Berufsausbildung müssen sich den techni­schen Veränderungen stellen. Die fortlaufende Qualifikation der Arbeit­nehmer hat auch in Unternehmen eine höhere Bedeutung als je zuvor. Unternehmen müssen ihre Arbeitnehmer dabei unterstützen, die Kompe­tenz zu erwerben, mit neuen Anforderungen souverän umgehen zu können. Sie müssen in die Lage versetzt werden, die KI-Lösungen der Zukunft im eigenen Unternehmen mit zu konzipieren und umzusetzen. Geschieht das nicht, laufen Unternehmen Gefahr, den An­schluss zu verlieren und vom zunehmenden Wettbewerb überholt zu werden.

Bildungspolitische Ansätze, die Digitalisierung und KI aufgreifen, sind daher unbedingt zu unterstützen. Sofern Deutschland im internationalen Wettbewerb auch künftig mithalten will, müssen die Anstrengungen vor allem auch im Mittelstand, trotz noch voller Auftragsbücher, erhöht werden. Es muss gelingen, junge Menschen zu Talenten im Umgang mit Technologie auszubilden und auch in Deutschland bzw. Europa zu halten.

Fazit

Als 1835 die erste Eisenbahn von Nürnberg nach Fürth gefahren ist, haben sich die Menschen noch nicht vorstellen können, was diese Technologie einmal zu leisten imstande sein wird. Pferdekutschen waren doch erprobt und haben Menschen und Waren bereits sicher von A nach B transportiert. Hinzu kam die Angst, dass bei einer Geschwindigkeit von bis zu 65 Kilometern pro Stunde den Fahrgästen das Gehirn aus den Ohren gedrückt werden könnte.

Mit KI stehen wir aktuell an einem ähnlichen Punkt. Sie hat das Poten­zial, die Welt grundlegend zu verändern, viele Einsatzgebiete und An­wen­dungen kennen wir heute noch nicht und dennoch ist bereits klar, dass sie sich zu der Basistechnologie der Digitalisierung entwickeln dürfte. Mehr und mehr Lebensbereiche werden durch KI beeinflusst. Dabei ist der Einsatz von KI weniger ein Technologie- als ein heraus­forderndes Kulturprojekt. Wie gehen wir mit neuen Technologien um und sind wir bereit, neben den Risiken auch Chancen zu sehen und zu nutzen? KI-Technologie hat das Potenzial, das Leben der Menschen zu verbessern und dem Menschen zu dienen. Wir alle müssen diese Zukunft aktiv mitgestalten.

Autor
Daniel Draenkow ist Referent für Digitalisierung digitale Innovationen, Fintech-Kooperationen und Künstliche Intelligenz (KI) des Deutschen Sparkassen- und Giroverbandes (DSGV) in Berlin.

Daniel Draenkow
– 23. Januar 2019