Wann KI in der Bank mehr darf
Ausgerechnet die dringendste Zahlungsanfrage schickt die KI ans falsche Team. Im Test hatte sie noch überzeugt: Die meisten Kundenanfragen hatte sie schneller zugewiesen als die Mitarbeitenden. Bevor die Bank der KI weitere Arten von Kundenanfragen anvertraut, muss sie zeigen, dass sie solche Fehler rechtzeitig erkennt und korrigiert.
Der Beitrag stellt einen Rahmen vor, mit dem eine Bank für jede Anwendung entscheiden kann, ob sie diese erproben, ausweiten oder vorläufig zurückstellen soll. Dazu ordnet sie jedes Vorhaben nach Kritikalität, Beherrschbarkeit und Kundennähe ein und prüft, welchen wirtschaftlichen Nutzen sie erwarten darf. Bei einem bestehenden Ablauf zählt, was die Bank mit der eingesparten Zeit tatsächlich gewinnt. Bei einem neuen Angebot zeigt sich der Nutzen daran, ob Kunden es annehmen und die Bank damit Ertrag erzielen kann.
Nicht warten
«Zuerst müssen die Daten in Ordnung sein.» Diesen Satz hört in einer Bank früh, wer eine KI-Anwendung einführen oder ausweiten will. Die Sorge dahinter ist berechtigt, denn schlechte Daten können zu falschen Ergebnissen führen. Wer deshalb verlangt, dass vor dem nächsten Schritt sämtliche Daten bereinigt sein müssen, verschiebt den Einsatz jedoch auf einen Zeitpunkt, der nie kommt.
Erst wenn die Bank eine Anwendung in einem konkreten Ablauf erprobt, sieht sie, welche Datenlücken die Arbeit tatsächlich behindern und welche im Alltag keine Rolle spielen. Dabei zeigt sich auch, wo der Ablauf selbst Anpassungen verlangt. Wer alles im Voraus bereinigt, arbeitet auf Verdacht und verbessert womöglich Daten, die später niemand braucht.
Wer nach einem Einsatz für KI sucht, hat oft schon eine Lösung im Kopf, bevor das Problem verstanden ist. Dabei fehlt mitunter ein klares Ziel, ein Ablauf ist schlecht organisiert oder ein einfacheres Werkzeug würde genügen. Wenn Kundenanfragen zwischen zwei Teams hin- und hergeschoben werden, weil niemand für die Bearbeitung zuständig ist, leitet die KI sie im besten Fall schneller weiter. Zuständig ist danach immer noch niemand.
Am Anfang jeder Anwendung steht deshalb ein konkretes Problem. Sobald die Bank weiss, was sie verbessern will, kann sie beurteilen, ob KI dafür das richtige Werkzeug ist und welche Daten sie für einen ersten Versuch braucht. Wie sie diesen Versuch so anlegt, dass sie aus Fehlern lernt und der laufende Betrieb verlässlich bleibt, zeigen die folgenden Abschnitte.
Nutzen und Vertrauen
Ob Mitarbeitende KI im Alltag nutzen, hängt davon ab, ob sie ihnen spürbar Arbeit abnimmt und ob sie ihren Ergebnissen trauen. Zweifeln sie an der Verlässlichkeit, rechnen sie Ergebnisse von Hand nach oder lassen die Vorschläge links liegen. Manche greifen im Stillen zu eigenen Werkzeugen, deren Einsatz sich der Kontrolle der Bank entzieht.
Auch eine verlässliche Anwendung versandet, wenn sie im Tagesgeschäft keine Arbeit abnimmt. Ein Pilot kann in der Präsentation beeindrucken, während die Mitarbeitenden nach wie vor jeden Fall von Hand erledigen.
Die Mitarbeitenden stehen dabei im Zentrum, weil sie täglich mit den Ergebnissen arbeiten. Viele fragen sich, ob ihre Stelle auf Dauer gesichert ist. Diese Sorge ist verständlich. Wegmoderieren lässt sie sich nicht. Eine Bank, die KI einführt, ohne ihre Absicht offen zu benennen, erzeugt Misstrauen genau bei jenen, deren Urteil später gefragt ist.
Zu jedem Einstieg gehört deshalb eine klare Aussage: Was geschieht mit der Arbeit der Betroffenen, welche Rolle haben sie künftig, wie werden sie dafür qualifiziert? Das ist keine Randnotiz, sondern eine zwingende Voraussetzung für Vertrauen.
Neue Anwendung, kleiner Start
Für jede neue Anwendung eignet sich als erster Schritt ein interner Ablauf, den die Bank gut kennt und der oft genug vorkommt, um den Nutzen zu messen. Das gilt auch für Banken mit viel KI-Erfahrung. Die Mitarbeitenden wissen, nach welchen Regeln sie die Fälle bearbeiten und welches Ergebnis sie erwarten. Falls der Test Probleme zeigt, können sie auf die bisherige Arbeitsweise zurückgreifen.
Beim Sortieren eingehender Nachrichten lässt sich etwa prüfen, ob sie schneller beim zuständigen Team ankommen und wie oft sie falsch zugewiesen werden. Beim Übernehmen von Kennzahlen aus Berichten können die Mitarbeitenden direkt in der Quelle nachsehen, ob die KI die richtigen Werte erfasst hat. In beiden Fällen fallen Fehler schnell auf.
Der Ablauf muss für den Test nicht perfekt sein. Werden Nachrichten aber schon heute regelmässig falsch weitergeleitet, kann KI denselben Fehler einfach schneller und in mehr Fällen machen. Deshalb legt die Bank vor dem Test fest, woran sie eine Verbesserung erkennt. Sonst bleibt am Ende ein Eindruck statt eines Ergebnisses.
Eine Bank ist kein kleines Unternehmen mit kurzen Wegen. Freigaben laufen über mehrere Stufen. Aufsichtsrechtliche Vorgaben gelten von Anfang an, gewachsene Systeme setzen Grenzen. Klein anzufangen ist trotzdem möglich, wenn der Test bewusst begrenzt wird. Klein beginnen heisst jedoch nicht, klein bleiben. Ein gelungener Test ist der Anfang eines Wegs, nicht dessen Ziel.
Zwei Wege
Hat eine Anwendung den Test bestanden, stellt sich die Frage, was die Bank als Nächstes erreichen will. Sie kann mit KI Abläufe industrialisieren, die sie bereits beherrscht, oder Angebote entwickeln, die sie ihren Kunden bisher so nicht machen konnte. Welchen Nutzen sie erwarten darf und wie sie ihn nachweist, hängt davon ab, welchen Weg sie verfolgt.
Bei bestehenden Abläufen hat die Bank einen Vergleichsmassstab. Wenn KI eingehende Nachrichten sortiert, lässt sich messen, ob sie schneller beim zuständigen Team ankommen und wie häufig sie falsch zugewiesen werden. Rechnet die Bank auch den Aufwand für Betrieb, Kontrolle und Nacharbeit ein, sieht sie, ob sich der Ablauf insgesamt verbessert und ob die Zeitersparnis die zusätzlichen Kosten rechtfertigt.
Bei einem neuen Beratungsangebot muss sich der Nutzen erst bei den Kunden zeigen. Ein Angebot kann in der Präsentation überzeugen und trotzdem im Alltag kaum genutzt werden. Die Bank muss deshalb prüfen, ob es den Kunden bei einem konkreten Anliegen weiterhilft, ob sie es tatsächlich nutzen und ob sich damit ein tragfähiger Ertrag erzielen lässt. Je unmittelbarer die KI dabei auf Kunden wirkt, desto wichtiger ist der Nachweis, dass die Kontrollen im Betrieb greifen.
Eine Bank kann beide Wege gleichzeitig verfolgen. Für jedes Vorhaben braucht es jedoch eigene Erfolgskriterien, passende Prüfungen und eine klare Zuständigkeit. Eine kürzere Bearbeitungszeit sagt wenig darüber aus, ob Kunden ein neues Angebot annehmen. Und ein gefragtes Angebot kann sich für die Bank lohnen, auch wenn es zunächst mehr Aufwand verursacht.
Vertrauen und Messung
Vertrauen entsteht nicht durch Zusicherungen, sondern durch Messung. Ein KI-Ergebnis ist erst dann belastbar, wenn sich seine Qualität laufend überprüfen lässt.
Bei bestehenden Abläufen laufen KI und bisherige Arbeitsweise zunächst nebeneinander. Die Ergebnisse lassen sich direkt vergleichen. Abweichungen zeigen, wo nachzubessern ist. Bei einem neuen Angebot kann die Bank mit einer begrenzten Pilotgruppe beginnen. Fachleute beurteilen die Ergebnisse anhand vorab festgelegter Qualitätskriterien.
Voraussetzung sind in jedem Fall Nachvollziehbarkeit und Protokollierung. Ohne diese Spur ist eine Stichprobe nicht mehr als eine Meinung.
Zu Beginn prüfen Fachleute die Ergebnisse engmaschig. So lernen sie, bei welchen Fällen sie der Anwendung vertrauen können und wo sie genauer hinschauen müssen. Wer mit der Zeit nur noch gemeldete Ausnahmen sieht, verliert den Massstab dafür, was im gewöhnlichen Betrieb zuverlässig funktioniert. Prüfen Fachleute dagegen weiterhin jeden Fall von Hand, wird die Kontrolle mit steigenden Fallzahlen zum Engpass. Der Vorteil der KI schrumpft dann genau dort, wo er mit der Menge wachsen sollte.
Wo sich eine Prüfung in klare Regeln fassen lässt, kann die Bank sie automatisieren. Fachleute prüfen zusätzlich zufällig ausgewählte Fälle und sehen so auch Fehler, die im Alltag niemand gemeldet hat. Für seltene Fehler mit schweren Folgen braucht es gezielte Testfälle, weil solche Fehler in einer Stichprobe leicht unentdeckt bleiben. Das fiktive Beispiel vom Anfang zeigt es: Eine einzelne falsch zugewiesene dringende Zahlungsanfrage fällt kaum auf, wiegt aber am schwersten. Wenn eine falsche Handlung unmittelbar Schaden anrichten kann, muss die Kontrolle bereits vor der Ausführung greifen. Wie aufwendig die Prüfung sein muss, hängt von den möglichen Folgen ab. Ändert sich die Anwendung wesentlich, beurteilt die Bank erneut, ob die bisherigen Kontrollen ausreichen.
Einsatz einordnen
Wie vorsichtig eine Bank vorgehen muss, hängt von zwei Fragen ab. Wie gross kann der Schaden werden, wenn die KI falsch liegt? Das ist die Kritikalität. Wie zuverlässig kann die Bank den Fehler erkennen, seine Folgen begrenzen und eine bereits ausgelöste Handlung bei Bedarf rückgängig machen? Das ist die Beherrschbarkeit. Die Grafik verbindet beide Fragen, damit die Bank beurteilen kann, ob sie eine Anwendung erproben, ausweiten oder vorläufig zurückstellen sollte.
Die Farbe der Blase zeigt, ob die Anwendung direkt gegenüber Kunden wirkt (Front) oder innerhalb der Bank eingesetzt wird (Back). Ihre Grösse steht für den erwarteten Nutzen. Dafür zählt, wie viele Fälle die Anwendung erfasst und was sie pro Fall bewirkt.
Aus den beiden Achsen entstehen drei Felder. Unkritische und beherrschbare Anwendungen gehören ins Feld «Starten». Dort entstehen Nutzen und Erfahrung mit überschaubarem Risiko. Ist eine Anwendung kritisch, aber nachweislich beherrschbar, liegt sie im Feld «Kontrolliert ausbauen». Was sich noch nicht beherrschen lässt, bildet das obere Band «Grundlagen schaffen». Bei geringer Kritikalität lässt sich dort ohne Abhängigkeit experimentieren. In der Ecke oben rechts, kritisch und unbeherrschbar, sollte ein Betrieb unterbleiben oder vorerst verschoben werden.
Front und Back, also die Farbe der Blasen, sagen für sich nichts über die Kritikalität. Ein Newsletter geht an Kunden, wird aber vorher von einem Menschen freigegeben und lässt sich korrigieren. Eine interne Auswertung zur Betrugserkennung wirkt im Hintergrund, kann aber grossen Schaden anrichten.
Die beiden Pfeile an den Achsen der Grafik zeigen die Reihenfolge beim Ausweiten des Einsatzes: erst beherrschbarer machen, dann kritischer werden. Die Regel dafür ist einfach. Je schwerer die möglichen Folgen eines Fehlers, desto besser muss die Bank die Anwendung nachweislich beherrschen. Solange die KI einer Fachperson zuarbeitet, kann diese einen Vorschlag prüfen, bevor er Folgen hat. Handelt die KI selbständig, muss die Bank ihre Ergebnisse laufend überprüfen, ausgelöste Handlungen nachvollziehen und bei Bedarf rechtzeitig eingreifen oder eine Handlung rückgängig machen können.
Gerade wenn die KI ihre Ergebnisse überzeugend formuliert, schauen die Nutzer mit der Zeit weniger genau hin. Darum beurteilt die Bank die Beherrschbarkeit anhand fester Kriterien und lässt die Einstufung von Personen prüfen, die vom Vorhaben unabhängig sind. Erweitert sich der Einsatzbereich, wechselt das Modell oder ändert sich die Datengrundlage, muss die Bank die Anwendung neu einstufen.
Schon vor dem Pilotbetrieb legt die Bank fest, welche Fehler sie erkennen muss, wie viel Zeit zum Eingreifen bleibt und wann sie zur bisherigen Arbeitsweise zurückkehrt. Tests und Erfahrungen aus dem laufenden Betrieb zeigen, ob die Kontrollen für den nächsten Schritt ausreichen. Bleibt ein folgenreicher Fehler unentdeckt oder lässt er sich nicht rechtzeitig begrenzen, stoppt die Bank die betroffene Funktion und prüft sie erneut.
Ein Beispiel zeigt das Zusammenspiel. Eine Bank kennt ihre Kunden gut, die Daten liegen aber verstreut in vielen Systemen. Eine KI kann sie vor dem Kundengespräch zusammentragen und daraus Gesprächspunkte ableiten. Sie darf dabei nur auf Daten zugreifen, für die der Berater berechtigt ist. Der Berater entscheidet, welche Vorschläge er im Gespräch aufgreift.
Im Pilot verweisen die Gesprächsvorschläge auf die Quellen, aus denen sie ihre Aussagen ableiten. An ausgewählten Fällen prüft die Bank, ob der Zugriff auf die freigegebenen Daten begrenzt bleibt und ob die Berater im Arbeitsalltag fehlende Informationen oder falsche Schlüsse erkennen. Fehlt für eine Empfehlung eine belastbare Grundlage, bereitet der Berater den betreffenden Punkt auf dem bisherigen Weg vor. Erst wenn diese Kontrollen greifen, weitet die Bank den Einsatz auf weitere Berater oder zusätzliche Fälle aus.
Lesen Sie unser Merkblatt zur Einordnung von KI nach Beherrschbarkeit und Kritikalität.
Governance von Beginn an
Schon im ersten Pilot benennt die Bank eine verantwortliche Person im Fachbereich. Setzt der Zahlungsverkehr KI ein, bleibt er für die Arbeitsschritte verantwortlich, die er der KI überträgt. Die IT sorgt dafür, dass die Anwendung technisch zuverlässig läuft. Ob ein Ergebnis fachlich stimmt und welche Folgen ein Fehler im Zahlungsverkehr hat, beurteilt der Fachbereich. Wenn etwas schiefläuft, greift «Die IT ist schuld!» deshalb zu kurz.
Die zuständigen Gremien legen die Regeln fest und entscheiden über Freigaben. Die verantwortliche Person im Fachbereich sorgt dafür, dass Kontrollen, Entscheide und Eingriffe dokumentiert werden. Für den laufenden Betrieb muss klar sein, wer die Anwendung überwacht, wer Auffälligkeiten beurteilt und wer sie bei Bedarf stoppen darf. Diese Frage muss geklärt sein, bevor der erste Fehler eine schnelle Entscheidung verlangt.
Der Umfang wächst mit dem Einsatz. Ein erster Test verlangt wenig Gremienarbeit, eine breit genutzte Anwendung deutlich mehr. Die Struktur bleibt dieselbe. In einer Bank reicht sie über mehrere Ebenen. Die oberste Leitung setzt die Leitplanken und legt die Risikobereitschaft fest. Die Fachbereiche stehen für das Ergebnis ihrer Prozesse ein. Eine unabhängige Kontrolle prüft. Die Mitarbeitenden kennen die Regeln, werden geschult und melden Auffälligkeiten. Fehlt eine dieser Ebenen, entsteht eine Lücke, die erst im Schadenfall sichtbar wird.
Kosten im Blick
Bei der Automatisierung bestehender Abläufe vergleicht die Bank die Gesamtkosten mit dem bisherigen Betrieb. Dazu gehören die Einführung, der Parallelbetrieb, laufende Kontrollen und die Nacharbeit. Sind die Gesamtkosten vergleichbar, entscheidet, ob Qualität, Tempo oder Verfügbarkeit spürbar steigen.
Bei neuen Angeboten zählen der zusätzliche Kundennutzen und der erwartete Ertrag. Beides lässt sich vor dem Start nur schätzen. Umso wichtiger ist es, die erwartete Wirkung vorab zu benennen und im Pilot zu überprüfen.
Wenn KI Routinearbeit übernimmt, verschiebt sich der Personalaufwand. Während die Mitarbeitenden weniger Zeit für Standardfälle brauchen, müssen spezialisierte Fachleute mehr Zeit für Kontrollen und Nacharbeit aufwenden. Eine eingesparte Stunde in der Sachbearbeitung wird so durch zusätzlichen Aufwand an einer teureren Stelle teilweise aufgewogen. Verlagert sich die Arbeit von vielen günstigeren Stellen auf wenige teurere, genügt Kostenneutralität nicht mehr. Dafür braucht es starke Gründe, etwa eine schnellere Markteinführung oder eine Skalierbarkeit, die auf andere Weise nicht erreichbar wäre.
Für die wirtschaftliche Beurteilung zählt deshalb, wie viel Arbeitszeit nach Abzug dieses Aufwands tatsächlich frei wird und was die Bank damit erreicht. Sie kann etwa Kundenanliegen schneller bearbeiten, mit demselben Team mehr Fälle bewältigen oder ihre Personalkosten senken. Erst daran zeigt sich, welchen wirtschaftlichen Nutzen die Zeitersparnis bringt.
In die Rechnung gehört auch der Preis des Abwartens. Wenn Wettbewerber ähnliche Leistungen schneller oder günstiger anbieten, kann es für die Bank teuer werden, an der bisherigen Arbeitsweise festzuhalten.
Automatisiert eine Bank die einfachen Fälle, entfallen damit auch Gelegenheiten, an denen Berufseinsteiger ihr Urteil schärfen. Woher kommen in einigen Jahren die Fachleute, die KI-Ergebnisse beurteilen und Stichproben bewerten können? Diese Frage wird in der Kostenrechnung kaum sichtbar.
Eine Bank kann ausgewählte Routinefälle weiterhin zur Ausbildung nutzen. Berufseinsteiger bearbeiten sie zunächst selbst, vergleichen ihr Urteil mit dem KI-Ergebnis und besprechen Abweichungen mit erfahrenen Fachleuten. So üben sie, Aussagen anhand der zugrunde liegenden Informationen zu prüfen und auch plausibel formulierte Fehler zu erkennen.
Fazit
Je folgenreicher die Aufgaben sind, die eine Bank der KI überträgt, desto besser muss sie die Anwendung nachweislich beherrschen, also im laufenden Betrieb Fehler rechtzeitig erkennen, ihre Folgen begrenzen und bei Bedarf eingreifen können. Der Einsatz darf deshalb erst kritischer werden, wenn die Beherrschbarkeit tatsächlich gestiegen ist, wobei die fachliche Verantwortung bei dem Bereich bleibt, dem der Prozess gehört, für das Ergebnis ebenso wie für jeden Arbeitsschritt, den die KI übernimmt.
Jede neue Anwendung beginnt klein, auch in einer Bank mit viel KI-Erfahrung, denn ein bekannter Ablauf mit messbarem Ergebnis schafft die Erfahrung und das Vertrauen, auf denen der nächste Schritt aufbaut. Weil sich die Beherrschbarkeit leicht überschätzen lässt, sobald die Ergebnisse überzeugend klingen, beurteilt die Bank sie nach festen Kriterien, lässt die Einstufung von unabhängiger Seite gegenlesen und erneuert sie bei jeder wesentlichen Änderung von Umfang, Modell oder Daten.
Vertrauen entsteht nicht allein durch Messung, sondern auch dadurch, dass die Bank die Sorgen der Mitarbeitenden ernst nimmt, deren künftige Rolle klärt und von Beginn an eine verantwortliche Person im Fachbereich benennt, die für Kontrollen, Entscheide und Eingriffe einsteht.
Ob sich der Einsatz lohnt, zeigt erst die Gesamtrechnung. Bei einem bestehenden Ablauf zählt, was nach Abzug der Kosten für Betrieb, Kontrolle und Nacharbeit tatsächlich gewonnen ist. Verlagert sich die Arbeit von vielen günstigeren Stellen auf wenige teurere, genügt Kostenneutralität nicht mehr, weil es dafür starke Gründe braucht, etwa eine schnellere Markteinführung oder eine Skalierbarkeit, die auf andere Weise nicht erreichbar wäre. Bei einem neuen Angebot entscheidet dagegen, ob Kunden es annehmen und die Bank damit Ertrag erzielt. Auch das Abwarten hat seinen Preis, sobald Wettbewerber ähnliche Leistungen schneller oder günstiger anbieten.
Wer heute die einfachen Fälle automatisiert, muss entscheiden, an welchen Fällen die Fachleute von morgen ihr Urteil schärfen. Denn genau dieses Urteil braucht die Bank, wenn die KI überzeugend klingt und trotzdem falsch liegt.
Wir von Bricks & Brains sehen KI in unseren Projekten als einen Lösungsansatz und Mittel zum Zweck. Gerne unterstützen wir auch Ihr Institut.
