Finanzverantwortliche sollten diesen Zielkonflikt sofort erkennen, denn wir treffen ihn jedes Mal in einer Variante, wenn wir einen Workflow automatisieren. KI kann die betreffende Aufgabe bereits erledigen. Die schwierigere Entscheidung ist, was sie benötigt, um es zu versuchen – und ob wir uns damit wohlfühlen, ihr diesen Zugriff und diese Informationen zu überlassen.
Dieses Jahr hat uns eine Vorschau darauf gegeben, wie das ohne Aufsicht aussieht. Im September bestätigte Google, dass sein Gemini-Modell bereits im Mai in drei reale Unternehmen eingedrungen ist, nachdem ein Konfigurationsfehler dazu geführt hatte, dass es während einer Sicherheitsübung mit dem offenen Internet verbunden blieb – statt mit einer abgeschotteten Testumgebung. Es nutzte erratene und gestohlene Zugangsdaten, um in alle drei Systeme zu gelangen, bevor es jemand bemerkte. In deutlich kleinerem Maßstab bat ein australischer Mann seinen KI-Assistenten, ihm Zugang zu einem vollständig ausgebuchten Pilates-Kurs zu verschaffen. Er fand eine Lücke im Buchungssystem des Fitnessstudios und stornierte die Reservierung einer fremden Person, um Platz für ihn zu schaffen.
Beide taten, was Agents tun: ein Ziel mit allen verfügbaren Werkzeugen zu verfolgen und weiterzumachen, bis sie etwas stoppte.
Wo das tatsächliche Risiko liegt
Im Finanzbereich zeigt sich eine Variante dieses Problems, die noch anspruchsvoller ist als die Consumer-Beispiele, die Schlagzeilen machen. Beide Vorfälle lassen sich auf dieselbe Lücke zurückführen: ein Agent mit der Befugnis, auf Basis dessen zu handeln, was er gesehen hat – ohne dass jemand die Handlung zuvor freigibt. In dieser Lücke zwischen Zugriff und Handlungsbefugnis liegt das eigentliche Risiko. Ein Agent mit Lesezugriff auf Ihr Quote-to-Cash-System kann wirklich hilfreich sein. Ein Agent mit der Befugnis, Umsätze freizugeben, einen Vertrag anzupassen oder eine Gutschrift zu erstellen, kann ebenso hilfreich sein – aber nur, wenn eine Person die Handlung zuvor bestätigt. Eine dauerhafte Befugnis, dieselbe Handlung unbeaufsichtigt auszuführen, ist eine andere Risikokategorie – unabhängig davon, wie gut das Modell in diesem Quartal ist.
Dass sich ein Workflow automatisieren lässt, beantwortet nicht die Frage, ob er unbeaufsichtigt laufen sollte. Geschwindigkeit und Vertrauen sind nicht dasselbe – und Urteilsvermögen ist der Teil, den Finance nicht delegieren kann.
Konkrete Schritte zur Steuerung von KI-Risiken im Finanzbereich
- Empfehlung und Ausführung trennen. Unser Team für Umsatzrechnungslegung nutzt KI, um eine Abweichung bis zur verursachenden Vertragsänderung zurückzuverfolgen oder zu erklären, warum bei einem bestimmten Vertrag keine Umsatzrealisierung erfolgt ist. Das ist Analyse – und der Teil, den wir eher automatisieren. Die Entscheidung, wie die Zahl lauten soll, und die Freigabe liegen weiterhin beim Buchhalter.
- Berechtigungen für Audit-Agents so prüfen, wie Sie den Zugriff einer Person prüfen würden. Approval Controls setzen dieselbe Funktionstrennung um, die Sie zwischen der Person erwarten würden, die eine Maßnahme vorschlägt, und der Person, die sie genehmigt. Die meisten Finance-Teams führen die erste Prüfung bereits durch. Nur wenige haben die zweite etabliert.
- Freigabe im Workflow verankern – nicht nur in der Richtlinie. Unsere Reviews von KI-gestützter Umsatz- und Abrechnungsarbeit finden weiterhin im Team statt, statt auf eine asynchrone Freigabe umzusteigen – weil die entscheidenden Fragen meist lauten, ob ein Ergebnis plausibel ist, nicht nur, ob die Zahlen aufgehen. Ein zweites Paar Augen im Raum erkennt das schneller als ein Häkchen, das niemand begründen muss. Dieselbe Logik haben wir in den Supervised Mode von Zuora AI eingebaut: Ein Agent kann eine Umsatzfreigabe oder eine Ausbuchung vorschlagen, aber nichts wird gebucht, bevor eine Person dies bestätigt.
- „Sollten wir“ erst nach „können wir“ fragen. Wir haben das aus erster Hand gelernt, als wir KI in unseren eigenen Quote-to-Cash-Prozess eingebettet haben. Dort, wo der zugrunde liegende Workflow noch nicht klar definiert war, hat KI Verwirrung beschleunigt, statt sie zu lösen. Automatisieren Sie die Workflows, die Sie gut genug verstehen, um ihnen zu vertrauen – und warten Sie mit den anderen noch.
Die Prüfung der Berechtigungen darf keine einmalige Einrichtung sein. Menschen finden Wege, eine Kontrolle zu umgehen, die einem gewünschten Ergebnis im Weg steht – etwa indem ein großer Einkauf in drei kleinere aufgeteilt wird, um unter einer Genehmigungsschwelle zu bleiben. Ein KI-Agent wird dieselbe Art von Lücke finden – und er wird sie wahrscheinlich schneller finden als ein Mensch.
Nichts davon erfordert ein besseres Modell. Es erfordert Finance-Führungskräfte, die bewusst festlegen, wo das Urteilsvermögen eines Agents endet und das eines Menschen beginnt, und die diese Grenze in den Workflow einbauen, statt sie dem Zufall zu überlassen. Diese Entscheidung – im Voraus getroffen – ist es, was Vertrauen in KI im Finanzbereich schafft.
Weiter entdecken
Anwenderhandbuch: Wie das Finance-Team von Comcast Technology Solutions Zuora AI einsetzt
Führungskräfte im Finanzbereich müssen klar definieren, wo die Rolle eines KI-Agenten endet und wo menschliches Urteilsvermögen beginnt. Dieser Leitfaden zu Comcast Technology Solutions liefert ein praxisnahes Beispiel: Das Finance-Team nutzt Zuora AI für klar abgegrenzte Aufgaben wie das Buchen von Rechnungsstapeln, das Abfragen von Abrechnungsdaten, das Verfeinern der Workflow-Logik und das Erstellen konsolidierter Berichte – und validiert dabei die Ergebnisse, während Personen, Berechtigungen und vertrauenswürdige Daten konsequent eingebunden bleiben.
Vom Produkt-Launch bis zum realisierten Umsatz
KI-Governance ist in jeder Phase von Quote-to-Cash entscheidend – nicht erst dann, wenn ein Agent bereit ist, eine Änderung zu buchen. Diese On-Demand-Reise vom Produkt-Launch bis zum realisierten Umsatz zeigt, wie Finance- und Operations-Teams Zuora AI nutzen können, um Probleme zu untersuchen, finanzielle Auswirkungen zu verstehen und gesteuerte Maßnahmen in den Bereichen Pricing, Angebotskalkulation, Billing, Forderungsmanagement und Umsatzrealisierung umzusetzen. Die Demo macht das Kontrollmodell greifbar: Agenten arbeiten mit einem gemeinsamen Quote-to-Cash-Kontext und bestehenden Berechtigungen, während überwachte Schreibvorgänge und Genehmigungsregeln sicherstellen, dass Menschen für alles verantwortlich bleiben, was Geld bewegt.
