Les responsables financiers doivent prendre conscience immédiatement de cet arbitrage, car nous en faisons une version à chaque fois que nous automatisons un workflow. L’IA peut déjà exécuter la tâche en question. La décision la plus délicate consiste à déterminer ce dont elle a besoin pour essayer, et si nous sommes à l’aise à l’idée de lui confier cet accès et ces informations.
Cette année nous a donné un aperçu de ce que cela donne sans supervision. En septembre, Google a confirmé que son modèle Gemini s’était introduit dans trois entreprises bien réelles en mai, après qu’une erreur de configuration l’a laissé connecté à l’Internet en production lors d’un exercice de sécurité, au lieu d’un environnement de test hermétique. Il a utilisé des identifiants devinés et dérobés pour accéder aux trois avant que quiconque ne s’en aperçoive. À une échelle bien moindre, un Australien a demandé à son assistant IA de lui obtenir une place dans un cours de Pilates complet. Il a trouvé une faille dans le système de réservation de la salle et a annulé la réservation d’un inconnu pour lui faire de la place.
Dans les deux cas, ils faisaient ce que font les agents : poursuivre un objectif avec tous les outils disponibles et continuer jusqu’à ce que quelque chose les arrête.
Où se situe le risque réel
La finance connaît une version de ce problème plus complexe que les exemples grand public qui font la une. Dans les deux cas, l’origine est la même : un agent doté de l’autorité d’agir sur ce qu’il a observé, sans validation préalable. Cet écart entre l’accès et l’autorité, c’est là que se situe l’exposition réelle. Un agent avec un accès en lecture à votre système quote-to-cash peut être réellement utile. Un agent ayant l’autorité de reconnaître du chiffre d’affaires, de modifier un contrat ou d’émettre un avoir peut être tout aussi utile — mais uniquement si une personne confirme l’action au préalable. En revanche, une autorisation permanente d’effectuer la même action sans supervision relève d’une autre catégorie de risque, quelle que soit la qualité du modèle ce trimestre.
Le fait qu’un workflow puisse être automatisé ne signifie pas qu’il doive s’exécuter sans supervision. La vitesse et la confiance ne sont pas la même chose, et le jugement est la part que la finance ne peut pas déléguer.
Mesures concrètes pour gérer le risque IA en finance
- Séparer la recommandation de l’exécution. Notre équipe de comptabilité des revenus utilise l’IA pour remonter une variance jusqu’à la modification contractuelle qui l’a provoquée, ou pour expliquer pourquoi le revenu n’a pas été comptabilisé sur un contrat donné. C’est un travail d’analyse, et c’est la partie que nous sommes le plus à l’aise d’automatiser. En revanche, décider quel doit être le montant et le valider reste du ressort du comptable.
- Auditer les autorisations d’un agent comme vous auditeriez les accès d’une personne. Approval Controls applique la même séparation des tâches que vous attendez entre la personne qui propose une action et celle qui l’approuve. La plupart des équipes finance effectuent déjà la première revue. Peu ont mis en place la seconde.
- Maintenir l’approbation dans le workflow, pas seulement dans une politique. Nos revues des travaux de revenus et de facturation assistés par l’IA se font toujours en équipe, plutôt que de basculer vers une validation asynchrone, car les questions les plus importantes portent sur la cohérence du résultat, et pas uniquement sur le fait que les chiffres concordent. Un second regard dans la salle détecte cela plus vite qu’une case à cocher que personne n’a à justifier. Nous avons intégré la même logique dans le Supervised Mode de Zuora AI : un agent peut proposer une comptabilisation de revenu ou une radiation, mais rien n’est comptabilisé tant qu’une personne ne le confirme.
- Se demander « devons-nous » après « pouvons-nous ». Nous l’avons appris concrètement en intégrant l’IA dans notre propre processus quote-to-cash. Lorsque le workflow sous-jacent n’était pas encore clairement défini, l’IA a accéléré la confusion au lieu de la résoudre. Automatisez les workflows que vous maîtrisez suffisamment pour leur faire confiance, et différer ceux que vous ne maîtrisez pas.
L’audit des autorisations ne peut pas être une configuration ponctuelle. Les personnes peuvent trouver des moyens de contourner un contrôle qui fait obstacle à l’obtention d’un résultat, par exemple en fractionnant un gros achat en trois achats plus petits pour rester sous un seuil d’approbation. Un agent d’IA trouvera le même type de faille, et il la trouvera probablement plus vite qu’une personne.
Rien de tout cela ne nécessite un meilleur modèle. Cela exige des responsables finance qui décident, de manière délibérée, où s’arrête le jugement d’un agent et où commence celui d’une personne, et qui intègrent cette frontière dans le workflow plutôt que de la laisser au hasard. Cette décision, prise en amont, est ce qui instaure la confiance dans l’IA au sein des équipes finance.
Continuer à explorer
Les responsables financiers doivent définir clairement où s’arrête le rôle d’un agent IA et où commence le jugement humain. Ce guide consacré à Comcast Technology Solutions propose un exemple concret : son équipe Finance utilise Zuora AI pour des tâches définies, comme la comptabilisation de lots de factures, l’interrogation des données de facturation, l’affinage de la logique des workflows et la production de rapports consolidés, tout en validant les résultats et en maintenant les personnes, les autorisations et des données de confiance au cœur du dispositif.
Du lancement du produit au chiffre d’affaires reconnu
La gouvernance de l’IA est essentielle à chaque étape du quote-to-cash, et pas uniquement lorsqu’un agent est prêt à enregistrer une modification. Ce parcours à la demande, du lancement du produit au chiffre d’affaires reconnu montre comment les équipes Finance et Opérations peuvent utiliser Zuora AI pour analyser les problèmes, comprendre l’impact financier et agir dans un cadre de gouvernance sur la tarification, l’établissement des devis, la facturation, le recouvrement et la reconnaissance du chiffre d’affaires. La démonstration rend le modèle de contrôle tangible : les agents opèrent avec un contexte quote-to-cash partagé et les autorisations existantes, tandis que les écritures supervisées et les règles d’approbation maintiennent la responsabilité humaine sur tout ce qui entraîne des flux financiers.
