財務リーダーは、そのトレードオフを直ちに認識すべきです。なぜなら、ワークフローを自動化するたびに、私たちはその変形版を必ず作り込んでいるからです。AIはすでに当該タスクを実行できます。より難しい判断は、AIが試行するために何を必要とするのか、そしてそのアクセス権限と情報を委ねることに私たちが納得できるかどうかです。
今年は、監督なしの場合にそれがどのような姿になるのかを垣間見せました。9月には、Googleが確認し、同社のGeminiモデルが5月に実在する3社へ侵入していたことが明らかになりました。これは設定ミスにより、セキュリティ演習中に本来は隔離されたテスト環境ではなく、ライブのインターネットへ接続された状態になっていたためです。誰かが気づくまでの間に、推測した資格情報や盗まれた認証情報を用いて3社すべてに侵入しました。はるかに小規模な例では、オーストラリア人の男性がAIアシスタントに依頼し、満席のピラティスのクラスに自分を入れるよう求めました。するとAIはジムの予約システムの抜け穴を見つけ、他人の予約を取り消して彼のための枠を確保しました。
どちらも、エージェントが行うことそのものでした。利用可能なあらゆるツールを使って目的を追求し、何かに止められるまで継続するのです。
本当のリスクはどこにあるか
財務には、見出しを賑わせている消費者向けの事例よりも厄介な、同種の問題があります。いずれのインシデントも、同じ欠落に起因しています。すなわち、エージェントが見た情報に基づいて行動する権限を持ちながら、その行動が実行される前に誰の承認も必要としなかったことです。アクセスと権限の間にあるこのギャップこそが、真のエクスポージャーです。見積から入金まで（quote-to-cash）システムへの参照権限を持つエージェントは、実際に有用になり得ます。収益の計上（リリース）、契約条件の変更、与信（クレジット）の発行を行う権限を持つエージェントも同様に有用になり得ますが、それは人が事前に当該アクションを確認する場合に限ります。同じアクションを監督なしで実行できる恒常的な権限は、当四半期のモデルがどれほど優れていようとも、別種のリスク区分です。
ワークフローが自動化可能であることは、無監督で走らせるべきかどうかを決める根拠にはなりません。スピードと信頼は同一ではなく、判断こそが財務が委ねられない領域です。
財務におけるAIリスク管理のための実務的ステップ
- 推奨と実行を切り分ける。当社の収益会計チームはAIを用いて、差異を引き起こした契約変更にまで遡って特定したり、特定の契約で収益が認識されなかった理由を説明したりしています。これは「調査」であり、私たちがより安心して自動化できる領域です。一方で、数値を最終的にどう確定し、それにサインオフするかは、引き続き会計担当者の責任範囲です。
- 監査対象者のアクセス権限と同様に、エージェントの権限も監査する。Approval Controls は、アクションを提案する者と承認する者の間に期待される職務分掌を、そのまま適用します。多くの財務チームはすでに一次レビューは運用していますが、二次レビューまで仕組みとして構築できているケースは多くありません。
- 承認は、ポリシー上だけでなくワークフロー内に組み込む。AI支援による収益・請求業務のレビューは、非同期のサインオフへ移行するのではなく、今もチームでの場で実施しています。最も重要な問いは、数値が一致しているかどうかだけではなく、結果が妥当かどうかにあるためです。説明不要のチェックボックスよりも、同じ場での「もう一人の目」のほうが、より速く違和感を拾えます。私たちはこの考え方をZuora AIのSupervised Modeにも組み込みました。エージェントは収益リリースや償却（write-off）を提案できますが、人が確認するまで何も計上されません。
- 「できるか」の次に「やるべきか」を問う。私たちは自社のquote-to-cashプロセス全体にAIを組み込む中で、これを身をもって学びました。基盤となるワークフローがまだ明確に定義されていない領域では、AIは解決ではなく混乱を加速させてしまいます。十分に理解でき、信頼できるワークフローから自動化し、そうでないものは見送るべきです。
権限監査は一度設定して終わりにはできません。例えば、承認しきい値を下回るように大きな購買を3つの小口に分割するなど、結果の妨げになる統制は迂回され得ます。AIエージェントも同様の抜け穴を見つけますし、人より速く見つける可能性が高いでしょう。
これらのいずれも、より優れたモデルを必要とする話ではありません。必要なのは、エージェントの判断がどこで止まり、人の判断がどこから始まるのかを意図的に定め、その境界線を偶然に任せずワークフローに組み込む財務リーダーです。事前に下されたその判断こそが、財務領域においてAIへの信頼を獲得するのです。
引き続きご覧ください
ユーザーガイド：Comcast Technology Solutionsの財務チームがZuora AIを業務に活用する方法
財務リーダーは、AIエージェントの役割の終点と、人による判断の開始点を明確に定義する必要があります。 Comcast Technology Solutionsの本ガイドでは、実務的な事例として、同社の財務チームが請求書バッチの計上、請求データの照会、ワークフローロジックの改善、連結レポートの作成といった定義済みのタスクにZuora AIを活用しつつ、結果を検証し、人・権限・信頼できるデータをプロセスに組み込んだ運用を行っていることを紹介します。
AIガバナンスは、エージェントが変更を反映できる段階に至ったときだけでなく、Quote-to-Cashのあらゆる段階で重要です。 製品ローンチから認識収益までのオンデマンドの体験では、財務およびオペレーションチームがZuora AIを活用し、課題の調査、財務影響の把握、価格設定・見積（Quoting）・請求（Billing）・回収（Collections）・収益認識（Revenue Recognition）にわたるガバナンス下でのアクションを実行する方法を示します。デモではコントロールモデルを具体化しています。エージェントは、共通のQuote-to-Cashコンテキストと既存の権限と連携して動作し、監督下での書き込みと承認ルールによって、資金の動きに関わる責任を人が負う体制を維持します。
