Peace Melodi

某家數位小銀行的貸款專員對於資料團隊新建立的模型感到興奮。它可以根據收入、消費模式及還款紀錄，在不到一秒內為貸款申請打分，並自動核准或拒絕。第一週上線時運作順利，但第二週，模型提供商在下午突然中斷服務，導致所有在該時段送出的貸款申請卡住，等待永遠不會到來的回應。有些客戶重新整理頁面後重複送出申請；少數本該拒絕的案件，因為某人幾個月前撰寫、從未妥善測試的備援路徑，最終被預設為核准。

資料團隊的模型本身並沒有出錯。模型是準確的。真正缺失的是模型周圍的一切，也就是當模型變慢、錯誤、不可用，或根本不值得完全信任去做如此重大的決策時，該如何應對的機制。

真正的問題從來不是模型

當銀行導入模型來處理貸款核准或詐欺評分時，真正的問題不在 AI，而在整合。模型只是你呼叫的一項服務，和其他服務一樣，它可能變慢、可能故障，也可能自信地給出錯誤答案。關鍵不在於模型是否聰明，而是在模型不如預期運作時，後端做了什麼。

設定逾時，避免慢速模型凍結整個流程

第一道防護機制是確保對模型的呼叫不會無限期地掛起。若模型提供商變慢或停機，請求應快速失敗並切換至安全預設值，而非讓客戶盯著讀取畫面。

import { Injectable, HttpException, HttpStatus } from '@nestjs/common';
import { HttpService } from '@nestjs/axios';
import { firstValueFrom, timeout, catchError } from 'rxjs';

@Injectable()
export class LoanScoringService {
  constructor(private readonly httpService: HttpService) {}

  async scoreApplication(applicationId: string, payload: Record<string, unknown>) {
    return firstValueFrom(
      this.httpService.post('https://ai-provider.example.com/score', payload).pipe(
        timeout(2000),
        catchError(() => {
          throw new HttpException(
            'Scoring service unavailable',
            HttpStatus.SERVICE_UNAVAILABLE,
          );
        }),
      ),
    );
  }
}

Enter fullscreen mode Exit fullscreen mode

請注意，這裡的備援機制是明確的錯誤，而非靜默核准。無論後續如何處理，因服務呼叫失敗而預設核准貸款，本身絕非可接受的行為。

定義貸款決策的失效安全機制

當逾時或失敗被捕捉後，必須決定下一步該做什麼。對於如此重大的決策，絕對不能自動核准。合理的失效安全路徑是將申請導向人工審核佇列。

async handleScoringFailure(applicationId: string) {
  await this.reviewQueueService.enqueue({
    applicationId,
    reason: 'scoring_service_unavailable',
    requiresManualReview: true,
  });

  return {
    status: 'pending_review',
    message: 'Your application is being reviewed manually.',
  };
}

Enter fullscreen mode Exit fullscreen mode

這樣能誠實告知客戶，也確保技術故障不會悄悄轉變為無人真正決策的財務結果。

記錄每一項決策，以便日後說明

銀行最終需要解釋為何特定客戶被核准、拒絕或標記，有時是數月後，有時是面對監理機關。這意味著每一次評分決策、模型輸出及其依據的資料，都必須被記錄，而非僅執行後丟棄。

import { Entity, Column, PrimaryGeneratedColumn, CreateDateColumn } from 'typeorm';

@Entity('loan_decisions')
export class LoanDecision {
  @PrimaryGeneratedColumn('uuid')
  id: string;

  @Column()
  applicationId: string;

  @Column({ type: 'jsonb' })
  modelInput: Record<string, unknown>;

  @Column({ type: 'jsonb' })
  modelOutput: Record<string, unknown>;

  @Column()
  finalDecision: string;

  @Column({ default: false })
  requiredManualReview: boolean;

  @CreateDateColumn()
  createdAt: Date;
}

Enter fullscreen mode Exit fullscreen mode

有了這項機制，在一秒內做出的決策，仍能在日後完整重建與說明，這在銀行業的重要性遠高於其他應用。

讓人在最重要的決策中保持參與

並非每個決策都需要人工審核，但涉及重大後果的案件——例如高額貸款、臨界分數、客戶對拒絕提出異議——絕不能只由模型自行決定。NestJS 提供了一個乾淨的位置來執行這道關卡，根據銀行真正認可的規則，將特定結果導向審核佇列，而非直接回應客戶。

更大的圖像

NestJS 不會讓 AI 模型更準確，也不應該試圖這麼做。它提供的是模型周圍的結構：一個執行逾時的地方、一個定義失效安全機制的地方、一個記錄每一項決策以便日後說明的地方，以及一個確保重要決策必須有人審核的地方。正是這樣的結構，才真正讓 AI 模型安全到足以用於核准貸款這類重大決策。

如果你的團隊正將 AI 導入涉及真實金錢或真實客戶的流程，我很樂意與你討論如何妥善建立周邊防護機制。

我是 Peace Melodi，一名後端軟體工程師。如果你希望你的業務能安全地擴展至數百萬使用者，並具備強大的可擴展性與安全性，歡迎與我聯繫。

LinkedIn: https://www.linkedin.com/in/melodi-peace-406494368
GitHub: https://github.com/PeaceMelodi