AI API 帳單炸裂？資深工程師教你用「智慧路由」與「快取防禦」破解 Rate Limit 並省下 70% 成本

嗨，我是 Eric，浪花科技的資深工程師。如果你的 Email 信箱最近收到了 OpenAI 或 Anthropic 寄來的「額度即將用盡」通知，或者是你的網站後台 Log 充滿了紅色的 429 Too Many Requests 錯誤，那麼恭喜你，你正在經歷每一位 AI 開發者的必經之路：付學費。

在 2025 年的現在，串接 AI API 已經不是什麼黑科技，真正的技術門檻在於「如何優雅地串接」以及「如何不讓老闆看到帳單時心臟病發」。很多新手開發者（或者是被 PM 逼急了的工程師）最常犯的錯誤就是：把昂貴的 GPT-4o 當成免費的 echo 指令在用，而且還沒有做任何錯誤處理機制。

今天這篇文章不講廢話，我們要來聊聊在 WordPress 環境下，如何透過程式碼架構來解決 Rate Limit (頻率限制) 問題，並且透過「智慧路由」與「快取策略」來大幅降低 API 成本。

為什麼你的 API 請求總是被拒絕（或是帳單爆表）？

在深入程式碼之前，我們先釐清兩個觀念：Rate Limit (速率限制) 和 Token Usage (Token 用量)。這兩者往往是連動的。

• TPM / RPM 限制： AI 供應商通常會限制你每分鐘的請求數 (RPM) 或 Token 數 (TPM)。一旦超過，API 就會回傳 429 錯誤。
• 無效重試的陷阱： 很多初階的程式碼在遇到錯誤時會立刻重試 (Retry)。如果你的邏輯寫得不好，這就像是在塞車的馬路上狂按喇叭，不僅沒用，還會讓你被 API 供應商暫時封鎖 IP。
• 大砲打小鳥： 用 GPT-4o 來處理簡單的「情感分析」或「摘要」，就像開法拉利去巷口買醬油，既浪費油錢又容易卡在巷弄裡（延遲高）。

策略一：建立「模型智慧路由」 (Model Routing Pattern)

這是 Eric 我自己在專案中最喜歡用的模式。不是所有的任務都需要最聰明（也最貴）的模型。對於 WordPress 網站常見的應用場景，例如 SEO 標題生成、垃圾留言過濾，其實使用更便宜、速度更快的模型（如 GPT-4o-mini 或 Gemini Flash）效果綽綽有餘。

我們可以設計一個簡單的 PHP Class 來擔任「路由器」的角色，根據任務的複雜度分派給不同的模型：

class Roamer_AI_Router {

    private $complex_model = 'gpt-4o';
    private $simple_model = 'gpt-4o-mini';
    private $fallback_model = 'gemini-1.5-flash';

    /**
     * 根據任務複雜度選擇模型
     */
    public function route_request( $task_type, $prompt ) {
        switch ( $task_type ) {
            case 'creative_writing':
            case 'complex_reasoning':
                return $this->call_api( $this->complex_model, $prompt );
            
            case 'seo_meta':
            case 'sentiment_analysis':
                return $this->call_api( $this->simple_model, $prompt );

            case 'spam_check':
                // 垃圾留言檢查用最便宜的模型即可
                return $this->call_api( $this->fallback_model, $prompt );

            default:
                return $this->call_api( $this->simple_model, $prompt );
        }
    }

    private function call_api( $model, $prompt ) {
        // 這裡實作實際的 cURL 或 wp_remote_post 請求
        // Eric 碎碎念：記得把 API Key 放在 wp-config.php 或環境變數，不要寫死在這裡！
        return "Response from " . $model;
    }
}

透過這種「智慧路由」，你可以將 60-80% 的流量導向成本只有 GPT-4o 幾十分之一的輕量模型，帳單瞬間就會變得非常可愛。

策略二：WordPress 快取防禦 (The Caching Layer)

這一點是我每次 Code Review 看到都會忍不住唸兩句的地方。「不要問 AI 已經問過的問題！」

如果你的網站會根據文章內容自動生成摘要，當使用者 A 訪問文章時生成了一次，使用者 B 訪問時絕對不該再生成一次。在 WordPress 中，我們有非常好用的 Transients API 可以處理這件事。

我們可以在發送 API 請求前，先檢查資料庫有沒有「存檔」：

function roamer_get_ai_summary( $post_id ) {
    $cache_key = 'ai_summary_' . $post_id;
    
    // 1. 先檢查有沒有快取
    $cached_response = get_transient( $cache_key );
    if ( false !== $cached_response ) {
        return $cached_response . ' (來自快取)';
    }

    // 2. 如果沒有快取，才真的去 Call AI
    $api_response = roamer_call_openai_api( get_the_content( null, false, $post_id ) );

    if ( is_wp_error( $api_response ) ) {
        return 'AI 暫時休息中';
    }

    // 3. 把結果存起來，設定過期時間（例如 30 天）
    // 這樣 30 天內都不會再因為這篇文章花你一毛錢
    set_transient( $cache_key, $api_response, 30 * DAY_IN_SECONDS );

    return $api_response;
}

加上這一層簡單的快取，對於高流量網站來說，API 的呼叫次數可以直接砍半甚至更低。這不僅省錢，還讓網頁載入速度變快了，因為讀取資料庫永遠比透過網路呼叫外部 API 快。

策略三：優雅的指數退讓 (Exponential Backoff)

好，就算我們做了路由和快取，有時候還是會遇到 429 錯誤（例如瞬間流量太大）。這時候千萬不要寫一個 while(true) 無限重試，那會讓你的伺服器卡死，甚至被鎖 IP。

正規的作法是使用「指數退讓」演算法。簡單來說，第一次失敗等 1 秒，第二次等 2 秒，第三次等 4 秒，依此類推。給 API 伺服器一點喘息的空間。

function roamer_safe_api_call( $url, $body ) {
    $max_retries = 3;
    $attempt = 0;
    $response = null;

    do {
        $attempt++;
        $response = wp_remote_post( $url, $body );

        if ( is_wp_error( $response ) ) {
            // 網路層級錯誤，直接中斷
            break;
        }

        $response_code = wp_remote_retrieve_response_code( $response );

        if ( $response_code === 200 ) {
            // 成功！直接回傳
            return json_decode( wp_remote_retrieve_body( $response ), true );
        } elseif ( $response_code === 429 ) {
            // 遇到 Rate Limit，開始退讓
            // 計算等待時間：2 的 (嘗試次數-1) 次方秒
            $wait_time = pow( 2, $attempt - 1 ); 
            
            // Eric 提醒：為了避免所有請求同時重試，可以加一點隨機時間 (Jitter)
            sleep( $wait_time );
            continue;
        } else {
            // 其他錯誤 (500, 400 等)，通常重試也沒用，直接拋出
            break;
        }

    } while ( $attempt < $max_retries );

    return new WP_Error( 'api_fail', 'API 請求失敗，已達最大重試次數' );
}

成本控制的最後防線：預算監控

除了程式碼層面的優化，我強烈建議在 OpenAI 或其他 AI 平台的後台設定 Hard Limit (硬性上限)。設定一個你每個月願意支付的最高金額（例如 $50 USD）。當用量達到這個金額時，API 會直接拒絕請求。這雖然會讓功能暫時失效，但比起收到 $5000 USD 的帳單，我相信你會選擇前者。

總結

導入 AI 到 WordPress 網站是趨勢，但「能夠運作」跟「能夠營運」是兩回事。透過智慧路由 (Smart Routing) 選擇合適的模型、快取機制 (Caching) 減少重複呼叫，以及指數退讓 (Exponential Backoff) 處理錯誤，你才能打造一個既強大又不會讓公司破產的 AI 應用。

程式碼寫得好，晚上睡得飽；帳單數字小，老闆沒煩惱。這就是資深工程師的生存之道。

延伸閱讀

如果你想更深入了解 API 架構與成本優化，推薦你閱讀以下幾篇實戰文章：

• API 狂 Call 被鎖帳號？資深工程師教你 WordPress API 串接的優雅之道：Rate Limit 與重試機制全解析
• Redis 只是個『比較快的資料庫』？資深工程師揭秘 Redis 終極效能調校，榨乾 WordPress 最後一滴速度！
• 2025 AI 開發工具大亂鬥：Cursor、Copilot 還是直上 Antigravity？資深工程師的選武指南