速率限制

限制有兩種類型：

1. 支出限制（Spend limits） 設定組織每月可因 API 使用而產生的最高費用。
2. 速率限制（Rate limits） 設定組織在定義的時間段內可發出的最大 API 請求數量。

API 在組織層級強制執行服務設定的限制，但您也可以為組織的工作區設定使用者可配置的限制。



關於速率限制

• 限制旨在防止 API 濫用，同時盡量減少對常見客戶使用模式的影響。
• 限制由**用量層級（usage tier）**定義。組織會根據使用歷史和帳戶狀態自動被置於某個層級，並且隨著使用 API 的時間推移可以移動到更高的層級。
• 新組織和使用歷史有限的組織在建立帳戶歷史期間，可能會以低於本頁所示標準限制的限制開始。這些起始限制是我們防止詐欺和濫用的方式之一，並且會隨著您的組織累積使用歷史而自動提高。
• 限制是在組織層級設定的。您可以在 Claude Console 的 Limits 頁面上查看您組織的層級和目前限制。
• 您可能會在較短的時間間隔內達到速率限制。例如，每分鐘 60 個請求（RPM）的速率可能會以每秒 1 個請求的方式強制執行。短時間內的突發請求可能會超過限制並觸發速率限制錯誤。
• 以下限制是每個層級的標準限制。如果您需要更高的限制，請參閱申請更高的限制。
• API 使用令牌桶演算法（token bucket algorithm）來進行速率限制。這表示您的容量會持續補充至您的最大限制，而不是在固定間隔重置。
• 此處描述的所有限制代表允許的最大用量，而非保證的最低用量。這些限制旨在減少非預期的超支，並確保資源在使用者之間公平分配。



支出限制

Start、Build 和 Scale 層級各自都有每月支出上限，這是您的組織每個日曆月在 API 上可以花費的最高金額。一旦達到您層級的支出上限，API 使用將暫停至下個月，除非您申請更高的限制。您可以在 Limits 頁面上查看您組織的每月支出上限。

Custom 層級的組織沒有每月支出上限；限制由其客戶團隊安排。

您也可以設定低於您層級上限的自訂支出限制來控制成本：



速率限制

Messages API 的速率限制是以每個模型類別的每分鐘請求數（RPM）、每分鐘輸入 token 數（ITPM）和每分鐘輸出 token 數（OTPM）來衡量的。 如果您超過任何速率限制，您將收到 429 錯誤，說明超過了哪個速率限制，以及一個 retry-after 標頭，指示需要等待多長時間。



快取感知 ITPM

許多 API 供應商使用合併的「每分鐘 token 數」（TPM）限制，可能包括所有 token，無論是快取或未快取、輸入或輸出。對於大多數 Claude 模型，只有未快取的輸入 token 會計入您的 ITPM 速率限制。 這是一個關鍵優勢，使速率限制實際上比最初看起來更高。

ITPM 速率限制在每個請求開始時進行估算，並在請求期間調整估算值以反映實際使用的輸入 token 數量。

以下是計入 ITPM 的項目：

• input_tokens（最後一個快取斷點之後的 token）✓ 計入 ITPM
• cache_creation_input_tokens（正在寫入快取的 token）✓ 計入 ITPM
• cache_read_input_tokens（從快取讀取的 token）✗ 對於大多數模型不計入 ITPM

total_input_tokens = cache_read_input_tokens + cache_creation_input_tokens + input_tokens

範例： 在 2,000,000 ITPM 限制和 80% 快取命中率的情況下，您實際上每分鐘可以處理 10,000,000 個總輸入 token（2M 未快取 + 8M 快取），因為快取的 token 不計入您的速率限制。