本頁面說明如何使用 Google Gen AI SDK 列出提示的權杖和權杖 ID,以及取得提示的權杖總數。
權杖,以及權杖列出和計數的重要性
生成式 AI 模型會將提示中的文字和其他資料拆解成較小的單元,稱為「詞元」,以便處理。資料轉換為權杖的方式取決於使用的權杖化工具。詞元可以是字元、字詞或詞組。
每種模型都有可處理的提示和回覆詞元數量上限。瞭解提示的權杖數量,即可判斷是否超過上限。此外,計算權杖也會傳回提示的可計費字元,協助您估算費用。
列出權杖會傳回提示拆解成的權杖清單。 每個列出的權杖都與權杖 ID 相關聯,有助於排解問題及分析模型行為。
支援的模型
下表列出支援權杖清單和權杖計數的模型:
- Gemini 2.5 Flash-Lite
- Gemini 2.0 Flash 圖像生成功能
預先發布版 - Vertex AI Model Optimizer
實驗功能 - Gemini 2.5 Pro
- Gemini 2.5 Flash
- Gemini 2.0 Flash
- Gemini 2.0 Flash-Lite
取得提示的權杖和權杖 ID 清單
下列程式碼範例說明如何取得提示的權杖和權杖 ID 清單。提示只能包含文字。不支援多模態提示。
Python
安裝
pip install --upgrade google-genai
詳情請參閱 SDK 參考說明文件。
設定環境變數,透過 Vertex AI 使用 Gen AI SDK:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
Go
瞭解如何安裝或更新 Go。
詳情請參閱 SDK 參考說明文件。
設定環境變數,透過 Vertex AI 使用 Gen AI SDK:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
取得提示的權杖數和可計費字元數
下列程式碼範例說明如何取得提示的權杖數量和可計費字元數。系統支援純文字和多模態提示。
Python
安裝
pip install --upgrade google-genai
詳情請參閱 SDK 參考說明文件。
設定環境變數,透過 Vertex AI 使用 Gen AI SDK:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
Go
瞭解如何安裝或更新 Go。
詳情請參閱 SDK 參考說明文件。
設定環境變數,透過 Vertex AI 使用 Gen AI SDK:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True