跳至主要內容
跳到課程內容
課程目錄
生成式 AI 基礎 Google Cloud AI 產品怎麼選?從需求回推,不背產品清單
0%
2 / 5 初級 30 分鐘 00:00

考試領域 Google Cloud's gen AI offerings

Google Cloud AI 產品怎麼選?從需求回推,不背產品清單

用模型、開發平台、企業搜尋與 Agent 四條路徑,建立能應付產品更新的選擇方法。

2026年3月12日 更新:2026年10月12日
本課目錄14 個段落

假設主管丟來三個需求:

  1. 幫客服把回覆草稿寫快一點。
  2. 讓員工能查公司內部文件,而且答案要附來源。
  3. 做一個能查庫存、建立工單,必要時再請人核准的助理。

三個需求都可能用到 Gemini,但入口不一樣。第一個重點是模型生成,第二個重點是搜尋與引用,第三個還多了工具權限和流程控制。

所以選 Google Cloud AI 產品時,先問「系統要完成什麼工作」,不要先問「哪個產品最強」。

Google Cloud AI 產品選型地圖:Business need 分流到 Gemini API 進行 Generate、Agent Studio(圖上印的是舊名 Vertex AI Studio)做 Prototype、Model Garden 選擇模型、Agent Search 做 Grounded search、Agent Builder(也是圖上印的更名前名稱,現已併入 Agent Platform)讓代理 Take action;下方以 Data、Tools、Cost 與 latency、Evaluation、Governance 提醒各入口都要另外評估

先決定工作,再選入口:直接生成或多模態理解從 Gemini API 開始;先試 Prompt 與模型用 Studio;需要比較模型看 Model Garden;需要企業資料與引用看 Agent Search;真的要呼叫工具與改變外部狀態才進到 Agent 開發工具。圖上的 Vertex AI Studio 與 Agent Builder 是更名前的名稱,下面的表格會對上現行名稱。圖下圓點只提示評估面向,不是產品能力分數,正式選型仍要用自己的資料與測試集驗證。

先看四層產品地圖

可以把常見產品分成四層。平台本身在 2026 年 4 月從 Vertex AI 更名為 Gemini Enterprise Agent Platform,下面簡稱 Agent Platform:

需求層次常見入口主要工作
呼叫生成模型Gemini 模型、Agent Platform 的 API摘要、分類、擷取、生成與多模態理解
探索與建置模型Agent Studio(原 Vertex AI Studio)、Model Garden、Agent Platform 內建工具試 Prompt、比較模型、評估、微調與部署
搜尋企業資料Agent Search(原 Vertex AI Search)語意搜尋、關鍵字搜尋、RAG 與引用
建立可執行任務的 AgentADK、Agent Runtime(原 Agent Engine)規劃步驟、呼叫工具、維護狀態與部署

表格超出欄寬時,可左右捲動;鍵盤可聚焦表格後用左右方向鍵查看。

這是一張判斷方向的地圖,不是嚴格的產品邊界,也不是 Generative AI Leader 考試指南 1.3 列的 gen AI landscape 五層(基礎設施、模型、平台、Agent、應用):那五層講的是整個生態系怎麼分工,這裡的四層只是依需求挑 Google Cloud 入口的順序。同一個正式系統,往往會同時使用其中兩到三層。

查看流程與節點文字

箭頭表示流程方向;方括號與引號內是節點名稱,可搭配下方圖解閱讀。

flowchart TB
  N["Business need"] --> G["Gemini/Agent<br/>Platform API<br/>生成與多模態理解"]
  G --> P["Agent Studio/<br/>Model Garden<br/>探索、比較<br/>與建置模型"]
  P --> S["Agent Search<br/>企業搜尋、<br/>RAG、引用"]
  S --> A["ADK/<br/>Agent Runtime<br/>規劃、工具、<br/>狀態、部署"]
  D["企業資料"] -.-> S
  T["API/工具"] -.-> A
  E["評估、IAM、<br/>成本與治理"] -.-> G
  E -.-> P
  E -.-> S
  E -.-> A
系統可能跨越多層:模型負責生成,搜尋層提供企業證據,Agent 層才加入工具與狀態;評估、權限和成本則貫穿所有層。

Gemini:先選能力,再選版本

Gemini 是 Google 的多模態模型家族。不同版本會在品質、速度、價格與生命週期之間取捨。

截至這篇更新時,常見起點是:

模型適合情境目前狀態
gemini-3.5-flash一般生成、多模態理解、工具呼叫與結構化輸出GA
gemini-3.1-flash-lite高流量、延遲與成本較敏感的簡單任務GA
gemini-3.1-pro-preview需要先驗證高階能力的實驗Preview

表格超出欄寬時,可左右捲動;鍵盤可聚焦表格後用左右方向鍵查看。

這裡刻意把 Preview 標出來。預覽模型很適合做概念驗證,但版本、配額或支援條件可能改變;正式環境若使用它,必須先設計升級與回退方案。

模型名稱也會更新。實作前應查看官方的模型版本與生命週期,不要直接從舊文章複製 Model ID。

不要只憑名稱選模型

比較模型時,至少要看五件事:

  1. 品質:用自己的真實案例測試,不只看公開榜單。
  2. 延遲:互動式客服和離線報表能接受的等待時間不同。
  3. 成本:輸入、輸出、快取與思考 Token 都可能影響費用。
  4. 能力:是否支援需要的模態、結構化輸出、函式呼叫或 Grounding。
  5. 生命週期:是 GA、Preview,還是已公告淘汰日期。

最實用的做法通常是:先用一般型 GA 模型建立品質基準,再拿較輕量的模型跑同一組測試。若較便宜的模型已達標,就沒有必要為每個請求支付更高成本。

查看流程與節點文字

箭頭表示流程方向;方括號與引號內是節點名稱,可搭配下方圖解閱讀。

flowchart TB
  A["真實案例與驗收門檻"] --> B["一般型 GA 模型<br/>建立品質基準"]
  B --> C["同一測試集比較<br/>品質、延遲、成本、能力"]
  C --> D{"較輕量模型<br/>也達標?"}
  D -->|"是"| E["採用較低成本方案"]
  D -->|"否"| F["保留較高能力模型<br/>或調整工作流程"]
  E --> G["固定版本並持續回歸測試"]
  F --> G
先定義達標條件,再讓候選模型跑相同資料;選型目標不是拿最高分,而是在品質達標後找到合適的延遲、成本與生命週期。

Agent Studio:先把需求試清楚

Agent Studio 適合快速試做:

  • 比較不同提示詞
  • 測試文字、圖片或 PDF 輸入
  • 調整輸出設定
  • 取得可放進應用程式的範例程式碼

但 Studio 裡「看起來可以」只是起點。正式開發還要補上版本固定、測試資料、錯誤處理、權限、監控與成本控制。

下一課會直接用 Google Gen AI SDK 呼叫 Agent Platform 上的 Gemini。先在 Studio 找方向,再把相同任務放進可重複執行的程式,通常很順。

查看流程與節點文字

箭頭表示流程方向;方括號與引號內是節點名稱,可搭配下方圖解閱讀。

flowchart TB
  A["Agent Studio<br/>探索 Prompt 與輸入"] --> B["挑出可行設定"]
  B --> C["匯出 SDK 範例"]
  C --> D["應用程式<br/>固定模型與 Prompt 版本"]
  D --> E["補上 IAM、錯誤處理、<br/>測試、監控與預算"]
  E --> F{"回歸測試達標?"}
  F -->|"否"| A
  F -->|"是"| G["部署與持續觀測"]
Studio 適合快速找到方向;正式上線仍要把同一任務移進可版本化、可重跑、可監控的程式流程。

Model Garden:模型不只 Gemini

Model Garden 是瀏覽與使用模型的入口,內容包含 Google 模型、合作夥伴模型與開放模型。

你可以用它回答幾個問題:

  • 這個模型是否支援目前區域?
  • 可以用代管 API 呼叫,還是需要自行部署?
  • 授權與商業使用條件是什麼?
  • 模型大小、硬體需求與費用是否符合預算?

不同模型的使用方式並不相同,不能看到 Model Garden 裡有一張模型卡,就假設它一定能用相同 API 或相同權限部署。

如果 Gemini 已經符合需求,通常先用代管模型會比較簡單。只有在模型能力、授權、資料控制或特定成本條件真的需要時,再評估其他模型。

Agent Search:答案要根據企業資料時

如果需求是「讓員工問公司文件,回答要能指出來源」,核心問題不是寫出漂亮句子,而是先找到正確資料。

Agent Search 提供企業搜尋與 RAG 所需的代管能力,包括語意搜尋、關鍵字搜尋與 Grounding。常見流程是:

使用者問題
   ↓
搜尋有權限查看的相關文件
   ↓
把片段與來源交給 Gemini
   ↓
產生答案並顯示引用
查看流程與節點文字

箭頭表示流程方向;方括號與引號內是節點名稱,可搭配下方圖解閱讀。

flowchart TB
  U["已驗證使用者的問題"] --> P["依身分套用資料權限"]
  P --> S["語意+關鍵字搜尋"]
  S --> R["相關文件片段+來源"]
  R --> G["Gemini Grounding"]
  G --> A{"證據足以回答?"}
  A -->|"是"| O["答案+可點擊引用"]
  A -->|"否"| N["明確說明無法確認"]
企業問答的核心是先在授權範圍內找對資料,再讓模型根據片段回答;證據不足時應拒絕補猜。

它適合想快速建立企業知識搜尋、又不打算一開始就自己管理每個向量索引細節的團隊。

這個產品改過幾次名字:Agent Search 的舊名包括 Vertex AI Search 與 Agent Builder,Console 上放它的頁面現在仍叫 AI Applications。看舊教學時,若發現畫面或名稱對不上,先確認文件日期,再對照官方的產品更名對照表。

ADK 與 Agent Runtime:不只回答,還要做事

當系統需要查庫存、建立工單或呼叫內部 API,就進入 Agent 的範圍。舊教材裡的 Vertex AI Agent Builder 已經併入 Agent Platform;現在是用 ADK(Agent Development Kit)開發 Agent,用 Agent Runtime 部署與執行。

Agent 通常包含:

  • 模型:理解需求與決定下一步
  • 工具:搜尋、資料庫或 API
  • 狀態:保存工作流程需要的資訊
  • 控制:權限、核准、逾時與重試
  • 評估與觀測:確認每一步是否安全、正確

重要的是,模型可以「提出」要呼叫哪個工具,真正執行與授權仍應由應用程式控制。不能因為模型產生了一段函式參數,就直接讓它繞過身分驗證或業務規則。

查看流程與節點文字

箭頭表示流程方向;方括號與引號內是節點名稱,可搭配下方圖解閱讀。

sequenceDiagram
  participant U as 使用者
  participant A as Agent
  participant C as 應用程式控制層
  participant T as 內部工具/API
  U->>A: 提出需求
  A->>C: 建議工具與參數
  C->>C: 驗證身分、權限、Schema、業務規則
  alt 查詢且授權通過
    C->>T: 以最小權限執行
    T-->>C: 結果
    C-->>A: 可用結果
    A-->>U: 整理回覆
  else 寫入或高風險動作
    C-->>U: 顯示動作內容並要求核准
    U->>C: 明確核准
    C->>T: 執行已核准動作
    T-->>U: 回傳結果與稽核紀錄
  end
模型只提出工具呼叫;真正的身分驗證、參數驗證、權限與高風險核准必須留在可稽核的應用程式控制層。

用需求選入口

回到開頭三個需求:

客服回覆草稿

先用 Gemini 搭配 Agent Platform 的 API。把公司語氣、輸出格式和不確定時的處理方式寫清楚,再用歷史案例建立測試集。

內部文件問答

先評估 Agent Search。重點是資料來源、存取權限、文件更新、引用與答案是否有根據,不只是 Prompt。

能查庫存與建立工單的助理

用 ADK 與 Agent Runtime 設計流程,但把查詢與寫入分開處理。建立工單這類會改變外部狀態的操作,最好加上明確確認或人工核准。

成本不要靠猜

生成式 AI 的成本通常受這些因素影響:

  • 輸入與輸出 Token 數量
  • 模型版本
  • 是否使用 Grounding、搜尋或其他工具
  • 線上即時或批次處理
  • 快取、思考與多模態資料量
  • 自行部署模型時使用的運算資源

價格會調整,所以課程不寫死每百萬 Token 的金額。估算時請看Agent Platform 定價,再用真實輸入長度和預期流量試算。

上線前至少要有:

  • 專案預算與告警
  • 每個功能的使用量記錄
  • 輸入與輸出 Token 監控
  • 模型版本變更與回退計畫
  • 一組可以重跑的品質測試

小練習:你會怎麼選?

請替下面三個情境各選一個起點,並寫下理由:

  1. 每晚把五千筆商品評論分成固定的六個類別。
  2. 讓法務搜尋內部合約,答案必須附上段落來源。
  3. 從現場設備照片判斷故障現象,再草擬檢查步驟。

沒有唯一答案。你要說清楚的是品質、延遲、成本、資料來源與風險之間怎麼取捨。

寫完再展開:參考方向
  1. 類別固定、量大、不趕時間:直接呼叫 Gemini 就夠,用不到搜尋或 Agent。先拿一般型 GA 模型建立品質基準,再試輕量模型能不能達標。
  2. 要附段落來源、合約又有權限:從 Agent Search 起步,先確認誰能看哪些合約、文件多久更新、引用對不對得上原文。
  3. 照片加文字:從 Gemini 的多模態輸入起步,可以先在 Agent Studio 用幾張真實照片試。模型看不到照片以外的現場狀況,檢查步驟只當草稿,交給現場人員確認。

下一課會從第一條路徑開始:用目前的 Google Gen AI SDK,實際呼叫 Agent Platform 上的 Gemini。

官方資料

恭喜完成課程!

你已完成所有課程內容,做得太棒了!

5 課完成
5 小時 55 分鐘 預估課程時數
— 天連續學習

鍵盤快捷鍵

先關閉此說明再使用快捷鍵;輸入筆記時不會觸發。

導覽
← / j 上一課
→ / k 下一課
操作
c 標記完成 / 取消完成
n 展開 / 收合筆記
b 收藏 / 取消收藏
f 專注模式
其他
? 快捷鍵說明
Esc 關閉彈窗

課程目錄

徽章解鎖!
Nimbus

學習教練 Nimbus

你的雲端學習夥伴

依已保存的資源進度與學習目標提供練習建議。完成度不代表掌握程度或應考能力。

0
連續天數
0
確認讀完
0
收藏
0%
資源完成度
練習建議
    推薦下一步
    開始