跳至主要內容
ESC
Study Jam:GenAI 開發者實戰 — 第 4/29 篇

Vertex AI Prompt 設計

Vertex AI Prompt 設計

課程概述

Prompt 設計是使用生成式 AI 的基本功。Prompt 寫得清楚,模型比較容易抓到任務、限制和輸出格式;寫得含糊,結果就可能離題。這堂課會沿用教材中的 Vertex AI Studio,一步步練習 Prompt 設計。新版主控台已把它改名為 Agent Studio,但核心概念不變,看到不同名稱不用緊張。

Prompt 設計工作台:系統指令、角色情境、任務、限制、輸入資料與輸出格式組成模組化提示,可選 Zero-shot、Few-shot 或任務分解策略,模型輸出再依相關性、事實性和格式反覆評估調整

Prompt 的品質取決於結構是否完整,而不是句子是否華麗。Zero-shot 適合明確任務,Few-shot 用範例固定模式,複雜問題則先分解;每次輸出都要依相關性、事實性與格式回到迭代迴路。

你將學到

  • 在 Vertex AI Studio 中建立與測試 Prompt
  • 區分並應用 Zero-shot、One-shot 與 Few-shot Prompt 技巧
  • 設計結構化 Prompt(含系統指令、角色設定與輸出格式要求)
  • 掌握 Prompt 迭代改善的方法:從粗糙到精準的調校流程
  • 理解 Prompt 設計中的常見陷阱與最佳實踐

核心概念

Prompt 的基本結構

一個完整的 Prompt 通常包含這幾個元素:Context(背景資訊)、Instruction(指令)、Input(輸入內容)與 Output Format(輸出格式要求)。不是每個 Prompt 都要湊齊四個,但結構越清楚,模型通常表現得越好。

Zero-shot vs Few-shot

Zero-shot 就是直接丟一個任務給模型,不給任何範例。這招適合模型本來就很熟的標準任務,像翻譯或摘要。Few-shot 則是在 Prompt 裡附上幾組「輸入-輸出」的範例,讓模型知道你要的格式跟風格長什麼樣。碰到客製化的分類任務、或要特定輸出格式時,Few-shot 通常比 Zero-shot 好用很多。

Few-shot 範例治理流程:先定義任務與 Schema,再建立已審核範例池、挑選一般與邊界情境、檢查一致性和平衡、用獨立測試集評估並版本化

Few-shot 範例本身就是規格。範例若標籤矛盾、洩漏答案、含敏感資料或只覆蓋單一情境,模型就會學到錯誤模式;因此要先審核範例,再用未出現在 Prompt 的測試集比較效果。

複雜任務要拆解,不是只加一句「一步一步想」

碰到複雜問題時,可以把任務拆成幾個可檢查的步驟,例如先整理條件、再比較選項、最後給結論與依據。這通常比只加一句「請一步一步思考」更可靠,也比較容易測試。實務上要求模型列出關鍵依據或檢查結果就好,不需要把冗長的內部推理全文印出來。

System Instruction 的威力

Vertex AI Studio 讓你設定 System Instruction,也就是每次對話前先注入的指令。你可以拿它來設定模型的角色(例如「你是一位雲端架構師」)、限制回答範圍(例如「僅回答 Google Cloud 相關問題」)、或規定輸出格式(例如「以 JSON 格式回答」)。把 System Instruction 用好,整個應用的一致性會差很多。

生成式 AI 結構化輸出驗證流程:可信任指示與隔離的外部內容進入模型,候選輸出依序通過語法、Schema 和業務規則驗證,失敗時有限次修復或進人工佇列,成功後才交付應用程式

要求 JSON 只是在描述期望,不能保證結果可用。模型輸出仍須通過語法、Schema 與業務規則驗證;修復次數應有限制,驗證完成前更不能直接觸發付款、刪除或發送等副作用。

不要憑感覺一直重寫 Prompt。先固定測試案例、分類失敗原因,一次只改一項,才知道改善究竟來自哪個調整。

實作重點

  • 在 Vertex AI Studio 中選擇 Gemini 模型,嘗試 Free-form 與 Chat 兩種模式
  • 練習將相同任務分別以 Zero-shot、One-shot、Few-shot 方式撰寫,比較輸出品質
  • 使用 System Instruction 設定角色與限制條件,觀察模型行為的變化
  • 測試 Temperature 參數對同一個 Prompt 輸出的影響:Gemini 的 Temperature 範圍是 0 到 2(預設 1),從 0 開始逐步往上調整
  • 學會使用「負面指令」(例如「不要列出超過 5 項」「不要使用技術術語」)精確控制輸出

Lab 導讀

Lab 連結Prompt Design in Vertex AI — Google Cloud Skills Boost

這是第一個要動手操作的 Lab,你會在 Vertex AI Studio 裡實際寫 Prompt、測 Prompt。建議先把影片看完再進去做,操作時也別只照著 Lab 要求走,可以拿自己的案例多試幾次。另外特別留意 Lab 裡的 grounding(讓回答有資料依據)功能,它能讓模型參照外部資料來源回答,降低憑空編造內容的機會。

延伸學習

Study Jam:GenAI 開發者實戰 — 4/29 完成 查看系列全覽 →

留言討論

徽章解鎖!