一張發票寄進信箱後,我們可能會做三件事:判斷它是不是異常、擷取金額與日期,再寫一封回覆供應商的信。
前兩件事偏向「辨識與預測」,第三件事才是「生成」。這個差別看起來很小,卻會直接影響模型選擇、測試方法,以及上線後該防哪些風險。
這一課先不碰程式碼。我們先把幾個容易混在一起的概念拆開。
預測式 AI 和生成式 AI 差在哪裡?
傳統機器學習常回答的是:
- 這封信是垃圾郵件嗎?
- 這筆交易有多大機率是詐騙?
- 下個月的需求量大約是多少?
模型從既有資料找出規律,再輸出類別、分數或數值。這類工作通常稱為預測式 AI。
生成式 AI 回答的則是:
- 幫我整理這份會議記錄
- 根據產品規格草擬客服回覆
- 把一段需求轉成程式碼或測試案例
- 依照文字描述產生圖片、語音或影片
它不是從資料庫找一段現成答案貼回來,而是根據輸入與訓練過的模式,逐步產生新的內容。
兩者並不是互相取代。實務上常把它們接在一起:先用模型判斷風險,再讓生成式模型整理理由,最後交給人員確認。
一次看懂生成流程
可以先把生成式 AI 想成這條流程:
提示詞與上下文
↓
基礎模型推論
↓
產生文字、圖片、音訊、影片或程式碼
↓
驗證、引用來源或交由人員覆核
其中有幾個詞會一直出現。
基礎模型
基礎模型(foundation model)是在大量資料上預先訓練的模型。它已經具備通用能力,團隊不必每次都從零訓練。
大型語言模型(LLM)是基礎模型的一種,主要處理語言與程式碼。Gemini 則是多模態模型家族,能處理的輸入不只文字,也可能包含圖片、音訊、影片與 PDF;實際支援範圍仍要看個別模型版本。
Token
模型不會直接用「一句話」來計算,而是先把內容切成 Token。Token 數量會影響三件事:
- 輸入能放多少內容
- 回應最多能產生多長
- API 使用成本
所以把整個知識庫一次塞進提示詞,通常不是好主意。內容越長,不只成本變高,模型也可能更難抓到真正重要的資訊。
上下文窗口
上下文窗口是模型一次能處理的 Token 總量,包含輸入、對話歷史與輸出空間。
窗口很大,不代表什麼都該塞進去。正式系統仍要挑選相關內容、控制對話歷史,並保留足夠的輸出空間。
Transformer
目前主流語言模型多半建立在 Transformer 架構上。你不必先會推導數學公式,但要知道它擅長從上下文判斷詞與詞之間的關係,因此能延續語意、改寫內容,也能根據範例模仿格式。
Embedding
Embedding 會把文字、圖片或其他內容轉成向量。語意相近的內容,在向量空間裡通常也比較接近。
它常被用在語意搜尋與 RAG:先找出與問題最相關的資料,再交給生成模型回答。第五課會把完整流程拆開。
生成式 AI 適合做什麼?
它很適合當「第一版產生器」或「資訊整理助手」,例如:
- 摘要長文件,列出待確認事項
- 從客服訊息擷取主題、情緒與產品名稱
- 根據既定資料草擬回覆
- 產生程式碼骨架、測試案例或文件初稿
- 把相同內容改寫成不同受眾能理解的版本
判斷一個需求是否適合導入,可以先問四個問題:
- 輸出錯誤時,後果有多大?
- 有沒有可靠資料可以核對?
- 能不能用規則、測試或人工覆核驗證?
- 這項工作真的需要生成內容,還是搜尋與傳統程式就夠了?
低風險、可驗證,而且目前很耗人力的工作,通常比較適合作為第一個導入案例。
它會在哪裡出錯?
生成模型的目標是產生合理的下一段內容,不是保證每句話都是真的。常見問題包括:
- 內容看起來合理,但事實錯誤:這通常被稱為幻覺。
- 相同輸入不一定得到完全相同的答案:生成具有機率性。
- 不知道公司的內部資料:除非你把資料安全地提供給模型,或接上檢索系統。
- 可能受到惡意指令影響:外部文件或使用者輸入可能藏有 Prompt Injection。
- 可能輸出敏感或不合規內容:權限、資料遮罩、記錄與人工審核仍然重要。
RAG、結構化輸出與安全防護能降低風險,但沒有任何單一技術能保證答案永遠正確。
Google Cloud 在這張圖裡扮演什麼角色?
先記住三個入口就夠了:
- Gemini:Google 的多模態模型家族。
- Vertex AI:在 Google Cloud 上建置、評估、治理與執行 AI 工作負載的平台。
- Model Garden:瀏覽與選用 Google、合作夥伴及開放模型的入口。
下一課會把這些產品放回實際情境:要快速試 Prompt、呼叫 Gemini、找其他模型,或替企業資料建立搜尋與 Agent,各自該從哪裡開始。
和 Generative AI Leader 認證的關係
Google Cloud 的 Generative AI Leader 認證不要求先有實作經驗,考的也不只是模型名詞。官方目前把內容分成四個領域:
- 生成式 AI 基礎
- Google Cloud 的生成式 AI 產品
- 改善模型輸出的技巧
- 商業策略
這門課會依照同一條主線前進,但重點不是背產品清單,而是能說清楚「為什麼選它」以及「怎麼確認結果可信」。
課後檢查
讀完後,你應該能用自己的話回答:
- 分類詐騙交易和草擬客服回覆,為什麼是不同類型的 AI 任務?
- Token 與上下文窗口會如何影響成本和答案品質?
- 哪些工作可以直接讓模型產生初稿,哪些一定要加上驗證或人工覆核?
- RAG 想解決的是哪一類問題?
下一課會整理 Google Cloud 的產品地圖,並用幾個需求快速判斷該從哪個服務開始。