跳至主要內容
ESC
跳到課程內容
生成式 AI 基礎 什麼是生成式 AI?先搞懂它會做什麼,也會在哪裡出錯
0%
1 / 5 初級 25 分鐘 00:00

什麼是生成式 AI?先搞懂它會做什麼,也會在哪裡出錯

從預測式 AI、基礎模型到多模態與 RAG,用實際工作情境建立生成式 AI 的核心觀念。

2026年3月12日 Updated: 2026年7月14日

一張發票寄進信箱後,我們可能會做三件事:判斷它是不是異常、擷取金額與日期,再寫一封回覆供應商的信。

前兩件事偏向「辨識與預測」,第三件事才是「生成」。這個差別看起來很小,卻會直接影響模型選擇、測試方法,以及上線後該防哪些風險。

這一課先不碰程式碼。我們先把幾個容易混在一起的概念拆開。

預測式 AI 和生成式 AI 差在哪裡?

傳統機器學習常回答的是:

  • 這封信是垃圾郵件嗎?
  • 這筆交易有多大機率是詐騙?
  • 下個月的需求量大約是多少?

模型從既有資料找出規律,再輸出類別、分數或數值。這類工作通常稱為預測式 AI。

生成式 AI 回答的則是:

  • 幫我整理這份會議記錄
  • 根據產品規格草擬客服回覆
  • 把一段需求轉成程式碼或測試案例
  • 依照文字描述產生圖片、語音或影片

它不是從資料庫找一段現成答案貼回來,而是根據輸入與訓練過的模式,逐步產生新的內容。

兩者並不是互相取代。實務上常把它們接在一起:先用模型判斷風險,再讓生成式模型整理理由,最後交給人員確認。

一次看懂生成流程

可以先把生成式 AI 想成這條流程:

提示詞與上下文

基礎模型推論

產生文字、圖片、音訊、影片或程式碼

驗證、引用來源或交由人員覆核

其中有幾個詞會一直出現。

基礎模型

基礎模型(foundation model)是在大量資料上預先訓練的模型。它已經具備通用能力,團隊不必每次都從零訓練。

大型語言模型(LLM)是基礎模型的一種,主要處理語言與程式碼。Gemini 則是多模態模型家族,能處理的輸入不只文字,也可能包含圖片、音訊、影片與 PDF;實際支援範圍仍要看個別模型版本。

Token

模型不會直接用「一句話」來計算,而是先把內容切成 Token。Token 數量會影響三件事:

  • 輸入能放多少內容
  • 回應最多能產生多長
  • API 使用成本

所以把整個知識庫一次塞進提示詞,通常不是好主意。內容越長,不只成本變高,模型也可能更難抓到真正重要的資訊。

上下文窗口

上下文窗口是模型一次能處理的 Token 總量,包含輸入、對話歷史與輸出空間。

窗口很大,不代表什麼都該塞進去。正式系統仍要挑選相關內容、控制對話歷史,並保留足夠的輸出空間。

Transformer

目前主流語言模型多半建立在 Transformer 架構上。你不必先會推導數學公式,但要知道它擅長從上下文判斷詞與詞之間的關係,因此能延續語意、改寫內容,也能根據範例模仿格式。

Embedding

Embedding 會把文字、圖片或其他內容轉成向量。語意相近的內容,在向量空間裡通常也比較接近。

它常被用在語意搜尋與 RAG:先找出與問題最相關的資料,再交給生成模型回答。第五課會把完整流程拆開。

生成式 AI 適合做什麼?

它很適合當「第一版產生器」或「資訊整理助手」,例如:

  • 摘要長文件,列出待確認事項
  • 從客服訊息擷取主題、情緒與產品名稱
  • 根據既定資料草擬回覆
  • 產生程式碼骨架、測試案例或文件初稿
  • 把相同內容改寫成不同受眾能理解的版本

判斷一個需求是否適合導入,可以先問四個問題:

  1. 輸出錯誤時,後果有多大?
  2. 有沒有可靠資料可以核對?
  3. 能不能用規則、測試或人工覆核驗證?
  4. 這項工作真的需要生成內容,還是搜尋與傳統程式就夠了?

低風險、可驗證,而且目前很耗人力的工作,通常比較適合作為第一個導入案例。

它會在哪裡出錯?

生成模型的目標是產生合理的下一段內容,不是保證每句話都是真的。常見問題包括:

  • 內容看起來合理,但事實錯誤:這通常被稱為幻覺。
  • 相同輸入不一定得到完全相同的答案:生成具有機率性。
  • 不知道公司的內部資料:除非你把資料安全地提供給模型,或接上檢索系統。
  • 可能受到惡意指令影響:外部文件或使用者輸入可能藏有 Prompt Injection。
  • 可能輸出敏感或不合規內容:權限、資料遮罩、記錄與人工審核仍然重要。

RAG、結構化輸出與安全防護能降低風險,但沒有任何單一技術能保證答案永遠正確。

Google Cloud 在這張圖裡扮演什麼角色?

先記住三個入口就夠了:

  • Gemini:Google 的多模態模型家族。
  • Vertex AI:在 Google Cloud 上建置、評估、治理與執行 AI 工作負載的平台。
  • Model Garden:瀏覽與選用 Google、合作夥伴及開放模型的入口。

下一課會把這些產品放回實際情境:要快速試 Prompt、呼叫 Gemini、找其他模型,或替企業資料建立搜尋與 Agent,各自該從哪裡開始。

和 Generative AI Leader 認證的關係

Google Cloud 的 Generative AI Leader 認證不要求先有實作經驗,考的也不只是模型名詞。官方目前把內容分成四個領域:

  1. 生成式 AI 基礎
  2. Google Cloud 的生成式 AI 產品
  3. 改善模型輸出的技巧
  4. 商業策略

這門課會依照同一條主線前進,但重點不是背產品清單,而是能說清楚「為什麼選它」以及「怎麼確認結果可信」。

課後檢查

讀完後,你應該能用自己的話回答:

  • 分類詐騙交易和草擬客服回覆,為什麼是不同類型的 AI 任務?
  • Token 與上下文窗口會如何影響成本和答案品質?
  • 哪些工作可以直接讓模型產生初稿,哪些一定要加上驗證或人工覆核?
  • RAG 想解決的是哪一類問題?

下一課會整理 Google Cloud 的產品地圖,並用幾個需求快速判斷該從哪個服務開始。

官方資料

徽章解鎖!