向量搜尋與嵌入技術

課程概述

智慧搜尋、推薦系統和 RAG 經常用到向量搜尋（Vector Search）與嵌入（Embedding），但把資料轉成向量並不代表搜尋就會自動變準。這堂課先建立語義距離的直覺，再帶你看切片、模型、索引、篩選與評估怎麼一起影響最後結果。

你將學到

• 解釋 Embedding 的數學直覺：高維空間中的語義距離
• 比較文字 Embedding、圖片 Embedding 與多模態 Embedding 的差異
• 使用 Vertex AI Embeddings API 將文字轉換為向量
• 建構基於 Vertex AI Vector Search 的近似最近鄰搜尋系統

核心概念

為什麼需要 Embedding？

只靠關鍵字匹配時，你搜尋「如何退款」，可能漏掉標題寫成「申請退費流程」的文件。Embedding 會把內容映射成向量，讓意思相近、用字不同的內容在向量空間裡靠得比較近。不過語意搜尋也可能找回「看起來相關、其實不能回答」的段落，所以正式系統通常會把關鍵字、向量、中繼資料篩選與重新排序搭配使用。

Embedding 的維度與模型

不同 Embedding 模型會產生不同長度的向量。gemini-embedding-001 預設為 3072 維，也能透過 output_dimensionality 指定較短的輸出；向量越短，通常越省儲存與查詢成本，但是否影響召回品質，得用自己的查詢集實測。最重要的是文件與查詢要使用相容的模型、維度與前處理設定，不能只改查詢端就期待舊索引照常運作。實作方式可參考官方 Embedding 文件。

向量相似度的計算

衡量兩個向量有多像，常見方法有三種。**餘弦相似度（Cosine Similarity）**比較方向，**歐幾里得距離（L2 Distance）**比較直線距離，**內積（Dot Product）**則同時受到方向與向量大小影響。不能看到大家常用 Cosine 就直接照抄，索引端和查詢端必須採用一致、且符合模型建議的距離方式。

Vertex AI Vector Search 架構

Vertex AI Vector Search 是 Google Cloud 的代管向量搜尋服務。傳統架構常見的元件包括 Index（存放與組織向量）、Endpoint（承接線上查詢）和 Approximate Nearest Neighbor（ANN，近似最近鄰）。ANN 用部分召回精度換取查詢速度與規模，但不是調完一個參數就結束，還要一起測 Top-k、篩選條件、延遲與實際查詢命中率。2026 年推出的 Vector Search 2.0 也加入 Collection、自動 Embedding、混合搜尋與內建重新排序等能力；實作舊 Lab 時要留意介面與新版本不完全相同。

實作重點

• 使用 Embeddings API 將一組中文句子轉成向量，確認文件與查詢採用相同的模型與維度
• 建立一個小型的 Vector Search Index，載入自己的文件資料
• 比較精確搜尋（Brute-force）與近似搜尋（ANN）在速度與準確度上的差異
• 設計 Embedding 更新策略：資料或模型版本變動時，如何標記版本、重建索引並安全切換

Lab 導讀

Lab 連結：Vector Search and Embeddings — Google Cloud Skills Boost

這個 Lab 會用 Embeddings API 產生向量，再建立 Vector Search 索引跑語意搜尋。操作時除了等索引完成，也要記下模型、維度、距離方式與資料版本，否則結果有問題時很難追。測驗重點通常放在 Embedding、相似度，以及 ANN 和精確搜尋的取捨；實務上還要多補一份固定查詢集，才知道調整後究竟有沒有變好。

延伸學習

• Gemini 多模態 RAG 文件檢索 — Vector Search 在 RAG 架構中的核心應用
• GenAI 基礎概念解鎖 — 回顧 Embedding 的基礎概念
• RAG 架構 — 登雲學院 GenAI Leader 課程的 RAG 專題