生成式 AI 不只會聊天

課程概述

生成式 AI 不一定要做成聊天視窗。寫摘要、協助程式開發、整理資料或串接工作流程，都是可能的用法。這篇從幾個常見任務出發，看看什麼時候值得加上模型，又該怎麼判斷它有沒有真的幫上忙。

你將學到

• 列舉生成式 AI 在企業中的六大應用場景
• 評估不同應用場景的投資報酬率與風險
• 理解「Human-in-the-Loop」設計模式在企業 GenAI 中的重要性
• 識別將 GenAI 從概念驗證推向正式上線的關鍵成功因素

核心概念

GenAI 的六大企業應用場景

1. 內容生成與摘要：自動產生報告、摘要文件、行銷文案，大幅縮短內容產出時間
2. 程式碼輔助：程式碼補全、Bug 偵測、測試生成、文件撰寫，減少查資料和重複撰寫的時間
3. 對話式介面：客服自動化、內部知識庫問答，但要超越簡單 FAQ 達到真正的問題解決
4. 資料分析與洞察：自然語言查詢資料庫、自動產生分析報告與視覺化建議
5. 流程自動化：文件處理、表單提取、工作流程編排，處理非結構化資料的自動化
6. 創意設計：圖片生成、影片腳本、產品設計原型，加速創意發想流程

為什麼 PoC 過了，還是上不了線？

很多企業的 GenAI 計畫在概念驗證（PoC）時看起來很順，真的要交給使用者卻卡住了。常見原因包括：一開始沒訂成功指標、把 Demo 的幾筆好結果當成整體品質、忽略權限和資料品質，也沒安排出錯時誰來接手。要跨過這段落差，除了模型能不能用，還要把成本、營運、責任分工和使用者流程一起想清楚。

Human-in-the-Loop 設計模式

在企業環境裡，不是所有 GenAI 流程都適合全自動。Human-in-the-Loop（HITL）的重點也不是每一步都叫人按同意，而是把人放在真正有風險的關卡：例如付款、對外寄信、變更權限或影響客戶權益之前。低風險、可回復的步驟可以先自動化；高影響或模型信心不足時，再轉給有權限的人處理。

%%{init: {"flowchart": {"curve": "linear", "nodeSpacing": 24, "rankSpacing": 32}}}%%
flowchart TB
  subgraph DEFINE["① 定義任務"]
      direction LR
      TASK["先定義輸入、輸出<br/>以及成功標準"] --> REPEAT{"任務會重複出現，<br/>規則也說得清楚嗎？"}
  end
  REPEAT -->|"否"| ASSIST["先讓 AI 協助找資料或起草<br/>由人完成主要判斷"]
  REPEAT -->|"是"| DAMAGE{"出錯會直接影響金錢、權利、<br/>客戶或外部系統嗎？"}
  DAMAGE -->|"會"| APPROVAL["AI 準備建議與證據<br/>由授權人員核准後執行"]
  subgraph RISK["② 判斷風險"]
      direction LR
      DAMAGE -->|"不會"| REVERSIBLE{"結果可驗證，<br/>而且動作可以回復嗎？"}
  end
  REVERSIBLE -->|"否"| APPROVAL
  REVERSIBLE -->|"是"| BASELINE{"已有品質門檻、監控<br/>與失敗處理方式嗎？"}
  subgraph CONTROL["③ 建立控制"]
      direction LR
      BASELINE -->|"還沒"| PILOT["小範圍試跑，建立基線<br/>並記錄錯誤類型"]
      PILOT -.-> BASELINE
      BASELINE -->|"有"| AUTO["在限制範圍內<br/>自動執行"]
      AUTO --> MONITOR["持續抽查；超過門檻<br/>就停止並轉人工"]
  end

衡量 GenAI 的商業價值

算 GenAI 的投資報酬率時，除了工具、推論和維運成本，也要一起看處理時間、錯誤率、返工次數、使用率，以及同事是不是少做了重複性的雜事。最重要的是先留下導入前的基線，不然上線後只知道大家「感覺變快」，很難說清楚到底改善了多少。

實作重點

• 針對你所屬的產業，列出三個最有價值的 GenAI 應用場景並排序
• 思考每個場景中模型出錯的最壞後果，據此決定 HITL 審核的嚴格程度
• 建立一個簡單的評估矩陣：橫軸為商業影響力，縱軸為技術實作難度
• 了解 Google Cloud 的 Industry Solutions 中有哪些現成的 GenAI 解決方案

課程導讀

課程連結：Gen AI: Beyond the Chatbot — Google Skills

這門課是 Gen AI Leader 學習路徑的第一門，課程頁列出的活動是一段導言影片、互動教材和小測驗，沒有實作 Lab。三個單元依序是生成式 AI 對企業的意義、基礎模型與 Prompt Engineering，以及怎麼訂出 gen AI 策略，中間穿插兩個使用案例。讀的時候不要只記住單一案例，更重要的是歸納出通用的應用模式跟成功要素；可以帶著這個問題去看：自己手上的場景適不適合用 GenAI，又該怎麼挑策略？

延伸學習

• GenAI 基礎概念解鎖 — 鞏固 GenAI 的技術基礎
• GenAI 應用轉化工作模式 — 深入了解 GenAI 如何改變日常工作
• 建構 GenAI 應用 — 從策略走向實作