課程名稱：

地端AI系統整合實作

 課程英文名稱： Practical On-Premise AI System Integration
教學目標：
一、 核心認知與技術原理解析
本課程旨在引導學生奠定前沿人工智慧素養，深刻理解大型語言模型（LLM）之底層架構演進，包括序列模型（Seq2Seq）、編碼與解碼機制，以及模型內部狀態向量（State Vectors）之動態關聯原理，進而破除技術黑盒子。

二、 私有數據驅動之模型客製化能力
培養學生具備企業級數據增強與客製化工程之決策思維。使學生能精確辨析並掌握核心擴充技術，包含「基於 Unsloth 與 LoRA 架構之輕量化參數微調（Fine-Tuning）」以及「基於 ChromaDB 向量資料庫之檢索增強生成（RAG）」，藉由導入個人或企業私有數據，打造具備市場差異化競爭力之智慧服務。

三、 地端系統整合與工程實踐實務
著重端到端的實作體驗（Hands-on Experience）。學生將親自於地端環境（Ollama）進行開源模型（Gemma）之部署，整合 LangChain 建構全方位的資安防護與護欄（Guardrails）系統，實踐從環境配置、數據清洗、模型微調、知識檢索到安全防禦之完整系統建置流程。

四、 金融科技場景應用與商業決策
貫徹商管學院「學以致用」之精神，透過金融服務專題實作，訓練學生評估地端 AI 系統之建置成本、資安合規性與商業投資報酬率（ROI），並將工程技術轉化為可落地之商業價值提案，培養具備科技落地能力的跨領域管理人才。
教材大網：
人工智慧素養與深度學習基礎架構 現代經理人必備之人工智慧素養與商業決策思維
傳統機器學習基於數據特徵之預測與分類邏輯
深度學習多層神經網路之特徵自主提取機制
教學參考節數: 3
備註:AI, ML, Deep Learning
序列模型基礎與語言模型演進 序列轉換任務中之編碼器與解碼器架構角色
機器翻譯與文本生成之基本工作原理
模型推理階段之預測生成機制與限制
教學參考節數: 3
大語言模型動態機制與地端雲端實戰體驗 雲端大語言模型與地端開源模型之部署體驗
模型內部狀態向量之脈絡理解與動態關聯原理靜態空間嵌入向量與動態生成機制之本質差異
教學參考節數: 6
備註:LLM, Ollama, Gemma
大語言模型微調技術與地端模型客製化實戰 模型微調與檢索增強生成之企業應用場景與決策差異
低秩適應微調技術之參數優化與記憶體節省原理
輕量化微調框架之文檔格式準備與訓練流程演練
客製化地端模型之權重合併與推理生成效果評估
教學參考節數: 6
備註:Fine Tuning, LoRA, Unsloth
檢索增強生成架構與向量資料庫應用實務 檢索增強生成之系統元件與知識庫外部擴充機制
文本分塊策略與靜態嵌入空間向量轉換原理
向量資料庫之相似度檢索與上下文資訊拼接實務
端到端知識檢索系統建置與依存性評估指引
教學參考節數: 6
備註:RAG, chromaDB
大語言模型安全防護機制與地端防禦鏈建置實務 企業大語言模型應用之安全資安風險與攻擊手法態樣
提示詞注入與越獄攻擊之防範策略與系統提示詞設計
護欄框架於地端環境之輸入檢驗與輸出審查鏈路
實作敏感資訊遮蔽與惡意內容攔截之端到端安全防線測試
教學參考節數: 6
備註:LangChain
地端大語言模型整合應用與金融服務專題實作 金融科技創新應用場景定義與法規合規性評估
客製化語調微調與知識庫檢索架構之系統動態整合
金融高敏感數據之資安防護與提示詞劫持防禦測試
概念驗證系統之商業價值提案與綜合成果演繹
教學參考節數: 6
 

基本素養能力圖

A. G. 國際視野B. G. 博雅素養
C. G. 公民素養D. G. 溝通合作
E. G. 生涯發展F. G. 資訊應用
G. G. 問題解決H. G. 創新跨域
I. G. 國際視野J. G. 博雅素養
K. G. 公民素養L. G. 溝通合作
M. G. 生涯發展N. G. 資訊應用
O. G. 問題解決P. G. 創新跨域

系科專業能力圖

A. 團隊合作與溝通能力B. 職場倫理與道德素養
C. 創新思考與問題解決能力D. 資訊科技應用能力
E. 基礎金融能力F. 基礎財務能力
G. 理財規劃能力H. 投資分析能力
I. 財會與內控稽核能力J. 團隊合作與溝通能力
K. 職場倫理與道德素養L. 創新思考與問題解決能力
M. 資訊科技應用能力N. 基礎金融能力
O. 基礎財務能力P. 理財規劃能力
Q. 投資分析能力R. 財會與內控稽核能力

授課形式分析圖

A. 理論講述與討論B. 個案分析或作品賞析
C. 行動實作與報告