深度學習

臺北科技大學 114-2 學期課程，課號 357304。

課程大綱

課程簡介 本課程旨在引導研究所學生系統性地掌握深度學習的核心理論與實務技能。課程從神經網路的數學基礎出發，逐步深入卷積神經網路（CNN）、循環神經網路（RNN）、Transformer、生成對抗網路（GAN）及深度強化學習等主流架構，並透過金融領域的真實案例，培養學生解決實際問題的能力。 課程學習目標 修習本課程後，學生將能夠： 1 理解深度學習的數學基礎：掌握機率統計概念。 2 深入理解核心模型架構：包括 CNN、RNN、LSTM、Transformer、GAN 等模型的原理與適用場景。 3 具備模型訓練與調校能力：熟悉損失函數、優化器、正則化技術，並能診斷與解決過擬合等常見問題。 4 應用深度學習解決真實問題：能針對金融風控、時間序列預測、自然語言處理等領域，設計並實作深度學習解決方案。 5 完成專案開發與佈署：從問題定義、資料處理、模型訓練到部署，具備完整的專案執行能力。

課程進度

第一部分：基礎建構 Week 1: 2/27放假 Week 2: 3/6 深度學習導論與開發環境 - 理解深度學習的發展脈絡與應用領域； - 建置 Python 開發環境（Colab/VS Code） - 深度學習 vs. 機器學習、監督式/非監督式/強化學習、神經網路發展史 Week 3: 3/13 數據處理與特徵工程 (作業1) - 執行資料前處理、特徵工程與探索性資料分析（EDA） - 特徵標準化、缺失值處理、One-hot Encoding - 資料不平衡處理（SMOTE、Class Weight） -KDD 流程 Week 4: 3/20 神經網路基礎 (作業2) - 理解神經網路的運作原理，並能手動推導反向傳播 - 感知器（Perceptron）、多層感知機（MLP）、 - 啟動函數（ReLU、Sigmoid、Tanh）、前向傳播、反向傳播演算法 Week 5: 3/27 模型訓練與優化 (作業3) - 選擇適當的損失函數與優化器，並診斷訓練問題 - 損失函數（交叉熵、MSE）、梯度下降（SGD）、Adam 優化器 - 學習率調整、過擬合與正則化（Dropout、Early Stopping、L1/L2） 第二部分：核心深度學習模型 Week 6: 4/3 放假 Week 7: 4/10 卷積神經網路（CNN）原理 (作業4) - 理解 CNN 如何提取影像特徵，並實作影像分類任務 - 卷積運算（Kernel、Stride、Padding）、池化層（Max/Average Pooling） -特徵圖（Feature Map）、參數共享、平移不變性、Batch Normalization Week 8: 4/17 CNN 進階架構與遷移學習 (作業5) - 分析經典 CNN 架構的設計理念，並應用遷移學習 -VGG、ResNet（殘差連接、Skip Connection）、梯度消失問題 - 遷移學習（Transfer Learning）、Fine-tuning -資料增強（Data Augmentation） Week 9: 4/24 循環神經網路（RNN）與序列模型 (作業6) - 理解序列資料的建模方式，並實作時間序列預測 序列建模 - RNN 記憶機制、梯度消失/爆炸問題 -LSTM（遺忘門、輸入門、輸出門） - GRU、時間序列預測 Week 10: 5/1 勞動節放假 Week 11: 5/8 注意力機制與 Transformer (作業7) - 理解 Self-Attention 機制與 Transformer 架構 -注意力機制（Attention）、Self-Attention、Multi-Head Attention -位置編碼（Positional Encoding）、Transformer（Encoder-Decoder） -Word Embeddings Week 12: 5/15 生成對抗網路（GAN） (作業8) - 理解 GAN 的對抗訓練機制，並實作影像生成 - 生成器（Generator）、判別器（Discriminator） - 對抗訓練（Adversarial Training）、Min-Max Game、Mode Collapse、DCGAN Week 13: 5/22 深度強化學習導論 (作業9) - 理解強化學習的基本框架與深度強化學習方法 - 強化學習三要素（Agent、Environment、Reward） -馬可夫決策過程（MDP）、Q-Learning、Deep Q-Network（DQN） - Policy Gradient 第三部分：專題實作 Week 14: 5/29 專題提案與規劃 (Project 10%) - 定義問題、選擇適當模型架構、規劃專案時程 - 問題定義、技術選型、資料集評估、基準模型（Baseline） Week 15: 6/5 模型優化與評估 - 執行超參數調校，並使用多元指標評估模型效能 - 超參數調校（Hyperparameter Tuning）、Grid Search、Random Search -模型評估指標（Accuracy、Precision、Recall、F1-Score、AUC-ROC、Confusion Matrix） Week 16: 6/12 期末專案發表 (Project 20%) - 展示專案成果、接受評審提問、反思學習歷程 -技術簡報、成果展示、同儕互評、學習歷程反思 Week 17: 6/19 端午節放假 Week 18: 6/26 演講(線上)

評量方式

Grade: - Assignment (colab) 45% - Financial Data analytics Project 35% - 上課參與互動 10%

教材

【遵守智慧財產權觀念，請使用正版教科書，不得使用非法影印教科書】 使用外文原文書：否 python colab NotebookLM