人工智慧跨域資安之應用

臺北科技大學 114-2 學期課程，課號 354736。

課程大綱

人工智慧的技術不斷地推陳出新及影響、應用於各領域，特別是資訊安全的相關應用，對於真實世界的影響甚鉅。本課程旨在探討人工智慧在跨域資安上的應用。將帶領學生深入探討人工智慧（AI）與機器學習（ML）技術在資訊安全領域的雙面刃特性，期望學生修畢本課程後能達成以下目標：1.掌握核心概念：理解人工智慧、機器學習技術的基礎，及其應用於資訊安全領域的基本原理。2.建構防禦能力（AI for Security）：學習如何運用 AI 技術開發或強化資安防護機制，包含惡意程式偵測、網路入侵偵測（NIDS）、以及使用者行為分析（UEBA）。3.理解新型威脅（Security of AI）：認識針對 AI 模型本身的攻擊手法（如對抗性攻擊、資料下毒、模型萃取），並學習對應的防禦與強健性（Robustness）提升策略。4.探索生成式 AI 的資安衝擊：評估大型語言模型（LLMs）在自動化社交工程攻擊、程式碼漏洞挖掘上的風險，以及如何利用生成式 AI 輔助資安維運（SecOps）。5.具備實務動手能力：透過開源工具與實機操作（Lab），具備運用 Python 及 ML 框架解決基礎資安問題的實作能力。

課程進度

1-課程導論與現代資安威脅地貌 2-AI 資安核心技術 3-分組確認與題目指定 (Kick-off) 4-紅軍/藍軍領域知識深潛 (Domain Knowledge) 5-資料蒐集、清洗與前處理 6-初始模型建構 (Base Model Development) 7-模型評估指標與系統封裝準備 8-期中報告 (Midterm Presentation) 9-對抗環境建置 (Engagement Setup) 10-基準測試 (Baseline Attack) 11-戰情檢討與防禦升級 (Defense Upgrade) 12-進階對抗 (Advanced Attack) 13-可解釋性 AI (XAI) 與盲點分析 14-應用程式化與視覺化介面 (UI/UX) 15-內部壓力測試與期末整備 16-期末專題發表 (Part 1 - 攻防實境) 17-期末專題發表 (Part 2 - 攻防實境) 18-AI資安應用技術、倫理探討與課程總結

評量方式

期末專案實作

教材

【遵守智慧財產權觀念，請使用正版教科書，不得使用非法影印教科書】 使用外文原文書：否 自編教材/Use of self-made materials