擴散模型：生成式AI模型的理論、應用與代碼實踐

第1章AIGC與相關技術
1.1AIGC簡介
1.2擴散模型簡介

第2章擴散模型基礎
2.1去噪擴散概率模型
2.2基於分數的生成模型
2.3隨機微分方程
2.4擴散模型的架構

第3章擴散模型的高效採樣
3.1微分方程
3.2確定性採樣
3.2.1SDE求解器
3.2.2ODE求解器
3.3基於學習的採樣
3.3.1離散方式
3.3.2截斷擴散
3.3.3知識蒸餾

第4章擴散模型的似然最大化
4.1似然函數最大化
4.2加噪策略優化
4.3逆向方差學習
4.4精確的對數似然估計

第5章將擴散模型應用於具有特殊結構的資料
5.1離散數據
5.2具有不變性結構的資料
5.3具有流形結構的資料
5.3.1流形已知
5.3.2流形未知

第6章擴散模型與其他生成模型的關聯
6.1變分自編碼器與擴散模型
6.2生成對抗網路與擴散模型
6.3歸一化流與擴散模型
6.4自回歸模型與擴散模型
6.5基於能量的模型與擴散模型

第7章擴散模型的應用
7.1無條件擴散模型與條件擴散模型
7.2電腦視覺
7.2.1圖像超解析度、圖像修復和圖像翻譯
7.2.2語義分割
7.2.3視頻生成
7.2.4點雲補全和點雲生成
7.2.5異常檢測
7.3自然語言處理
7.4時間資料建模
7.4.1時間序列插補
7.4.2時間序列預測
7.5多模態學習
7.5.1文本到圖像的生成
7.5.2文本到音訊的生成
7.5.3場景圖到圖像的生成
7.5.4文本到3D內容的生成
7.5.5文本到人體動作的生成
7.5.6文本到視頻的生成
7.6魯棒學習
7.7跨學科應用
7.7.1人工智慧藥物研發
7.7.2醫學影像

第8章擴散模型的未來——GPT及大模型
8.1預訓練技術簡介
8.1.1生成式預訓練和對比式預測練
8.1.2並行訓練技術
8.1.3微調技術
8.2GPT及大模型
8.2.1GPT-1
8.2.2GPT-2
8.2.3GPT-3和大模型
8.2.4InstructGPT和ChatGPT
8.2.5VisualChatGPT
8.3基於GPT及大模型的擴散模型
8.3.1演算法研究
8.3.2應用範式
相關資料說明

楊靈
北京大學博士在讀，研究興趣是機器學習和生成式AI，作為第一作者在ICML、CVPR等人工智慧頂會、頂刊發表過多篇論文，長期擔任TPAMI、ICML、NeurIPS、CVPR、KDD、AAAI等多個頂級學術會議或期刊的程式委員會成員、審稿人。現與OpenAI、斯坦福大學等AI研究機構進行長期的科研合作。曾獲北京大學國家獎學金、學術創新獎、三好學生等獎項。

張至隆
北京大學碩士在讀，本科畢業於北京大學數學科學學院，研究興趣是擴散模型。曾獲北京大學國琴獎學金、優秀畢業生、三好學生等獎項。

張文濤
蒙特利爾學習演算法研究所（Mila）博士後研究員。博士畢業于北京大學電腦學院，師從崔斌教授。研究興趣為大規模圖學習，作為第一作者在機器學習、資料採擷和資料庫等領域發表論文10餘篇。曾獲Apple PhD Fellowship、WAIC雲帆獎和北京大學優秀博士學位論文等獎項。

崔斌
北京大學電腦學院教授、博士生導師、北京大學電腦學院副院長。擔任中國電腦學會資料庫專委會副主任，VLDB理事會理事，IEEE TKDE、VLDB Journal、DAPD等國際期刊編委。中國電腦學會傑出會員、IEEE高級會員、ACM會員，2016年入選教育部長江學者特聘教授。