![]()
導語
集智俱樂部、集智學園創始人,北京師范大學張江教授開設了,致力于打破學科壁壘,將復雜系統與人工智能深度融合。從神經網絡到因果推斷,從世界模型到多尺度建模,甚至包含最前沿的“氛圍編程(Vibe Coding)”實戰,帶你親手落地AI項目。
作為系列課程的第七講,張江教授將以「AIGC背后的生成模型系統梳理:從動機、數學原理到訓練邏輯」為題,系統講解GAN、VAE、歸一化流、擴散模型與CLIP五大范式的數學原理,弄清各模型訓練目標為何不同,并延伸至圖結構數據的生成方法,覆蓋圖像生成與圖生成兩條主線。正式分享將于4月20日(周一)13:30-16:15騰訊會議線上直播,北師大海淀區線下授課(助教可協助入校)。
課程簡介
DALL-E 2、Stable Diffusion 背后的生成機制是什么?本節課程將給出系統性的回答。
課程以一個問題作為主軸:生成模型能否精確計算數據分布 p(x)?這個問題的答案,決定了各模型訓練目標為何不同,例如Normalizing Flow 直接最大化似然,VAE 退而優化變分下界,GAN 繞開 p(x) 改用對抗損失,擴散模型則通過逐步去噪學習數據分布。沿此邏輯,課程依次講解 GAN、VAE、歸一化流、擴散模型、CLIP 五個范式,最后延伸至圖生成與分子/蛋白質結構生成應用。
學完這門課,你能掌握不同生成模型各自的數學原理、訓練目標和適用場景,以及如何將圖像生成的工具遷移到圖結構數據上。
課程大綱
生成模型基礎
AIGC應用全景:文本生圖、文本生視頻、分子生成
生成模型分類框架
生成對抗網絡(GAN)
對抗訓練目標(min-max)與生成器-判別器架構
條件GAN、pix2pix與CycleGAN
變分自編碼器(VAE)與歸一化流
ELBO推導、KL散度與重參數化技巧
可逆變換與Jacobian行列式:RealNVP、Neural ODE
擴散模型
DDPM:前向加噪與逆向去噪(U-Net參數化)
隨機微分方程統一框架
CLIP與文本驅動圖像生成
對比預訓練:4億圖文對與零樣本推理
DALL-E 2:CLIP先驗 + 擴散解碼器
圖生成
經典隨機圖模型與深度生成方法對比
GraphRNN(序列生成)與Graph Normalizing Flow(一次性生成)
分子圖與蛋白質結構生成應用
關鍵術語
ELBO(證據下界):VAE訓練目標,用可計算下界代替難以直接優化的對數似然
重參數化技巧:將隨機采樣改寫為確定性變換加噪聲的形式,使梯度能反向傳播通過采樣步驟
Jacobian行列式:歸一化流中用于計算變量變換后概率密度縮放因子的矩陣行列式
分數匹配(Score Matching):通過最小化模型分數函數與真實分數函數之差來訓練模型,無需計算歸一化常數
隨機微分方程(SDE):將擴散前向過程(數據→噪聲)和逆向生成過程(噪聲→數據)統一表達的連續時間框架
Classifier Guidance:將分類器的梯度注入擴散模型的逆向過程,引導生成滿足特定條件的樣本
GraphRNN:將圖分解為BFS節點序列,用RNN自回歸逐節點生成邊連接關系的模型
GRevNets(可逆圖神經網絡):將RealNVP耦合層設計遷移到圖數據,實現節點特征的可逆變換以支持精確似然計算
課程信息
課程主題:大語言模型的推理機制與自指
課程時間:2026年4月20日(周一) 13:30-16:15
課程形式:騰訊會議(會議信息見群內通知)/北師大海淀區線下授課(助教可協助入校);集智學園網站錄播(3個工作日內上線)
課程主講人
張江,北京師范大學系統科學學院教授,集智俱樂部、集智學園創始人,集智科學研究中心理事長,曾任騰訊研究院、華為戰略研究院等特聘顧問。主要研究領域包括因果涌現、復雜系統分析與建模、規模理論等。
個人主頁:https://jake.swarma.org/
課程適用對象
理工科背景高年級本科生
理工科背景碩士、博士研究生
報名須知
1. 課程形式:
參與方式:付費學員可參與騰訊會議直播/北師大海淀區線下授課(助教可協助入校)
授課形式:
平時:課堂討論與內容共創
結課:項目匯報
2. 課程周期:2026年3月2日-2026年6月22日,每周一 13:30-16:15進行。
3. 課程定價:399元
課程鏈接:https://campus.swarma.org/v3/course/5684?from=wechat
付費流程:
課程頁面添加學員登記表,添加助教微信入群;
課程可開發票。
課程共創任務:課程字幕
為鼓勵學員深度參與、積極探索,我們致力于形成系列化知識傳播成果,并構建課程知識共建社群。為此,我們特別設立激勵機制,讓您的學習之旅滿載收獲與成就感。
課程以老師講授為主,每期結束后,助教會于課程群內發布字幕共創任務。學員通過參與這些任務,不僅能加深對內容的理解,還可獲得積分獎勵。積分可兌換其他讀書會課程或實物獎品,助力您的持續成長。
推薦課程
參考課程
吳恩達:Build with Andrew https://www.deeplearning.ai/courses/build-with-andrew/
Jure Leskovec: Machine Learning with Graphs, StanfordCS224W.https://www.youtube.com/playlist?list=PLoROMvodv4rPLKxIpqhjhPgdQy7imNkDn
Steve Brunton: Data Driven Science and Engineering, University of Washingtonhttps://www.youtube.com/playlist?list=PLMrJAkhIeNNRpsRhXTMt8uJdIGz9-X_1-
Karthik Duraisamy: DATA-DRIVEN ANALYSIS AND MODELING OF COMPLEX SYSTEMS, Michigen institute for computational discovery and engineering, Michigen University.https://micde.umich.edu/academic-programs-old/data-driven-course/
Sergey Levine: Deep Reinforcement Learning, CS 285 at UC Berkeley.http://rail.eecs.berkeley.edu/deeprlcourse/
【集智學園網站資源】
對復雜系統連續變化自動建模——Neural Ordinary Differential Equations解讀https://campus.swarma.org/course/2046
復雜網絡自動建模在大氣污染中的應用https://campus.swarma.org/course/1998
兩套因果框架深度剖析:潛在結果模型與結構因果模型https://campus.swarma.org/course/2526
穩定學習:發掘因果推理和機器學習的共同基礎https://campus.swarma.org/course/2323
因果強化學習https://campus.swarma.org/course/2156
張江:因果與機器學習能夠破解涌現之謎嗎https://campus.swarma.org/course/4540
因果涌現理論提出者:Erik Hoel主題報告https://campus.swarma.org/course/4317
如何從數據中發現因果涌現——神經信息壓縮器https://campus.swarma.org/course/4874
標準化流技術簡介https://campus.swarma.org/course/1999
帶隱狀態的強化學習世界模型https://campus.swarma.org/course/4848
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.