视频选集
讲座标题（英文）：Diffusion Models are (Certifiably) Robust Classifiers
讲座摘要：扩散模型已经在生成领域大红大紫。在本系列工作中，我们发现，扩散生成模型无需任何训练，即为一个鲁棒的判别模型，展示了生成模型与判别模型的对偶性。我们证明了扩散模型的ELBO具有O(1)的Lipschitzness，由此给出了扩散模型与扩散分类器的鲁棒性下界。最后，我们将这套理论分析拓展到了扩散模型以外的模型上。对于任意平滑分布与（有界的）神经网络，平滑后的函数的鲁棒性下界都可转化为分数背包问题或0-1背包问题进行求解。
有趣的结论包括：
RGB空间的扩散模型，不可能被Lp的对抗样本攻击、不可能被基于优化的方法数据投毒、不可能做基于优化的数据蒸馏。
当原始模型是有界函数时，平滑后的模型的鲁棒性下界可以被分数背包的贪心算法求解。当原始模型是二值函数时，平滑后的模型的鲁棒性下界可以通过0-1背包的动态规划算法得到更紧的解。
当扩散模型、MaskGen、自回归模型达到相同的干净准确率时，扩散模型的鲁棒性下界严格大于MaskGen大于自回归模型。
讲者信息：陈焕然，清华大学人工智能学院2025级直博生，导师为朱军教授。他热爱机器学习理论研究，特别关注理论指导的机器学习实践。主页：huanranchen.github.io.
相关工作：
Robust Classification via a Single Diffusion Model
https://proceedings.mlr.press/v235/chen24k.html
Diffusion Models are Certifiably Robust Classifiers
https://proceedings.neurips.cc/paper_files/paper/2024/hash/59a3444d39b97ba01a17994f938e1ccc-Abstract-Conference.html
Towards the Worst-case Robustness of Large Language Models