Talk｜北京理工大学陈焕然：损失函数景观与泛化性的关系
公众号：将门创投(thejiangmen)
本期为TechBeat人工智能社区第573期线上Talk。
这次我“门”有幸邀请到，北京理工大学本科生—陈焕然来到TechBeat人工智能社区，为我们分享主题为“损失函数景观与泛化性的关系”，Talk已在TechBeat人工智能社区上线！【点击这里】，即可马上免费观看！
本次Talk中，他介绍了他们在发现loss landscape closeness也和泛化性强相关等相关工作所做的研究。
Talk·介绍
之前我们已经了解到loss landscape的平坦性与泛化性强相关。那么，除了平坦性外，还有什么性质和泛化性有关呢？在这篇工作中，我们发现loss landscape closeness也和泛化性强相关。我们证明了对于任何一个有方差的分布，通过优化closeness，都可以bound住泛化误差。
Talk·信息
嘉宾：北京理工大学本科生 陈焕然
Talk大纲
1、flatness and generalization
2、discovery of closeness
3、theoretical understanding of closeness and generalization
4、methodology
5、application
Talk·预习资料
论文链接：
https://openreview.net/pdf?id=AcJrSoArlh
论文链接：
https://arxiv.org/abs/2309.11751
论文链接：
https://arxiv.org/abs/2209.08473
论文链接：
https://openaccess.thecvf.com/content/CVPR2023/html/Huang_T-SEA_Transfer-Based_Self-Ensemble_Attack_on_Object_Detection_CVPR_2023_paper.html
论文链接：
https://arxiv.org/abs/2308.10743
Talk·嘉宾介绍
陈焕然是北京理工大学三年级本科生在读，主要研究方向为diffusion model, adversarial robustness。在CVPR, ICLR，IJCAI等国际会议上发表论文5篇。提出的CWA攻击可攻破GPT-4，Bard等商用大模型。同时提出了diffusion classifier，即使用一个现成的diffusion model进行鲁棒分类。
个人主页:
https://www.techbeat.net/grzytrkj?id=24692
更多精彩Talk，尽在【持续上新 | Talk合辑】专栏
@将门创投· 让创新获得认可
如果喜欢，别忘了赞同、关注、分享三连哦！~笔芯❤
