金翅导读

 深度学习在各种任务的预测建模方面取得了许多最新进展,但是公众仍然对神经网络的非直觉化泛化行为感到震惊,例如记忆标签改组数据的能力和对抗示例的脆弱性。为解释神经网络的泛化行为,目前已逐步取得了许多理论突破,包括研究随机梯度下降的性质,不同的复杂性度量,泛化差距,以及来自不同方面的更多信息模型或算法的观点。

  本次分享一个基本的图像重建场景,其中包括降低低频语义分量和根据阈值半径进行高低频划分等方法。通过实验验证了学者们对于频率分量影响CNN模型优化的结论,其中发现了人类对于图像分类的基本过程与CNN是有所差异的。因此,观察结果导致了与CNN泛化行为相关的多种假设,包括对对抗性示例的潜在解释,对CNN鲁棒性和准确性之间的权衡的讨论,以及引用了一些国内外论文对于高等图像重建方法优化的实验。

往期 · 推荐