揭秘深度学习成功的数学原因:从全局最优性到学习表征不变性

  • 时间:
  • 浏览:0
  • 来源:uu快3游戏_uu快3计划_苹果版

摘要:近期宽度架构用于表征学习和分类后来,识别系统的性能获得了巨大提升。然而,一种生活 成功的数学导致 依然不得而知。本文将回顾近期研究,为宽度网络的若干属性,如全局最优性、几何稳定性、学习表征不变性,提供一有三个小 数学证明。

1. 引言

论文:Mathematics of Deep Learning

近年来,宽度学习大获成功,尤其是卷积神经网络(CNN)在图像识别任务上的突出表现。然而,一种生活黑箱的发生,一种生活 成功一度让机器学习理论学家颇感不解。本文的目的正是要揭示宽度学习成功的奥秘。通过围绕着宽度学习的一有三个小 核心要素——架构、正则化技术和优化算法,并回顾近期研究,作者为宽度网络的若干属性,如全局最优性、几何稳定性、学习表征不变性,提供了一有三个小 数学证明。

论文链接:https://arxiv.org/abs/1712.04741

宽度网络 [1] 是在输入数据