你能解释一下VGGNet和ResNet的区别吗?这是人工智能和机器学习领域的一个常见面试问题。虽然答案可以在网上找到，但一直还没能找到一个简明扼要的答案。我们将从什么是VGGNet开始，然后看看VGGNet遇到了什么问题，以及ResNet如何解决它。VGG

从实验到生产，简单快速部署机器学习模型一直是一个挑战。这个过程要做的就是将训练好的模型对外提供预测服务。在生产中，这个过程需要可重现，隔离和安全。这里，我们使用基于Docker的TensorFlow Serving来简单地完成这个过程。TensorFlow

足够深就是网络层数足够深，足够广就意味着不能从传统尺度来解决问题，而应该是多尺度，也就是multi-scale。但是随着网络的深入，一些经典的问题也就随之出现，例如梯度弥散和梯度爆炸。这两种问题都是由于神经网络的特殊结构和特殊求参数方法造成的，也就是链式求

近日，来自德国不来梅大学和加拿大多伦多大学的研究者提出一种新架构——可逆残差网络，可用于分类、密度估计和生成任务。而在此之前，单个架构无法在判别和生成任务上同时取得优秀性能。神经网络模型的一个主要诉求是用单个模型架构解决各种相关任务。然而，最近的许多进展都

和目前普遍的稀疏性诱导、结构化限制相似，神经网络的低秩结构也具有压缩的性质，并在对抗攻击中具备稳健性。在本文中，来自牛津大学计算科学部和阿兰图灵机构的研究者开发了一种新方法，通过在训练过程中引入修正，增强神经网络表征的低秩属性。有趣的是，从奠基性论文 Kr

本文主要介绍了 ResNet 架构，简要阐述了其近期成功的原因，并介绍了一些有趣的 ResNet 变体。在 AlexNet [1] 取得 LSVRC 2012 分类竞赛冠军之后，深度残差网络[2] 可以说是过去几年中计算机视觉和深度学习领域最具开创性的工作

ResNet原始结果无法复现？大神何恺明的经典之作受到了网友质疑，不过何恺明本人现身解答之后，让真理越辩越明。何恺明 2015 年的原始残差网络的结果没有被复现，甚至何恺明本人也没有。网友称，他没有发现任何一篇论文复现了原始 ResNet 网络的结果，或与

Hinton创建的向量学院的研究者提出了一类新的神经网络模型，神经常微分方程，将神经网络与常微分方程结合在一起，用ODE来做预测。不是逐层更新隐藏层，而是用神经网络来指定它们的衍生深度，用ODE求解器自适应地计算输出。2015年横空出世的残差网络ResNe

神经网络难以训练的问题神经网络之所以难以训练，是因为存在着梯度消失的问题，离 loss 函数越远的层，在反向传播的时候，梯度越小，就越难以更新，随着层数的增加，这个现象越严重。ResNet2015 年 ImageNet 比赛上卷积神经网络ResNet大获全

机器不学习 www.jqbxx.com : 深度聚合机器学习、深度学习算法及技术实战五、ResNet. ResNet，深度残差网络，在top-5上的错误率为3.6%，是2015年ILSVRC的冠军，其网络结构如下所示：。如上图所示，这个网络的提出本质上还是

resnet_v1: Deep Residual Learning for Image RecognitionConv--> bn--> relu. bottleneck结构如下： {because of concerns on the t