想要优化自己的神经网络，却不知道哪种优化器更适合自己？又或者，想知道深度学习中梯度下降的算法到底都有哪些？现在，最全面的优化算法分析来了。它整理了自1964年以来，几乎所有的优化方法，将它们进行了分类。此外，它还给出了几种基准测试方法，并用它分析了1344

谷歌翻译大家想必都不陌生，但你有没有想过，它究竟是如何将几乎所有的已知语言翻译成我们所选择的语言？本文将解开这个谜团，并且向各位展示如何用长短期记忆网络构建语言翻译程序。第一部分简单介绍神经网络机器翻译和编码器-解码器结构。什么是机器翻译？在机器翻译领域，

鱼和熊掌我都要！BAIR公布神经支持决策树新研究，兼顾准确率与可解释性。然而，深度神经网络缺乏可解释性也是出了名的，这就带来了一种矛盾。决策树是一种用于分类的经典机器学习方法，它易于理解且可解释性强，能够在中等规模数据上以低难度获得较好的模型。之前很火的微

卷积神经网络是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。它包括卷积层和池化层。特征提取简言之就是，在原始输入上一个小区域一个小区域进行特征的提取，稍后细致讲解卷积的计算过程。右边的小方块是filter，

在相同准确率下，实际参数量的压缩，相对之前方法最大可以提高超120倍。这就是滴滴实习生提出的自动结构化减枝压缩算法框架带来的性能提升，名为AutoCompress。在CIFAR和ImageNet数据集的大量测试表明，AutoCompress的效果显著超过各

本文属于个人观点，跟本人在职公司的立场无关。由于最近 GitHub 服务器在国内访问速度严重变慢，虽然经过大幅度压缩尺寸，文中的图片仍然可能需要比较长时间才能加载。这篇文章揭示了 AI 领域重要的谬误和不实宣传，为了阻止愚昧的蔓延，我鼓励大家转发这篇文章和

伦敦帝国理工学院的研究人员开发了一种基于AI的软件，目前，这款软件被称为PPMnn， 用于识别起搏器或者除颤器的制造商和型号。该研究结果发表在美国心脏病学会：临床电生理学杂志上。这篇论文介绍了基于神经网络的系统的开发、验证和有效性。研究人员对来自5家生产

介绍人工神经网络的灵感来自我们的大脑。遗传算法受到进化的启发。这些神经网络具有适应度等特性，并使用遗传算法训练随机生成的权重。遗传优化发生在任何形式的反向传播之前，以给梯度下降提供一个更好的起点。这些fields被认为是在反向传播之前通过遗传算法优化的基因

计算机视觉技术在日常生活中有着非常普遍的应用：发朋友圈之前自动修图、网上购物时刷脸支付……本文将介绍卷积神经网络背后的数学原理。在自动驾驶、医疗以及零售这些领域，计算机视觉让我们完成了一些直到最近都被认为是不可能的事情。今天，自动驾驶汽车和无人商店听起来不

论文：An Empirical Study of Spatial Attention Mechanisms in Deep Networks链接：[1904.05873] An Empirical Study of Spatial Attention Me

本文作者对过去几年的 AI 发展进行了梳理总结，并对未来的 AI 发展进行了展望。过去一年，关于人工智能的事件、发现和发展比比皆是。很难从这些嘈杂的环境里分辨出关于 AI 的真实信号，即便可以，很多人也不知道那些信号表达的是什么信息。甚至，我们会在不久的将

传统观点认为，太大的学习率不利于优化深度神经网络，而相比固定的学习率而言，变化的学习率更能提供快速的收敛。实验结果证明了该方法的有效性。训练神经网络受到几个问题的困扰。这些问题包括梯度消失、梯度爆炸 [7,3] 和过拟合。据作者所知，这是首次提出具有理论基

选自GitHub，作者：pbattaglia ，机器之心编译，机器之心编辑部。今年 6 月份，Deepmind 发表了一篇论文，将图与深度神经网络相结合，由此提出了一种新型图网络。由于图网络主要采用神经网络的方式对图进行操作，因此它又可以称为图神经网络。D

本文利用 synaptic 库构建简单的神经网络，并在浏览器中实现训练过程。该神经网络可以和其他框架共同打造一款简单的推荐系统应用。这种在浏览器上训练的神经网络因为将计算任务分配到各个终端设备，所以服务器的压力大大降低。此外，在终端上训练的神经网络也大大保

尽管计算机视觉直到最近才出现爆炸式增长，但它肯定不是一个新的科学领域。两人进行了一些精心设计的实验。在最初的困惑之后，Hubel和Wiesel意识到让神经元兴奋的是由玻璃片的锋利边缘的阴影所产生的线条的运动。图像的原始草图，其中表示边缘，条形，边界等;2D

在本教程中，我们将逐步构建一个机器学习模型，用于使用Fashion-MNIST数据集识别时尚对象的图像。我们将介绍如何训练模型，设计类别分类的输入和输出，最后显示每个模型的准确度结果。图像分类图像分类的问题是这样的：给定一组全部用单一类别标记的图像，我们被

抠图，一直是一件体力活，它需要大量的操作与时间。而传统抠图算法主要是以色彩为特征分离前景与背景，并在小数据集上完成，而这就造成了传统算法的局限性。在 Adobe 等机构新提出的论文中，其采用了大规模数据集与深度神经网络学习图像的自然结构，从而进一步分离图像

最近，谷歌发布了一种把低分辨率图像复原为高分辨率图像的方法，参见机器之心文章《学界 | 谷歌新论文提出像素递归超分辨率：利用神经网络消灭低分辨率图像马赛克》。与最先进的方法相比，这篇论文提出了一种端到端的框架来完成超分辨率任务。机器之心在本文中对相关研究《

神经网络是目前最流行的机器学习算法之一。随着时间的推移，神经网络在准确性和速度方面优于其他算法，已经得到了明确的证明。随着CNN，RNN，自动编码器，深度学习等各种变体，神经网络正逐渐成为数据科学家或机器学习从业者的统计学家的线性回归。这篇文章试图解释神经

演示中的AAE架构。来自Mail.Ru集团、Insilico药业和MIPT的科学家首次将生成神经网络应用于制造令人期盼的药物。通过使用生成对抗网络开发和植入新分子结构，使得寻找具有潜在药物疗效的物质的时间和成本锐减。研究者试图通过此技术寻找可用于肿瘤、CV