就业市场上，机器学习工程师总是受到质疑，人们不相信他们数学功底深厚。事实上，所有机器学习算法的本质都是数学问题，无论是支持向量机、主成分分析还是神经网络最终都归结为对偶优化、谱分解筛选和连续非线性函数组合等数学问题。只有彻底理解数学，才能正真掌握这些机器学

你想学机器学习吗？这里有一个入门贴适合你。什么神经网络、随机森林、计算机视觉通通一网打尽。这个Facebook软件工程师做了一个入门贴。专为基础为零的初学者打造。有基础的同学，也可以来看看加深一下理解。我们就以神经网络为例先来一睹为快吧！“神经网络”一词很

本周 7 Papers 重点推荐三篇综述论文，包括机器学习测试综述、图数据表征学习方法最新进展综述以及机器阅读理解综述。这些 survey 论文能够很好的帮助我们全面了解特定技术主题。本文全面总结了各类测试方法和应用场景，有助于读者从模型之外的视角审视机器

BERT 是当前最佳的自然语言处理模型之一，也因此极其复杂。Google AI 的 People + AI Research团队近日发布的论文《Visualizing and Measuring the Geometry of BERT》提出了一种可视化和

DeepMind 最近的一项研究将符号人工智能和深度学习结合起来，提出了一种新型端到端神经网络架构 PrediNet。符号主义和连接主义是人工智能领域中的两大流派。连接主义 ，又称为仿生学派 或生理学派 ，其主要原理为神经网络及神经网络间的连接机制与学习

近期很多研究试图通过对比神经网络表示来理解神经网络的行为。谷歌大脑 Simon Kornblith、Geoffrey Hinton 等人的一项新研究引入了 centered kernel alignment 作为相似性指数，并分析 CKA、线性回归、典型

AI会消灭人类、统治世界吗？从事AI的你肯定经常被问到这些问题。来自布朗大学与罗德岛艺术学院的学生马家驹、毛逸聪、和胡一玫一起做了一个交互动画网站——OKAI，旨在向没有数学和计算机基础的读者介绍AI和深度学习，希望能够借此降低了解AI的门槛，让更多的人了

深度神经网络以其强大的非线性能力为傲，借助它可以拟合图像和语音等复杂数据。基于深度神经网络的机器学习模型在很多任务上达到了前所未有的性能。这些模型一般被视为复杂的系统，很难进行理论分析。此外，由于主导最优化过程的通常是高维非凸损失曲面，因此要描述这些模型在

在使用 CIFAR-10 数据集进行的实验中，SNAS 在经过更少 epoch 迭代的情况下取得了当前最佳性能，而且其效果可以被迁移至 ImageNet。通常而言，一个神经网络架构搜索的工作流程包括架构采样、参数学习、架构验证、信用分配以及搜索方向更新。

选自Towards Data Science，作者：Piotr Skalski，机器之心编译，参与：高璇、张倩。Keras、TensorFlow、PyTorch 等高级框架可以帮助我们快速构建复杂模型。深入研究并理解其中的理念很有价值。所以作者打算以一种更

选自arXiv，作者：Rex Ying等，机器之心编译，参与：李诗萌、刘晓坤。图网络在深度学习短板即因果推理上拥有巨大潜力，很有可能成为机器学习领域的下一个增长点，而图神经网络正属于图网络的子集。GNN 近期在图形分类任务上得到了当前最佳的结果，但其存在平

深度学习专项课程 Deeplearning.ai 中，也包含吴恩达和多位深度学习大牛的对话视频，之前 YouTube 上已经公开了他与 Geoffrey Hinton、Yoshua Bengio、Ian Goodfellow、Andrej Karpathy

循环神经网络 [16] 已在动作识别 [8]、场景标注 [4] 、语言处理 [5] 等序列学习问题中获得广泛应用，并且成果显著。与卷积神经网络 等前馈网络相比，RNN 具有循环连接，其中最后的隐藏状态是到下一状态的输入。状态更新可描述如下：。分别为当前

在今年五月击败柯洁之后，AlphaGo 并没有停止自己的发展。昨天，DeepMind 在《自然》杂志上发表了一篇论文，正式推出 AlphaGo Zero——人工智能围棋程序的最新版本。据称，这一版本的 AlphaGo 无需任何人类知识标注，在历时三天，数百

近日，一篇题为《Training RNNs as Fast as CNNs》的 arXiv 论文通过有意简化状态计算并展现更多的并行性而提出了一个替代性的 RNN 实现，这一循环单元的运算和卷积层一样快，并且比 cuDNN 优化的 LSTM 快 5-10x

近日，Facebook 与微软联合推出了开放式神经网络交换格式，它是一个表征深度学习模型的标准，可实现模型在不同框架之间的迁移。ONNX 是构建开源生态环境的第一步，供人工智能开发者轻松选择并组合最先进的工具。在一个项目开始时，开发者必须筛选特征、选定框架

随着 MobileNet 等面向移动设备的模型不断出现，机器学习正在走向实用化。不过，由于深度学习等方法需要消耗大量计算资源的因素，目前我们距离真正的移动端人工智能应用还有一段距离。鉴于 MobileNet 比 VGG16 要小 32 倍，而准确性相同，前

每个神经元接受一些浮点数，并将它们乘以一些称为权重的其他浮点数。权重作为一种机制，用于关注或忽略某些输入。根据神经元的激活函数，将求和后的值转换为输出值。神经元的输出值通常是另一个神经元的输入。最早的神经网络之一被称为感知器，它只有一个神经元。然而，通过将

神经网络正变得越来越受欢迎，作为机器学习和人工智能的核心领域，它们将在未来几年的技术、科学和工业中发挥重要作用。它的高度流行已经产生了许多框架，这些框架允许你在不知道它们背后的完整理论的情况下非常容易地实现神经网络。为了更加深入地理解神经网络，我们将从头开

深度学习在数据特征识别上的能力强大，目前已成为计算机视觉、图像处理、语音识别、自然语言处理等领域的流行方法。最近，研究人员又尝试将深度学习应用到了网络攻击中。利用视频流量分析，以色列特拉维夫大学和康奈尔大学的研究者们开发的新算法只需在电脑或手机浏览器中加入