感知器是所有神经网络中最基础的，是更复杂的神经网络的基本构建块。它仅连接输入单元和输出单元。在每次连接期间，来自上一层的信号乘以权重，加到偏置上，并通过激活函数。前馈网络使用反向传播来迭代更新参数，直到达到理想的性能为止。递归神经网络是一种特殊类型的网络，

参考资料：http://blog.csdn.net/zzwu/article/details/575050

近年来，已经开发出一种方法来可视化深度神经网络的损失情况。我个人认为这是一个巨大的突破，但是，我对创建的可视化的有效性感到有点怀疑。今天我将研究作者的可视化方法，并介绍一些我认为很酷的其他方法。创造损失景观的整个过程非常简单直接。他们的方法被称为“过滤器归

机器学习有望从根本上改变软件开发的本质，这也许是自FORTRAN和LISP被发明以来软件开发领域改变最大的一次。这些变化对数百万正在从事软件开发的人而言，意味着什么呢？现有的软件开发将变得面目全非？未来我们将专注于机器学习而不是人工智能。而机器学习可能只比

当然，包括深度网络在内的神经网络需要仔细调整权重初始化和学习参数。批量归一化有助于让中国过程更简单一点。在反向传播期间，这些现象会导致梯度偏移，这意味着在学习权重以产生所需输出之前，梯度必须补偿异常值。这也将导致需要额外的时间来收敛。深度CNN中的每个层逐

本文以最简单的RNNs模型为例：Elman循环神经网络，讲述循环神经网络的工作原理，即便是你没有太多循环神经网络的基础知识，也可以很容易的理解。为了让你更好的理解RNNs，我们使用Pytorch张量包和autograd库从头开始构建Elman循环神经网络。

由于高度复杂但信息丰富的图形结构，图形上的机器学习一直以来都是一项艰巨的任务。本文是关于如何使用图形卷积网络进行图形深度学习的系列文章中的第二篇。GCN是一种强大的神经网络，旨在利用图形结构信息并直接在图形上工作。在本文开头我将简要回顾一下上一篇文章，你也

在深度学习过程中，你或许会碰到一般近似定理。A feedforward network with a single layer is sufficient to represent any function, but the layer may be in

引言：TensorFlow是谷歌2015年开源的主流深度学习框架，目前已在谷歌、优步、京东、小米等科技公司广泛应用。本文将通过TensorFlow游乐场来简单介绍神经网络的主要功能以及计算流程。本文选自《Tensorflow：实战Google深度学习框架》

很长的一段时间，作者都想了解模型的内部的工作原理。在这篇文章中，会涵盖三个主题，权重分布直方图、可视化神经元激活函数、积分梯度。在最左侧，我们可以观察到权重通常具有0的平均值和0.04至0.06的标准偏差值。这是预料之中的，因为我们用不同的stddev值声

今天早晨，ICLR 2018的论文接受结果揭晓，我们就带大家来大致了解一下今年ICLR 2018的论文接受概况。ICLR全称International Conference of Learning Representation，是由Lecun，Hinton

covariate shift问题机器学习中有一个经典的假设:训练数据和测试数据是满足相同分布的。这是训练数据获得的模型能够在测试集上获得好的效果的一个基本保障。当训练集数据和测试集数据不一致的时候，训练集训练出来的模型未必能够在测试集上有好的效果，这种训

无论是开始接受还是从事一些新事物，总是不容易的。机器学习是可能需要尽快学习新项目的编程技能之一，但你或许并不知道从哪里开始。本文将使用Clojure和Cortex进行机器学习。Cortex可能会是比较新的概念，但它是现有机器学习框架的一个非常有力的替代方案

首先，我个人并不是深度学习领域的大牛。相反，我同样在学习这项技术，并希望通过本文分享自己的思路与知识，以鼓励更多朋友加入学习的行列。如果大家发现其中存在任何遗漏、错误或者需要补充的内容，请在评论中不吝指出，感谢。作为一名数据科学专家，深度学习技术最吸引我的