一直以来，PyTorch就以简单又好用的特点，广受AI研究者的喜爱。但是，一旦任务复杂化，就可能会发生一系列错误，花费的时间更长。于是，就诞生了这样一个“友好”的PyTorch Lightning。直接在GitHub上斩获6.6k星。首先，它把研究代码与工

本月早些时候，OpenAI宣布已经建成史上最大的人工智能模型，该模型规模惊人，被命名为“GPT-3”，是一项令人印象深刻的技术成就。然而，它却凸显了人工智能领域的一个隐患。现代人工智能模型需要消耗大量能量，并且这些能量需求正以惊人的速度增长。而“GPT-3

机器学习自诞生至今，已经被应用在很多领域，但目前来看对于从业人员来说仍然存在着一些阻力。首先是机器学习方向的学习门槛高，人工智能、机器学习这些知识，相对来说比较苦涩难懂，对学习人员的综合素养要求高；想要真正成为一名机器学习工程师。而近期登陆中国区的Amaz

Facebook 宣布推出深度学习推荐模型的开源版本，这是一种最先进的个性化推荐 AI 模型，并且可用于生产环境中。该模型的实现可用于 Facebook 的 PyTorch、Facebook 的分布式学习框架 Caffe2和 Glow C++。DLRM 的

神经网络优化本质上是非凸的，但简单的基于梯度的方法似乎总是能解决这样的问题。这一现象是深度学习的核心支柱之一，并且也是我们很多理论学家试图揭示的谜题。这篇文章将总结一些试图攻克这一问题的近期研究，最后还将讨论我与 Sanjeev Arora、Noah G

深度学习是最先进的人工智能方法，涉及机器翻译、计算机视觉和自然语言处理。不使用这些技术会影响收入，并限制最终用户的体验。使用深度学习的方法可全面解决问题。这种方法简化了系统，并让数据可以做决策。更重要的是，它最大限度地减小了人类带来自身偏见的可能性。这应该

本文源自谭旭在知乎问题【如何理解深度学习分布式训练中的large batch size与learning rate的关系?在分布式训练中，batch size 随着数据并行的worker增加而增大，假设baseline的batch size为B，learn

本文是一系列关于如何使用神经网络进行自然语言处理的最佳实践汇集，将随着新观点的出现定期进行更新，从而不断提升我们对用于 NLP 的深度学习的理解。NLP 社区中有这样一句说法：带有注意力的 LSTM 能在所有任务上实现当前最佳的表现。尽管在过去的两年这确

情感计算在人机交互中的作用在谈论情感计算之前，先来说说情感本身在人类信息沟通中的意义。情感对于人类的智力、理性决策、社交、感知、记忆和学习以及创造都有很重要的作用，甚至有研究显示「人类交流中80%的信息都是情感性的信息」。其实从认知科学角度来看，情感本身是

深度学习的核心问题就是一个非常难的优化问题。所以在神经网络引入后的几十年间，深度神经网络的优化问题的困难性是阻碍它们成为主流的一个重要因素。并导致了它们在20世纪90年代到21世纪初期间的衰落。不过现在已经基本解决了这个问题。最简单的神经网络是单节点感知器

深度学习这个词借着AlphaGO与李世石的人机大战又火了一把。深度学习其实是机器学习的一个分支学科，而机器学习是一门研究数据之间关联关系的学科，比如它可以用来挖掘收入和年龄，性别，职业，学历等因素的数学关系。但是传统的机器学习方法一般只能挖掘简单的线性关系