微积分、线性代数、概率与统计、矩阵和数值分析、优化方法线代，微积分，概率论，数理统计，一些算法思想的数学基础。这是基础，高等点做研究的，需要学习 random data，机器学习则偏向于概率统计，更多的是不确定性思维。机器学习把概率和图结合起来组成概率图模

而对于卷积神经网络，相邻两层之间只有部分节点相连，为了展示每一层神经元的维度，一般会将每一层卷积层的节点组织成一个三维矩阵。除了结构相似，卷积神经网络的输入输出以及训练的流程和全连接神经网络也基本一致。全连接神经网络和卷积神经网络的唯一区别就是神经网络相邻

　　机器学习是人工智能的一种途径或子集，它强调“学习”而不是计算机程序。通过机器学习，一个系统可以从自身的错误中学习来提高它的模式识别能力。深度学习使得机器学习能够实现众多的应用，并拓展了人工智能的领域范围。以digit0为例，进行手工演算。

而对于卷积神经网络，相邻两层之间只有部分节点相连，为了展示每一层神经元的维度，一般会将每一层卷积层的节点组织成一个三维矩阵。由于卷积神经网络使用权重共享，使用较少的参数，这使得卷积神经网络网络结构一般层数比较多，这是全连接网络无法具有的特性。

每隔一段时间，这个话题就出现在社交媒体或Rust用户频道上。我想简要介绍一下我所看到的事情的历史，以及有关机器学习/深度学习框架的现有变化以及最近的主要趋势的一些信息。现有的 ML/DL 生态系统非常庞大，因为它们是高性能计算、数学优化、系统和编译器工程等

机器学习是一类算法的总称，这些算法企图从大量历史数据中挖掘出其中隐含的规律，并用于预测或者分类，更具体的说，机器学习可以看作是寻找一个函数，输入是样本数据，输出是期望的结果，只是这个函数过于复杂，以至于不太方便形式化表达。需要注意的是，机器学习的目标是使学

从样本中可以得到先验分布\， 也可以根据特定的先验知识定义先验分布。接着需要得到条件概率分布\， 然后求得联合分布：。我们只要计算出所有的K个条件概率\,然后找出最大的条件概率对应的类别，这就是朴素贝叶斯的预测。而在属性相关性较小时，朴素贝叶斯性能最为良好

论文为Google Brain在16年推出的使用强化学习的Neural Architecture Search方法，该方法能够针对数据集搜索构建特定的网络，但需要800卡训练一个月时间。虽然论文的思路有很多改进的地方，但该论文为AutoML的经典之作，为后

对于新建的模型，如何评价其好坏，以及自身的泛化能力，是机器学习中一个关键性问题。对于二分类模型，因原始数据可能是非平衡的，因此仅通过最后的预测准确率并不能评价模型的效果，对于机器学习中的分类与回归两大类模型，需采用不同的模型评价指标。KS值是在模型中用于区

交并比IoU衡量的是两个区域的重叠程度，是两个区域重叠部分面积占二者总面积的比例。如下图，两个矩形框的IoU是交叉面积与合并面积面积之比。在目标检测任务中，如果我们模型输出的矩形框与我们人工标注的矩形框的IoU值大于某个阈值时即认为我们的模型输出了正确的。

本博客根据 百面机器学习，算法工程师带你去面试 一书总结归纳，公式图片均出自该书.本博客仅为个人总结学习，非商业用途，侵删.高斯混合模型 是一种常见的聚类算法，与K均值算法类似，同样使用了EM算法进行迭代计算。高斯混合模型的核心思想是， 假设数据事实上有多

一个机器学习的模型需要有三部分组成：hypothesis + loss function + optimization。这个函数形如 \，注意，\ 在这个里面是常量，\(x\) 是自变量。hypothesis 就是一个从特征空间到标记空间的映射。loss

项目中使用的鸢尾花数据集是一个非常容易理解的数据集，这个数据集具有以下特点：。所有的类库导入都不应有错误提示。在这里将使用Pandas来导入数据和对数据进行描述性统计分析，并利用Matplotlib实现数据可视化。先看下数据，增加对数据的理解，以便选择合适

parametric learing algorithm:有固定数目的参数以用来数据拟合的算法；Non-parametric learing algorithm:参数随着训练集大小线性增长；\ 假设为高斯分布的原因：一个合理准确的假设；数学计算的便利；so

准确率是指我们的模型预测正确的结果所占的比例。准确率为 0.91，即 91%。但仔细琢磨正负例的比例，显然是不够能说明问题的。所以，当使用分类不平衡的数据集时，单单准确率一项并不能反映全面情况。召回率表示在所有正类别样本中，被正确识别为正类别的比例。该模型

机器学习模型面临的两个主要问题是欠拟合与过拟合。而过拟合，即模型具有较高的方差，意味着模型的经验误差低而泛化误差高，对新数据的泛化能力差，如下右图所示。通常，欠拟合是由于模型过于简单或使用数据集的特征较少导致的。相反，过拟合则是模型过于复杂或特征过多引起的

把学习过程看作一个在所有假设组成的空间中进行搜索的过程，搜索的目标是找到与训练集“匹配”的假设。所有的问题同等重要。该定理的简短论述过程中假设了f的均匀分布而实际情形并非如此。要谈论算法的相对优劣，必须要针对具体的学习问题，学习算法自身的归纳偏好与问题是否

机器学习是专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能的一门科学技术。而机器学习是计算机利用已有的数据，得出了某种模型，并利用此模型预测未来的一种方法。入门后再根据所要用到的基础理论或机器学

　　具有在任意形状的样本空间上聚类并且收敛于全局最优解的优点。　　通过对样本数据的拉普拉斯矩阵的特征向量进行聚类，从而达到对样本数据进行聚类的目的;其本质是将聚类问题转换为图的最优划分问题，是一种点对聚类算法。基于图的最优划分规则就是子图内的相似度最大，子

深度学习之TensorFlow：入门原理与进阶实战。目录 · · · · · ·。第1章 快速了解人工智能与TensorFlow 2. 第2章 搭建开发环境 8. 第3章 TensorFlow基本开发步骤——以逻辑回归拟合二维数据为例 19. 第4章 T