5/5/2020第二章机器学习基础·第二章机图学习基础·2.1.1大话理解机器学习本质■2.12什么是神经网络■2.13各种常见算法图示·2.14计算图的导数计算·2.1.5理解局部最优与全局最优·2.1.5大数据与深度学习之间的关系。22机器学习学习方式·22.1监督学习■222非监督式学习·223半监督式学习■224弱监督学习■22.5监督学习有哪些步骤02.8分类算法■282分类算法的评估方法·283正确率能很好的评估分类算法吗■284什么样的分类器是最好的■29.1回归划分·2.94逻辑回归与林素贝叶斯有什么区别·2.9.5线性回归与逻辑回坦的区别。2.10代价面数·2.10.1为什么需要代价函数■2.102代价函数作用原理·2.104常见代价否数·210.5为什么用交叉熵代替二次代价图数。2.11损失面数。2.11.1什么是损失面数■2.112常见的损失图数·2.113逻辑回归为什么使用对数损失西数·2.114对数损失函数是如何度量损失的02.12梯度下降·2.12.1机器学习中为什么需要梯度下降·2.122梯度下降法缺点■2.124梯度下降法算法描述·2.12.5如何对梯度下降法进行调优·2.12.6随机梯度和批量梯度区别·2.12.7各种梯度下降法性能比较02.14线性判别分析(DA)·214.1LDA思想总结·2.142图解LDA核心思想■2.14.3二类LDA算法原理■2.144LDA算法流程总结■2.14.5LDA和PCA区别■2.14.6LDA忧缺点■2.15.1主成分分析(PCA)思想总结■2.152图解PCA核心思想■2.153PCA算法推理■2.15.4PCA算法流程总结■2.15.5PCA算法主要优缺点■2.15.6降维的必要性及目的·2.15.7KPCA与PCA的区别。2.16模型评估■2.16.1模型评估常用方法？·2.16.3经验误差与泛化误差·216.4图解欠拟合、过拟合■2.16.5如何解决过拟合与欠拟合■2.16.6交叉验证的主要作用·2.169错误率及精度■2.16.10查准率与查全率le://home/shishuai/Desktop/第二章机器学习基础.html1/465/5/2020第二章机器学习基础■2.16.11RC与UC·2.16.12如何画R0C曲线·2.16.13如何计算TPR,FPR■2.16.14如何计算AUC·2.16.15为什么使用Roc和Auc评价分类器■2.16.16直观理解AUC■2.16.17代价敏感错误率与代价曲线·2.16.18模型有围些比较检验方法■2.16.19为什么使用标准差·2.1620粪别不平衡产生原因·2.1621常见的类别不平衡问题解决方法。2.17决策树·2.17.1决策树的基本原理■2.172决策树的三要素？■2.173决策树学习基本算法■2.174决策树算法忧缺点■217.6信息增益的理解。2.18支持向量机■2.18.1什么是支特向量机·2.182支持向量机能解决哪些问题■2.183核玉数特点及其作用·2.184SVM为什么引入对偶问题■2.18.5如何理解SVM中的对偶问题·2.18.9SVM主要特点■2.18.10SVM主要缺点·2.18.11逻辑回归与SM的异同。2.19贝叶斯分类器·2.19.1图解极大似然估计■2.192极大似然估计原理·2.19.3贝叶斯分类器基本原理■2.19.5举例理解朴素贝叶所分类器■220.1EM算法基本思想·2202EM算法推导·220.3图解EM算法·2204EM算法流程0221降维和聚类■221.1图解为什么会产生维数灾难■2212怎样避免堆数灾难·2213聚类和降维有什么区别与联系·2214有哪些聚类算法优劣衡量标准■221.5聚类和分类有什么区别·221.6不同聚类算法特点性能比较■221.8k-means聚类算法■2219层次聚类算法■2.21.10S0M聚类算法·221.11F0M聚类算法·221.12四种聚类算法试验第二章机器学习基础机器学习起源于上世纪50年代，1959年在BM工作的Arthur Samuel设计了一个下棋程序，这个程序只有学习的能力，它可以在不新的对弈中提高自己。由此提出了“机器学习这个疑念，它是一个结合了多个学科如概率论，优化理论，统计等，最终在计算机上实现自我获取新知识，学习改善自己的这样一个研究领域。机器学习是人工智能的一个子集，目前已经发展出许多有用的方法，比如支持向量机，回归，决策树，随机森林，强化方法，集成学习，深度学习等等，一定程度上可以帮助人们完成一些数据预测，自动化，自动决策，最优化等初步替代脑力的任务。本章我们主要介绍下机器学习的基本椰念、监督学习、分类算法、逻辑回日、代价面数、损失西数、LDA、PCA、决策树、支持向量机、EM算法、聚粪和降雄以及模型评估有哪些方法、指标等等。21基本概念2.1.1大话理解机器学习本质机器学习(Machine Leaming M心，顾名思义，让机器去学习。这里，机器指的是计算机，是算法运行的物理载体，你也可以把客种算法本身当做一个有输入和输出的机器。那么到底让计算机去学习什么呢？对于一个任务及其表现的度量方法，设计一种算法，让算法能够提取中数据所蕴言的规律，这就叫机器le://home/shishuai/Desktop/第二章机器学习基础.html2/465/5/2020第二章机器学习基础学习。如果输入机器的数据是带有标签的，就称作有监督学习。如果数据是无标签的，就是无监督学习。2.1.2什么是神经网络神经网馅就是按照一定规则将多个神经元连接起来的网焰。不同的神经网络，具有不同的连接规则。例如全连接Full Connected.,Fq神经网络，它的规则包(1)有三种层：输入层，输出层，隐截层(2)同一层的神经元之问没有连接。(3)fully connected的音义：第N层的每个神经元和第N-1层的所有神经元相连，第N-1层神经元的输出就是第N层神经元的输入。(4)每个连接都有一个权值。神经网络架构图2-1就是一个神经网络系统，它由很多层组成。输入层负责接收信息，比如一只猫的图片。输出层是计算机对这个输入信息的判断结果，它是不是猫。隐藏层就是对输入信息的传递和加工处理。Input LayerHidden LayerlHidden Layer2Output Layer图2-1神经网铬系统2.1.3各种常见算法图示日常使用机器学习的任务中，我们经常会遇见各种算法，图22是各种常见算法的图示。聚类算法正则化方法fle://home/shishuai/Deskto p/第二章机器学习基础.html3/46