机器学习精讲：基础、算法及应用（原书第2版）

　　译者序
　　前言
　　致谢
　　作译者简介
　　第1章机器学习概论1
　　1.1引言1
　　1.2利用机器学习方法区分猫和狗1
　　1.3机器学习问题的基本体系4
　　1.3.1监督学习5
　　1.3.2无监督学习10
　　1.4数学优化11
　　1.5小结11
　　第一部分数学优化
　　第2章零阶优化技术142.1引言14
　　2.2零阶最优性条件15
　　2.3全局优化方法16
　　2.4局部优化方法18
　　2.4.1概览18
　　2.4.2一般框架18
　　2.4.3步长参数19
　　2.5随机搜索20
　　2.5.1概览21
　　2.5.2步长控制21
　　2.5.3基本步长规则23
　　2.5.4递减步长规则24
　　2.5.5随机搜索和维度灾难25
　　2.6坐标搜索和下降法26
　　2.6.1坐标搜索26
　　2.6.2坐标下降26
　　2.7小结27
　　2.8习题28
　　第3章一阶优化技术303.1引言30
　　3.2一阶最优性条件30
　　3.2.1可手工求解的一阶方程组的特例32
　　3.2.2坐标下降和一阶最优性条件33
　　3.3一阶泰勒级数的几何图形35
　　3.3.1超平面35
　　3.3.2最陡上升与最陡下降方向35
　　3.3.3梯度和最陡上升/下降方向36
　　3.4梯度的高效计算36
　　3.5梯度下降37
　　3.5.1梯度下降法的基本步长选择39
　　3.5.2代价函数历史图中的振荡：不一定总是坏事41
　　3.5.3收敛准则42
　　3.5.4Python实现43
　　3.6梯度下降法的固有缺陷43
　　3.6.1（负）梯度方向的缺陷是如何产生的44
　　3.6.2（负）梯度方向44
　　3.6.3梯度下降法的之字形走向45
　　3.6.4梯度下降法中的 “慢爬”现象46
　　3.7小结48
　　3.8习题48
　　第4章二阶优化技术51
　　4.1二阶最优性条件51
　　4.2二阶泰勒级数的几何形状53
　　4.2.1单输入二次函数的一般形状53
　　4.2.2多输入二次函数的一般形状53
　　4.2.3局部曲率和二阶泰勒级数54
　　4.3牛顿法55
　　4.3.1下降方向55
　　4.3.2算法57
　　4.3.3确保数值稳定性59
　　4.3.4步长选择60
　　4.3.5牛顿法作为一种zerofinding算法60
　　4.3.6Python实现61
　　4.4牛顿法的固有缺陷62
　　4.4.1最小化非凸函数62
　　4.4.2扩展的限制62
　　4.5小结63
　　4.6习题63

　　杰瑞米·瓦特（Jeremy Watt）拥有美国西北大学电气工程专业博士学位，现在在西北大学教授机器学习、深度学习、数学优化和强化学习等课程。
　　雷萨·博哈尼（Reza Borhani）拥有美国西北大学电气工程专业博士学位，现在在西北大学教授机器学习和深度学习相关课程。
　　阿格洛斯·K. 卡萨格罗斯（Aggelos K. Katsaggelos）是美国西北大学计算机科学与电气工程系Joseph Cummings名誉教授、图像和视频处理实验室负责人。他是IEEE、SPIE、EURASIP和OSA会员，并于2000年获得了IEEE第三枚千年奖章。
　　译者简介
　　谢刚，贵州师范大学大数据与计算机科学学院教授，贵州大学“计算机软件与理论”专业工学博士，贵州省“千层次”创新型人才。长期从事人工智能等领域的研究工作，参与国家项目十余项，发表论文二十余篇，指导学生参加比赛并多次获奖。
　　杨波，贵阳学院数学与信息科学学院教授，贵州大学“计算机软件与理论”专业工学博士。主要研究方向为软件形式化、知识表示与推理、数据挖掘，在国内外学术刊物及会议上发表研究论文十余篇。
　　任福佳，贵州师范大学大数据与计算机科学学院副教授。主要研究方向为计算机图像处理、深度学习，在国内外学术刊物及会议上发表研究论文十余篇。

　　本教程通过阐述直观而严谨的机器学习方法，为学生学习和掌握研究和构建数据驱动产品所需的基本知识和实用工具。内容优先解析几何直觉和算法思维，为学生提供新颖和易于学习的方式；书中也强调机器学习结合实际应用，包括计算机视觉、自然语言处理、经济学、神经科学、推荐系统、物理学和生物学案例分析；作者精心设计300多幅彩色插图，让读者能够直观地掌握技术概念，另配100多个深入的编程练习（Python），为读者提供了对关键机器学习算法的真正理解。本书还在网上提供了一整套在线教辅资源，包括示例代码、数据集、交互式讲座幻灯片和习题解答，既可用于研究生机器学习课程教学，又能帮助个人自学参考使用。