人工智能机器学习及其重要性机器学习角色的转变五个挑战问题机器学习机器学习（续）美国航空航天局JPL实验室的科学家在《Science》（2001年9月）上撰文指出：机器学习对科学研究的整个过程正起到越来越大的支持作用，……，该领域在今后的若干年内将取得稳定而快速的发展重要性：例子—网络安全重要性：例子—生物信息学重要性（续）机器学习角色的转变机器学习角色的转变（续）挑战问题(1)：泛化能力挑战问题(1)：泛化能力（续）挑战问题(2)：速度挑战问题(2)：速度（续）挑战问题(3)：可理解性挑战问题(3)：可理解性（续）挑战问题(4)：数据利用能力挑战问题(4)：数据利用能力（续）第四个挑战问题：今后10年能否“数据通吃”？如何“吃”？挑战问题(5)：代价敏感第五个挑战问题：今后10年能否“趋利避害”？在达到较低的总错误率的基础上，如何“趋”、如何“避”？挑战问题：……8.1机器学习概述Agent通过学习获得了知识，这就是知识的自动获取。学习的成功是多种多样的：学习识别客户的购买模式以便能检测出信用卡欺诈行为，对客户进行扼要描述以便能对市场推广活动进行定位，对网上内容进行分类并按用户兴趣自动导入数据，贷款申请人的信用打分，燃气涡轮的故障诊断等。8.1.1学习中的元素如，目标函数可能会接收一幅扫描字符图像，然后输出{A,B，…,Z,0,1…,9}中对应的一个实例。要回答：目标函数如何表示?在学习的过程中对什么进行适应?如何指导或提供判断，使得Agent可以知道学习正沿着正确的路线进行?如何知道学习将在什么时候完成?又如何知道学习已获成功?8.1.2目标函数的表示图8-2给出了三种不同的假设(目标函数)表示方法。1）使用了一棵树，根节点表示属性，分支表示属性值。树可用来表示分类函数、决策函数，甚至还可用来表示程序。2）使用了一阶逻辑。为了对一组点进行分类，3）使用两条直线组成了一个决策区域。该假设表示为一棵分类树。属性由根节点表示，属性的不同取值由相应分支表示(比如，在根节点下各分支旁所标注的数值{0，2，4})。标记为正的那些叶节点表示大多数给定例子的目标值同目标分类相匹配，而标记为负的那些叶节点则表示大多数给定例子的目标值同目标分类不匹配。从最上层的根节点开始，然后沿着同对应属性值相匹配的分支一直向下，直到某个叶节点为止，该例子就相应地指派给这个叶节点影响表示选择的因素很多，如属性类型(比如，连续的或离散的)，执行学到的任何函数必需的速度，学习过程是否为整个系统的一部分，以及特定学习算法将会有更好性能的信念等。经常影响假设表示选择的另外一个因素是已学知识的可见性。许多表示形式如分类树和一阶逻辑都能够对知识进行显式表示。通过显式表示，就可能对如何产生这个决策进行解释。某些假设更像一个黑匣子。如，通过神经网络学习得到的知识是由该网络的权值来表示的。在学习过程中会产生不同的候选假设。如图8-2所示，在学习过程中会产生不同的树，每一棵树都表示了一个不同的分类函数。通过增加和删除文字可以对一阶逻辑表达式进行修改。对于显示的第三种表示方法，可通过重画已有直线或增加额外直线对其中的直线进行修改，这样可产生不同的候选假设。学习过程可被视为在候选假设空间上的一个搜索，搜索的目的是寻找最能表示目标函数的那个假设。8.1.3学习任务的类型2.动作序列学习3.最优决策学习学习过程还包括了对贝叶斯网络和决策网络结构的自动创建，以及随着经验的积累不断对其分布进行调整。决策过程还可能表达为一棵决策树。学习的这些形式当然也包括可能会串行执行甚至会并行执行的动作。学到的决策过程在期望奖励与期望惩罚之比最大化这个意义下一定是最优的。如，对是否要发射航天器进行决策一定要在按时发射和丢失风险之间进行权衡，这种风险是由外部因素（如天气条件）引起的。4.回归函数学习回归学习指的是学习一个变量(因变量)与其他变量(自变量)间的某种相关性。如，某喷气式发动机有两个轴，一个轴连接低速压缩机，另一个轴连接高速压缩机。这两个轴在机械上是相互独立的，但它们旋转的速度却是相关的。旋转速度用来计算性能，这是飞机发动机的一个关键度量。传感器故障可导致其中一个轴的某信号缺失，这样就有可能通过其他发动机控制参数对该缺失信号进行插值，这些控制参数中就包括另外一个轴的旋转速度。回归函数学习的另一个例子是对股票指数的未来值进行预测。5.程序学习所有学习形式都可视做一种自动程序设计。然而，也存在另外一些学习算法，它们的特定目的就是用来学习表示任务的解决方案，表示的语法很像一种编程语言.例如，存在某些学习算法，它们的目标函数就是一段Prolog程序。8.1.4机器学习的定义和发展史发展分四阶段：(1)在20世纪50年代中叶