《决策用强化与系统性机器学习》以Protel的最新版本AltiumDesigner13AltiumDesigner14为平台,介绍了电路设计的方法和技巧,主要包括AltiumDesigner13AltiumDesigner14概述、原理图设计基础、原理图的绘制、原理图的后续处理、层次结构原理图的设计、原理图编辑中的高级操作、PCB设计基础知识、PCB的布局设计、印制电路板的布线、电路板的后期制作、创建元件库及元件封装、电路仿真系统、信号完整性分析、自激多谐振荡器电路设计实例和游戏机电路设计实例。本书的介绍由浅入深,从易到难,各章节既相对独立又前后关联。在介绍的过程中,编者根据自己多年的经验及教学心得,及时给出总结和相关提示,以帮助读者快捷地掌握相关知识。全书内容讲解详实,图文并茂,思路清晰。随书赠送的多媒体教学光盘包含全书实例操作过程的视频讲解文件和实例源文件,读者可以通过光盘方便、直观地学习本书内容。本书可以作为初学者的入门教材,也可以作为电路设计及相关行业工程技术人员及各院校相关专业师生的学习参考。
《决策用强化与系统性机器学习》包括强化的不同方面,通过机器学习来建立知识库。本书有助于计划通过智能学习和实验做出智能机器的人并尝试新的方式,打开一种相同的新范例。本书第1章主要介绍系统概念,如机器学习、强化学习、系统学习、系统性机器学习等;第2章主要介绍系统性和多视角的机器学习;第3~9章主要介绍本书的主要内容——决策用强化与系统性学习的各个方面内容,有强化学习、系统性机器学习、推理和信息集成、自适应学习、全局系统性学习、增量学习及表示和知识增长。第10章列举了一些例子来说明如何构建一个学习系统。
人们研究人工智能已经很多年,甚至早于计算机时代。在现代,基于事件的人工智能被广泛应用于部件设备或者是设备整体中。人工智能起了很大程度上的引导作用,但人工干预是强制性的。甚至反馈控制系统也是人工智能系统的一种初步形式。之后自适应控制系统和混合控制系统在系统中增加智能的鉴别能力。随着计算机技术的发展,人工智能技术受到了更多的关注。基于计算机学习简单的事件很快成为诸多智能系统的一部分,人们对智能系统的期望在持续增长,这就致使一种广受欢迎的学习范例,其是以学习为基础的模式。这使得系统在很多实际方案下表现得智能化,其中包括天气模式、入住率模式以及其他可以帮助决策的不同模式。这种模式发展成为一个行为模式学习的范例。这与其说是一种行为模式,倒不如说是一种特定测量参数的简单模式。行为模式试图给出一个更好的描绘和洞察力,这有助于学习和在网络及业务方案下进行决策,这将智能系统提升到了另一个水平。学习是智能的表现,使机器进行学习是使得机器智能化行为一个主要的部分。
决策方案的复杂度和复杂方案中的机器学习在机器智能方面提出了很多问题。孤立的学习是永远不会完成的。人类聚居在一起学习,开发聚居地并通过互动去创造智慧。聚集和合作学习让人类取得了统治地位。此外,人类的学习与所处环境相关联。 他们与环境互动,并获得两种形式的反馈——奖励或惩罚。人类的协作学习方式给了他们探索式学习的力量,利用已经了解到的事实以及参照发生的行动去探索。强化学习的范例上升到了一个新的层面,并可以覆盖所需动态方案学习的很多新的方面的问题。
Parag Kulkarni博士是普纳埃拉特研究所(EKLaT Research,Pune)的CEO和首席科学家。他在知识管理、电子商务、智能系统和机器学习咨询、研究和产品建设等领域有超过20年的经验。印度理工学院和加尔各答印度管理研究院的校友,Kulkarni博士是IIM的兼职教授、捷克马萨里克大学访问研究员和普纳工程学院兼职教授。他领导的公司、研究实验室和团体,其中包括很多IT公司,有艾蒂尔公司、西门子信息系统有限公司、普纳的卡皮森公司和新加坡的ReasonEdge公司。他通过战略创新和研究引领了很多公司成功创业。瑞士的UGSM皇家商业学校授予Kulkarni荣誉博士学位。他是三个专利的共同发明人,并合著了超过100篇研究论文并有著作若干本。
译者序
原书前言
原书致谢
关于作者
第1章强化与系统性机器学习1
1.1简介1
1.2监督学习、无监督学习、半监督学习和强化学习1
1.3传统机器学习方法和机器学习发展历史3
1.4什么是机器学习?6
1.5机器学习问题6
1.5.1学习的目标6
1.6学习模式7
1.7机器学习技术和范例9
1.8什么是强化学习?11
1.9强化函数和环境函数12
1.10强化学习的需求13
1.11强化学习和机器智能14
1.12什么是系统学习?14
1.13什么是系统性机器学习?15
1.14系统性机器学习的重点15
1.15强化性机器学习和系统性机器学习16
1.16车辆检测问题的案例研究16
1.17小结16
参考文献17
第2章全系统原理、系统性和多视角的机器学习18
2.1简介18
2.1.1什么是系统性学习?19
2.1.2历史20
2.2什么是系统性机器学习?21
2.2.1基于事件的学习21
2.3广义系统性机器学习框架23
2.3.1系统定义24
2.4多视角决策和多视角学习26
2.4.1基于完整信息的表示32
2.4.2基于部分信息的表示32
2.4.3单视角决策方案图32
2.4.4双重视角决策方案图32
2.4.5多视角决策方案图32
2.4.6定性信念网络和影响图33
2.5动态和交互式决策33
2.5.1交互决策图33
2.5.2决策图和影响图中时间的角色34
2.5.3系统性视角的建立34
2.5.4信息整合35
2.5.5建立典型决策方案图35
2.5.6受限信息35
2.5.7多决策者系统在系统性学习中的角色35
2.6系统性学习框架39
2.6.1数学模型39
2.6.2系统性学习的方法39
2.6.3自适应系统性学习40
2.6.4系统性学习框架41
2.7系统分析41
2.8案例学习:在酒店行业中需要系统性学习43
2.9小结44
参考文献44
第3章强化学习45
3.1简介45
3.2学习决策者48
3.3回报和奖励的计算50
3.3.1方案和连续任务50
3.4强化学习和自适应控制51
3.5动态系统54
3.5.1离散事件动态系统54
3.6强化学习和控制55
3.7马尔科夫性质和决策过程55
3.8价值函数56
3.8.1行动和价值56
3.9学习最优策略(有模型和无模型法)57
3.10动态规划57
3.10.1动态系统性质57
3.11自适应动态规则58
3.11.1时间差分学习59
3.11.2Q学习60
3.11.3统一的视图60
3.12范例——拳击训练器的强化学习61
3.13小结61
参考文献61
第4章系统性机器学习和模型62
4.1简介62
4.2系统学习的框架63
4.2.1影响空间64
4.2.2交互作用为中心的模型69
4.2.3以结果为中心的模型69
4.3捕捉系统视图70
4.4系统交互的数学表达73
4.5影响函数74
4.6决策影响分析74
4.6.1时空界限75
4.7小结80
第5章推理和信息集成82
5.1简介82
5.2推理机制和需要83
5.2.1情景推理85
5.2.2推理确定影响85
5.3情景和推理的集成88
5.4统计推理和归纳91
5.4.1直接推理91
5.4.2间接推理91
5.4.3信息推理91
5.4.4归纳92
5.5纯似然方法92
5.6贝叶斯范例推理93
5.6.1贝叶斯定理93
5.7基于时域推理93
5.8推理建立系统观点94
5.8.1信息集成94
5.9小结96
参考文献97
第6章自适应学习98
6.1简介98
6.2自适应学习和自适应系统98
6.3什么是自适应机器学习101
6.4基于方案的适应性和学习方法101
6.4.1动态适应性和情景感知的学习102
6.5系统学习和自适应学习104
6.5.1多学习器的使用105
6.5.2系统自适应机器学习108
6.5.3自适应应用的设计110
6.5.4自适应学习的需要和适应的原因111
6.5.5适应类型112
6.5.6自适应框架114
6.6竞争学习和自适应学习115
6.6.1适应性函数116
6.6.2决策网络118
6.6.3自适应学习方案119
6.7范例120
6.7.1案例研究:基于自适应学习的文本120
6.7.2自适应学习的文档挖掘121
6.8小结122
参考文献122
第7章多视角和全局系统性的学习123
7.1简介123
7.2多视角方案构建124
7.3多视角决策和多视角学习126
7.3.1视角结合126
7.3.2影响图和部分方案决策表示图127
7.3.3表示决策方案图(RDSD)130
7.3.4范例:部分方案决策表示图(PDSRD)表示的不同视角获取的城市信息131
7.4全局系统性学习和多视角途径134
7.4.1分散信息整合135
7.4.2多视角和全局系统知识表示135
7.4.3什么是多视角方案?135
7.4.4特定方案136
7.5基于多视角途径的案例研究136
7.5.1交通控制器用多视角途径137
7.5.2情感检测用多视角途径模型138
7.6多视角方法的局限性143
7.7小结143
参考文献144
第8章增量学习和知识表示145
8.1简介145
8.2为什么增量学习?146
8.3学习已经学会的147
8.3.1绝对增量学习148
8.3.2选择增量学习149
8.4监督增量学习157
8.5增量无监督学习和增量聚类158
8.5.1增量聚类:任务160
8.5.2增量聚类:方法161
8.5.3阈值161
8.6半监督增量学习162
8.7增量与系统性学习163
8.8增量接近值和学习方法164
8.8.1增量学习方法1165
8.8.2增量学习方法2166
8.8.3计算C值增量166
8.9学习与决策模型169
8.10增量分类技术169
8.11案例分析:增量文档分类170
8.12小结171
第9章知识增长:机器学习的视角173
9.1简介173
9.2短暂的历史和相关工作174
9.3知识增长和知识启发178
9.3.1策略使用进行知识启发178
9.3.2基于目标的知识启发179
9.3.3基于过程的知识启发179
9.4生命周期180
9.4.1知识水平181
9.4.2直接知识181
9.4.3间接知识182
9.4.4程序知识182
9.4.5问题182
9.4.6决策182
9.4.7知识生命周期183
9.5增量知识表达184
9.6案例学习和遗忘学习186
9.7知识的扩充:技术和方法187
9.7.1知识增量技术187
9.7.2知识增量方法188
9.7.3提取知识的机制189
9.8启发式学习190
9.9系统性机器学习和知识获取190
9.9.1全方位知识获取191
9.9.2系统知识管理和先进的机器学习192
9.10在复杂环境下的知识增量193
9.11案例研究193
9.11.1银行案例研究193
9.11.2软件开发公司194
9.11.3杂货集市/零售集市195
9.12小结195
参考文献196
第10章构建学习系统197
10.1简介197
10.2系统性学习系统197
10.2.1学习单元199
10.2.2知识库200
10.2.3性能单元200
10.2.4反馈单元200
10.2.5允许测量的系统200
10.3算法选择201
10.3.1k近邻(kNN)201
10.3.2支持向量机(SVM)202
10.3.3质心法202
10.4知识表示203
10.4.1实用方案和案例研究203
10.5学习系统的设计204
10.6让系统表现得更智能204
10.7案例学习205
10.8整体知识框架和强化学习的应用205
10.8.1智能算法的选择207
10.9智能决策——部署和知识采集以及重用208
10.10基于案例的学习:人体情感检测系统209
10.11复杂决策问题的整体视角211
10.12知识表示和资源查找213
10.13组件215
10.13.1范例215
10.14学习系统和智能系统的未来216
10.15小结217
附录218
附录A统计学习方法218
A.1概率218
A.1.1互斥事件218
A.1.2独立事件218
A.2贝叶斯分类219
A.2.1朴素贝叶斯分类220
A.2.2贝叶斯分类器的优点和缺点221
A.3回归221
A.3.1线性222
A.3.2非线性222
A.3.3回归的其他方法222
A.4粗糙集223
A.4.1不可分辨关系223
A.4.2集近似224
A.4.3边界区域224
A.4.4粗糙集和清晰集224
A.4.5约简224
A.4.6可有可无和不可缺少的属性224
A.5支持向量机224
参考文献225
附录B马尔科夫过程225
B.1马尔科夫过程225
B.1.1案例226
B.1.2解决步骤226
B.1.3长期227
B.1.4马尔科夫过程示例228
B.2半马尔科夫过程231
B.2.1建议231
B.2.2验证232
B.2.3推论232