稀疏非平行支持向量机与最优化

1.1稀疏学习2
1.1.1样本稀疏性2
1.1.2特征稀疏性3
1.2化4
1.2.1问题描述5
1.2.2优化算法及其分类5
1.3遗传算法7
1.3.1基本概念8
1.3.2步骤11
1.3.3基础理论研究概述12
1.3.4遗传算法的现状与展望14
第2章基础算法15
2.1标准支持向量机(SVM)15
2.2小二乘支持向量机(LSSVM)16
2.3基于Ramp损失的支持向量机(RSVM)18
2.4双子支持向量机(TWSVM)19
2.4.1线性双子支持向量机(LTWSVM)20
2.4.2非线性双子支持向量机(NLTWSVM)21
2.5非平行超平面支持向量机(NPSVM)22
2.6大规模SVM25
2.7小结25
第3章稀疏的非平行超平面支持向量机(RNPSVM)26
3.1线性情况26
3.1.1原始问题26
3.1.2对偶问题28
3.2非线性情况34
3.3算法分析34
3.4数值实验36
3.5小结40
第4章NPSVM的统计学习理论解释和线性规划的NPSVM41
4.1Universum支持向量机(USVM)41
4.2USVM与NPSVM的关系42
4.3基于线性规划的NPSVM44
4.3.1线性规划问题44
4.3.2数值实验46
4.4基于线性规划的RNPSVM47
4.4.1线性规划问题48
4.4.2数值实验50
4.5小结50
第5章稀疏的小二乘支持向量机(RLSSVM)51
5.1LSTWSVM和LSSVM的关系51
5.2基于ε不敏感损失函数的小二乘支持向量机(εLSSVM)52
5.3基于Ramp损失的小二乘支持向量机(RLSSVM)54
5.3.1原始问题54
5.3.2对偶问题56
5.4算法分析57
5.5数值实验58
5.6小结61
第6章大规模线性NPSVM和RNPSVM算法62
61交替方向乘子法(ADMM)62
62大规模线性NPSVM63
6.3大规模线性RNPSVM65
6.4数值实验68
6.4.1小规模数据69
6.4.2大规模数据70
6.5小结73
第7章全局化74
7.1平滑技术74
7.2进化算子75
7.2.1平滑函数的性质75
7.2.2基于一维搜索的杂交算子77
7.2.3变异算子78
7.3新的算法78
7.3.1算法78
7.3.2全局收敛性78
7.4数值模拟80
7.4.1试验函数80
7.4.2模拟结果82
7.5小结85
第8章非线性约束优化86
8.1多目标优化87
8.1.1多目标优化基本问题87
8.1.2均匀设计的基本思想 88
8.2基于多目标优化问题转化的遗传算法89
8.2.1多目标优化问题的转化89
8.2.2算法190
8.2.3算法293
8.3基于种群分类排队的约束优化遗传算法98
8.3.1种群分类排队98
8.3.2遗传算法99
8.4基于D.S.C.法的进化算法103
8.4.1改进D.S.C.法103
8.4.2遗传算法104
8.5小结107
参考文献109