博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
拉格朗日乘子法与KKT条件 && SVM中为什么要用对偶问题
阅读量:4946 次
发布时间:2019-06-11

本文共 388 字,大约阅读时间需要 1 分钟。

参考链接:

1. 拉格朗日乘子法与KKT条件

 

 

 

 

2. SVM 为什么要从原始问题变为对偶问题来求解

1. 首先是我们有不等式约束方程,这就需要我们写成min max的形式来得到最优解。而这种写成这种形式对x不能求导,所以我们需要转换成max min的形式,这时候,x就在里面了,这样就能对x求导了。而为了满足这种对偶变换成立,就需要满足KKT条件(KKT条件是原问题与对偶问题等价的必要条件,当原问题是凸优化问题时,变为充要条件)。

2. . 对偶问题将原始问题中的约束转为了对偶问题中的等式约束

3. 方便核函数的引入
4. 改变了问题的复杂度。由求特征向量w转化为求比例系数a,在原始问题下,求解的复杂度与样本的维度有关,即w的维度。在对偶问题下,只与样本数量有关。

 

转载于:https://www.cnblogs.com/shiyublog/p/10580603.html

你可能感兴趣的文章
各种排序算法的性能特点
查看>>
python记录
查看>>
安卓小程序之“偷发短信病毒”
查看>>
在PKM2 / CyberArticle / MetaProducts Inquiry / 网博士 中选择了网博士。 :)
查看>>
Entity Framework 学习笔记(1)
查看>>
Python 学习之路(五)————线程、进程
查看>>
jquery 点击空白处隐藏div元素
查看>>
CMake构建CUDA项目
查看>>
ESP8266使用详解
查看>>
python学习(列表,元祖)
查看>>
MAC 终端terminal颜色
查看>>
事件的传播
查看>>
电脑启动后,系统不进行自检,显示器无显示[转自zhidao.baidu.com]
查看>>
iview roter报错
查看>>
android设置主题和自定义主题的方法
查看>>
【数据结构】图之初体验
查看>>
【JSP】JSP的介绍和基本原理
查看>>
UVA 846
查看>>
(转)Activity的跳转与传值
查看>>
BZOJ2555: SubString
查看>>