
SVM算法采用高斯核函数,核函数的参数对结果影响大吗
2个回答
展开全部
核函数一般是为了解决维度过高导致的计算能力不足的缺陷,实质就是特征向量内积的平方。
为什么会提出核函数:
一般我们在解决一般的分类或者回归问题的时候,给出的那个数据可能在低维空间并不线性可分,但是我们选用的模型却是在特征空间中构造超平面,从而进行分类,如果在低维空间中直接使用模型,很明显,效果必然会大打折扣。
但是!如果我们能够将低纬空间的特征向量映射到高维空间,那么这些映射后的特征线性可分的可能性更大【记住这里只能说是可能性更大,并不能保证映射过去一定线性可分】,由此我们可以构造映射函数,但问题随之而来了,维度扩大,那么随之而言的计算成本就增加了,模型效果好了,但是可用性降低,那也是不行的。
于是有人提出了核函数的概念,可以在低维空间进行高维度映射过后的计算,使得计算花销大为降低,由此,使得映射函数成为了可能。举个简单的例子吧,假设我们的原始样本特征维度为2,将其映射到三维空间,随便假设我们的映射函数为f(x1,x2)
=
(x1^2,
x2^2,
2*x1*x2),那么在三维空间中,样本线性可分更大,但是向量内积的计算开销从4提高到9【如果从10维映射到1000维,那么计算花销就提高了10000倍,而实际情况下,特征维度几万上百万十分常见】,再看对于样本n1=(a1,a2),n2=(b1,b2),映射到三维空间之后,两者的内积I1为:a1^2
*
b1^2
+
a2^2
*
b2^2
+
4
*
a1
*
a2
*
b1
*
b2,此时,又有,n1,n2在二维空间中的内积为:a1b1
+
a2b2,平方之后为I2:a1^2
*
b1^2
+
a2^2
*
b2^2
+
4
*
a1
*
a2
*
b1
*
b2,此时
I1
和
I2
是不是很相似,只要我们将f(x1,x2)调整为:
(x1^2,
x2^2,
根号(2*x1*x2)
)
,那么此时就有I1
=
I2,也就是说,映射到三维空间里的内积,可以通过二维空间的内积的平方进行计算!
个人博客:www.idiotaron.org
里有关于svm核函数的描述~
实际上核函数还是挺难找的,目前常用的有多项式核,高斯核,还有线性核。
希望能帮到你,也希望有更好的想法,在下面分享下哈。
为什么会提出核函数:
一般我们在解决一般的分类或者回归问题的时候,给出的那个数据可能在低维空间并不线性可分,但是我们选用的模型却是在特征空间中构造超平面,从而进行分类,如果在低维空间中直接使用模型,很明显,效果必然会大打折扣。
但是!如果我们能够将低纬空间的特征向量映射到高维空间,那么这些映射后的特征线性可分的可能性更大【记住这里只能说是可能性更大,并不能保证映射过去一定线性可分】,由此我们可以构造映射函数,但问题随之而来了,维度扩大,那么随之而言的计算成本就增加了,模型效果好了,但是可用性降低,那也是不行的。
于是有人提出了核函数的概念,可以在低维空间进行高维度映射过后的计算,使得计算花销大为降低,由此,使得映射函数成为了可能。举个简单的例子吧,假设我们的原始样本特征维度为2,将其映射到三维空间,随便假设我们的映射函数为f(x1,x2)
=
(x1^2,
x2^2,
2*x1*x2),那么在三维空间中,样本线性可分更大,但是向量内积的计算开销从4提高到9【如果从10维映射到1000维,那么计算花销就提高了10000倍,而实际情况下,特征维度几万上百万十分常见】,再看对于样本n1=(a1,a2),n2=(b1,b2),映射到三维空间之后,两者的内积I1为:a1^2
*
b1^2
+
a2^2
*
b2^2
+
4
*
a1
*
a2
*
b1
*
b2,此时,又有,n1,n2在二维空间中的内积为:a1b1
+
a2b2,平方之后为I2:a1^2
*
b1^2
+
a2^2
*
b2^2
+
4
*
a1
*
a2
*
b1
*
b2,此时
I1
和
I2
是不是很相似,只要我们将f(x1,x2)调整为:
(x1^2,
x2^2,
根号(2*x1*x2)
)
,那么此时就有I1
=
I2,也就是说,映射到三维空间里的内积,可以通过二维空间的内积的平方进行计算!
个人博客:www.idiotaron.org
里有关于svm核函数的描述~
实际上核函数还是挺难找的,目前常用的有多项式核,高斯核,还有线性核。
希望能帮到你,也希望有更好的想法,在下面分享下哈。

2024-02-18 广告
滤波器的主要参数(Definitions):中心频率(Center Frequency):滤波器通带的频率f0,一般取f0=(f1+f2)/2,f1、f2为带通或带阻滤波器左、右相对下降1dB或3dB边频点。窄带滤波器常以插损很小点为中心频...
点击进入详情页
本回答由上海上恒提供
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询