DreamBlooms/HansPub-15000-to-45000 huggingface dataset:
system: [SYSTEM]

user: 摘 要 提升光滑支撑向量机分类性能，本文引入了一种新的一致光滑逼近函数来替代正号函数，此函数不仅克服了支撑向量机模型求解过程中出现的不可微性，也在求解收敛速度上优于其他光滑函数。基于此一致光滑逼近函数我们设计了相应的牛顿算法并证明了该光滑函数的收敛性，最后通过数值模拟体现了该函数在光滑支撑向量机模型中的求解精度、效率和推广适应性的优越性能。 关键词 :支撑向量机，一致光滑函数，对偶问题，Newton-Armijo算法 Copyright © 2020 by author(s) and Hans Publishers Inc. This work is licensed under the Creative Commons Attribution International License (CC BY 4.0). http://creativecommons.org/licenses/by/4.0/
system: [SYSTEM]

user: 1. 引言 随着智能时代的到来，机器学习领域越来越广泛受到社会青睐，成为很多学者的研究热门。2001年Lee等人通过对支撑向量机的深入研究首次使用了sigmoid积分函数 p ( x ， α ) 对无约束的支撑向量机(Support Vector Machine， SVM) [ 1 ] 进行光滑化，这是首次在支撑向量机中引入光滑的概念。得出了光滑支撑向量机(Smooth Support Vector Machine， SSVM) [ 2 ] 模型，然后在Armijo线搜索的基础上采用了牛顿算法对此光滑支撑向量机模型进行求解，结果展现出了比一般的支撑向量机模型更好的分类性能，同时也提高了其计算的效率。同年Mangasarian等人也提出了RSVM (Reduced Support Vector Machine) [ 3 ]，将模型研究的约束凸优化问题改进为无约束强凸优化问题，从而使相应算法在求解问题上提升了一定的速度，尽管该模型在实际过程中对于一些大规模数据问题的求解所花费的时间比较长，且需要保存的信息和计算量也比较多，在求解思路上，仍是一种主流的进步方法。从此越来越多的学者们逐渐将研究光滑函数作为SSVM模型的核心，并以此开辟了支撑向量机的一个新的研究方向。 2005年，袁玉波 [ 4 ] 等人提出了两个多项式光滑函数，通过对支撑向量机模型的无约束目标函数进行光滑化处理，引出了PSSVM模型，也证明了PSSVM相比SSVM而言有着更好的分类性能。之后又提出了三阶样条光滑函数 [ 5 ]，从而引出了新的支撑向量机的TSSVM模型。通过分析TSSVM模型的收敛性和对应数据实验结果可以说明TSSVM有着更优秀的分类效果。2008年，熊金志等人 [ 6 ] 更是提出了高于三阶样条光滑函数一个数量级的六阶光滑函数。 随着光滑函数逼近正号函数的精度的提高，显然其函数本身也变得越来越复杂，这并不利于科学计算。本文主要介绍了一种新的一致光滑逼近函数来替代正号函数。克服了支撑向量机模型求解过程中出现的不可微性，并基于此一致光滑逼近函数设计了相应算法，通过理论计算并证明了该光滑函数的收敛性，最后通过数值模拟体现了该函数在光滑支撑向量机模型中的求解精度、效率和推广适应性的优越性能。
system: [SYSTEM]

user: 2. 光滑支撑向量机 2.1. 支撑向量机 对于给定一组数据 { ( x 1 ， y 1 ) ， ( x 2 ， y 2 ) ， ⋯ ， ( x m ， y m ) } 其中 x i ∈ ℝ d ， y ∈ { − 1 ， 1 } ，我们的目标是从数据中寻求一个假设函数 h : R → [ − 1 ， 1 ] ，使得 h ( x i ) = y i ，即 ∀ i ， y i h ( x i ) = 1 (1) 更进一步，线性二分类模型认为假设函数的形式是基于对特征 x i 的线性组合，即 h ( x i ) : = s i g n ( w T x i + b ) (2) 其中 w i ∈ ℝ d ， b ∈ ℝ 。 定义1. 线性二分类模型的目标是找到一组合适的参数 ( w ， b ) ，使得 ∀ i ， y i ( w T x i + b ) > 0 (3) 即，线性二分类模型希望在特征空间找到一个划分类别的超平面，将属于不同标记的样本分开。证明 y i h ( x i ) = 1 ⇔ y i s i g n ( w T x i + b ) = 1 ⇔ y i ( ω T x i + b ) > 0 (4) 由于能将样本分开的超平面有可能有很多，故SVM希望能找到一个离各个样本都比较远的划分超平面，即最优超平面。 当面对样本的随机扰动时，离各个样本都较远的划分超平面抗干扰的能力比较强，我们希望在优化间隔的同时，允许分类错误的样本出现，但这类样本应尽可能少： { min ω ， b 1 2 ω T ω + C ∑ i = 1 m I ( . ) y i ≠ s i g n ( ω T φ ( x i ) + b ) s .t .   y i ( ω T φ ( x i ) + b ) ≥ 1 (5) 其中， I ( . ) 是指示函数，C是个可调节参数，用于权衡优化间隔和少量分类错误样本这两个目标。但是，指示函数不连续，更不是凸函数，使得优化问题不再是二次规划问题。所以我们需要对其进行简化。 公式(5)难以实际应用的原因在于指示函数只有两个离散取值0/1，对应样本分类正确/错误。为了能使优化问题继续保持为二次规划问题，我们需要引入一个取值为连续值的变量，刻画样本满足约束的程度。我们引入松弛变量 ξ i ，用于度量样本违背约束的程度。当样本违背约束的程度越大，松弛变量值越大。即 ξ i = { 0 ，     若 y i ( ω T φ ( x i ) + b ) ≥ 1 1 − y i ( ω T φ ( x i ) + b ) ，     若 y i = s i g n ( ω T φ ( x i ) + b ) (6) 定义2. (软间隔支撑向量机基本型)软间隔支撑向量机旨在找到一组合适的参数 ( w ， b ) 使得 { min ω ， b 1 2 ω T ω + C ∑ i = 1 m ξ i s .t .   y i ( ω T φ ( x i ) + b ) ≥ 1 − ξ i i = 1 ， 2 ， ⋯ ， m ， ξ i ≥ 0 ， i = 1 ， 2 ， ⋯ ， m (7) 其中，C是个可调节参数，用于权衡优化间隔和少量样本违背大间隔约束这两个目标。当C比较大时，我们希望更多的样本满足大间隔约束；当C比较小时，我们允许有一些样本不满足大间隔约束。 定义 3. (软间隔支持向量机对偶型)软间隔支持向量机的对偶问题等价于找到一组合适的 α ，使得 { min α 1 2 ∑ i = 1 m ∑ j = 1 m α i α j y i y j φ ( x i ) T φ ( x j ) − ∑ i = 1 m α i s .t .     ∑ i = 1 m α i y i = 0 ，   0 ≤ α i ≤ ξ i ，   i = 1 ， 2 ， ⋯ ， m (8) 2.2. SSVM 由软间隔支撑向量机的原始型和对偶形式我们可以对其进行求解得到 α i * ，于是分类函数 f ( x ) = s i g n [ ∑ i = 1 m y i α i * ( φ ( x i ) ， φ ( x ) ) + b * ] = s i g n [ ∑ i = 1 m y i α i * K ( x i ， x ) + b * ] (9) 其中， b * = 1 m ∑ i = 1 m ( y i − ∑ i = 1 m y i α j * ( φ ( x j ) ， φ ( x i ) ) ) 令 X = ( x 1 ， x 2 ， ⋯ ， x m ) T x i = ( x i 1 ， x i 2 ， ⋯ ， x i n )   ( i = 1 ， 2 ， ⋯ ， m ) e = o n e s ( m ， 1 ) D = d i a g ( y 1 ， y 2 ， ⋯ ， y m ) ， A = D K ( X ， X T ) D 则问题(7)改写为 { min α ， b 1 2 α T A α + C e T ξ s .t .     D ( K ( X ， X T ) D α + e b ) − e + ξ ≥ 0 ， ξ ≥ 0 (10) 对于任何核函数，上式均是个凸二次规划问题，不妨取 A = I ，同时用b衡量分类间隔( 2 ‖ ( w ， b ) ‖ 2 )， 于是在对偶问题中 b = − e T D α ，同时让松弛变量 ξ T ξ 最小，则(10)转化为 { min α ， b 1 2 ( α T α + b 2 ) + c 2 ξ T ξ s .t .     D ( K ( X ， X T ) D α + e b ) − e + ξ ≥ 0 ， ξ ≥ 0 (11) 由约束条件知， ξ = ( e − D ( K ( X ， X T ) D α + e b ) ) + 这里是非光滑的。将其代入问题(11)，得到一个强凸无约束优化问题： min α ， b 1 2 ( α T α + b 2 ) + c 2 ‖ ( e − D ( K ( X ， X T ) D α + e b ) ) + ‖ 2 (12) 有唯一解。 令 z = ( α b ) ， r = ( r 1 ， r 2 ， ⋯ ， r l ) T ， ( r + ) i = max { r i ， 0 } ， r i = 1 − H i z ， H i = y i [ K i − 1 ] K i 是核矩阵 K i 的第i行。则将(13)改写为一般形式为 min z f ( z ) = 1 2 z T z + c 2 ‖ r + ‖ 2 2 (13) 用不同的光滑函数来近似逼近正号函数 ( ⋅ ) + ，可得不同的SSVM模型，典型的光滑函数有sigmoid函数的积分函数、多项式函数、样条函数和插值函数等等。 这里我们假定一个光滑函数 p ( r ， k ) 来近似 r + ，则得到光滑支撑向量机SSVM： min z f p ( z ) = 1 2 z T z + c 2 ( p ( r ， k ) ) T p ( r ， k ) (14) 即为常见的光滑支撑向量机模型。
system: [SYSTEM]

user: 3. 一致光滑逼近函数及其性质 基于对正号函数的逼近的考虑，我们寻找了一致光滑逼近函数来光滑目标函数中的不可微部分，利用一致光滑逼近函数来近似绝对值函数，从而通过新问题的求解来逼近原问题的解。 给出的一致光滑逼近函数如下所示： h λ ( t ) = μ ln ( e t μ + e − t μ ) + ( λ − 1 ) μ ln 2 ， μ > 0 ，     λ ∈ [ 0 ， 1 ] (15) 当 μ → 0 时， 。 该函数是由 的两个一致光滑逼近函数 和 [ 7 ] 的凸组合得到，其中 ， ; ， . 利用pycharm，采用精度 ， ，在区间 上一致光滑逼近函数 和 及其凸组合形式 分别与正号函数 的逼近程度见图1，从图中可以看出，其凸组合形式的光滑函数 因其参数的选择不同可以有更好的适应性。 图1. 不同光滑函数的逼近程度 记 ， 为 的上方一致光滑逼近函数， 则：1) ； 2) 的值随参数 的减小而单调下降，且当 时， ； 3) ，且 。 证明1) 由于 从而 且 与 中至少有一个等于0，因此 即 2) 的值随参数 的减小而单调下降的证明可参考于李兴斯等 [ 8 ] [ 9 ] 关于凝聚函数的性质推导过程。结合 ，即 ，这表明 有界，利用单调有界必有极限的定理及夹逼准则，则有 。 3) ，而 ，即 ，因此 ，且 。 我们给出了 时该函数与绝对值函数的逼近情况如图2。 记 ， 为 的下方一致光滑逼近函数， 则：1) ； 2) 的值随参数 的减小而单调递增，且当 时， ； 3) ，且 。 证明1) 由于 ，于是 ，结合上文中叙述的 ，则有 图2. 光滑函数y2与绝对值函数y1的逼近程度 2) 的值随参数 的减小而单调递增的证明可参考于杨庆之等人 [ 10 ] [ 11 ] 等关于凝聚函数法的文献。 结合 ，即 ，这表明 有界，利用单调有界必有极 限的定理及夹逼准则，则有 。 3) ，而 ，即 ，因此 ，且 。 我们给出了 时该函数与绝对值函数的逼近情况如图3。 以上得到的两个一致光滑逼近函数均可以用作近似逼近正号函数 ，然而其精度并不是很好，基于凸组合的特殊线性组合原理，从而将是由 的两个一致光滑逼近函数 和 的凸组合而得到的新的函数： 而 于是 从而相应的光滑函数为 (16) 图3. 光滑函数y3与绝对值函数y1的逼近程度 对于这样一个新的凸组合光滑逼近函数，将其与绝对值函数进行比较如图4所示。 当 ， 时 图4. 光滑函数y4与绝对值函数y1的逼近程度 当 ， 时，见图5。 对于给定的光滑因子k， 当 时，逼近程度 图5. 更新后的光滑函数y4与绝对值函数y1的逼近程度 时，逼近程度 故当 时， 故当 时， 故当 时， 时，逼近程度 显然，只需取 为趋向于0的合适的值我们即可得到较强的逼近精度。对于任意一个 ，问题(14)和(15)的解的逼近精度始终满足于 其中 。 要求SSVM的解满足精度要求。只要使得 ，只需有 时， 故当 时，解得 当 时，解得 时，解得
system: [SYSTEM]

user: 4. Newton-Armijo算法 Newton-Armijo算法是对于牛顿法的一个改进。采用Armijo线搜索，并利用牛顿法进行求解。记式(13)的目标函数梯度为 ， 使用光滑函数 代替 得到： ，其中( 是k取定值时的 ) Hessian矩阵 ，其中 ；式(15)的目标函数梯度为： ， Hessian矩阵 ，其中 一般的Newton-Armijo算法 目标函数的下降方向 由方程 求得，由于使用了Armijo一维搜索，保证了目标函数值在迭代过程中的不断下降，其具体步骤如下： Step 1 Initialization. Given the initial point ， let ， ， parameter: generated from the input data; Step 2 Calculate . If ， stop; or turn to step 3; Step 3 Calculate Hessian matrix ， solve and then we get ; Step 4 (Armijo line search) select and let Step 5 Let ， ， turn to step 2. 该算法每次迭代需要计算Hessian矩阵 ，再确定搜索方向，所需要的工作量相当大，并且由于数据的特征比较多，相应的对于Hessian矩阵的计算就会变得比较复杂。 改进的Newton-Armijo算法 将问题(13)中的目标函数 光滑为 ，令 ，然后求解该方程，由于 中 比 中 简单，因而这个改进的方法在计算起来速度更快。其具体步骤如下： Step 1 Initialization. Given the initial point ， let ， ， parameter: generated from the input data; Step 2 Calculate . If ， stop; or turn to step 3; Step 3 Calculate Hessian matrix ， solve and then we get ; Step 4 (Armijo line search) select and let 其中 ，而 (a是 的定义域下界)，因为 的一阶 充分必要条件是 ； Step 5 Let ， ， turn to step 2.
system: [SYSTEM]

user: 5. 数值结果和比较 5.1. 一致光滑牛顿法求解 数值实验数据来自用python编写的随机线性不可分数据集，统共样本数据有1000样本，测试样本有300个，每个样本有30个特征，采用了高斯核来将其映射到高维特征空间上得到分类结果如图6~9。 可以看出在小规模数据集下其分类的正确率都有着良好的性质。基于此结果的影响下，我们采用了其他数据集，例如区分数字的分类数据集USPS，我们实验选取了5000个训练样本，1800个测试样本，每个样本有着160个特征，在精度要求 的情况下使用不同Newton-Armijo算法求解算法下分类所需的迭代次数、时间、训练错误率和测试错误率如表1所示。 5.2. 分析与比较 由图表中数据进行分析可知，我们得到一些关于不同光滑函数与算法的结合求解SVM的相关结论： 1) 一般来说，随着光滑函数与目标函数的逼近程度的靠近，求解SVM的解的精度会更好，在迭代次数有要求的情况下，光滑函数的选取决定了它是否能够满足实验精度要求，否则只能在最大迭代次数下才能得到满足实验精度的结果。新选取的光滑函数的参数选择也决定了它是否能够很好的契合实际问 图6. 分类结果(1) 图7. 分类结果(2) 图 8. 分类结果(3) 图9. 分类结果(4) Table 1 Experimental results of different solving algorithms for different smooth function Algorithm Smooth function iterations time/s Training error rate Test error rate lambda General Newton-Armijo algorithm 69 6.378173 0.0089 0.0179 79 7.001273 0.0056 0.0156 34 4.912734 0.0032 0.0151 0.5 32 4.721893 0.0012 0.0149 0.618 Improved Newton-Armijo algorithm: 61 6.001282 0 0.0139 75 5.832902 0.0023 0.0187 30 4.027182 0 0.0123 0.5 27 3.891276 0 0.0146 0.618 表1. 不同光滑函数求解算法的实验结果 题的解决思路。在这方面，凸组合形式的光滑函数给了我们一些新的想法，在逼近程度上与求解问题精度上做一个很好的平衡是一个好的思路。 2) 一般来说，光滑函数的逼近可以使得训练错误率的下降逐渐减小甚至为0，但是数据训练的时间也会越来越多。这就要求我们在求解大规模问题中需要寻求一个适应性很好的光滑函数，在光滑函数的逼近程度和函数本身的复杂中间需要我们做好平衡，如何保证在尽量减少计算量的情况下最大化计算效率和求解速度，并在算法参数和光滑参数的结合上做一个好的调整是一件值得考虑的事情。
system: [SYSTEM]

user: 6. 结论 综上可知，支撑向量机的光滑算法中，光滑函数的不同对于算法的使用有着不同的收敛速度及计算复杂度，很明显改进后的改进的Newton-Armijo算法的收敛速度优于一般的Newton-Armijo算法；尽管是同样的算法中实验，光滑函数的不同对于结果也有着不同的影响，其影响程度也与光滑函数的逼近程度相关，越逼近正号函数的模型，其解的精确度就越高，训练结果达到的正确率也就越高，但是其训练时间也就随之增加。今后待研究问题方向有：除却Newton-Armijo算法之外的BFGS-Armijo算法、Newton-PCG等其他算法在不同光滑函数的模型下求解SSVM模型的收敛速度及求解精确度的问题、在大规模数据中处理数据训练时间和精度的平衡、光滑算法的优化改进等等。
system: [SYSTEM]

user: 摘 要 伴随着共享经济与互联网的发展，在线短租以其多元化的住宿服务和创新性的商业模式备受关注。明确消费端用户的个性化功能需求、满足个性化消费是在线短租发展的关键要素之一。本文以在线短租的典型代表airbnb为例，从消费端功能出发，通过文献研究及访谈确定其App的已有功能与推荐功能，引入Kano模型进行属性识别，并在Better-Worse分类的基础上引入敏感度并筛选改进要素。结果显示，在21个已有功能中和4个推荐功能中，魅力因子居多，并主要集中在界面与房源筛选上；同时通过敏感度识别出10个改进要素。本文通过对功能的因子识别与分析，以期为airbnb及其他在线短租平台的App功能优化提供参考。 关键词 :功能需求，Kano模型，在线短租，Airbnb Copyright © 2020 by author(s) and Hans Publishers Inc. This work is licensed under the Creative Commons Attribution International License (CC BY). http://creativecommons.org/licenses/by/4.0/
system: [SYSTEM]

user: 1. 引言 共享经济是通过将闲置资源的让渡与整合，搭建双边市场，形成市场之间的互补与替代，在其中最备受瞩目的莫过于在线短租 [ 1 ]。与传统短租相比，在线短租最大的特点在于将房东与房客集中在同一平台中，通过互联网对双方信息进行管理与匹配提高闲置产品的利用率以及降低交易匹配成本。一般而言，在线短租的主要消费渠道是App。一方面，与房东相比，共享平台的房客对该类App有更高的个性化需求，除基本的资源属性外，对于附加功能的要求更多 [ 2 ]。另一方面，在线短租的品牌经营很大程度上取决于App的运营情况，尤其是其消费端的运营情况。因此，如何识别消费端用户对各项App功能的认知情况、满足消费群体的个性化需求，对于在线短租平台的发展具有重要意义。本文以在线短租的典型代表airbnb为例，利用Kano模型分析用户的功能需求并探究各项功能的重要度，以期在提高用户满意度和忠诚度方面提供建议。
system: [SYSTEM]

user: 2. 文献回顾 2.1. 在线短租的研究现状 学术界对于在线短租的研究主要关注其安全监管、运营模式和消费者选择等方面。在安全与监管方面，李立威 [ 3 ] 对airbnb和小猪短租进行案例分析将共享经济的信任机制分为平台、人及产品的信任，并对其信任机制进行了进一步的分析；钱瑾 [ 4 ] 以在线短租为例，对共享经济的监管思路进行了一个探讨，认为现今应加强自律监管的作用与公信平台建设；凌超和张赞 [ 5 ] 则通过对在线短租的发展现状对当今共享经济在中国的落地生根提出相应的建议，认为安全及诚信水平是在线短租行业发展的重点及难点。在运营模式方面，宋琳 [ 6 ] 基于现今诚信机制不完善的情况下，对C2C、B2C模式下在线短租运营进行博弈分析，并探讨了其未来发展模式；丁茜 [ 7 ] 以旅游行业为视角，对比分析国内外多家短租平台，对国内短租平台运营的各细化环节提出建议；董诗瑶 [ 8 ] 在交易成本理论的基础上从其配置资源的能力、技术与制度的创新等方面提取研究参数，探究国内外短租发展差异。在消费者选择方面，Ert等 [ 9 ] 以airbnb为例探讨了房东照片对客户信任度及决策的影响，认为用户对照片的信任度越高，选择该房源的概率越大；Guttentag [ 10 ] 通过对在airbnb住宿的800多名游客进行在线调查，认为消费者选择短租的主要原因集中在互动性、新颖性、类家性、共享精神以及本地的体验真实性上，同时也对用户进行分类以此细分市场。此外，还有部分学者指出价格、住宿设施及居住地所在位置 [ 10 ] 、隐私与住宿的安全性 [ 11 ] 也是影响消费者选择的关键。 尽管国内外对在线短租的研究逐渐成熟，但鲜少有文献对于在线短租App的功能需求展开分析。在线短租App在一定程度上兼顾了旅游App的路线推荐功能以及酒店App的住宿服务功能。潘澜等 [ 12 ] 指出感知有用性、信任及满意度是影响智慧旅游App用户持续性意愿的重要因素。同时，王晓燕和丁鑫 [ 13 ] 在对酒店等住宿行业的App研究中发现，在线评论是用户选择参考时的重要决策信息。因此，本文在研究在线短租App需求时，也将结合酒店及旅游App的相关需求，并将信任、在线评论等要素纳入功能需求的分析中。 2.2. Kano模型及其应用研究 Kano模型是Noriaki Kano及其合作者受赫茨伯格双因素理论启发而提出，即通过将用户满意度与产品属性引入模型对产品属性进行分类，并将产品属性分为必备因子、期望因子、魅力因子、无差异因子与反向因子，以此找出提高用户满意度的切入点(Kano， 1984)。具体来说，必备因子(M)是用户对于产品或服务要素的基本的功能需求；期望因子(O)是用户对产品的满意状况与需求满足程度呈比例关系的功能需求；魅力因子(A)于用户而言，不会过分期望，但一旦满足，满意度会有较大提高的功能需求；无差异因子(I)是满足与否对用户满意情况没有影响的功能需求；反向因子(R)是一旦满足用户反而不满的功能需求。通过正反两方面的结构型调查问卷收集上述五类需求的信息，分类汇总调查结果后，可建立Kano模型 [ 14 ]。 Kano模型在学术界大多被用于评估平台系统的客户功能需求，近年来也被广泛应用于分析App及其服务上。涂海丽和唐晓波 [ 15 ] 利用Kano模型对微信的功能需求进行分类，进而挖掘用户的隐性需求。范哲和刘莉 [ 16 ] 在研究“知乎”的搜索功能时，通过Kano模型归纳其质量属性。范成文等 [ 17 ] 基于魅力质量理论及Kano模型，对老年人体育服务需求做出了精准识别。蔡寿松和顾晓敏 [ 18 ] 用Kano模型分析网购的商业模式需求。 2.3. 小结 已有文献从在线短租的发展特点、法律监管、信任机制及消费选择等方面，对在线短租的发展现状与瓶颈进行了多维度的分析。但是，较少有研究从微观角度对用户、尤其是消费端用户的需求心理及功能设计方面进行探讨。用户是共享经济的关键环节，因而在线短租品牌的App设计能否切实满足用户的心理需求，对其运营和发展具有重要的现实意义。本文将以airbnb为例，重点关注消费端用户的需求心理，通过功能分析，为平台的改进优化提供建议。
system: [SYSTEM]

user: 3. 功能获取及划分 在文献回顾的过程中，本文发现：用户对于在线短租平台的需求及影响其住宿选择的要素主要集中在房源所在位置、操作便捷性、住宿设施、价格及安全性等方面。相对应的，本文将airbnb App的已有功能进划分为：房源筛选、界面、用户体验、安全性四个方面。其中，房源筛选中的交通站点、中心距离及配套设施等与操作便捷、住宿设施等相对应；安全性方面对应第三平台处理收付款，以及airbnb新推出的芝麻信用绑定等功能。为了进一步挖掘用户对于各方便功能的需求，本文对9位使用年限不同的airbnb用户展开访谈，访谈内容包括短租出行体验、常用功能类型以及使用过程体验和功能建议，并根据最终的文献研究及访谈结果识别出21项已有功能和受访者建议添加的4项功能(以下称为“推荐功能”)，如表1所示。 Table 1 Function classification and descriptio 功能分类 具体功能 功能说明 界面 1.显示搜索建议 在搜索框中根据搜索历史及热门景点提供搜索建议 2.定期发布优惠消息 在界面中以链接、图片、文字等方式介绍优惠信息 3.个性化推荐房源 根据以往的搜索历史及收藏房源在初始界面中展示高性价比、高分好评等房源 4.推荐热门景点 通过对热门景点的推荐展示相应房源 用户体验 5.出行体验分类分享 用户对旅行中的民宿、美食、景点用图片及文字等方式进行分享 6.好评排序 * 根据以往用户评分对房源进行排序 7.求租 * 当现有房源无法满足用户需求时，用户可发布个人需求信息，满足条件的房东可及时联系 8.绑定商务邮箱接收消息 将商务邮箱与App绑定，同时接收房东与工作消息 安全 9.绑定芝麻信用 与芝麻信用绑定，评价房东信用等级 10.第三方平台处理收付款 第三方平台处理双方收付款，款项不直接汇入房东 11.设置安全验证(更换设备时) 在相应网站与App或不常用设备切换登入时，设置安全验证 房源筛选 12.日期 根据住房日期进行房源筛选 13.建议入住人数 根据入住人数进行房源筛选 14.闪订 根据是否可以无需房东确认，快速预订的房源进行筛选 15是否合租 根据是否可以与其他住户或房东同住的房源进行筛选 16.卧室数量 根据卧室数量进行筛选 17.床铺数量 根据床铺数量进行筛选 18.卫生间数量 根据卫生间数量进行筛选 19.旅程类型 根据商务出行、家庭出行等主题出行方式进行筛选 20.建筑类型 根据建筑类型如民宅、别墅、度假木屋等进行筛选 21.房屋守则 根据是否允许吸烟、携带宠物等房屋守则进行筛选 22.交通站点 * 根据房源周边交通站点分布 23.无障碍需求 根据门廊、电梯、扶手等无障碍需求进行筛选 24.便利设施 根据洗衣机、空调、熨斗等便利设施进行筛选 25.与中心城区距离筛选 * 根据中心城区的距离范围进行筛选 表1. 功能分类及说明 注： * 表示推荐功能。
system: [SYSTEM]

user: 4. 问卷设计及数据搜集 本文的问卷分成两部分。第一部分是基本信息，包括受访人员的性别、年龄阶段以及职业类型等，以了解用户的基本信息情况。第二部分是Kano问卷，对表1所示的25项功能进行正反两个方向的提问，以识别各项功能的需求情况。具体来说，Kano问卷的问题分为“我很喜欢”“理应如此”“无所谓”“勉强接受”和“我不喜欢”五项，对同一项功能通过两方面的回答情况进行质量要素划分，以了解用户的对该功能的感受。具体如表2所示。 Table 2 Kano model quality factor classificatio 正向问题 反向问题 我很喜欢 理应如此 无所谓 勉强接受 我不喜欢 我很喜欢 Q A A A O 理应如此 R I I I M 无所谓 R I I I M 勉强接受 R I I I M 我不喜欢 R R R R Q 表2. Kano模型质量要素分类 注：M—必备因子，O—期望因子，A—魅力因子，I—无差异因子，Q—可疑因子，R—反向因子。 本次调查问卷要求填写人员必须使用过airbnb，并且对在线短租平台有一定的了解。因此，通过微信、QQ对airbnb用户交流群、交流社区等进行有偿问卷扩散。本次调查共回收499份问卷，剔除填写时间过短及回答可疑的问卷，最终回收300份有效问卷，回收率为60.1%。 本次调查样本中，男性占比为45%，女性为55%；年龄分布以18~25岁为主，(55%)与26~35岁用户(32%)为主；职业类型中公司职员占比最高(41%)，其次是学生(38%)。根据《2019年中国在线民宿预订行业发展研究报告》 [ 19 ]，airbnb的使用人群主要以女性为主，并且集中在公司职员与学生群体上，两者合计占比近八成，并且用户偏年轻化，年龄以80~90年代用户为主。综上，本次调查的用户基本特征与调查报告的分布相似性较大，说明调查样本具有较高的典型性。
system: [SYSTEM]

user: 6. 结论与建议 6.1. 结论 作为共享经济的典型代表，在线短租因其个性化选择、便捷性操作和低廉的市场准入成本等特点获得了较高的市场认可。本文以在线短租行业的典型代表airbnb为例，通过文献研究、访谈、问卷发放及数据分析，对其App的现有功能进行了属性分类及用户需求探索，同时量化识别出改进功能和推荐功能，最终得出以下结论： 在界面方面，所有的功能都属于魅力因子。显示搜索建议、个性化推荐房源、和热门景点这些功能可以很好的帮助用户在出行目的地选择和房源选择上提高搜索效率，更为快速地找到适合个人需求及习惯的房源。价格作为影响短租选择的重要因素，优惠信息的合理发布也无疑会使得用户满意度大大提高。同时，搜索建议、优惠信息和房源推荐三项功能是需要改进的。通过访谈也了解得知，airbnb的推荐功能缺少一定的针对性。因此，个性化推荐和优惠信息是今后改进的重点。 在用户体验方面，出行体验分类分享是魅力因子，它以照片、文字等形式分享各地旅游攻略，可以很好地提升用户出行体验。同时，出行体验分享也应注重实用性、多元性才能更好的提升用户满意度。推荐功能的好评排序，在分类过程中属于期望因子，该因子的改进程度与客户满意度成正比关系。已有研究表明，在线评论对用户的选择有着较大的影响，好评排序在一定程度上可以便于用户在较短的时间内对高口碑房源进行筛选。这也符合国内用户在各大电商平台的使用习惯。求租与绑定商务邮箱两项功能属于无差异因子，绑定商务邮箱作为无差异因子，很有可能是用户对于该项功能的熟悉度不高；对商务信息的推送需求不高很可能是因为市场上已有较为成熟的信息推送软件，使其成为可有可无的功能. 在安全方面，安全验证为必备功能。当用户在使用不同设备及更换登陆方式时，需要进行相应的验证以保证账户安全，该项功能无疑能在很大程度上确保用户隐私及信息安全性。但是，验证也存在一些不足之处，多方式的登陆也会给用户造成一定的困扰。第三方平台收款为期望因子，其安全性对于用户的付款、退款等有着直接的影响。绑定芝麻信用为新推出的功能，该功能归属于无差异功能的原因很有可能是用户接受度和熟悉度不高。 在房源筛选方面，涉及筛选房源可容纳人数的功能有建议入住人数、卧室数量、床铺数量和卫生间数量，但只有卧室数量对客户的满意度影响较大，其他几项都属于无差异因子。房屋守则与无障碍需求的筛选也是无差异因子，说明用户在房源筛选时，对其关注度并不大。日期筛选、闪订、合租旅程类型、建筑类型及推荐的中心距离筛选都为魅力因子，对提升用户满意度有着重要影响。便利设施的筛选则是期望因子，改进此类功能对满意度有着显著影响。同时，旅程类型与便利设施的筛选也是急需改进的要素。 结合上述分析可知，用户对airbnb的App个性化推荐、高效率筛选及安全性保障功能表现出强烈的需求，而对于一些新增功能关注度并不高。 6.2. 建议 通过前文的分析，魅力因子与期望因子是提高用户满意度的重点方向，对该部分功能的开发、更新与完善可以有效满足用户诉求。因此，在线短租软件应从个性化、效率、安全三方面展开考虑。首先，从个性化角度来说，airbnb的个性化推荐功能都属于魅力因子或期望因子，同时也是敏感度较高的需改进功能。因此，改进推荐算法的同时需兼顾用户出行特征等行为特点，让推荐更具有针对性是其发展重点。其次，在效率方面，主要针对的是房源筛选方面，需对用户重点关注的App功能进行有效的开发和维护，如在线评论、旅程主题、房源所在位置等方面，而推荐功能如中心距离筛选，也需酌情考虑添加。最后，安全性方面一直是在线短租发展的重点，于App而言，退款效率、登陆验证等方面对安全维护十分重要。尽管芝麻信用在现今归类上属于无差异因子，但据访谈反映，大部分用户对于该项功能鲜少使用，因此部分无差异因子的推广也是今后发展的一个方向。 在线短租App商业模式的新颖性与“互联网+”推动了其规模的壮大。但是，短时间的发展也使得用户粘性存在着一定的问题。因此，提高用户满意度，根据功能分类及改进要素的排序有针对性的改进，能在很大程度上有效提升用户满意度与用户忠诚度。
system: [SYSTEM]

user: 摘 要 国家电网省级通信管理系统TMS存在账物不一致、数据录入错误、缺失数据等问题，需要对大量数据进行分析处理并重新分类；为了提高分类学习的准确度，需要对数据的大量特征进行有效选择。本文将随机森林模型应用于特征选择，依据决策树数目、特征划分标准、特征划分候选子集中的最大特征数、特征重排后模型的准确率变化等多个参数，提出了一种优化的TMS系统数据的随机森林特征选择方法，通过实验进行了验证。 关键词 :随机森林，通信管理系统，特征选择，决策树 Copyright © 2020 by author(s) and Hans Publishers Inc. This work is licensed under the Creative Commons Attribution International License (CC BY 4.0). http://creativecommons.org/licenses/by/4.0/
system: [SYSTEM]

user: 1. 引言 国家电网省级通信管理系统(Transportation Management System， TMS)在资源管理、实时监控、运行管理方面发挥了巨大作用，同时也积累了大量数据，其中蕴藏价值亟待挖掘。由于数据规模的膨胀，TMS系统中的数据具有分散存储、多个字段缺乏相应解释、数据噪声较多、空值较多等特点，使得数据分析变得异常困难。因此需要在原数据集的基础上进行数据整理与特征选择，为后续深度处理做好准备。决策树(decision tree)模型 [ 1 ] 是机器学习中一种较为常见的分类模型，不仅适用于分类问题，同时也适用于回归问题，其基本实现方法包括CART [ 2 ] 、ID3 [ 3 ] 、C4.5 [ 4 ] 等。特征选择是一个对所有数据中包含的属性进行择优的一个过程，最终获取到所有特征的相对重要排名并进行选择。决策树模型具有很多优点，包括模型学习代价低、时间效率高、实现方式多样且易于改进、能对离散数据或连续数据都有特定的处理能力等。然而，决策树模型也包含了决策效果单一、对数据样本的依赖程度很高、无法避免陷入局部最优效果中等等。Adaboost算法 [ 5 ] 和Bagging算法 [ 6 ] 都是决策树模型的改进算法。为完善Bagging算法，LEO Breiman提出了随机森林(Random Forest) [ 7 ]；在采样过程中，使用有放回的boostrapping技术 [ 8 ]，同时改进了决策节点特征选择的集合。与Bagging中将所有数据的属性作为可选特征集合不同，随机森林则随机选取所有数据属性的一个非空子集作为候选特征集合。因此，随机森林可以巧妙地避免过拟合的问题。 针对TMS系统数据进行特征选择目前没有通用方法，本文尝试在TMS系统条件下，使用多棵决策树集成的随机森林来对数据进行特征选择，以不同的度量标准与结果评判进行比对，从而择优选出适合 TMS系统大数据的特征选择方法，并通过实验进行分析验证。
system: [SYSTEM]

user: 2. 随机森林模型 2.1. 特征划分选择 在进行特征划分时，需要考虑每一个特征的重要程度，因此往往需要对每一个特征进行重要性度量。一般使用信息增益 [ 9 ] 和基尼指数 [ 10 ] 两种方法对特征进行重要性度量。 给定样本集 D = { ( x 1 ， y 1 ) ， ( x 2 ， y 2 ) ， ⋯ ， ( x m ， y m ) } ，属性集 A = { a 1 ， a 2 ， ⋯ ， a d } 。假设当前样本集合D中第k类样本所占的比例为 p k ( k = 1 ， 2 ， ⋯ ， | Y | ) ，其中|𝑌|为当前样本集合的分类标签数目。同时，假定离散属性a有V个可能的取值 { a 1 ， a 2 ， ⋯ ， a V } ，若使用a来对样本集D进行划分，则会产生V个分支节点，其中第v个分支节点包含了D中所有在属性a上取值为 a v 的样本，记为 D v 。用 | D | 表示样本集中样本数目， | D v | 表示D中所有在属性a上取值为 a v 的样本数目 [ 11 ]。 1) 基于信息增益度量的特征划分选择 信息增益的计算过程： 信息增益的计算过程： 计算当前样本集D的信息熵。 E n t ( D ) = − ∑ k = 1 | Y | p k log 2 p k (1) 计算属性a对样本集D进行划分所获得的信息增益。 G a i n ( D ， a ) = E n t ( D ) − ∑ v = 1 V | D v | | D | E n t ( D v ) (2) 这里， E n t ( D ) 越小，表示样本集D的纯度越高； G a i n ( D ， a ) 越大，表示用属性a来划分样本集D所获得的纯度提升越大，属性a的重要性越高。 2) 基于基尼指数度量的特征划分选择 基尼指数的计算过程： 计算当前样本集D的基尼值。 G i n i ( D ) = ∑ k = 1 | Y | ∑ k ′ ≠ k p k p k ′ = 1 − ∑ k = 1 | Y | p k 2 (3) 计算属性a对样本集D进行划分后的基尼指数。 G i n i _ i n d e x ( D ， a ) = ∑ v = 1 V | D v | | D | G i n i ( D v ) (4) 其中， G i n i ( D ) 越小，表示数据集的纯度越高，选择使得划分后基尼指数最小的属性作为最优划分属性，即 a * = arg min a ∈ A G i n i _ i n d e x ( D ， a ) (5) 2.2. Bagging算法 Bagging算法是基于自助采样法(boostrap sampling)的一种集成学习方法。给定一个包含n个样本数据的样本集，从中随机取出一个样本放入采样集，之后再把该样本放入原样本集，这样便使得该样本在下一次采样过程中仍有被选中的可能性。重复n次上述采样过程，便获得一个包含n个样本的采样集，且原数据集中的部分样本可能多次出现在采样集中，部分样本可能从未出现。样本在n次采样过程中始终不被采到的概率为 ( 1 − 1 / n ) n ，取极限可以得到： lim n → ∞ ( 1 − 1 n ) n → 1 e ≈ 0.368 (6) 通过自助采样，原样本集中约有36.8%的样本从未出现在采样集中，可以将这部分样本用作测试集。 2.3. 随机森林 随机森林(Random Forest)是由多棵决策树集成的组合分类器，本质上是Bagging的一个扩展。随机森林模型采用了双重随机法，一是使用Bagging方法随机获取每棵决策树的训练子集，二是随机选择一定数量的划分属性进行特征分裂，使得最终集成的学习器泛化性能大大提升。 给定由k棵决策树 h 1 ( x ) ， h 2 ( x ) ， ⋯ ， h k ( x ) 构成的随机森林以及两个随机向量X，Y，则有： 带外(Out Of Band， OOB)数据，原样本集中约有36.8%的样本从未出现在自助采样集中出现，可以将这部分样本用作测试集，即用作验证集来对泛化性能进行“带外估计”。用 D t 来表示决策模型 h t ( x ) 中实际用到的训练样本集，用 H o o b ( x ) 来表示对样本X的“带外预测”分类标签，有 H o o b ( x ) = arg max y ∈ Y ∑ t = 1 T I ( h t ( x ) = y ) ⋅ I ( x ∉ D t ) (7) 随机森林泛化误差的带外估计为 ϵ o o b = 1 | D | ∑ ( x ， y ) ∈ D I ( H o o b ( x ) ≠ y ) (8) 随机森林模型的建立过程： ① 确定原数据样本集中的样本个数N。 ② 确定原数据样本集中的样本特征数目M。 ③ 从原数据样本集中随机采样得到T个训练样本子集。 ④ 确定决策树的节点属性划分时需要使用的特征个数m，且 m < M 。 ⑤ 使用T个训练样本子集，根据确定的划分使用特征个数m，用信息增益、基尼指数等特征重要性度量方法，生成T棵决策树。 ⑥ 将T棵决策树进行集成，对预测结果采用简单投票法来得出最终分类结果。
system: [SYSTEM]

user: 3. 随机森林模型在TMS特征选择中的应用 TMS系统数据具有较高维度，且存在噪声，在进行分类任务之前，必须进行特征选择，否则分类器的精度以及学习效率会异常低下。目前针对TMS系统数据尚需通过人工对照标记来选择学习任务的特征，具有强烈的主观性，缺乏科学的理解与支撑。在此背景下，针对TMS系统数据的特点，用随机森林模型进行特征选择，并分析基于决策树数目、基于特征划分标准、基于特征划分候选子集中的最大特征数等多个参数对模型结果的影响，提出优化的TMS系统数据的随机森林特征选择方法。 经过对TMS系统数据的提取与存取发现，其累积了大量半结构化数据和非结构化数据，例如值班记录、方式信息、方式单附件、故障报告、“三措一案”等，但是缺少非结构化数据处理与分析能力，其中蕴含价值无法挖掘。同时，TMS系统基于传统数据库构建，主要用于实时事务处理，强调及时、安全地将用户操作记录保存下来(处理事务次数多，但每次涉及数据量都比较大)，明显存在不足。 TMS系统数据可大致分为实时告警类、维护管理类、资源管理类、设备画像类及外部数据源五类 [ 12 ]。由于数据规模的膨胀，TMS系统中的数据具有不同省份分散存储、多个字段缺乏相应解释、数据噪声较多、空值较多等特点。基于上述数据特点，需要对TMS系统的数据进行收集与预处理，并选择适合的模型与方法进行训练，最后进行可视化展现。对于大数据的数据分析关键技术，需要基于其数据类型、数据规模的特点，可以从三个方面着手： ① 从大数据的清洗、整理、抽样以及特征选择的角度入手，将大数据小数据化。 ② 开展大数据下各种分类聚类算法的研究，根据具体问题选取特定的机器学习算法。 ③ 开展大数据的并行算法，将传统的数据挖掘、数据分析算法用分布式并行实现，提高效率。 3.1. 基于决策树数目 随机森林的模型越好，其特征重要性排名越为准确，但是时间代价和空间代价也会变大。为了在满足一定性能的前提下选取最为合适的决策树数目，可遵照如下原则执行： ① 在决策树数目较少的范畴，进行迭代测试，观察决策树数目与随机森林模型准确率的关系。 ② 在决策树数目达到一定高度后，进行以一定步长的迭代测试，观察决策树数目与随机森林模型准确率的关系。 ③ 衡量决策树数目与随机森林模型准确率的关系，择优选择在满足一定准确率的条件下，决策树数目最为合适的大小。 3.2. 基于特征划分标准 决策树模型内部节点进行特征划分时，需要考虑每一个特征的重要程度，因此往往需要对每一个特征进行重要性度量。决策树模型常常使用信息增益和基尼指数来对特征进行重要性度量 [ 13 ]。为了选取最适合于TMS系统的特征划分标准，可遵照如下原则执行： ① 使用信息增益的特征划分准则，进行随机森林的建模，得到特征重要性程度的排名，以及该模型的准确率。 ② 使用基尼指数的特征划分准则，进行随机森林的建模，得到特征重要性程度的排名，以及该模型的准确率 [ 14 ]。 ③ 对比信息增益与基尼指数所进行特征划分对TMS系统随机森林模型的准确率影响，选取较之更适合于TMS系统的特征划分方法。 3.3. 基于特征划分候选子集中的最大特征数 随机森林较于Bagging的最大优点，就是在进行节点划分时随机选取特征划分候选子集，在大数理论的支持下，很大程度上非常巧妙地避开了“过拟合”的问题。因此需要确定节点划分候选子集中的最大特征数。当划分候选子集中的最大特征数为1时，无法进行特征重要性度量；当划分候选子集中的最大特征数等于所有特征数目时，随机森林模型的基决策树的构建过程与传统决策树的构建过程无异 [ 15 ]。 为了选取最适合于TMS系统的特征划分候选子集中的最大特征数，可遵照如下原则执行： ① 在随机森林模型构建时，选取的特征划分候选子集中的最大特征数，从1到n进行迭代测试，其中n为数据样本集的所有特征数目。 ② 对比在特征划分候选子集中的最大特征数不同的情况下，随机森林模型的准确率以及该模型下的特征重要性排名，从而选取最适合于TMS系统的特征划分候选子集中最大特征数。 3.4. 基于特征重排后模型的准确率变化 OOB样本对评估模型准确率有着重要的作用，因此可以通过将OOB样本中的每一个特征的所有特征值进行重排，来影响重排后的随机森林模型准确率。通过衡量重排前后模型准确率的变化幅度，就可以获得该特征对于随机森林模型的重要程度。如果是相对重要的特征，则该特征的特征值顺序变动后，会大幅度降低原模型的准确率；如果是相对不重要的特征，则该特征的特征值顺序变动后，对原模型的准确率不会产生较大的影响。 为了衡量特征重排后对模型的准确率变化指标所产生的特征重要性排名，本文遵照如下原则执行： ① 使用原始数据样本集训练得到随机森林模型，记录其模型准确率。 ② 使用OOB样本对每一个特征进行所有特征值重排，通过对比重排前后随机森林模型准确率的变化大小，得到新的特征重要性排名。 进行特征选择后，TMS系统需要进行的后续学习任务多为分类问题，于是大部分情况下可以直接使用训练出来的随机森林模型作为分类模型。通过分析基于决策树数目、基于特征划分标准、基于特征划分候选子集中的最大特征数、基于特征重排后模型的准确率变化等多个参数对随机森林模型应用于TMS特征选择模型结果的影响，可以训练得到一组最适合于TMS系统的特征重要性排名。为了对该排名进一步完善，并得到一个准确率更高的随机森林模型，将选取特征重要性排名中靠前的特征，重新训练得到一个新的随机森林模型以及新的一组特征重要性排名。具体流程为： ① 使用基于决策树数目、基于特征划分标准、基于特征划分候选子集中的最大特征数、基于特征重排后模型的准确率变化的参数，得到一个随机森林模型和一组特征重要性排名。 ② 对得到的特征重要性排名进行截枝，得到最为重要的前几个特征。 ③ 使用新的特征重新训练随机森林模型，并得到一个新的随机森林模型和一组新的特征重要性排名。 ④ 可以使用新的随机森林模型对后续的分类任务进行分类。
system: [SYSTEM]

user: 5. 结语 本文在对TMS系统的数据特点进行分析后，对其进行数据预处理操作，并将随机森林模型应用于特征选择。为了训练得到适合于TMS系统的特征选择模型，本文对决策树数目、特征划分标准、特征划分候选子集中的特征数、特征重排的留出法、特征截枝进行了重点分析，衡量了这些参数对模型结果的影响，从而择优选择出最适合于TMS系统数据的特征选择方法，并对该方法进行了验证。
system: [SYSTEM]

user: 摘 要 聚类是近些年来无监督学习的热门方法之一。而谱聚类又是聚类方法研究中的热点，并且通常表现出良好的聚类性能。谱聚类中的一个关键步骤是构建相似性矩阵。然而，一些传统的算法模型不能很好地考虑数据集的分布结构，很难真正的反映数据点之间的相似性。针对以上的问题，受密度聚类的启发，我们通过找到数据之间的最近邻关系优化相似矩阵，不仅能更好的反映数据之间真实的邻域关系，并且得到了更好的聚类效果。本文不仅提出了一种新的相似矩阵构造方法，并且证明了由本方法得到结果的拉普拉斯矩阵的本证间隙变得更大。最后，通过实验表明该方法的优越性及本证间隙的增大。 关键词 :谱聚类，本证间隙，相似度矩阵，欧氏距离 Copyright © 2020 by author(s) and Hans Publishers Inc. This work is licensed under the Creative Commons Attribution International License (CC BY 4.0). http://creativecommons.org/licenses/by/4.0/
system: [SYSTEM]

user: 1. 引言 近些年来，聚类是无监督学习中的热门方法之一。聚类是许多应用过程中的非常重要的一环，包括机器学习，计算机视觉，信号处理，模式识别等。近些年来国内外很多研究学者已经提出了许多的聚类方法，包括基于划分的聚类(K-Means，K-Medoids) [ 1 ] [ 2 ]，基于层次的聚类(CURE) [ 3 ]，基于模糊理论的聚类(FCM) [ 4 ]，基于密度的聚类(DBSCAN) [ 5 ]，基于图的聚类(Spectral Clustering) [ 6 ]，基于核的方法 [ 7 ]。其中，谱聚类和基于密度的聚类是当下比较热门的方法之一，它们通常表现出良好的聚类性能。基于密度的聚类的优点是能够找到任意形状的聚类并且对噪声具有鲁棒性。密度聚类算法假设聚类结构可以通过样本分布的紧密性来确定。通常密度聚类算法从样本密度的角度考虑样本之间的连通性，并基于可连接样本不断扩展聚类以获得最终的聚类结果。基于密度的噪声应用空间聚类(DBSCAN) [ 5 ] 是一种众所周知的方法，它基于一组邻域参数(ε和MinPts)来表征样本的数据结构。但是这两个参数ε和MinPts并不直观且难以选择。 谱聚类算法是一种基于图论的聚类算法 [ 6 ] [ 8 ]。谱聚类基于数据集构造无向图，并使用非负相似矩阵表示整个无向图，从而得到一个相似度矩阵再得到拉普拉斯到矩阵，然后进行特征分解。最后通常使用K均值算法对结果进行后处理以获得聚类指标。谱聚类具有以下优点：(1) 易于实现；(2) 聚类结果更好，约束更少；(3) 分割非线性可分离数据的效果具有明显的优势；(4) 具有以下优点能够在任何形状的样本空间上聚类并收敛到全局最优解。基于其受欢迎程度和上述几个优点，很多研究人员提出了许多谱聚类算法。Donath W E等人 [ 9 ] 首先提出了相似矩阵的特征向量。找到相似矩阵的第二个特征向量可以将数据分为两个簇 [ 10 ]。Hagen和Kahng在1992年提出的比率削减在最小化类之间的相似性时引入了类尺度的平均项，并建立了基于矩阵谱分析谱聚类算法 [ 11 ]。 [ 12 ] 提出的归一化割，解决了一类最小割中只有一个或几个孤立点的倾斜分割问题。 [ 13 ] 提出了NJW算法(嵌入式特征空间上的K-means算法)。 对于给定的数据集，谱聚类基于成对相似性将数据表征为加权无向图中的节点。谱聚类的目标是将无向加权图分为两个或多个子图，以使子图的内部节点相似而子图之间的节点是不同的。然后，使用非负相似度矩阵表示整个无向图，再进行特征分解，最后通过传统聚类从特征向量中获得最终的聚类分配。总之，相似度矩阵的构建直接影响聚类效果。因此，谱聚类的相似矩阵构造问题是一个关键点 [ 14 ]。通常，通过相似矩阵获得拉普拉斯矩阵，然后直接选择对应于前k个特征值，最后一步再进行k-means。根据矩阵扰动理论，矩阵特征值之间的差异称为本征间隙(Eigengap) [ 15 ]，矩阵扰动理论中的Davis-Kahan定理 [ 16 ] 表明，块对角矩阵的特征向量与矩阵对角关系相似度矩阵的子空间也由eigengap确定，eigengap越大，由k个特征向量形成的子空间就越稳定 [ 15 ]。 [ 17 ] 从图的划分角度出发，提出了一种定义相似度图的新方法。尽管此方法有助于推断数据集的内在结构，但是在无监督条件下获得的相似度矩阵并没有得到根本改善。 [ 18 ] 提出了一种局部密度自适应相似度测量方法。该方法可以放大同一类中具有公共交集的样本之间的相似度，但是不会更改没有公共交集的样本之间的相似度。 尽管谱聚类算法在过去的研究中取得了长足的进步，并且与其他聚类方法相比具有许多优点，但是常用的方法也容易出现以下两个缺点：传统聚类算法构造的相似度矩阵不能很好地考虑数据集的分布结构，很难真实地反映出数据点之间的相似度。最常用的相似度函数是高斯核函数，仅考虑数据的第K个最近邻居，不够全面的并且忽略其相邻点的分布。 为了克服上述两个缺点，本文提出了一种新的相似度矩阵构造方法，该方法受到密度聚类的启发，以求出数据之间的k个最近邻关系(KNRS)。在实验中，与广泛使用的k均值聚类、NJW谱聚类(SC)、模糊聚类FCM、SCMSA谱聚类算法作比较，实验结果表明，我们通过新方法构建的相似矩阵不仅eigengap增加了，新的聚类也具有许多基本优点。主要贡献有两个方面：(1) 在我们的新方法中，考虑数据的k邻域分布，该模型可以方便，准确地发现数据集中包含的密度信息。可以反映数据的内在结构。(2) 关于聚类结果，eigengap变得更大，因此矩阵分区稳定。 本文的其余部分安排如下。在第二节中，我们介绍了有关谱聚类的相关工作。在第3节中，我们提出了基于相似度矩阵聚类算法的新方法。在第4节中，对各类数据集的实验结果进行了分析。在第5节中总结本文。