DreamBlooms/HansPub-15000-to-45000 huggingface dataset:
system: [SYSTEM]

user: 3. 评价方法的选择 在确认评价方法之前，作者对Trkman和McCormack、Gupta和Dutta等国外学者 [ 11 ] [ 12 ] [ 13 ] [ 14 ] Table 1 Credit risk evaluation index system of small and medium-sized enterprises under supply chain finance mode 供应链金融模式下 中小企业信用 风险评价指标体系 传统模式下的 中小企业 信用风险 评价指标 一级指标 二级指标 三级指标 代码 融资企业 自身状况 企业基本素质 企业资产规模 X 1 盈利能力 净资产收益率 X 2 偿债能力 现金比率 X 3 营运能力 存货周转率 X 4 应收账款周转率 X 5 总资产周转率 X 6 成长能力 净资产同比增长率 X 7 营业总收入同比增长率 X 8 供应链金融 模式下中小企业 信用风险评价 新增指标 核心企业 资信能力 企业基本素质 资产_A X 9 核心企业管理水平 X 10 核心企业信用等级 X 11 盈利能力 净资产收益率_A X 12 销售净利率_A X 13 偿债能力 核心企业对外担保情况 X 14 营运能力 应收账款周转率_A X 15 成长能力 净利润同比增长率_A X 16 供应链 供应链运营状况 供应链关系强度 X 17 流程信息化程度 X 18 供应链产品优势 X 19 表1. 供应链金融模式下中小企业信用风险评价指标体系 以及方焕，孟枫平、胡海青等国内学者 [ 15 ] [ 16 ] [ 17 ] [ 18 ] 对供应链金融模式下信用风险的评价方法进行了解，最终确认使用BP神经网络模型进行实证研究。BP (Back Propagation)神经网络是1986年由Rumelhart和McClelland [ 18 ] 为首的科学家提出的概念，是一种按照误差逆向传播算法训练的多层前馈神经网络，是目前应用最广泛的神经网络。这是一种由若干层神经元组成的多层感知器结构，网络中不仅包含输入层和输出层节点，且还可以含有一层或者多层的隐含层节点。根据前人的经验和现有的研究证明，三层网络结构可以模拟任意的复杂非线性的问题。因此，大多数的BP神经网络模型都是分为输入层、隐含层和输出层，其网络拓扑结构如图1所示。 就目前国内的研究现状来看，最成熟以及最广泛的评价模型为Logistic模型和神经网络模型。Logistic模型对数据的要求与处理简洁，操作方便，在我国的适用性较强。因此，本文选择了通过对Logistic回归模型的对比分析来证明BP神经网络模型在研究供应链金融模式下中小企业信用风险的优越性。
system: [SYSTEM]

user: 5. 结论 本文选取我国汽车制造行业为样本，从融资企业状况、核必企业状况、供应链状况三个方面建立信用风险评估指标体系，运用BP神经网络模型来评估其信用风险，并与Logistic回归模型进行对比分析，通过本文实证研究可看出，对于基于供应链金融模式下的中小企业信用风险评价研究中，BP神经网络模型优于Logistic回归模型。本文的研究有助于建立统一而适用的供应链金融模式下中小融资企业的信用风险评价模型，在一定程度上能提升中小企业融资效率，同时为商业银行节省评级成本，有一定的实际意义。
system: [SYSTEM]

user: 摘 要 目的：了解欧美国家药物治疗管理的服务现状，为科学、有效地促进药物的合理使用，促进我国药学服务发展、建立药物治疗管理体系提供参考。方法：通过查阅国内外文献数据，梳理并分析国内现状。结果：欧美国家经过二十年的发展，全新的药物治疗管理服务(Medication Therapy Management， MTM)模式已广泛应用于心力衰竭、慢性呼吸系统疾病及糖尿病等慢性病中，并在临床药学服务中取得了较好的效果。结论：国内MTM服务尚处在探索阶段。目前全面开展MTM服务工作方面仍存在诸多挑战，我国临床药师工作可借鉴国外药学服务经验，建立规范化的药学服务模式，完善临床药师工作内容，促进我国药学事业的健康发展。 关键词 :药物治疗管理，慢病患者，效果研究 Copyright © 2018 by authors and Hans Publishers Inc. This work is licensed under the Creative Commons Attribution International License (CC BY). http://creativecommons.org/licenses/by/4.0/
system: [SYSTEM]

user: 1. 引言 我国当前药品费用占总卫生总费用的比重高达50%，而欧美国家的比重都在20%以下 [ 1 ]。药物的不合理使用不仅影响患者的疾病治疗也常会造成医疗资源不必要的浪费，2005~2007年，美国每年由于药物不良事件导致约450万美元的急诊花费 [ 2 ]。除了涉及药物不良事件外，很多患者还出现了一些药物相关性问题，如：适宜性、有效性、安全性、依从性等 [ 3 ]。2012年的全国居民健康素养监测数据显示：仅15%的居民能够正确阅读药品说明书 [ 4 ]。因此，如何科学、有效地促进药物的合理使用，减少药物不良事件的发生，控制药费增长，减轻患者负担，提高患者生活质量，是当前面临的重大问题。本文笔者以“药物治疗管理、慢病患者、效果研究”等关键词搜索1996~2016年间的OVID医学期刊数据库和中国知网，梳理并分析国内现状，希望对我国药学事业的健康发展起到积极的推动作用。
system: [SYSTEM]

user: 2. 药物治疗管理服务的概念 药物治疗管理服务(Medication Therapy Management，MTM)是指具有药学专业技术优势的药师对患者提供用药教育、咨询指导等一系列的专业化服务 [ 5 ]。2008年美国药师协会和全国连锁药店基金协会联合发表专论界定了MTM服务模型的5个核心要素。包括药物治疗回顾，个人用药记录，药物治疗行动方案，药物治疗问题的干预、转诊，记录和随访 [ 6 ]。2010年药物治疗管理工作小组在全面药物治疗管理服务资源文件中提供了更为详尽的指南 [ 7 ] ，文件概括了每次提供这些服务需要完成的具体步骤，以确保药师对每位患者进行系统和全面的评估。药师通过药物治疗管理服务旨在增加药师与其他医护人员间的合作，促进患者、药师、医护人员的交流，优化患者药物使用，提高治疗效果，增强患者自我管理的能力。通过发现和解决问题来优化治疗方案，从而减少药物不良事件的发生，并潜在提高患者的依从性，解决由于不合理用药造成的医疗资源紧缺及经济浪费问题。
system: [SYSTEM]

user: 3. 药师参与MTM的工作模式 MTM工作包括：识别并确认服务患者；理解患者的个人用药体验/用药史以及偏好/信仰；确认所有药物的实际使用方式；评估每种药物治疗适应症，关注每次药物治疗是否达到临床目标；确认所有的药物治疗问题；拟定监护计划；与医师、患者沟通同意并理解该监护计划；记录所有步骤与临床状况；对患者进行随访评估；所有医疗团队相互协作，药物治疗管理服务循环进行 [ 7 ]。 MTM现已在许多不同的职业环境中展开。如综合医疗门诊包括家庭医疗、内科医疗以及全科医疗诊所和医疗机构正在为就诊的患者提供此项服务。在文献中也已有许多相关报道 [ 8 ] - [ 15 ]。服务以面对面的电话形式向患者提供。社区药房和药师与雇主、健康维护组织或医疗保险公司签订合同，对所需服务患者进行统一的药物治疗管理服务 [ 5 ]。 20世纪90年代兴起于美国的MTM服务模式，经过十几年的发展，已广泛的应用于心力衰竭、慢性呼吸系统疾病及糖尿病等慢性病中，并在美国临床药学服务中取得了较好的成果。经相关研究证实，实施MTM以来，患者依从性得到了显著提高，药物相关性问题(drug-related problems， DRPs)相应减少，进而使得患者的自付费用获得相应的减少，改善了患者的健康水平。
system: [SYSTEM]

user: 4. MTM在慢病管理中的实施效果 4.1. 安全性 治疗药物的安全性主要体现在实施药物治疗过程中所发生的对患者治疗效果和健康结局有任何不良影响或潜在不良影响的DRPs及药物不良事件事件(ADE)。包括药物治疗不良反应、药品选择问题、药物使用问题、及药物相互作用。 Hanlon JT等人 [ 16 ] 的一项研究显示，3个月内不适当的处方数量在干预组比对照组明显减少(各减少24%和6%；P = 0.0006)，并维持在12个月(分别减少28%和5%；P = 0.0002)。不良药物事件的发生情况干预组(30.2%)比对照组患者(40.0%)少，P = 0.19。医生接受由临床药师推荐的干预更改频率比独立地为对照患者的干预多(55.1% vs 19.8%， P < 0.001)。 在一项637名慢病患者参与的随机对照试验 [ 17 ] 中，观察常规护理组与MTM组间潜在ADE并无差异。但在MTM干预组随着时间的推移药物不良事件的发生情况大致下降。医生共接受54.6%药师所提建议。MTM组不合理处方现象明显减少(33.8% vs 47.1%; P < 0.001)。 4.2. 经济性 众多研究显示，药物治疗管理服务可通过降低一些药物相关问题，影响卫生保健的使用情况，如急诊就诊、住院次数、药物总费用来减少慢病患者在就诊时产生不必要的花费。 Renee Stark和他的同事 [ 18 ] 在德国做过一项非常有用的研究。他们假设2007年大约有200万人出现药物不良反应，则与之相关的医疗费用将达到8.16亿欧元。MeeraV等 [ 19 ] 认为，药物治疗管理服务可能改善患者依从性、减少医疗护理的使用从而降低成本。Isetts BJ等人 [ 20 ] 的研究显示，1651位患者，平均年龄48岁、平均患有9种疾病、服用13种药品，每位患者平均出现7种药物治疗问题。在接受药物治疗管理服务后，达到疾病治疗目标的比例从基线的54%提高到80%，每位患者平均节省1594美元，在确认和解决药物治疗问题后，总体节省费用共计2，729，424美元。一项关于药师参与药物治疗管理服务影响的研究 [ 21 ] 显示，干预组较对照组的治疗成本低，但两者并无统计学差异。 2014年的一项关于通过药物治疗管理改善患者的治疗效果和成本的研究 [ 22 ] 指出，1998以来，药师服务于20，000余例患者，解决了107，000多个药物有关的问题，避免了由于问题得不到解决，导致再住院和急救的风险。接受药物治疗管理患者的总体医疗费用与那些没有接受这些服务的患者相比也显示12:1的投资回报率。 4.3. 有效性 有证据 [ 23 ] 表明，药师通过药物治疗管理服务参与临床管理，对于复杂慢性疾病患者包括糖尿病、高血压、心力衰竭和高血脂可取得较好的临床结果。 在比利时进行的一项为期6个月的随机对照实验 [ 24 ] ，135例符合入组条件的糖尿病患者用以评估社区药师干预糖尿病护理的有效性。66个社区药房的患者被随机分配接受药师的护理。干预主要集中在合理使用药物，药物依从性，健康生活方式促进等方面(即降血糖药的类型和/或剂量)。结果显示，在药物治疗计划因药师干预而改变的患者中，HbA1c显著降低(P < 0.05)。 一项针对患者院外血压管理的研究 [ 25 ] 结果显示，临床药师对患者的电话随访对患者的血压控制以及减少由于相关不良事件引起的再次入院具有积极意义。干预组患者血压在6和12个月时控制率57.2% (95%CI，44.8%~68.7%)对比常规护理组患者血压控制率的30.0% (95%CI，23.2%~37.8%，P = 0.001)具有明显的优势。且干预效果持续到干预结束后的6个月。 德国的一项针对帕金森患者的药物治疗管理研究 [ 26 ] ，对90名患者在基线和随访4个月后进行分析评估。在干预期间，药师实施具有标准化药品护理的MTM。主要结果测量干预的影响通过统一帕金森病评级量表(UPDRS)和运动障碍社会统一帕金森病评级量表(MDS-UPDRS)测量。干预结束后患者UPDRS或MDS-UPDRS评分具有显著的改善，帕金森病患者的生活质量通过MTM显著提高。 4.4. 患者依从性 对医嘱的低依从性是影响慢病患者治疗结局的主要原因。对疾病的认识不足、临床宣教不够、长期服药的心理耐性差、对所服药物知晓程度不够、道听途说等都是造成慢病患者用药依从性差的主要因素，药师通过药物治疗管理参与临床帮助患者进行慢病管理可有效避免由于临床医生过忙而造成的临床宣教不够、患者对疾病认识不足等现象，同时能有效促进医患间的沟通，提高患者对医疗机构的满意度。 一项药师参与管理的COPD患者的研究 [ 27 ] 中，药师在医生与患者间良好的沟通作用，使得患者在疾病的管理中表现出较高的依从性。一项对初始使用胰岛素患者的药学服务的研究 [ 28 ] 中，作者采用两种不同的依从性测量方法对322例患者在治疗初始以及治疗12个月进行用药依从性评估。患者被随机的分为了药学服务组及对照组。可以看出在药学服务组患者药物依从性的显着改善，50.8% vs 80.7%；P < 0.01和55.2% vs 83.3%；P < 0.01，而在对照组患者的依从性在治疗过程中并未发生明显的改变。美国肾移植受试者(RTR)的药物治疗管理和依从性的研究 [ 29 ] 为获得MTM服务的RTR患者提高免疫抑制剂治疗依从性提供了依据，接受MTM的RTRs比那些不接受MTM的患者表现出更高的依从性(OR = 1.13，95％CI：1.02~1.26，P = 0.02)。 尽管众多的研究显示，药物治疗管理服务可有效改善患者依从性，但仍有研究得出了不同结论。Audrey J. Imberg等 [ 30 ] 的研究指出MTM实施后，住院患者的用药依从性可能会降低。和大部分MTM研究选取门诊患者不同，在此研究中，引起依从性降低的主要原因是住院患者在住院时发生了多重用药改变，在前期用药教育不充分或者不熟悉所调剂药品联用方式的情况下，造成药品使用初期依从性降低。也有学者指出MTM的实施可能只是影响患者依从性中众多因素之一，患者年龄、文化水平、种族和社会地位的差异等也会影响患者的用药依从性。
system: [SYSTEM]

user: 5. 讨论 虽各方面均已在努力的开展基于药学监护的MTM服务，但其发展一直非常缓慢，且执行不佳。药师的社会地位无法得到应有的重视，致使具有药学执业技能的专业人才的缺乏，许多药师无法准确理解MTM服务应有的职业责任，且许多医疗执业者或一般公众的意识里并没有广泛认可药师作为临床人员。以患者为中心的药学监护和MTM服务的概念并没有得到医护人员与广大患者充分的认识和接受。同时缺乏来自政府的行政支持，缺乏支付系统向药师或其他从业者给予提供MTM服务的标准化费用补偿，导致专业人员没有为患者提供MTM服务的动力。基于上述开展MTM服务的阻碍，我国在全面开展MTM服务工作方面仍存在诸多挑战，但随着控制药物相关问题需求的不断增加，在各方面的共同努力下，我们相信，我国将广泛开展MTM服务。 社会老龄化的不断发展以及慢性疾病给全球带来的威胁和负担的不断增加，已成为目前面临的主要挑战。许多国家的药学服务都在以满足患者药物治疗的需求发生变化。药师参与药物治疗管理服务已在不少慢性疾病患者中取得了不错的成绩。我国临床药师工作应借鉴国外药学服务经验，建立规范化的药学服务模式，完善临床药师工作内容，促进我国药学事业的健康发展。
system: [SYSTEM]

user: 摘 要 文本情感分析主要是通过文本挖掘技术对带有倾向性的文本进行情感分析和处理，识别其中主观性文本的倾向是正面、负面、中性的过程，这种关于文本情感颗粒的划分是不充分的，不全面的，显得过于生硬和暴力，不仅不能有效地体现出不同的文本情感颗粒的强度和大小，而且还需要大量的人工标注。本文针对此问题，提出和构建了基于Co-Training半监督训练的多元文本情感数据集，并且结合情感词频、情感词典、情感语义信息构建了D & W、T & W、SSW三种情感词向量，最后利用CNN和LSTM神经网络结构模型分别对构建的多元数据集进行了情感词向量的对比训练和模型优化，从而验证了情感词向量的有效性，而且提升了文本情感分类的准确度。 关键词 :情感分析，文本分类，多元情感，情感词向量 Copyright © 2018 by authors and Hans Publishers Inc. This work is licensed under the Creative Commons Attribution International License (CC BY). http://creativecommons.org/licenses/by/4.0/
system: [SYSTEM]

user: 1. 引言 随着移动互联网和大数据时代的到来，爆炸式的海量信息急需要我们去处理分析，基于文本的情感分析技术也越来越成为研究热点，作为互联网的主体，每一条文本都带着我们的主观情绪、每种情绪也是各不相同的，比如喜爱，愤怒，悲伤，难受，赞扬，中立等。情感分析又称作情感挖掘或者意见挖掘，它主要包含的研究内容是情感信息分类任务、情感信息抽取任务等，传统的情感分析方法主要包括基于机器学习算法的研究和基于情感词典的构建的研究，基于情感词典的情感分析方法存在覆盖率不足的缺点，基于机器学习算法研究的情感分析会存在特征选择困难，人工标注训练集困难，模型简单，系统可扩展性不足，准确率低等缺点。 为了定量地得到文本内容的情感倾向，避免情感二元极性划分带来的情感不充分的，不全面的问题，本文构建了针对多元情感分析的语义情感数据集，结合Co-Training标注方法，减少了单纯进行人工标注带来的误差，增强了模型数据的健壮性和泛化能力，为了更加有效地结合文本的情感信息，抽取更加深层次的语义情感信息，本文构建了更加有效的情感词向量模型算法，将情感词典和情感词频-逆文档概率，情感词向量三者有效地结合起来，充分地考虑到了三者的优点，提出了结合情感词向量和情感词典的D & W词向量、结合情感词向量和情感词频的T & W词向量、结合情感词频和情感词典以及情感词向量的SSW情感语义词向量，并且将其应用在深度学习模型的词向量特征表示上面，进行模块叠加训练，实验证明对比基准词向量模型，其能够在文本情感分类任务中取得更加优秀的效果。
system: [SYSTEM]

user: 2. 相关研究 2.1. 深度学习 近些年，深度学习在语音识别、自然语言处理、机器视觉、图像处理等领域取得了巨大成功，在1986年，Hinton [ 1 ] 提出了非常著名且沿用至今的反向传播算法，使得基于深度神经网络的深度学习(Deep Learning)的方法应运而生，从此神经网络变得非常流行起来，利用神经网络来建立语言模型的研究思路逐渐走向成熟，大大提升了文本的特征质量。2003年，Bengio等提出用神经网络的方法去构建二元语言模型 [ 2 ] 。2008年，Ronan Collobert和Jason Weston推出SENNA系统 [ 3 ] ，并将其应用到自然语言处理领域中，利用词向量的方法完成了其中的词性标注、命名实体识别、短语识别、语义角色标注等多种任务。2013年，随着Hinton提出word embedding的概念 [ 4 ] ，以及Mikolov对该理论的进一步实现 [ 5 ] ，这种全新的文本特征表示已经被越来越多的研究者所认可。基于word embedding的特征表示方法不但能够避免“维度灾难”现象，还能够从更高的语义层面上描述词与词之间的关系。梁军等人通过采用自动编码器，实现了利用半监督学习的方法对微博的文本数据进行情感分析，大量减少了人工标注的工作量 [ 6 ] 。陈翠平引入了深度学习的思想来完成文本分类任务，利用深度信念网络自动提取文本特征 [ 7 ] 。Yoon等尝试利用卷积神经网络结构来解决情感分析和问题分类等若干自然语言处理任务，获得了非常好的效果 [ 8 ] 。 2.2. 情感分析 情感分析的目的是将具有情感倾向的主观性文本识别出来，并且分为褒义和贬义两类。其中在传统的情感分析方法中，主要采用基于规则的方法，需要相当一部分人力和物力作为支撑，所以，现在情感分析研究领域的学者纷纷转向了基于统计的学习方法，该方法主要根据特征的分布对文本的情感类别做出正确的判断。Pang等在对电影评论数据进行褒贬二分类的研究中，使用了包括一元词、二元词、词性标注等若干特征 [ 9 ] ，Davidov等利用在Twitter中的标签元素和笑脸符号来作为特征，从而对Twitter进行情感分类 [ 10 ] ，李婷婷等尝试从文本数据中人工构建若干特征，再利用传统的机器学习方法进行文本分类 [ 11 ] ；李荣陆等人利用最大熵模型实现了中文文本分类 [ 12 ] 。Taboada等 [ 13 ] 采用的是基于词库的方法，文本的最后情感值采用集约化的方法计算，进而确定文本的最后情感倾向。Hu等 [ 14 ] 在文章中提出采用Bootstrapping策略，句子中所有情感词的情感倾向性分数总和决定最后该句子的情感倾向。以上方法本质上均属于机器学习范畴，其分类效果严重依赖所构建特征的质量和模型参数的调优，整个过程非常耗时耗力，往往需要大量的领域内知识，因此最终的分类效果并不稳定。
system: [SYSTEM]

user: 3. 多元情感数据集的构建 3.1. 多元情感分析 文本情感分析是指对于网络用户的喜爱、观点和意见的分析和挖掘，获得用户对于事件的主观性情感倾向评论，我们通常用情感权重来代表某个词语的情感极性，如果情感权重大于0则代表用户的积极正面的情感倾向，如果情感极性权重小于0则代表主观用户的负面消极的情感倾向，这样简单高效的划分情感便于我们直接的得到情感极性和做出最终的判断任务，同样也带来了关于情感划分颗粒不充分，不全面的问题，情感之间的划分过于暴力和生硬，没有有效的区分不同的文本情感颗粒强度和大小。 关于情感(Sentiment)狭义的定义：情感是对于一个实体或者事件等事物评价的极性，又称极性情感，情感的主要类别包含正面、负面、中性情感颗粒，但是情感之间出现相互影响，相互交割带来的情感交叉现象，对于我们最终的情感分类模型造成相应的误判，基于此问题，本文在基于Ekman et al. (1982)的基础上面考虑加入了相关的中性极性情感，提出了基于情感极性的细颗粒情感分类模型，在基本的正向，负向，中性三种极性情感的基础上将情感极性强度划分成8中基本的情感颗粒，分别是高兴、生气、厌恶、悲伤、害怕、吃惊、轻视、中性8中基本情感强度，如表1所示，最大化的减少文本极性情感强度之间的干扰和误判，我们提出了基于多元情感分析的细颗粒划分指标，充分反应情感持有者的情感强度，不仅包含文本情感的极性分析，而且包含了文本情感的极性强度，将二者充分的进行了融合。 3.2. 情感文本数据集构建 情感数据集对于最终的多元情感分类任务有着重要的表现，考虑到单纯的情感语料库的标签都是针对二元情感分类任务的，不能够满足多元情感分类的要求，因此我们首先要满足构建多元情感任务的情感文本标签。 为了构建多元情感的极性文本，我们提出了借助表情包文字识别技术来构筑多元的情感极性文本，表情已经充斥在网络的各个角落，现在用户都流行 “能发图就不打字”的习惯，表情包文字本身充满了多元的情感极性，我们需要借助这些表情包，从形形色色的网络表情中找出对应的文字，从这些表情中提取出的文字，可用于我们后续的文本分析，情感预测，语义理解等任务。 目前主流的文字识别方法都差不多。主要分为两个模块，一个模块定位文字位置，另外一个模块针对定位后的文字进行识别。针对这两个模块，我们使用的是Faster RCNN + CTC的方案。文字定位部分本文使用了Faster RCNN技术，如图1所示，其是从RCNN逐渐演变过来的。相对于它的前辈RCNN以及Fast RCNN，Faster RCNN提出了RPN (Region Proposal Network)网络。通过RPN输出Anchor Box Proposals，再通过NMS和其他一些方法进行Proposals Reduction。该方法对比以往的方案，性能更优，减少了selective search里面繁琐的计算。目前目标检测还有其他state of art的定位方案，例如YOLOv2，Mask RCNN等，其中Mask RCNN更多聚焦在image segmentation上。关于文字识别部分的结果，如图2和图3所示。 Table 1 Basic emotion and extended emotio Basic Extended 高兴(Happiness) Depressed(郁闷) 生气(Anger) boring(无聊) 厌恶(Disgust) Lonely(孤独) 悲伤(Sadness) irritated(烦躁) 害怕(Fear) envy(嫉妒) 吃惊(Surprise) Disappointed(失望) 轻视(Contempt) regret(后悔) 中性(Neutral) Like(喜欢) hope(希望) 表1.基本情感和扩充情感 图1. Faster RCNN的基本结构 图2. 文字定位后截取的图片 图3. CTC模型文字输出 3.3. 基于半监督的多元情感数据集的构建 由于直接使用无监督聚类机器学习算法带来的人工工作量大，耗时的问题，本文提出了借助Co-training思想和半监督思想来进行数据集的构建。 Co-training是目前很流行的一种半指导机器学习的方法，它的基本思想是：构造两个不同的分类器，利用小规模的标注语料，对大规模的未标注语料进行标注的方法。Co-training方法最大的优点是不用人工干涉，能够从未标注的语料中自动学习到知识。Co-training方法，是无监督和有监督机器学习两者的一个折中办法，它的原则是：在不牺牲性能的前提下，尽量多的使用未带标数据，它从一个小规模的带标的语料库开始，同时使用大规模的未带标语料来进行学习。这里面，我们Co-training使用的文本特征分别是Word2vec语义特征样本选择和加权的Word2vec文本语义特征：Word2vec * TF-idf，这两种文本特征选择来分别对文本进行特征选择过程，分类器使用的是SVM分类器，得到的情感类别比重如图4所示。 其中要先选择表情包图片数据集和种子图片的类别和数量；表情包的图片包含了二次元、斗图、纯文字、动物、彩字祝福、真人、未知、七个大的类别，一共大约有25万张，每种表情包的数量如表2、表3和表4所示： 具体的Co-training针对文本特征选择过程和分类标签如下： 1) 先选择一些标签种子文本，这部分文本可以通过手工标注的方式获得； 2) 然后根据预训练的Word2vec词向量特征对种子文本进行分类训练； 3) 得到了训练好的分类器； 4) 接着根据训练的Word2vec * TF-IDF特征结合训练好的分类器接着对剩下的文本进行标签预测； 5) 所使用的分类器是SVM分类器； 6) 这样就得到了待分类文本的标签集。 图4. 无监督情感标签分布示意图 Table 2 Expression package picture data se 一级分类 数量 比例 二次元 31，639 12.48% 斗图 70，585 27.85% 纯文字 991 0.39% 动物 20，408 8.05% 彩字祝福 14，985 5.91% 真人 52，685 20.79% 未知 62，157 24.52% 合计 253，504 100% 表2. 表情包图片数据集 Table 3 Emoticons seed pictures data se 一级分类 数量 比例 二次元 167 4.2% 斗图 176 4.4% 纯文字 17 0.43% 动物 155 3.96% 彩字祝福 79 2.02% 真人 431 1.10% 未知 2891 73.82% 合计 3916 100% 表3. 表情包种子图片数据集 Table 4 Text seed datase Emotion Size Percent despise 293 7.5% neutral 1656 42.3% angry 178 4.6% sad 413 10.6% disgust 266 6.81% surprise 158 4.04% happy 1211 30.9% 表4. 文本种子数据集
system: [SYSTEM]

user: 6. 全文总结 本文根据构建的多元文本情感数据集，结合深度学习对其进行特征抽取和多元情感分类任务，同时改进了相关的卷积神经网络结构和递归神经网络结构，提升了实验效果，提高了准确率，从而验证了结合情感词向量和情感词典的D & W词向量、结合情感词向量和情感词频的T & W词向量、结合情感词频和情感词典以及情感词向量的SSW情感语义词向量的有效性。
system: [SYSTEM]

user: 摘 要 入侵检测作为一种积极主动的安全防范技术，在网络安全上的应用历来已久。但是随着互联网的发展和应用的不断深化，网络攻击和入侵在数量和技术水平上的不断变化，基于新类型、多并发的攻击，使传统的入侵检测技术已经无法满足现有网络安全的要求。深度学习作为目前机器学习和人工智能的前沿技术，在语音识别、计算机视觉、大数据处理等方面都取得了巨大成果，也为解决当前的入侵检测问题提供了一个新的思路。本文基于对传统入侵检测技术的研究，结合深度学习方法下的深度置信网络，提出了一种基于深度置信网络的入侵检测技术，根据入侵检测数据的特点对数据进行过取样和非[0， 1]区间的归一化，在深度置信网络的参数更新过程中，采用批梯度下降的可变学习率算法，加快了参数的更新过程，并在每批训练数据中，加入了对少类别标签的区分度，提高了准确率。实验证明，利用本文提出的方法，可以很好地提高入侵检测的准确率。 关键词 :入侵检测，深度学习，限制玻尔兹曼机，深度置信网络 Copyright © 2018 by author and Hans Publishers Inc. This work is licensed under the Creative Commons Attribution International License (CC BY). http://creativecommons.org/licenses/by/4.0/
system: [SYSTEM]

user: 1. 引言 入侵检测作为一种积极主动的网络安全防御措施，在网络安全上应用已久。入侵检测通过对计算机网络或计算机系统中的若干关键节点主动地进行信息收集和分析，从中发现网络或系统中是否有违反安全策略的行为和遭到攻击的迹象，同时做出响应 [ 1 ] 。入侵检测从检测技术上可以分为误用检测技术和异常检测技术。误用检测通过对已知攻击行为进行特征提取，找出入侵和攻击的模式或规则库，通过对比规则库和未知行为来确定未知行为是否为攻击。异常检测则是通过建立主体正常行为模型，将攻击行为作为异常活动从大量的正常活动中区分出来，进而达到检测攻击的目的。随着大数据时代的到来，网络攻击的方式也日益多样化，新型网络攻击行为呈现出了海量化、复杂化的趋势，面对新型网络攻击的威胁，传统的基于误用和基于异常的检测技术在检测速度和准确率上表现出越来越多的瓶颈，无法满足现有网络安全的需求。近些年飞速发展的深度学习技术，在语音识别、计算机视觉、机器智能等方面都取得了巨大成果，入侵检测作为典型的分类问题，与深度学习技术的结合，为解决入侵检测难题提供了一个新的方向。本文通过对入侵检测和深度学习的分析，提出了一种利用深度置信网络来进行入侵检测的方法：首先根据入侵检测数据的特点对数据进行过取样和非[0， 1]区间的归一化，然后利用限制玻尔兹曼机栈对归一化后的数据进行无监督地特征学习，在特征学习后送入BP神经网络进行有监督的分类学习，利用数据集的类别标签对网络参数进行调整，最终使整个网络能较好地识别数据集中的入侵行为。
system: [SYSTEM]

user: 2. 相关工作 目前最常用的入侵检测算法可以归为三种，分别是误用检测算法、异常检测算法和人工智能检测算法。误用检测主要采用的算法是模式匹配、专家系统、决策树等。如燕山大学的陈传钩 [ 2 ] 提出的AC-SA串匹配算法，利用后缀自动机SA加快AC自动机的跳转，从而提高检测效率。朱俚治 [ 3 ] 提出的使用决策树和决策系统的误用检测算法，通过对相似用户进行行为聚类，计算出用户行为的属性值，再由决策系统根据属性值进行决策。异常检测算法主要有支持向量机、聚类、关联规则等。如文献 [ 4 ] 提出的利用支持向量机和Hadamard矩阵，采用纠错编码解决多分类检测问题。文献 [ 5 ] 对聚类算法进行改进，采用多初始聚类中心和对聚类中心邻近数据进行预先搜索来减少计算量，加快了检测过程。使用人工智能的检测算法主要有基于免疫学算法的检测、基于遗传算法的检测和基于深度学习算法的检测。如文献 [ 6 ] 以克隆算法为基础，用Aho-Corasick多模式匹配机来改进免疫系统中负选择算法，取得了不错的效果。文献 [ 7 ] 提出了一种基于量子遗传算法的入侵检测库优化算法，利用量子旋转门更新染色体，逐代优化种群进而缩短检测时间。文献 [ 8 ] 提出的使用遗传算法改进神经网络，克服了神经网络学习阶段训练速度慢以及容易陷入局部最优的缺点。文献 [ 9 ] 提出了采用卷积神经网络对网络流中提取的特征进行学习，提取出高层特征，进而检测出僵尸云。 在以上这些检测方法中，基于误用的检测技术误报率低，检测速度快，但是不能检测出新型入侵行为。基于异常的检测技术可以检测出异常攻击，但是也存在误报率高，检测时间较长的缺点。基于人工智能的检测技术通过在检测过程中不断学习，所以具备检测新型攻击的能力，同时误报率低，检测速度快，是目前入侵检测技术的一个新的研究方向。本文提出的方法也正是人工智能的检测技术的一种，是在深度学习基础上改进的方法。 在利用深度学习进行入侵检测的研究中，有些侧重于将深度学习与其他技术结合，来进行入侵检测。如文献 [ 10 ] 采用深度学习中的自编码网格模型实现对网络特征的提取，通过softmax分类器对特征数据进行分类，在保证较高识别率的同时，也降低了误报率。文献 [ 11 ] 提出的基于深度置信网络的混合入侵检测模型，模型采用5层结构的DBN对特征进行学习处理，随后采用支持向量机(SVM)进行入侵的识别和分类，实验结果与传统的SVM和贝叶斯网络相比有较好的识别率。文献 [ 12 ] 提出了一种深度学习算法和集成学习算法MDBoot算法相结合的DBN-MDBoot2方法，将多个DBN的分类结果进行集成，以集成后的分类结果作为最终的检测结果，取得了不错的效果。有些从深度学习网络的内部分析，寻找对深度学习网络的改进，如文献 [ 13 ] 提出的采用神经元映射卷积神经网络(NPCNN)作为网络结构，用ReLU激活器作为非线性激活函数，采用Adam算法进行学习，具备较少的连接和参数，具有易于训练和泛化能力强的优点。文献 [ 14 ] 提出的一种基于优化数据处理的深度置信网络模型的入侵检测方法，该方法将经过概率质量函数(PMF)编码和MaxMin归一化处理后的数据用于DBN模型，在不破坏网络已学习知识的基础上，变化一个参数而固定其他参数，用交叉验证的方式来选择相对最优的DBN结构，以提高对未知攻击的检测。本文也是从入侵检测数据和深度置信网络的特点分析，提出了一些更加合理的预处理过程和参数训练方法。
system: [SYSTEM]

user: 3. 深度置信网络技术分析 深度置信网络是Geoffrey Hinton教授在2006年提出的，它是一种生成模型的神经网络，通过训练网络内部神经元之间的权重和偏置，让整个网络按照最大概率生成数据，结构上深度置信网络由受限玻尔兹曼机和BP神经网络构成。 3.1. 受限玻尔兹曼机 受限玻尔兹曼机(RBM)是玻尔兹曼机的一种特殊拓扑结构，起源于统计物理学，是一种基于能量函数的建模方法，用来描述变量之间的高阶相互作用 [ 15 ] 。RBM是一个对称连接无自反馈的两层网络模型，包含了一个可见层和一个隐含层。对称连接是指可见层和隐含层之间的节点以全连接方式连接，无自反馈是指可见层内部各节点之间以及隐含层内部各节点之间无连接。如图1所示。 图1. RBM结构图 RBM的隐含层节点的取值为0/1随机数，根据可见层节点取值，RBM可以分为伯努利-伯努利受限玻尔兹曼机(Bernouli-Bernouli RBM)和高斯-伯努利受限玻尔兹曼机(Gaussian-Bernouli RBM)。前者的可见层节点的取值为0/1随机数，后者的可见层节点的取值为服从高斯分布的随机数。RBM具有以下3个参数： 可见层和隐含层之间的权重矩阵 w n ， m ； 隐含层节点偏移量 b j ( j = 1 ， 2 ， ⋯ ， n ) ； 可见层节点偏移量 c i ( i = 1 ， 2 ， ⋯ ， m ) ； 通过以上这些参数，RBM决定了如何将一个m维的输入 ( x 1 ， x 2 ， ⋯ ， x m ) 编码成n维 ( y 1 ， y 2 ， ⋯ ， y n ) 输出，进而就实现了对原始数据的特征转换，当隐含层节点个数少于可见层节点个数时，就可以实现对原始数据的特征提取。 3.2. BP神经网络 反向传播(BP)神经网络是一种多层的前馈神经网络，由Rumelhart等人于1986年提出 [ 16 ] ，BP神经网络的网络结构由输入层、输出层以及一个或多个中间的隐含层组成，每层由若干个节点组成，网络只有在相邻层节点之间有连接。只有一层隐含层的BP神经网络的结构如图2所示。 在BP神经网络中，隐含层和输出层的每个节点都有一个偏置b，输入层和隐含层之间以及隐含层和输出层之间的任意两个节点之间都有一个权重w，用来表示节点之间的关联强度，输入层节点用来接收原始数据，对于一组输入向量，通过输入层和隐含层之间的权重和隐含层的偏置，计算出隐含层各节点的输出；同样，隐含层的输出再送给输出层，通过输出层和隐含层之间的权重以及输出层的偏置，计算出输出层各节点的输出，并由输出层节点输出和预期输出的误差，来反向调整节点之间的权重和偏置 [ 17 ] ；最终使输出和预期的误差达到可接受的程度。 BP神经网络的特点是结构简单，可调整的参数多，操作性好。在深度置信网络中，BP网络通常作为最后一层，接收上层受限玻尔兹曼机的输出结果，同时在数据标签的指导下进行有监督学习。 3.3. 深度置信网络 深度置信网络(DBN)是由若干个限制玻尔兹曼机层式堆叠，再在最后一层的RBM后面加上一层BP神经网络组成，结构如图3所示。 每层RBM的作用是实现对原始输入数据的特征提取，通过RBM堆叠形成的RBM栈，最终实现高层次的、抽象特征的提取。使用深度置信网络解决分类问题的步骤如下：首先，将训练数据输入到RBM栈，通过对比散度(CD)算法 [ 18 ] 对RBM栈的参数进行训练，实现对数据逐层地特征提取。然后将RBM栈的输出结果送入到BP神经网络，计算BP神经网络的输出，BP网络的输出值即为网络对原始数据类别的判断，再与原始数据本身的标签进行比对，两者之间的误差用来对BP网络的参数进行优化 [ 19 ] ，最后，把测试数据送入优化好的深度置信网络中，得到最终的预测分类结果。 图2. BP神经网络结构图 图3. DBN结构图 对比散度算法的过程如表1所示。其基本思想是：将可见层节点设置为一个训练样本的取值，并经过随机初始化后的RBM计算得到一个隐含层样本，再有该隐含层样本反向计算得到可见层样本，通过对比训练样本和得到的可见层样本的差异来更新RBM的网络参数。
system: [SYSTEM]

user: 6. 总结 本文通过对入侵检测和深度置信网络的研究，利用深度学习在处理分类问题上的优势，将深度置信网络运用在入侵检测问题上，设计出了基于深度置信网络的入侵检测方法，结合入侵检测数据的特点对数据进行过取样和非[0， 1]区间的归一化，在对深度置信网络的参数进行更新过程时，采用批梯度下降的可变学习率算法，加快了参数的更新过程，并在每批训练数据中，加入了对类别的区分度，提高检测的准确率。通过实验先确定了深度置信网络的参数最佳选择，包括无监督学习次数、有监督学习次数以及网络结构，然后同KNN，SVM，BP神经网络等方法进行了对比，在准确率，误报率和漏报率等几个常用的入侵检测指标上都有较好的表现，证明了本文所提方法的有效性。但是本方法也存在一些缺点，比如在网络结构参数的选择上，不同的参数会存在一定的影响，同时参数选择也缺乏理论的支持，这些是需要改进的地方。
system: [SYSTEM]

user: 摘 要 本文主要用隐Markov模型(HMM)来研究脱机手写数字识别。本文的内容分为三个部分，第一个部分是介绍HMM的基本理论；第二部分是介绍数字图片的预处理和特征提取，这部分属于图像处理方向，并且在手写体数字识别中很重要，特别是提取一个稳定而有效的特征决定着识别是否成功；第三部分是具体地实现这一识别过程，并且用Matlab实现了一个脱机手写数字识别系统。 关键词 :Markov模型，手写体数字识别，预处理，特征提取 Copyright © 2018 by authors and Hans Publishers Inc. This work is licensed under the Creative Commons Attribution International License (CC BY). http://creativecommons.org/licenses/by/4.0/
system: [SYSTEM]

user: 1. 引言 隐Markov模型(Hidden Markov Models，简称为HMM)是一种统计模型，今天正在手写体识别和语音识别等各个领域中获得广泛的应用。而有关它的理论基础，却是在1970年前后由Baum等人建立起来的，随后由CMU(卡内基·梅隆大学)的Jim and Janet Baker (贝克夫妇，李开复的师兄师姐)和IBM的Fred Jelinek分别独立地提出用HMM来识别语音，语音识别的错误率相比人工智能和模式匹配等方法降低了三倍(从30%到10%)。八十年代李开复博士坚持采用HMM的框架，成功地开发了世界上第一个大词汇量连续语音识别系统Sphinx。由于Bell实验室Rabiner等人在80年代中期对HMM的深入浅出的介绍，才逐渐使HMM为世界各国从事语音处理的研究人员所了解和熟悉，进而成为公认的一个研究热点。 HMM在语音识别中的成功应用 [ 1 ] ，使得人们将HMM引入到手写识别中来 [ 2 ] [ 3 ] [ 4 ] [ 5 ] 。目前，利用HMM进行脱机手写字符识别是脱机手写字符研究的一个热点的方向。此外，HMM在人脸识别和图像分割等模式识别领域有成功的应用。
system: [SYSTEM]

user: 2. 隐Markov模型的基本理论 2.1. Markov链 马尔可夫链，因安德烈·马尔可得名，是指数学中具有马尔可夫性质的离散事件随机过程。该过程中，在给定当前知识或信息的情况下，过去(即当前以前的历史状态)对于预测将来(即当前以后的未来状态)是无关的。 这一类随机过程，它具有所谓的“无后效性(Markov性)”，即要确定过程的将来的状态，知道它此刻的情况就足够了，并不需要对它以往状况的认识，这类过程称为Markov过程。而Markov链是Markov过程的特殊情况，即Markov链是状态和时间参数都离散的Markov过程。从数学上，可以给出如下定义： 随机过程 { X n ， n = 1 ， 2 ， ⋯ } ，在任一时刻n，它可以处在状态 S 1 ， S 2 ， ⋯ ， S N ，且它在 n + 1 时刻所处的状态为 q n + 1 的概率，只与它在n时刻的状态 q n 有关，而与n时刻以前它所处状态无关，即有： P ( X n + 1 = q n + 1 | X n = q n ， X n − 1 = q n − 1 ， ⋯ ， X 1 = q 1 ) = P ( X n + 1 = q n + 1 | X n = q n ) 其中， q 1 ， q 2 ， ⋯ ， q n ， q n + 1 ∈ ( S 1 ， S 2 ， ⋯ ， S N ) 。 则称 { X n ， n = 1 ， 2 ， ⋯ } 为Markov链，并且称条件概率 P ( X n + 1 = q n + 1 | X n = q n ) 为一步转移概率，当这个转移概率只与状态 q n ， q n + 1 的具体取值有关，而与时刻n无关，称这个Markov链为齐次Markov链，在本文中，讨论的Markov链都是齐次的。 当 q n ， q n + 1 分别取值 S i ， S j 时，记 a i j = P ( X n + 1 = S j | X n = S i ) ，则 a i j ， 1 ≤ i ， j ≤ N 可以构成一个转移概率矩阵，即 A = ( a 11 a 12 ⋯ a 1 N a 21 a 22 ⋯ a 2 N ⋮ ⋮ ⋱ ⋮ a N 1 a N 2 ⋯ a N N ) 对于上面的矩阵显然有 0 ≤ a i j ≤ 1 ， ∑ j = 1 N a i j = 1 。 描述Markov链的最重要参数就是转移概率矩阵A，但A还决定不了初始分步，即由A求不出 q 1 = S i 概率，这样，完全描述Markov链，除了A矩阵之外，还必须引进初始概率向量 π = ( π 1 ， π 2 ， ⋯ ， π N ) ，其中 显然有 0 ≤ π i ≤ 1 ， ∑ i = 1 N π i = 1 。 2.2. 隐Markov模型的定义 隐马尔可夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测而产生观测随机序列的过程。隐藏的马尔可夫链随机生成的状态的序列，称为状态序列(state sequence);每个状态生成一个观测，而由此产生的观测的随机序列，称为观测序列(observation sequence)。序列的每一个位置又可以看作是一个时刻。 隐Markov模型是在Markov链的基础上发展起来的。由于实际问题比Markov链模型所描述的更为复杂，观察到的事件并不是与状态一一对应，而是通过一组概率分布相联系，这样的模型就称为隐Markov模型，它是一个双重随机过程，其中之一是齐次Markov链，这是基本随机过程，它描述状态的转移。另一个随机过程描述状态和观测值之间的统计对应关系。这样，站在观察者的角度，只能看到观察值，不像Markov链模型的观察值和状态一一对应，因此，不能直接看到状态，而是通过一个随机过程感知状态的存在及其特性。因而称之为“隐Markov模型”，即HMM。 2.3. 维特比算法与隐Markov模型 维特比算法(Viterbi)针对HMM中的解码或者预测问题，寻找最可能的隐藏状态序列：对于一个特殊的隐马尔可夫模型及一个相应的观察序列，找到生成此序列最可能的隐藏状态序列。 在利用Viterbi算法进行识别的过程中，其每步所得到的概率的具体值是没有意义的，而且计算出的概率值总是很小很小的，另外我们所需要的只是各模型对该观察序列的概率值之间的相对大小，因此，在计算过程中，将每步得到的概率值取对数，简化计算，即： 定义 δ t ( i ) = max i 1 ， i 2 ， ⋯ ， i t − 1 log P ( q 1 = S i 1 ， q 2 = S i 2 ， ⋯ ， q t − 1 = S i t − 1 ， q t = S i ， O 1 O 2 ⋯ O t | λ ) 那么，初始化式变为 δ t ( i ) = log π i + log b i ( O 1 ) ， 1 ≤ i ≤ N 递归运算式变为 δ t ( j ) = max 1 ≤ i ≤ N [ δ t − 1 ( i ) + log a i j ] + log [ b j ( O t ) ] 终止式变为 log P * = max 1 ≤ i ≤ N [ δ T ( i ) ]
system: [SYSTEM]

user: 3. 数字图片的预处理与特征提取 3.1. 数字图片的预处理 所有的模式识别包含三个步骤：预处理、特征提取、分类识别。其中第一步预处理的好坏将直接影响到后续步骤。一般情况下，预处理有如下过程：二值化、平滑去噪、字符切割、归一化、倾斜校正、细化。 1) 二值化：对于字符识别，图片的彩色信息作用不大，相反还会增加算法复杂度，因此必须首先把图片转化成灰度图。本文采用的是Otsu提出的最大类间方差方法进行二值化，该方法的优点就是计算简单，稳定有效。 2) 平滑去噪：噪声去除已经成为图像处理及其重要的步骤，然而现在还没有一个通用的滤波去噪方法对所有的图片适用，一般的图像预处理必须根据实际情况选择不同的滤波去噪方法进行比较，最后得出最佳的滤波去噪方法 [ 6 ] 。 3) 字符切割：通常获取的图片除字符外，有较大的空白区，这对我们的研究没有任何价值，而且造成存储和时间资源浪费。为此，需要通过字符提取，去除空白区，提取有用的字符区。 4) 归一化：归一化的目的是将字符图片转化成一个标准尺寸，以便获取固定维度的特征向量，同时减少间类字符的变化对识别的影响，改善分类精度。 5) 倾斜校正：倾斜校正首先要确定倾斜角，然后再进行旋转。确定倾斜角有Hough变换法、Radon变换法，矩方法等。本文采用的是Radon变换法。Radon变换法是基于投影的矫正方法，利用图像水平方向和垂直方向的投影特征来进行倾斜判断。主要用到投影的方差和均方差、投影特征矢量、梯度方向场等统计特性。 6) 细化：不同的书写工具会造成笔画宽度不一样，所以这必将影响有些的特征提取。字符细化是通过一定的处理算法将字符重要的像素点保留下来，去除无关紧要的点，得到字符笔化骨架的技术 [ 7 ] 。 3.2. 特征提取 对数字识别特征提取有多种方法，本论文采用的方法是先提取数字的轮廓特征，然后对图像进行裁剪之后按黑像素占总像素的比率提取出特征值。把每个数字图形定义成一个N * N (5 * 5)的模板，将每个样品的长度和宽度N等分，平均有N * N个等分，对每一等分进行像素个数统计，除以每一份的面积总数即得特征值。具体步骤如下： 1) 调入样本图片，找出图片中数字的上、下、左、右边界。对图像进行裁剪处理。 2) 将数字区域平均分成5 * 5的小区域。 3) 计算5 * 5的每个小区域中黑像素所占比例，第一行的5个比例值保存到特征的前5个，第二行对应着特征的6~10，如此保存样本的特征值。本论文提取每个数字25个样本的特征值之后，把它们保存在结构体Mytemplet里，构成了特征库。 下面以0为例看一下求取特征值的方法，首先把图像按边缘裁剪放缩后，然后分成5 × 5的小区域(见图1)，然后计算出每个小区域中黑像素所占的比例，存储之后即为0的一个样本特征值(见表1)。
system: [SYSTEM]

user: 4. 识别过程 4.1. HMM的脱机手写数字识别的一般过程 本文主要是应用HMM来对0~9这10个阿拉伯数字识别，首先我们要利用一组已知的手写样本来分别训练数字0~9的HMM，即 λ 0 ， λ 1 ， ⋯ ， λ 9 。然后对于一个待识别的数字样本，先要对其预处理，然后提取一组特征 O 1 O 2 ⋯ O T ，把它作为HMM的观察值序列，再用Viterbi算法分别计算它与求出来的10个HMM的匹配率，匹配率最高对应的数字即为该样本识别结果。 4.2. 脱机手写数字识别系统设计 我们将HMM的相关算法如Viterbi算法等用Matlab语言写出来，参考了Kevin Murphy在网站 [ 8 ] 上的HMM工具箱。在Matlab R2016a中设计这一脱机手写数字识别系统，最后用Matlab设计出了图形用户界面GUI(见图2)。 图1. 数字0 Table 1 Eigenvalues of the number 0.1322 0.2356 0.1689 0.2232 0.1522 0.3333 0 0 0 0.2900 0.2700 0 0 0 0.2689 0.2967 0 0 0 0.2911 0.0989 0.2356 0.1744 0.2300 0.1133 表1. 数字0的特征值 图2. 图形用户界面 Table 2 System resulting data of standard experimen 导入的手写数字 识别得到的手写数字 正确率 0 0 0 0 0 6 0 6 0 0 80% 1 1 1 1 1 1 1 1 1 1 100% 2 2 8 2 2 2 8 2 8 2 60% 3 3 3 8 3 3 3 8 3 3 80% 4 6 4 4 4 4 4 4 4 1 80% 5 5 5 5 8 5 5 8 5 5 80% 6 6 6 6 6 6 6 6 6 6 100% 7 7 7 7 7 7 7 7 7 7 100% 8 8 8 8 8 6 8 8 8 8 90% 9 9 9 9 1 9 9 9 9 9 90% 表2. 标准试验系统结果数据 系统具体功能：每导入一张外部图片，点击开始识别按钮即可识别图片中的手写数字，系统会输出识别结果。 4.3. 识别系统试验结果 多次试验结果表明，该识别系统识别率较高(见表2)。
system: [SYSTEM]

user: 5. 结束语 本文基于HMM理论设计了一个脱机手写数字识别系统。设计过程中采用二值化、平滑去噪、字符切割、归一化、倾斜校正、细化等进行图片预处理。对数字识别特征提取有多种方法，本论文采用的方法是先提取数字的轮廓特征，然后对图像进行裁剪之后按黑像素占总像素的比率提取出特征值，最后用Viterbi算法计算匹配率实现数字识别。经过多次试验表明，对于书写较为工整的孤立数字，系统识别率较高。本文的结论初步说明了，类似于HMM在语音识别中的成功运用，把HMM应用到脱机手写体识别中是可以的。
system: [SYSTEM]

user: 摘 要 可信密码模块TCM是一个可信计算平台的软硬件相结合的模块，为可信计算平台提供密码运算功能，具有受保护的存储空间。通过系统安全芯片可信密码模块建立信任的源头，然后通过硬件、固件、操作系统和应用程序，按照系统启动过程的前后控制关系建立信任链的方法确保计算平台和程序的可信。传统的SSL协议在握手阶段对于中间人攻击基本上是无法防卫的，这是由于握手协议中身份认证阶段没有底层硬件平台的信息。本发明的改进方案基于可信密码模块(TCM)新的实现思想，在分析现有SSL协议的基础上，提出并实现了一种基于可信密码模块TCM的SSL改进协议。该协议涉及客户端和服务器两方的通信，主要从以下方面进行设计，1)利用平台身份证书提供基于硬件和系统层面的认证。2)通过芯片的存储主密钥对预主密钥的保护，使得数据交换前，双方共享密钥的传输得到了更好的保证。本方法将TCM模块应用到SSL协议中，建立通信双方基于硬件和系统层面的认证，并且提升了加密算法，使得握手阶段，双方数据传输得到了更好的保证，为记录协议部分的信息传输提供更强的安全保障，增强了抵御攻击的能力，提高了协议的安全性。 关键词 :SSL协议，信息安全，可信计算 Copyright © 2018 by authors and Hans Publishers Inc. This work is licensed under the Creative Commons Attribution International License (CC BY). http://creativecommons.org/licenses/by/4.0/
system: [SYSTEM]

user: 1. 引言 SSL协议处于TCP/IP传输层和应用层之间，为上层应用数据传输提供安全通道，可以提供身份认证、信息加解密等安全功能。主要目标是为两个通信实体提供信息安全性、完整性、安全性的会话连接。 传统的SSL协议对于身份攻击和会话密钥攻击的防卫能力比较弱；另外对最后提及的中间人攻击除了加强管理外，基本无法从技术角度防止攻击。 这些安全问题很大程度是由于SSL协议中没有对系统平台环境的认证，对硬件设备包括CPU中计数器、寄存器等重要的值没有包括在身份认证阶段；在会话密钥传输阶段，预主密钥的生成、保存、传输，以及会话密钥即主密钥的安全存储，这些方面的抗攻击能力不是很强。 可信密码模块TCM是一个可信计算平台的软硬件相结合的模块，为可信计算平台提供密码运算功能，具有受保护的存储空间。通过系统安全芯片可信密码模块建立信任的源头，然后通过硬件、固件、操作系统和应用程序，按照系统启动过程的前后控制关系建立信任链的方法确保计算平台和程序的可信 [ 1 ] 。 本文对SSL的优化基于可信密码模块(TCM)新的实现思想，在分析现有SSL协议的基础上，提出并实现了一种基于可信密码模块TCM的SSL改进协议。SSL协议中握手协议作为其中最核心和最复杂的协议，完成了SSL的大部分通信交互，优化方案主要对握手协议部分从以下方面进行改进：利用平台身份证书提供基于硬件和系统层面的认证；通过芯片的存储主密钥对预主密钥的保护，使得数据交换前，双方共享密钥的传输得到了更好的保证。本方法将TCM模块应用到SSL协议中，建立通信双方基于硬件和系统层面的认证，并且提升了加密算法，使得握手阶段，双方数据传输得到了更好的保证，为记录协议部分的信息传输提供更强的安全保障，增强了抵御攻击的能力，提高了协议的安全性 [ 2 ] 。
system: [SYSTEM]

user: 2. 符号及函数说明 一种基于可信密码模块(Trusted Cryptography Module， TCM)的SSL协议，用到的符号及函数说明如表1所示：