DreamBlooms/HansPub-15000-to-45000 huggingface dataset:
system: [SYSTEM]

user: 摘要 知识产权质押融资能有效解决科技型中小企业的融资难问题，深化推进知识产权质押融资在全国各地的落地生根需要建立长效机制。本文提出了“四位一体”的长效机制，它们是：第一，聚焦知识产权质押融资的法律法规机制完善；第二，聚焦知识产权价值评估机制的完善；第三，聚焦知识产权质押融资生态环境的培育；第四，聚焦政府在推进知识产权质押融资中的作用的发挥。本文的研究结论对于加快推进知识产权质押融资这种新型融资方式的应用、助推科技型中小企业有效解决融资难问题具有重要的现实意义。
system: [SYSTEM]

user: 1. 引言 知识产权质押融资能够有效解决科技型中小企业的融资难题，这已成为国内外科技金融界的共识。目前从国家层面到省级层面对知识产权质押融资这种新型的融资方式都给予了高度重视。时至今日，知识产权质押融资这种新型融资方式在全国落地的过程中，尽管也产生了“北京模式”、“浦东模式”、“武汉模式”等等，但总体上仍处于“叫好不叫座”的状态 [ 1 ] [ 2 ] [ 3 ]。我们认为，要从根本上改变这一状况，必须建立起深化推进知识产权质押融资的长效机制。基于此，本文拟对该问题进行探讨。我们认为，从系统的视角来推进知识产权质押融资的长效机制建设，主要应聚焦“四位一体”的机制建设：一是聚焦知识产权质押融资的法律法规机制的完善；二是聚焦知识产权价值评估机制的完善；三是聚焦知识产权质押融资生态环境的培育；四是聚焦政府在推进知识产权质押融资中作用的发挥。
system: [SYSTEM]

user: 2. 聚焦知识产权质押融资法律法规的完善 2.1. 进一步扩大知识产权质押物的品种与范围 我国目前在法律上关于知识产权质押的对象主要包括注册商标权、专利权和著作权，然而，随着当今社会科学与技术的迅猛发展，大量新型的知识产权将大量涌现，如商号权、商业秘密权、集成电路布图设计权等，这些新型的知识产权已被国外很多国家或地区立法承认，但在我国还未将这些新型的知识产权纳入相关法律法规 [ 4 ]。建议我国在知识产权法律法规的立法上应将这种新型知识产权纳入其中，从而拓展科技型中小企业知识产权质押融资的空间。 2.2. 进一步规范知识产权质押的登记公示制度 建立知识产权质押的登记公示制度旨在增强知识产权质押的公信力，减少或消除权属纠纷，保护利益相关者的合法权益。然而，由于目前尚存的知识产权质押登记主管部门不够明确、质押登记公示制度不够完善、相关信息披露制度不够健全等情况，一定程度上削弱了知识产权登记公示的作用。建议：第一，无论是传统知识产权或新型知识产权，都应归口到全国统一的知识产权出质登记机关，以保证知识产权质押登记公示的公开透明；第二，要强化对知识产权出质登记的管理，做到信息完整、程序严密、规定明确。 2.3. 进一步完善对质权人的利益保护制度 知识产权存在的撤销机制加大了质权人的权属风险，同时，由于科技创新等因素可能造成知识产权在质押期间存在价值贬值的可能，这两方面风险的客观存在势必会弱化金融机构对知识产权质押融资业务开展的积极性，需要在法律层面上加大对质权人利益的保护。建议：第一，允许质权人或质权人所委托的律师事务所对拟质押的知识产权权属关系进行调查，由此所产生的费用由当事人双方约定；第二，在质押贷款期间，如知识产权权属被撤销则可视为借贷债务的提前到期；第三，如质押人在此过程中存在重大过失而给质权人造成损害的，应由质押人承担相应的赔偿责任；四是对于知识产权在质押期间的价值贬值，也应有相应的利益补偿规定 [ 5 ]。 2.4. 进一步完善知识产权质押融资纠纷的多元解决机制 目前，我国知识产权质押融资中常见的纠纷解决主要依靠司法途径，这种单一的纠纷解决机制存在诉讼周期比较长、执法力度不统一、执法过程欠公平、欠公正的现象，一定程度上也抑制了知识产权质押融资业务的顺利推进。建议引入知识产权质押融资纠纷处理的多元机制，在基本的司法解决手段之外，辅之以必要的协商、调解、仲裁等补充机制，从而形成主辅合作、协调有序的知识产权多元纠纷解决机制。
system: [SYSTEM]

user: 3. 聚焦知识产权价值评估机制的完善 3.1. 在定量与定性结合中开展知识产权价值评估 就知识产权价值评估而言，面对复杂多变、种类繁多的知识产权，要准确把握某特定知识产权价值变化的属性几乎做不到。那么，我们完全可以本着定性与定量相结合的思维原则来处理这项复杂的工作。日本国家名义上看科技型中小企业企业的知识产权价值，实则看其经营团队的能力与水平，该评估思维比较务实可取。建议采取基于“1 + 1”的科技型中小企业知识产权质押融资价值评估新方法，即在对科技型中小企业知识产权的价值进行定量评估的同时，再给出一张企业经营团队能力的评估表，其中，知识产权的价值评估是基于定量的评估，而对企业经营团队的能力评估则是基于定性的评估。作为质权人(金融机构)可以基于“1 + 1”的评估结果来确定其发放质押贷款的质押率高低，乃至确定贷或不贷的最终决定 [ 6 ]。这种定量与定性相结合的评估思路，更接地气，更能够被质权方所认可。 3.2. 进一步优化知识产权价值评估机构 1) 评估机构应尽可能全覆盖。2017年2月，由中国专利技术开发公司与辽宁中信正融投资管理有限公司共同发起设立的国专知识产权评估认证中心在北京宣告成立。截止2018年，全国已有8家省级分中心。成立知识产权价值评估中心的目的在于解决知识产权价值评估的难题，更好地推进知识产权质押融资工作，建议在每个省级中心城市都应设立分中心，专司知识产权价值评估工作。 2) 评估机构应尽可能与现有的资产评估相衔接。知识产权价值评估说到底属于资产评估的一个类别，不是什么特别神秘的东西，完全可以将该业务合并到城市现行的资产评估事务所中，只是需要成立专业化的知识产权价值评估团队或部门即可。知识产权价值评估与现有资产评估机构合并的好处在于，能够发挥既有资产评估机构综合评估优势，能够降低知识产权价值评估的成本。 3) 要尽早开辟“线上评估”渠道。“互联网+”的时代已经来临，知识产权价值评估工作也应该顺应时代的发展，尽早创造条件，开展基于互联网的线上知识产权价值评估工作，这样可以显著提高知识产权价值评估的效率。因此，各城市知识产权价值评估机构都需要开发两个能力：“线下评估能力”与“线上评估能力”，这也是资产评估机构长期生存与发展的大趋势。互联网时代是品牌致胜的时代，作为知识产权价值评估机构一定要通过打造自身的实力来赢得客户的信赖，进而打造出自己的知名度与美誉度。 3.3. 有效提升知识产权价值评估人员的素质 1) 评估机构人员应复合化。知识产权价值评估工作比较复杂，也比较深奥，其深奥与复杂之处就在于对特定知识产权中“知识含金量”与市场前景的判断，包括知识技术的独特性、难以模仿性、价值性、市场前景等，这往往不是资产评估人员所能搞清楚的。基于此，从事知识产权价值评估的专业人员应具有复合型的知识结构，既要有工程技术的专业背景，又要有投资与财务专业背景，这样的知识结构有利于对知识产权作出合理评价。当然，要求每个评估人员都具有这样的知识结构是很难的，实践中可以做到评估团队人员专业结构复合化。建议评估专家团队中不仅要有资产评估师，还要有技术专家、市场营销专家、企业经营专家，通过专家团队来提高知识产权评估的准确性、科学性 [ 7 ]。 2) 评估机构人员应网络化。知识产权的种类繁多，除了传统的三大种类的知识产权外，新型知识产权也将不断涌现，任何一个评估机构或评估团队都难以胜任对如此复杂多变的知识产权准确开展价值评估。解决该问题的有效方法是建立网络化的知识产权评估专家库，建议由国家知识产权价值评估中心牵头组建评估专家库。当需要对某项新型复杂的知识产权进行价值评估时，就可以在专家库里寻找相关领域的专家加盟，这样做能有效解决评估机构人员能力不足问题。 3) 应硬化评估人员的道德约束。知识产权价值评估人员应坚持客观、公正原则，不能因满足企业的要求就随意抬高其评估结果，也不能因满足银行的要求就故意压低其评估结果。因此，应硬化对知识产权价值评估人员的道德约束，使得评估人员能够做到秉公评估、诚信评估。这其中要发挥好行业协会在行业自律、惩戒道德失范中的积极作用。行业协会可以通过建立严格的责任制度、制定相关的评估规则来约束评估人员，让评估人员产生合乎道德的行为。对于评估人员故意提供虚假证明文件、情节严重或出具的证明文件有重大失实、造成严重后果的，要追究其法律责任。
system: [SYSTEM]

user: 4. 聚焦知识产权质押融资生态环境的培育 4.1. 打造良好的科技金融环境 我们看到国内也已形成的知识产权质押融资的三种基本模式，都是来自于发达地区的北京、上海及武汉，那里集聚着大量优质的科技型中小企业，那里也同样有着有利于科技型中小企业健康成长的土壤——良好的科技金融环境。我国近年来在科技金融方面也做了大量卓有成效的工作：例如：通过创新财政科技投入方式，引导商业金融为科技型中小企业提供融资；鼓励民间资本进入创投行业，大力发展创业投资；为商业银行的科技贷款提供风险补偿、信用担保等；设立创业板等方式强化资本市场对科技型中小企业的金融支持；推动科技保险业务的发展等等 [ 8 ]。然而，由于我国生产力发展不平衡，导致了科技金融发展的不平衡，发达地区的科技金融发育相对比较完善，而欠发达地区其科技金融发育往往比较落后。因此，打造良好科技金融环境的难点在欠发达地区，欠发达地区要按照“补短板”的要求，在科技金融的重点领域寻求突破。 4.2. 打造良好的企业服务环境 1) 建立健全融资担保体系。深化推进知识产权质押融资中企业服务环境的打造离不开融资担保体系的建设。因为，从中长期看，有效的适合中国国情的知识产权质押融资模式应该是“政府+市场化”模式。当前我国知识产权质押融资模式中，北京模式可以理解为市场化模式，政府介入力度比较小；上海浦东模式可以理解为政府主导下的市场模式；而武汉模式介于北京模式与上海浦东模式之间，既有政府的介入又有市场化的交易机制。这三种模式中的哪一种也都离不开市场，国外也是如此，但是知识产权质押融资的市场化逐渐深入也是各地的大趋势。而知识产权质押融资市场化取向的一个很重要的环节就是建立健全融资担保体系，让担保机构承担起分散质押融资风险主渠道的作用。因此，各地在推进知识产权质押融资这种新型融资方式时，不要仅盯住政府的政策性融资担保，而应聚焦市场化的融资担保体系及担保创新机制建设。只有市场化的融资担保体系发育了、发展了，科技型中小企业知识产权质押融资业务才会得到可持续发展。 2) 建立健全中介代理机构。目前，知识产权质押融资涉及到的环节比较多，手续比较复杂有目共睹，要提高知识产权质押融资的效率仅靠科技型企业是难以做到的。对于科技型中小企业而言，尤其是初创期的科技型小微企业，其专长在于技术与生产，而对于如何筹集到资金、如何利用政府政策、如何有效地与市场中各交易主体打交道等，科技型小微企业一般不熟悉。这就需要由地方政府牵头，建立健全相关中介代理机构，由这些专业化的代理机构题科技型中小企业来办理知识产权质押融资的全部手续，这将有利于提高科技型中小微企业的融资效率。 3) 集中提供科技金融服务。知识产权质押融资工作设计到企业、银行以及若干中间业务机构，如律师事务所、资产评估所、担保公司、业务代理与咨询公司等。这些机构如不能集中在一起，则会影响知识产权质押融资的效率。在这方面，江苏省无锡市的经验值得借鉴。无锡市首先建立健全为科技型中小企业服务的系统化的专业服务机构，并对这些服务机构进行必要的培训以及制定相关的激励政策；其次建立了科技金融服务大厦，对科技型中小企业知识产权质押融资以及其他形式的融资提供专业化、高效率、低成本的一条龙服务。建议国内其他城市也可以利用科创城的优势，将科技金融服务机构相对集中，这样可以有效提高对科技型中小企业的服务效率。 4.3. 打造良好的市场环境 1) 完善企业信用环境。市场经济也是信用经济，对于知识产权质押融资来说，信用环境的建立与完善非常重要。建议依托中国人民银行企业征信系统，进一步完善企业的注册登记、纳税、进出口、守法等信誉信息，建立健全科技型中小企业的信用档案，为银行开展知识产权质押融资业务提供透明的风险控制手段。有了这样一个健全的企业征信数据库，商业银行就可以自主开展贷款风险评估，进而作出是否给予科技型中小企业知识产权质押贷款以及质押率高低的抉择。 2) 完善知识产权保护环境。尊重知识产权、保护知识产权应是全体公民与组织的责任。如果企业的知识产权不能依法得到保护，定会出现因侵权而导致知识产权价值贬值的现象。因此，要实施严格的知识产权保护制度，严厉打击侵犯知识产权的违法行为，切实保护知识产权生产者的合法权益。实践中，地方政府要彻底清除地方保护主义思想，要从创新型国家建设的高度，切实增强知识产权保护的使命感与责任感，营造公平公正的保护知识产权的法治环境。 3) 完善知识产权交易环境。首先，针对目前知识产权交易市场数量不足的状况，需要加快知识产权市场载体建设，扩展知识产权交易市场数量。互联网背景下，要注重建设基于移动互联网的国家级知识产权交易平台，实行网上交易，以提高交易效率。其次，要完善知识产权市场机制建设，进一步简化知识产权转让程序；要加强各地产权交易机构之间的协作，整合条块分割的知识产权交易市场，形成全国有序统一的交易市场。 4) 建立知识产权保险市场。开辟知识产权保险市场有利于知识产权质押融资的深度推进。囿于知识产权资产的复杂性及高风险性，一般商业保险公司不愿对此承保。我们认为，知识产权保险一定程度上属于政策性保险，建议由国家牵头设立知识产权保险公司，保险基金部分来源于国家的财政注入，部分来源于企业或银行对知识产权的投保。当科技型中小企业实质性地发生偿债风险，贷款银行在对企业质押物变现后尚未补偿损失时，保险公司应对银行的损失进行理赔。显然知识产权保险制度能有效消除银行对知识产权质押贷款的风险顾虑 [ 9 ]。
system: [SYSTEM]

user: 5. 聚焦政府在推进知识产权质押融资中作用的发挥 5.1. 发挥好政府的牵头作用 知识产权质押融资目前尚未形成全国统一的游戏规则、全国统一的质押融资模式，各地因地制宜地出台了自己的推进政策举措。由于推进知识产权质押融资落地的过程中，存在的风险大，牵涉的环节比较多，假如任由市场机制来调节，则这种新型的融资方式就难以发展起来 [ 10 ]。基于此，各级政府的有效介入十分必要，政府在其中发挥的首要作用就是其牵头作用。 1) 政府牵头成立工作组。为加快地方知识产权质押融资业务的开展，初期需要由政府牵头成立知识产权质押融资工作领导小组，负责落实推进本地区的知识产权质押融资业务。实践中，建议由地方科技局牵头，联合地方金融办、银保监会、商业银行、科技型企业以及财税、法律、资产评估与担保等相关部门，形成知识产权质押融资工作推进小组。小组的任务主要是制定出台符合本地区的知识产权质押融资的相关政策举措以及开展过程中的协调工作。 2) 政府牵头开展顶层设计。推进知识产权质押融资是一项系统工程，需要进行顶层设计，而顶层设计的任务自然是在政府的牵头下才能得以完成。在此过程中，设计部门要系统考虑知识产权质押融资政策与其他科技金融政策之间的协调统一，进而形成推进地方科技型企业加快发展的强大合力。 3) 政府牵头进行模式试点。目前全国尚未形成统一的知识产权质押融资模式，现实中由于各地经济发展水平、经济结构等存在着较大的差异，也难以形成普遍接受的知识产权质押融资模式，各地需要自主建立适合自身的知识产权质押融资模式。这就需要在地方政府的主导下开展地方知识产权质押融资模式的改革试点工作，通过探索试点，形成适合本地区的知识产权质押融资模式，确保所建立的知识产权质押融资模式运行有效。 5.2. 发挥好政府的促进作用 推进知识产权质押融资方式的落地生根，需要激活所有参与主体，调动知识产权质押融资各参与方的积极性，这离不开政府促进作用的发挥。 1) 发挥财税杠杆的作用。财税手段是政府当下调节市场经济最广泛的手段之一，也是最有力的经济杠杆，在推进知识产权质押融资过程中需要财政杠杆来驱动。其驱动方式有：第一，政府通过财政贴息、补贴、补亏等方式来吸引相关主体参与知识产权质押融资业务，充分调动各参与主体尤其是商业银行投身知识产权质押融资的积极性；第二，政府通过税收返还或税收减免方式，吸引相关主体来积极开展知识产权质押融资业务；第三，政府通过购买服务的方式调动相关参与者积极开展知识产权质押融资业务。 2) 发挥“公信推介”的作用。目前，大多数地方政府的科技管理部门都建立了当地科技型中小企业的动态数据库，换句话说，地方政府的科技管理部门对本地区科技型企业的情况最了解。知识产权有含金量的科技型企业是谁，哪个企业经营团队的素质比较好，地方政府的科技管理部门可以说了如指掌。在这种情况下，就可以发挥科技管理部门的推介作用，让科技管理部门向金融机构推介富有潜力的科技型中小企业，这样的推介结果对于金融机构而言应该具有公信力。政府科技管理部门介入后，金融机构不再单纯看中介机构对企业知识产权价值评估的结论，而更看中政府科技管理部门的推介结论。 5.3. 发挥好政府的维护与监督作用 1) 维护市场秩序。市场经济是法治经济，也一定是秩序经济，无序的市场秩序只会破坏市场经济的健康发展，在推进知识产权质押融资业务的发展中，需要政府进行市场秩序的维护与监督。政府职能部门可以借助地方人大立法机构，通过制定相关的交易规则来规范、约束各参与主体的行为，让知识产权质押融资的市场体系有序运转、高效运转，从而切实保护各参与主体的正当权益。在此过程中，需要政府部门自身不断强化维护市场秩序的意识，并通过各种手段来进行广泛宣传，形成市场参与者人人讲规则、讲秩序的文明经营氛围。 2) 监督市场运行。政府需要对知识产权质押融资市场运行给予持续监督，预判并及时发现市场运行中存在的苗头性问题或现实问题，通过采取科学有效纠偏措施，使知识产权质押融资的市场行为一直沿着健康的发展轨道运转。政府监督知识产权质押融资市场运行可以采取多重方式，譬如，不定期地进行市场秩序检查、定期进行相关信息的公开披露、借助第三方机构开展的各类评估等。在纠偏措施上可以相机选择行政手段、经济手段或法律手段等来进行及时纠偏、有效纠偏、长期纠偏。 要切实发挥好政府在推进知识产权质押融资中的作用，也必须解决好当前政府自身存在的一些问题，如需要建设服务型政府，切实转变政府职能；需要将科技金融相关工作纳入政府的中期规划与年度计划；需要采取有效措施来充分调动相关部门的积极性等。
system: [SYSTEM]

user: 6. 结束语 刚刚闭幕的党的十九届五中全会通过了《中共中央关于制定国民经济和社会发展第十四个五年规划和二〇三五年远景目标的建议》，《建议》提出了坚持创新在现代化建设全局中的核心地位，指出了把科技自立自强作为国家发展的战略支撑。基于“创新”的核心地位以及“科技自强自立”的战略支撑，决定了科技型中小企业在国民经济与社会发展中的地位将日益重要。面向未来，科技型中小企业在国家科技创新体系中将扮演十分重要的角色。上述研究结论表明，只有坚持系统观念，构建“四位一体”的质押融资长效机制，进一步完善知识产权质押融资的法律法规环境，进一步完善知识产权质押融资的价值评估机制，进一步完善知识产权质押融资的生态环境，进一步完善政府服务职能的有效发挥，唯有如此，知识产权质押融资在科技型中小企业中“叫好不叫座”的状况才会得以根本改变。
system: [SYSTEM]

user: 摘要 500 kV变压器是连接两个甚至三个不同电压等级的重要电气一次设备。变压器空载合闸时，由于瞬时电压过大，可能造成变压器铁心饱和，引发严重的励磁涌流现象；同时500 kV变压器容量较大，励磁涌流衰减缓慢。本文以铜梁地区某一新建500 kV变压器为例，建立了适用于实际工程的变压器UMEC模型，通过PSCAD/EMTDC仿真计算，分析了500 kV变压器空载合闸时合闸断路器、电容式电压互感器、以及变压器励磁特性对励磁电流的影响，并提出了抑制励磁涌流的有效措施。
system: [SYSTEM]

user: 1. 引言 500 kV电网是我国最重要的电力输送系统，承担着将发电基地发出的强大功率输送至远方枢纽变电站的任务。500 kV变电站中通常设置两台主变。新建变电站或主变检修后，总会涉及主变空载并网的操作，即合闸空载变压器属于变电站的一种例行操作方式。 变压器空载合闸是指在变压器二次侧不带负载时，将一次侧合闸接入电网的过程。变压器空载合闸的过程中常常伴随着励磁涌流现象，这是因为变压器铁心材料具有非线性特性，合闸瞬时，过高的电网电压致使变压器的等效电感急剧减小，出现数值很高的励磁电流，其中的主要成分为3次、5次等奇次谐波，以及2次为主的偶次谐波，通常谐波电流总畸变率可达28%以上。过电流对电气设备和运行人员安全构成威胁。过电流的严重程度与交流系统短路容量、合闸断路器的类型及变电站中其他设备的种类及布置方式等均有关。文献 [ 1 ] [ 2 ] [ 3 ] 分析了变压器励磁涌流的特性及可能造成变压器保护误动等危害，文献 [ 4 ] [ 5 ] 表明，换流变压器空载合闸时严重的励磁涌流会导致母线电压畸变，基波电压下降，逆变器可能发生换相失败现象。 现阶段，励磁涌流的抑制主要有以下几种方法，文献 [ 6 ] 通过有效测量变压器剩磁，控制合闸时刻的初相角来抑制励磁涌流，文献 [ 7 ] 验证了合闸电阻对变压器空充时涌流的抑制效果。 在我国，500 kV变压器的断路器带有并联均压电容器，母线上并联有电容式电压互感器(Capacitive Voltage Transformer，以下简称CVT)，已多次出现过变压器空载合闸引发过大的励磁涌流现象，造成主变异响及电压振荡 [ 8 ]。与其他变压器相比，500 kV变压器的额定电压高、额定容量大、漏感大，变压器空载合闸可能引发的励磁涌流更大，危害更严重 [ 9 ]。 对此，本文首先分析了变压器励磁涌流产生机理，以重庆铜梁地区某一新建500 kV变压器为例，建立了与实际参数一致的500 kV变压器UMEC (unified magnetic equivalent circuit)模型，通过PSCAD/EMTDC仿真软件，搭建了包含合闸断路器、CVT等在内的变压器空载合闸回路的仿真模型，仿真分析500kV变压器空载合闸时励磁电流的影响因素，并提出了有效抑制的励磁涌流的措施。
system: [SYSTEM]

user: 2. 变压器励磁涌流机理分析 由于500kV变压器高压绕组中性点直接接地，因此空载合闸时仅高压阻抗( Z 1 = R 1 + j ω L 1 )和励磁阻抗( Z m = R m + j ω L m )接入交流系统。500 kV变压器空载合闸的等效电路如图1所示。 图1. 500 kV变压器空载合闸的等效电路图 该回路的电压方程为 u s = U s m sin ( ω t + θ ) = R i + N d ϕ d t (1) 式中， θ 是断路器开关S闭合时电源电压 u s 的初相角； R = R s + R 1 + R m ， L = L s + L 1 + L m 分别为变压器空载合闸回路的等效电阻和电感。 R s 、 L s 分别为交流系统等效电阻和电感。 解微分方程(1)得铁心中的磁通为： ϕ = ϕ m cos ( ω t + θ ) + ( ϕ m cos + ϕ r ) e ( − t / τ ) (2) 式中，第1项为稳态磁通，幅值 ϕ m = L U s m R 2 + ( ω L ) 2 ；第2项为维持 t = 0 时刻磁通不突变而产生的暂态磁通，这是一个按指数规律衰减的非周期分量，衰减时间常数为 τ = L / R ； ϕ r 为剩磁。 由于衰减时间常数较大，衰减缓慢。考虑最不利的情况： ϕ r 与非周期分量磁通方向相同，二者叠加后，磁通 ϕ 由剩磁 ϕ r 开始变化，经过半个工频周期后，铁心总磁通近似为最大值 ϕ max = 2 ϕ m + ϕ r 。 变压器铁心具的磁化特性见图2。图中，ab段、bc段及c点以后分别为线性段、饱和段和深度饱和段。b点为磁化特性曲线的饱和点，对于ab段，励磁电流 i 0 小， ϕ 随 i 0 近似线性增加；b点以后， i 0 将随着 ϕ 的增大而极大增加。 图2. 变压器铁心磁化特性曲线 为降低损耗，提高铁心材料的利用率，大容量变压器通常设计工作在线性段且接近饱和b点附近。由图2可见，正常运行时500 kV变压器的励磁电感很大，其阻抗电压 μ k 通常为16%~18%，远高于常规电力变压器。 变压器空载合闸时，铁心总磁通数值很大，使铁心进入饱和段， L m 迅速下降，励磁电流成百倍地增长，形成励磁涌流。励磁涌流中含有一系列的奇数次的高次谐波分量。又由于励磁电感随着励磁电流在饱和与不饱和之间作周期性变化，其频率是工频的偶数倍，因此励磁电流中也会出现偶数次的高次谐波，因此励磁电流中同时含有2、3、4、5等次谐波 [ 7 ]。
system: [SYSTEM]

user: 3. 500 kV变压器空载合闸系统建模 3.1. 500 kV变电站简介 铜梁500 kV变电站主变由三台单相自耦变压器(型号为ODFS-334000/500)组成，主变额定容量334，000/334，000/100，000 kVA，额定电压(525/ 3 )/(230/ 3 ±2×2.5%)/36kV，额定频率50 Hz。主变T空载合闸电路如图3所示，图中，CVT主电容C CVT 为5000 pF；断路器并联均压电容器C S 的电容为2000 pF；主变其他基本参数见表1，厂家提供的主变励磁特性曲线如图4所示。 图3. 重庆TL 500 kV变压器空载合闸电路 Table 1 Basic parameters of converter transforme 额定容量/MVA 额定电压/kV 空载励磁电流/A 短路阻抗/% 空载损耗/% 短路损耗/kW 334 525 5.18 15.79 74.55 177.35 表1. 主变基本参数 图4. 厂家提供的励磁特性曲线 3.2. 500 kV变压器仿真建模 变压器UMEC建模 UMEC模型为计及变压器铁心磁饱和特性的变压器模型，该模型采用完全插值法，利用分断线性化的励磁特性曲线来表征变压器的磁饱和特性，能够对各种铁心结构进行建模 [ 10 ]。 依据TL500kV主变的实际参数(见表1和图4)，对变压器UMEC模型的默认参数进行修改，修改后的变压器UMEC模型的励磁特性曲线如图5所示，该图与厂家提供的主变励磁特性曲线(见图2)的对比结果见表2，由表2可见，修改后的变压器UMEC模型与实际主变吻合度较高，说明该模型可以用于之后的主变空载合闸研究。 图5. UMEC励磁特性曲线 Table 2 Comparison of UMEC model and actual transformer excitation characteristic 励磁特性曲线 空载电流I 0 /% 0 5% 10% 15% 20% 30% 默认模型电压/pu 0 1.10 1.15 1.18 1.19 1.21 实际主变电压/pu 0 1.05 1.09 1.11 1.13 1.16 表2. UMEC模型与实际主变励磁特性比较 3.3. 变电站系统建模 针对图3所示的TL 500 kV变压器空载合闸回路，仿真模型考虑了CVT详细模型，模型参数与实际参数一致，即CVT主电容为5000 pF，500 kV断路器为双断口断路器，每个断口并联均压电容为2000 pF，系统电压525 kV。
system: [SYSTEM]

user: 4. 励磁涌流特性仿真分析 设仿真系统于0.1 s合闸断路器S，仿真时长0.5 s，以下分别就改变CVT主电容、断路器并联均压电容及变压器励磁特性曲线拐点对励磁涌流进行仿真，以a相为例。 4.1. CVT主电容值对励磁涌流的影响 改变CVT主电容，使其从1000 pF开始逐渐增大至15，000 pF，仿真变压器空载合闸时的励磁涌流，不同CVT主电容下的励磁涌流峰值见图6。 上述仿真结果表明，增加CVT的主电容，可能会导致变压器空载合闸时励磁涌流峰值增加，当C CVT > 8000 pF时，继续增大CVT主电容，励磁涌流峰值增加缓慢。 4.2. 断路器并联均压电容值对励磁涌流的影响 分别取断路器并联均压电容值为1000 pF、2000 pF、5000 pF、10，000 pF，仿真变压器空载合闸时的励磁涌流，所得励磁涌流波形如图7所示。 图6. 不同CVT主电容下励磁涌流峰值 图7. 不同断路器均压电容下的励磁涌流仿真波形 仿真结果表明，增加断路器的并联均压电容，励磁涌流峰值会迅速增大。当断路器并联均压电容值增大到10，000 pF时，励磁涌流幅值最大可达2.073 kA，同时衰减速度有小幅度增加，这是由于电容增大时，回路电抗略有减小，从而使得衰减时间常数τ有所降低，可能导致衰减速度加快。 4.3. 励磁特性曲线拐点的影响 变压器励磁特性曲线饱和点电压为1.04 (标幺值，下同)。将变压器饱和点电压从1.04以0.01的间隔逐渐提高到1.15，仿真分析不同饱和点电压下励磁涌流峰值见表3。 仿真结果表明，变压器饱和点电压提高到1.05和1.06以后，变压器励磁涌流峰值并未发生显著变化；继续提高饱和点电压到1.07后，励磁涌流峰值小幅降低。将饱和点电压提升到1.10及更高时，励磁涌流峰值显著降低。这是因为励磁特性饱和点电压提高时，饱和点右移，变压器铁心达到饱和条件不易满足。若未达到饱和条件，此时励磁电流随外加电压近似线性增加，不会形成励磁涌流。因此当饱和点电压增加时，励磁涌流峰值降低。 Table 3 Peak magnetizing inrush current under different inflection point voltag 变压器饱和点电压 1.04 1.05 1.06 1.07 1.08 1.10 1.12 1.13 1.14 1.15 励磁涌流峰值/kA 1.0466 1.0482 1.0441 1.0376 1.0372 1.0235 1.0217 0.9596 0.8821 0.8543 表3. 不同饱和点电压下的励磁涌流峰值 4.4. 变压器励磁涌流的抑制措施 根据上述励磁涌流影响因素的理论及仿真分析，提出以下预控措施。 1) 适当减小CVT主电容的值可以降低励磁涌流峰值，但是当CVT电容值过大时，励磁涌流峰值变化不明显。 2) 减小断路器断口均压电容数值，可以有效抑制励磁涌流的发生。将断路器断口均压电容减小为500 pF 后，在前述仿真条件下几乎不会出现励磁涌流。 3) 改变变压器励磁特性，提高铁芯饱和电压数值，即通过提高图2中变压器励磁特性曲线的饱和点的高度，使变压器饱和条件不易满足，变压器空载合闸时铁心未饱和或刚进入饱和阶段，励磁涌流峰值将会大大减小。
system: [SYSTEM]

user: 5. 结论 1) 500 kV变压器的额定电压高、额定容量大，变压器空载合闸时，铁心总磁通数值很大，使铁心进入饱和段，励磁电流迅速增大，形成励磁涌流。 2) 500 kV断路器断口并联电容值、CVT主电容值与变压器励磁特性拐点电压均会对励磁涌流峰值产生影响。基于上述影响因素的分析，提出相应的抑制励磁涌流的措施，如减小CVT主电容、减小断路器的断口电容到500 pF及以下、改变500 kV变压器励磁特性等，这些措施均能有效抑制励磁涌流的发生。
system: [SYSTEM]

user: 摘要 如何推动中国农业现代化、指导新农村建设，一直是中国特色社会主义建设中需要重视和解决的重大问题。毛泽东作为我国农业事业的开创者和奠基人，对新中国农业发展进行了艰辛的探索，为我国农业发展做出了发挥农民主体性、推进科技兴农、发展农村教育、为农民谋福利等一系列经典举措。中国特色社会主义进入新时代，重温建国初期毛泽东的农业思想，对于新时期我国进行社会主义新农村建设和实施乡村振兴战略具有重要的现实启示。
system: [SYSTEM]

user: 1. 引言 毛泽东本就出生农村，长期的革命战争经验也让他毕生都极其重视农业发展进程和农民利益问题。他在探索新中国建设社会主义、农业现代化的进程中，逐渐形成了独具特色、内涵丰富的农业思想。其农业思想既成为历届中国共产党人处理农民问题的基本经验，也是改革开放前中国共产党制定农村政策的理论来源。在社会主义新农村建设进入新时代这个历史发展的新时期，重温毛泽东农业思想，发掘其中的理论精华，将有助于我们更好地借鉴中国农业进程中的实践经验，进而为新时代我国进行社会主义新农村建设、更好地实施乡村振兴战略提供重要的现实启示。
system: [SYSTEM]

user: 摘要 在生物信息学领域，对于蛋白质二级结构预测是一项具有挑战性的任务，对于确定蛋白质的结构和功能有着极其重要的意义。本文融合了生成对抗网络和卷积神经网络模型进行蛋白质二级结构预测，首先利用生成对抗网络提取蛋白质特征，其次将生成对抗网络提取的特征结合PSSM矩阵作为卷积神经网络的输入，得到预测结果。在测试集CASP9，CASP10，CASP11，CASP12，CB513和PDB25获得了87.06%，87.24%，87.31%，87.39%，88.13%和88.93%，比单独使用卷积神经网络提高了3.88%，4.6%，7.97%，5.85%，5.78%，4.25%。实验结果表明，生成对抗网络特征提取能力是非常显著的。
system: [SYSTEM]

user: 1. 引言 蛋白质是重要的生物大分子之一，几乎所有的生命活动都离不开蛋白质。伴随着人类基因组计划的完成，科学家从未停止对蛋白质结构的研究。对于蛋白质结构的分类信息研究应通过蛋白质研究领域来解决，并且在生物信息学领域也是十分重要的 [ 1 ] [ 2 ]。蛋白质二级结构预测是三级结构预测的关键一步，是了解和预测三级结构的前提，蛋白质二级结构预测准确率的提高，不仅可以使我们了解到蛋白质序列和蛋白质结构之间复杂的关系，还有助于对蛋白质功能进行分析和制造药物 [ 3 ]，所以蛋白质二级结构预测是一项具有挑战性的任务并且具有重要意义。利用生物学的方法来测定蛋白质的结构是昂贵且费时的，因此，我们可以借助于计算机的方式进行蛋白质二级结构预测。 在生物信息学领域，已经有很多的计算方法用于蛋白质二级结构预测的问题，比如常见的机器学习算法包括有支持向量机 [ 4 ] [ 5 ]，最近邻算法 [ 6 ] 和贝叶斯算法 [ 7 ] 等。但是机器学习的特征提取依赖于经验，使得对数据的特征提取有一定难度。伴随着科技的发展计算能力的加强，深度学习模型逐渐受到人们的重视，它能够从原始数据中学习特征，不依赖专家经验。蛋白质二级结构预测被应用到卷积神经网络(CNN) [ 8 ] 和循环神经网络(RNN) [ 9 ] 中来提高预测的精度。SPIDER3 [ 10 ] 方法利用长短时记忆双向递归神经网络，能够捕捉到更长的氨基酸序列信息，使准确率达到了80%以上。SPOT-1D [ 11 ] 方法是目前较新的蛋白质二级结构预测方法，它是SPIDER3的改进，在SPIDER3方法的基础上结合了残差卷积网络，获得了较好的效果。Ma等 [ 12 ] 提出了一种基于数据分割和半随机子空间方法，在PDB25和CB513数据集上测试3态准确率为86.38%和84.53%。MUFOLD [ 13 ] 方法采用名为Deep3I的网络，由两个嵌套的可进行卷积操作的初始模块、卷积以及完全连通的致密层组成，有效地处理了氨基酸残基之间的局部和全局相互作用。 近年来，生成对抗网络 [ 14 ] [ 15 ] 作为一种较新的深度学习模型，在特征提取，图像去噪方面有着显著的效果。基于上述原因，本文融合了GAN和CNN神经网络，提出了基于生成对抗网络和卷积神经网络的蛋白质二级结构预测。生成对抗网络可以通过生成器和判别器之间相互博弈来提取氨基酸残基之间的特征，将提取的特征与原始蛋白质特征融合之后送入到卷积神经网络中进行3类蛋白质二级结构预测。
system: [SYSTEM]

user: 2. 蛋白质二级结构预测模型 蛋白质二级结构是根据蛋白质序列预测氨基酸残基对应的结构类型，基于PSI-BLAST的位置特异性评分矩阵(PSSM) [ 16 ] 来表示蛋白质序列，且含有丰富的生物进化信息。PSI-BLAS参数设置为阈值为0.001和3次迭代得到20*M的PSSM矩阵，其中M是氨基酸序列的长度，20代表氨基酸类型的数目。蛋白质结构定义DSSP [ 17 ] 中包含有八种结构类型，分别为H(α螺旋)、B(β转角)、E(折叠)、G(3-螺旋)、I(5-螺旋)、T(转角)、S(卷曲)和 L(环)。本文实验将采用G、H、I 替换为H，B、E替换为E，其他都采用C的划分方式。 本文采用生成对抗网络和卷积神经网络预测蛋白质二级结构，首先对数据预处理，按照滑动窗口为13和19的方式对PSSM矩阵进行分割，得到网络的输入数据。其预测模型如见下方图1所示。 图1. 蛋白质二级结构预测模型结构(PSSM代表蛋白质序列，GAN代表生成对抗网络，CNN代表卷积神经网络) 2.1. 数据集 本文采用ASTRAL [ 18 ] 和CullPDB [ 19 ] 数据集作为该模型的训练集，去除ASTRAL和CullPDB数据集中的重复蛋白质一共有15696条蛋白质。测试集采用CASP [ 20 ] [ 21 ] [ 22 ] 类数据集，包括CASP9，CASP10，CASP11和CASP12。除此之外，CB513 [ 23 ] 和PDB25 [ 24 ] 数据集也作为该模型的测试集，测试集的蛋白质序列数目如表1所示。 Table 1 Number of protein sequences in test se 数据集 蛋白质序列数目 CASP9 122 CASP10 99 CASP11 81 CASP12 19 CB513 513 PDB25 1672 表1. 测试集蛋白质序列数目 2.2. 生成对抗网络 2014年Ian Goodfellow提出生成对抗网络(Generative Adversarial Networks) [ 25 ]，文献 [ 14 ] 和文献 [ 15 ] 利用生成对抗网络进行图像去噪和特征提取，证明了生成对抗网络具有良好的特性。生成对抗网络包括两个部分：生成器和判别器。生成器可以学习真实数据的分布特征，为了生成和真实蛋白质数据相似的数据，然而判别器是判断数据是生成器生成的还是真实的数据，实际上是一个二分类问题。从博弈论的角度来看，生成器为了提高自己的生成能力，判别器为了提高自己的判别能力，都是需要不断去优化的，但是两者最终会达到纳什均衡(Nash equilibrium)。生成器和判别器可以分别用G和D来表示，生成对抗网络模型如图2所示。 图2. 生成对抗网络模型 GAN的学习过程就是D和G对抗的过程，由D对输入的蛋白质矩阵PSSM进行分类，D可以判别生成数据和真实数据，判别生成数据为假，则 D ( G ( z ) ) = 0 ，对真实数据判别为真，则 D ( x ) = 1 。当出现这种情况时，G就需要不断的调整优化自身参数，使得生成的数据更加接近真实的数据，使得D无法判断数据是真实的还是由G生成的，即 D ( G ( z ) ) = 1 。G与D的对抗过程被称为极大极小博弈，它的损失函数定义如下。 min G max D V ( D ，   G ) = E x ~ p d a t a ( x ) [ log D ( x ) ] + E z ~ p z ( x ) [ log ( 1 − D ( G ( z ) ) ) ] (1) 式中，x表示真实的蛋白质数据，z代表输入到G的随机数据， G ( z ) 表示G网络生成的假的数据， D ( x ) 表示D网络判断真实数据是否真实的概率，对于D来说，这个值越接近1越好。而 D ( G ( z ) ) 是D网络判断G生成蛋白质数据是否真实的概率，生成器希望自己生成的数据更加接近真实数据，所以G希望 D(G(z))尽可能的大，这时 V ( D ，   G ) 会变小，因此我们看到式(1)的最前面的记号是 min G 。判别器的能力越 强， D ( x ) 应该越大， D ( G ( x ) ) 越小，这时 V ( D ，   G ) 会变大，所以式(1)对于D来说是求最大值。 在本文生成对抗模型中，将卷积网络引入到G和D网络中，目的是为了提高生成对抗网络的特征提取能力，用以提高蛋白质二级结构预测精度。G网络中使用反卷积进行上采样，激活函数采用ReLU函数，D网络采用步长为1的卷积层，激活函数采用ReLU函数。将生成对抗网络提取到的特征与PSSM矩阵结合并利用深度卷积神经网络进行蛋白质二级结构预测。 2.3. 卷积神经网络 近年来，卷积神经网络作为流行的深度学习算法，被应用到图像处理 [ 26 ] 和计算机视觉 [ 27 ] 等领域。基于卷积神经网络 [ 8 ] [ 13 ] 的方法已经应用到蛋白质二级结构预测当中，已经取得显著的效果，它与传统的神经网络相比，它具有权值共享和局部感知的特点，可以减少网络参数加快计算速度，卷积神经网络模型结构图如图3所示。 图3. 卷积神经网络模型 卷积层通过卷积核对输入的蛋白质数据进行特征提取，卷积的过程就是按照卷积核的大小在输入的蛋白质矩阵上做运算，产生和卷积核数目相同的特征图。特征图由输入矩阵和权重相乘再加上偏置得到，令： F k i = f ( ∑ h P h i − 1 ∗ W k i + b ) (2) 式中，f为激活函数ReLU， P h i − 1 表示输入数据与上一层的卷积核得到的特征图， W k i 是第i层的一个卷积核，k表示卷积核的数量，i表示卷积层数，b代表偏置参数。 池化层并不执行任何的学习，它通常也被称为一种非线性的下采样形式。池化层处理的结果是使特征维度下降、参数减少来减少计算量，提高计算速度，并且还能有效的减少过拟合，同时还有平移不变的特性，增加了鲁棒性。为了调整权重以进行训练，使用了使用梯度下降算法的反向传播算法。 全连接层和softmax层作为卷积神经网络的输出层，全连接层的每一个神经元都要和前一层的神经元相连，输出三类蛋白质二级结构。Softmax函数层使用激活功能来解决3类蛋白质结构的分类问题，其函数定义为： P ( t r / x ) = P ( x / t r ) P ( t r ) ∑ j = 1 D P ( x / t j ) P ( t j ) = e o r ∑ j = 1 D e o j (3) 式中， P ( x / t r ) 是给定类别样本的条件概率， P ( t r ) 是蛋白质结构类别的先验概率。Softmax函数被视为logistic Sigmoid函数的多类推广 [ 28 ]。
system: [SYSTEM]

user: 3. 实验结果 本文的实验环境参数如下：处理器Intel(R) Xeon(R) Glod 5118 CPU 2.30GHz，图形加速卡为RTX2080Ti，操作系统为Linux，采用Keras2.3版本构建模型。 为了评估本文模型的准确率，采用六种公开的测试集：CASP9、CASP10、CASP11、CASP12、CB513和PDB25进行测试，为了验证生成对抗网络的有效性，针对3类蛋白质二级结构预测问题，本文设置了两个不同的实验。实验一是采用卷积神经网络模型用于蛋白质二级结构预测，实验二是首先采用生成对抗网络对蛋白质数据进行特征提取再结合卷积神经网络进行蛋白质二级结构预测。本文采用滑动窗口分别为13和19，卷积层的卷积核大小和尺寸分别为11 × 11 × 270，11 × 11 × 160 (13窗口下)和19 × 19 × 290，16 × 16 × 170 (19窗口下)。 为了验证迭代次数对生成对抗网络提取特征的影响，迭代次数的单位为万次。由于滑动窗口的不同导致包含的蛋白质特征信息也不同，因此本文分别对13和19窗口下的蛋白质数据进行验证，实验结果如表2和表3所示。 Table 2 The impact of the number of iterations under 13 windows on accurac Iterations CASP9 CASP10 CASP11 CASP12 CB513 PDB25 10 84.4 84.71 84.25 85.04 86.23 86.66 20 84.52 85.26 84.09 84.33 86.24 86.82 30 82.76 85.27 84.58 85.01 86.21 86.72 40 84.4 85.46 84.13 84.33 86.19 86.84 50 84.38 84.60 84.09 83.81 86.30 85.52 60 84.29 84.90 84.36 84.05 86.15 86.80 表2. 13窗口下迭代次数对准确率的影响 Table 3 The impact of the number of iterations under 19 windows on accurac Iterations CASP9 CASP10 CASP11 CASP12 CB513 PDB25 10 87.06 87.24 87.31 87.39 88.13 88.93 20 86.13 87.05 86.94 86.49 87.75 88.04 30 86.53 86.59 87.24 86.42 87.93 88.61 40 86.63 87.05 87.14 86.70 88.07 88.62 50 86.46 86.75 86.59 86.52 87.94 88.41 60 86.45 87.12 87.27 87.03 87.71 88.49 表3. 19窗口下迭代次数对准确率的影响 从表2和表3可以看出，在滑动窗口为19的时候准确率较高，因为在19窗口下能够包含更多的蛋白质特征信息，并且在伴随着生成对抗网络中生成器与判别器之间迭代次数的增加，准确率呈现下降趋势，在迭代次数为10万的时候取得较好的结果。 Table 4 Convolutional neural network prediction accurac 滑动窗口 CASP9 CASP10 CASP11 CASP12 CB513 PDB25 13 82.97 82.15 79.23 79.56 81.21 83.73 19 83.18 82.64 79.34 81.54 82.35 84.68 表4. 卷积神经网络预测准确率 通过表2，表3和表4进行对比可以发现，生成对抗网络提取到的特征与PSSM矩阵融合，进行3类蛋白质二级结构预测，与单独的使用卷积神经网络相比，准确率有了较大的提高。通过本文实验可以看出，生成对抗网络的特征提取是非常有效的，在CAS P9，CASP10，CASP11，CASP12，CB513，PDB25数据集上分别提高了3.88%，4.6%，7.97%，5.85%，5.78%，4.25%。证明了生成对抗网络特征提取能力的优越性。
system: [SYSTEM]

user: 4. 结论 蛋白质二级结构预测是生物信息学领域一项具有重大意义的工作，对全面了解蛋白质的功能和结构是必要的。本文融合了生成对抗网络和卷积神经网络模型进行蛋白质二级结构预测，由生成对抗网络提取蛋白质序列特征，再结合PSSM矩阵作为卷积神经网络的输入，进行蛋白质二级结构分类预测。通过与只用卷积神经网络预测结果对比，生成对抗网络的特征提取能力是较强的，能够取得非常显著的效果，有较好的可扩展性。
system: [SYSTEM]

user: 摘要 蛋白质二级结构预测是蛋白质结构研究领域的重要课题，随着机器学习和深度学习的发展，多种多样的预测模型被提出，实验采用双向长短时记忆循环网络模型，取消滑动窗口限制，充分考虑氨基酸长距离相互作用和氨基酸序列前后文之间的相互影响。重新设计了网络的输入特征，在PSSM基础上增加了42基团特征，使用大数据集进行训练，在公共测试集CASP9，CASP10，CASP11和CASP12上Q3准确率分别达到了85.74%，86.83%，84.73%和83.79%。实验结果表明，蛋白质二级结构预测可在新的特征设计，考虑氨基酸长距离相互作用和大数据的使用方向上进一步的研究。
system: [SYSTEM]

user: 1. 引言 随着基因组测序工作的完成，蛋白质组的相关工作也随之展开，蛋白质的研究有利于人类对疾病的深入了解和相关药物研发，其中的重点工作便是蛋白质的结构研究。蛋白质结构可划分为一级结构、二级结构、三级结构和四级结构，其中具有生物活性的是三级结构。获取三级结构最直接的方法是使用X射线和核磁共振进行观察 [ 1 ]，但是这种方式效率低，成本高，因此从1951年Pauling和Corey预测了蛋白质多肽骨架的螺旋和片状构象开始，研究者便展开了对蛋白质结构的预测工作。尽管蛋白质结构的信息隐藏在氨基酸序列中，但直接利用氨基酸序列进行三级结构预测难度非常大，因此研究者通常先进行蛋白质二级结构预测，基于该结果做进一步的研究。 早期的蛋白质二级结构预测使用统计学方法和启发式规则 [ 2 ]，支持向量机 [ 3 ] [ 4 ]，贝叶斯分类算法，马尔可夫模型 [ 5 ]，前馈神经网络 [ 6 ] [ 7 ] 等均被应用在了蛋白质二级结构预测中。近年来，随着深度学习方法在自然语言处理、机器视觉和语音识别等方向取得了巨大的进展，生物信息学领域也开始了对深度学习方法的广泛使用 [ 8 ]，深度学习通过多层特征变换，可以更好的刻画出数据的隐藏信息，捕捉氨基酸的局部和长距离相互作用。例如Fang等提出了MOUFOLD方法，使用了由两个嵌套的可进行卷积操作的初始模块、卷积层以及完全联通的致密层组成的Deep3I网络(Deep Inception-Inside-Inception Networks， Deep3I)进行蛋白质二级结构预测 [ 9 ]。WANG等结合了深度卷积神经网络(Deep Convolutional Neural Networks， DCNN)和条件神经场(Conditional Neural Fields， CNF)，提出名为Raptor X的预测方法 [ 10 ]。SPOT-1D在Spider [ 11 ] 基础结合了双向长短时记忆循环网络(Bidirectional long-short-term memory recurrent network，Bi-LSTM)和残余卷积网络(Residual Convolutional Networks， ResNets)用来识别和传播整个序列中的短期和长期依赖关系 [ 12 ]。值得注意的是，上述方法中MOFOLD，Raptor X，Spider3和SPOT-1D对特征输入均有细致的设计，MOFOLD和Spider3网络输入为氨基酸理化性质、PSSM和隐马尔可夫特征，Raptor X网络输入为PSSM+21个元素的二进制向量，SPOT-1D在Spider3的特征基础上增加了SPOT-Contact预测接触图。另外，大数据集的使用也为模型更好的提取隐藏特征起到了重要的作用。 在本实验中，我们采用双向LSTM作为训练模型，为了充分发挥LSTM网络对序列数据的处理能力，对训练集取消了滑动窗口限制，以捕捉氨基酸长距离相互作用。同时对训练集特征重新进行了设计，在常用的PSSM基础上，增加了蛋白质42基团的新编码特征，经过大数据集的训练，网络模型可以充分的提取序列隐藏特征。这种基于大数据和新编码方式的模型预测能力在公共测试集CASP9，CASP10，CASP11和CASP12中进行了评估实验，Q3准确率分别达到了85.74%，86.83%，84.73%和83.79%。
system: [SYSTEM]

user: 2. 实验模型 2.1. 模型结构 LSTM在自然语言处理领域中应用广泛，对序列数据的分类有良好的实验效果，蛋白质二级结构预测是在给定的蛋白质序列下对每一个氨基酸的结构归属做出分类，同样可以看作对序列数据的分类问题，因此本次实验选择了双向LSTM作为训练模型。 模型训练示意图如图1所示，为了充分发挥LSTM对长序列数据的学习优势，实验未设置滑动窗口，而是将训练集拆分成小批量并补零填充序列，使它们具有同一小批量中最长序列的长度。为了防止训练过程中添加过多填充，在训练集输入网络前，根据蛋白质长度对数据进行了排序。在结构预测中，每一个氨基酸的输出状态不仅与它之前的序列信息有关，位置靠后的部分同样会产生影响，而双向LSTM可以看作两层标准的LSTM网络，分别以开头和结尾作为输入，可以为输出层提供输入序列中每一个氨基酸完整的上下文信息，真正考虑到前后位置的相互作用。 图1. 网络结构和双向LSTM训练示意图 2.2. 模型原理 双向LSTM可看作由循环神经网络(Recurrent Neural Network， RNN)逐步演化而来的网络结构，RNN可较好的针对序列变化的数据进行训练 [ 13 ]，循环神经网络具有重复的模块单元，展开后的RNN单元如图2所示。 图2. RNN网络结构示意图 其中 t − 1 ，t， t + 1 表示序列的时间位置，X表示输入的样本，X经过简单的激活函数得到输出Y和记忆数据S，数学表达式为： y t = g ( O ∗ s t ) (1) s t = f ( W ∗ s t − 1 + U ∗ x t ) (2) W为输入的权重，U表示t时刻下的输入样本权重，O表示输出样本的权重。 传统的RNN面对长序列数据会产生梯度消失和梯度爆炸问题，LSTM的提出有效的降低了这些情况的风险。在RNN的基础上对循环单元做了细致的设计，增设了三种门结构 [ 14 ]，这种设计方式使LSTM单元具备将重要的信息进一步记忆，将不重要信息适当丢弃的能力。标准LSTM单元示意图如图3所示。 图3. 标准LSTM单元示意图 单元输入是t时刻下的样本 x t 和 t − 1 时刻单元的输出 h t − 1 (也称为隐藏状态)，其输出可作为下一个单元的输入 h t 以及本单元的输出y。C叫做细胞状态，相比于隐藏状态它的变化很少，通过遗忘门f，候选门g和输入门i进行信息更新，信息在这条线路中传输只有少量的相乘和相加操作，梯度更加稳定，因此LSTM对远距离的相互作用有更强大的学习能力。LSTM单元的数学表达式如下： f t = σ ( W f ∗ x t + R f ∗ h t − 1 + b f ) (3) g t = σ ( W g ∗ x t + R g ∗ h t − 1 + b g ) (4) i t = σ ( W i ∗ x t + R i ∗ h t − 1 + b i ) (5) o t = σ ( W o ∗ x t + R o ∗ h t − 1 + b o ) (6) 其中，W为输入权值，R为递归权值，b为偏置，f代表遗忘门，g代表候选门，i代表输入门，o代表输出门。首先公式3说明隐藏状态 h t − 1 和输入 x t 一同输入至遗忘门，通过激活函数 σ 输出 f t ⊆ [ 0 ， 1 ] ，0代表全部遗忘，1代表全部记忆。公式4表示候选门产生候选向量，公式5代表输入门来决定更新哪些值，两者的结果进行相乘操作，然后相加操作更新至细胞状态 c t 如公式7所示。最后通过输出门决定最后的输出内容，可作为当前单元的隐藏状态 h t 或输出y如公式8所示。 c t = f t ⊗ c t − 1 + i t ⊗ g t (7) h t = o t ⊗ g t ( c t ) (8) 最后一层Bi-LSTM后是全连接层，全连接层中的每一个神经元都与上一层的神经元连接，将Bi-LSTM学习到的高维特征进行整合，最后经过Softmax分类器进行分类，计算每一个氨基酸所在的C、E、H三种结构的概率，最终完成分类。