DreamBlooms/HansPub-15000-to-45000 huggingface dataset:
system: [SYSTEM]

user: 4. 算法实现 4.1. P， W矩阵的迭代算法 由LGK的性质关系知，P、B、W三者之间的关系，其中， P : n × ( p + 1 ) ， B : ( p + 1 ) × ( p + 1 ) ， W : ( p + 1 ) × ( p + 1 ) 为正交阵。首先，定义两个空的矩阵P、W，由第三条性质可知迭代初始值为： w 1 = ( 100 ⋯ 0 ) T ，     b 1 = ‖ y ‖ 2 ，     p 1 = y ‖ y ‖ 2 = b y a 1 = ‖ z T p 1 − b 1 w 1 ‖ 2 将初始值填充空矩阵第一列，然后进行迭代运算得到第一次迭代结果为： w 2 = 1 a 1 ( z T p 1 − b 1 w 1 ) ，     b 2 = ‖ z w 2 − a 1 p 1 ‖ 2 p 2 = 1 b 2 ( z w 2 − a 1 p 1 ) ，     a 2 = ‖ z T p 2 − b 2 w 2 ‖ 2 同理，将第一次迭代结果填充空矩阵的第二列，继续第二次迭代结果为： w 3 = 1 a 2 ( z T p 2 − b 2 w 2 ) ，     b 3 = ‖ z w 3 − a 2 p 2 ‖ 2 p 3 = 1 b 3 ( z w 3 − a 2 p 2 ) ，     a 3 = ‖ z T p 3 − b 3 w 3 ‖ 2 … 最后，将以上每次迭代结果都相应的填充到P、W矩阵中，即可得到正交阵P、W。但是在计算 a i ， b i 存在一定的误差使得我们得到的矩阵是近似列正交。则 Γ k 就是 W ˜ 矩阵中选取前k列。 4.2. 邮件分类算法 本文选取spam.data数据集，其中包含4601封邮件(其中1813封为垃圾邮件)，58个变量(其中第58个变量显示该邮件是否是垃圾邮件：是−1，否−0)首先，将该数据集分为训练集和测试集： 训练集：906封垃圾邮件，1394封非垃圾邮件 测试集：907封垃圾邮件，1394封非垃圾邮件 并对选取好的训练集和测试随机排序，在该问题中， n = 2300 ， p = 57 ， X : 2300 × 58 ， y : 2300 × 1 。 Step 1：将训练集数据代入迭代算法中，通过迭代最终得到 Γ k ，此时回归模型为： y = X Γ k α + ε Step 2：将 X Γ k 看作新的变量，然后利用最小二乘法估计计算新的线性模型系数 α ^ ，计算结果为： α ^ = ( ( X Γ k ) T X Γ k ) − 1 ( X Γ k ) T y ，预测值为： y ^ = X Γ k α ^ Step 3：利用测试集去代入预测模型，将得到的预测值与真实值比较，计算相应的分类准确率(真阳率、真阴率)，图示不同k值对应的分类准确率以及ROC曲线图，分析该方法的整体识别分类效果。
system: [SYSTEM]

user: 5. 结果展示与分析 5.1. 不同k值下分类准确率分析 根据选取的k值的不同，即主成分个数的不同，所对应的分类准确率也不同。本文选择的指标为平均分类准确率、真阳率(垃圾邮件分类准确率)和假阳率(非垃圾邮件分类准确率)。不同的k值下的分类准确率为如表1所示： Table 1 Classification accuracy under different k value K值 分类准确率 真阳率 真阴率 5 0.9174 (0.720) 0.9008 (0.465) 0.9283 (0.887) 10 0.9174 (0.791) 0.8986 (0.613) 0.9297 (0.907) 15 0.9174 (0.812) 0.8986 (0.641) 0.9297 (0.923) 21 0.9179 (0.834) 0.8997 (0.677) 0.9297 (0.937) 表1. 不同k值下的分类准确率 上表中括号中是利用PCR方法取相同k值时对应的分类准确率，用PLS计算得到的各种分类准确率都很高，当k = 5之后PLS方法对应的分类准确度已经稳定。同等情况下，PCR得到的分类准确度还未稳定，且值较低。所以下面给出了真阳率和真阴率随k值变化的趋势图如图1所示。 由图1可知，PLS方法得到的真阴率和真阳率在k = 5之后就稳定了，这与表1数据刚好对应，由于在之后准确率与k值的关系不大，可以选择更小的k值来进行建模和预测。 5.2. 不同分类截点下分类准确率分析 不同分类截点会使分类的结果不同，相应影响各种分类准确率的差别，所以本文选择分类截点cut在(−1.6， 2.2)之间，画出了对应的平均分类准确率cr、真阳率(垃圾邮件分类准确率) tpr和真阴率(非垃圾邮件分类准确率) tnr的变化趋势如图2所示： 图1. 准确率变化趋势图 图2. 分类准确率百分比折线图 在左图中，横坐标是分类截点的值，纵坐标表示了总的平均分类准确率，从左图中可以看出总的分类准确率随cut的增大而增大，当cut值取0附近时，分类准确率达到最高，之后又呈现一种下降趋势。右图中，横坐标也是分类截点，纵坐标为真阳率或真阴率值，图中红色线是真阳率，蓝色的是真阴率。cut的取值越大，真阴率越大即非垃圾邮件分类正确率越高，cut值越小，真阳率越大即垃圾邮件分类正确率越高。所以在具体操作中可以根据我们追求的目标而选择不同的分类截点。 5.3. 不同k值对应的ROC曲线图 受试者工作特征曲线(receiver operating characteristic curve，简称ROC曲线)，又称为感受性曲线。受试者曲线就是以假阳率为横轴，真阳率为纵轴所组成的坐标图，和受试者在特定刺激下由于采用不同的判断标准得出的结果画出的曲线。在该问题下，ROC曲线具有如下作用： · ROC曲线能容易地查出任意界限值时对垃圾邮件的识别能力。 · 选择最佳的诊断界限值。ROC曲线越靠近左上角，实验的准确性就越高，最靠近左上角的ROC曲线的点是错误最少的最好阈值，其假阳性和假阴性的总数最少。 · 两种及以上不同诊断试验对疾病识别能力的比较。越靠近左上角的曲线识别的准确度越高。 两种方法下取不同k值对应的ROC曲线如图3所示： 图3. ROC曲线图 上图分别是PLS和PCR两种方法对应的ROC曲线图，两图的横坐标都是假阳率，纵坐标都是真阳率。在左图中，可以很明显看到随着k的变化，整个ROC曲线图很快达到了稳定状态，当k取5时真阳率的变化趋势几乎不再变化。而在右图中，从k = 1直到k = 30真阳率的变化趋势一直在变化，甚至到30 时还没有收敛，也即是k值的变化对真阳率的影响较大。除此之外，左边的ROC曲线整体比右边的靠近左上角，也即是PLS方法比PCR方法在对垃圾邮件的识别中更加有效，而且PLS在k值取很小时就已经达到了很高的识别准确度，所以在对垃圾邮件识别问题中PLS方法更加的有效。
system: [SYSTEM]

user: 6. 结论 偏最小二乘法的运用与最小二乘相比具有很大的优势。最小二乘是通过最小化误差的平方和来寻找数据的最佳函数匹配，利用最小二乘法可以简便地求得未知的数据，并使求得的数据与实际数据之间误差平方和最小。偏最小二乘法能够在自变量存在严重多重共线性的条件下进行回归建模；允许在样本点个数少于变量个数的条件下建模。本文中是基于偏最小二乘利用LGK双对角化设计了迭代算法和分类算法，对垃圾邮件分类问题进行了研究，并且分析了选取不同个数的主成分下分类准确度变化，还与PCR方法进行了比较，发现PLS的稳定性及识别垃圾邮件的准确性远远高于PCR。在最小二乘法主成分回归的迭代中，主成分个数需要选择将近30才能达到较好的效果，但是对于偏最小二乘法仅需5个主成分就可以达到比最小二乘更好的效果。所以，相比之下本文所用的基于偏最小二乘法的邮件分类算法更加的有效、准确度更高、速度更快。
system: [SYSTEM]

user: 摘要 随机森林是一种高度灵活的机器学习算法，可以解决回归和分类的问题。本文建立随机森林地震储层预测流程，探讨了随机森林储层预测过程中的关键参数，并利用SC某工区储层伽马值预测为例，分别对比分析了不同参数对预测结果的影响，并给出最优参数设置。同时对参与建模的地震属性重要性进行分析，优化属性样本集。最后利用最佳随机森林模型，以优化属性样本集为输入开展储层预测，取得良好效果。实践证明，随机森林算法能够有效进行储层预测，随机森林模型的参数调优很重要，影响到算法的效率和最终预测精度。
system: [SYSTEM]

user: 1. 引言 储层预测已经成为重要的油气勘探手段之一，储层预测技术也在不断发展中。近几年，人工智能和机器学习算法发展迅速，快速渗透到各行各业，包括地球物理勘探领域，尤其是遗传算法、随机森林算法、蚁群算法、支持向量机等机器学习算法的发展和应用，将地震储层预测技术推向了一个全新的历程。 随机森林算法是2001年Breiman提出来的[ 1 ]，随机森林模型是由多颗决策树组合而成。作为高度灵活的一种机器学习算法，随机森林对于回归问题和分类问题有很好的效果。随机森林拥有广泛的应用前景，已广泛应用在市场营销、医疗保健、图像识别、疾病预测等领域[ 2 ] [ 3 ] [ 4 ] [ 5 ] [ 6 ]。在地球物理勘探领域，随机森林方法也有一定的应用，将该方法应用在分类中，可进行岩性识别和地震相划分；将该方法应用于解决回归问题中，可预测储层物性参数。许多学者开展了随机森林算法在地震储层预测领域的应用。王志宏等通过测井数据对储层岩性进行识别，选取7种测井参数作为判别指标。对相关性较高的指标进行因子分析，提取公共因子作为随机森林模型的输入，建立基于因子分析和随机森林的储层岩性判别模型，证明模型判别准确率高，判别岩性与实际岩性具有较好的一致性，为测井资料岩性识别提供了一种新方法[ 7 ]。宋建国等建立地震属性与储层特征参数之间的非线性关系，以预测值与实际值之间的均方根误差值为评价标准，分析随机森林回归算法在地震储层预测中的特点。并将方法应用于某陆地工区的自然电位预测和某海上工区的自然伽马预测，取得较好效果[ 8 ]。柴明锐等分别利用支持向量机、神经网络、随机森林等多个机器学习方法对西北缘X723井百口泉组开展砂砾岩岩屑成分预测、对比和分析，结果表明随机森林的预测效果最好，误差绝对值最低[ 9 ]。周雪晴等针对复杂岩性碳酸盐岩储层原有岩性识别方法精度较低、泛化能力不足、结果不稳定等问题，提出基于粗糙集-随机森林算法的复杂岩性识别方法。通过对某区块502块岩心数据处理，证明该方法且实现简单，有较强泛化能力，可作为复杂岩性储层岩性识别方法[ 10 ]。 本文采用随机森林方法实现测井储层参数与地震数据之间的非线性关系拟合。形成了一套基于随机森林的储层预测技术和流程，分析了随机森林建模过程关键参数。以SC某工区储层伽马预测为例，对比了不同关键参数设置预测结果的影响，并给出最优参数设置。同时对参与建模的地震属性重要性进行分析，优化属性样本集。最后利用最佳随机森林模型，以优化属性样本集为输入开展储层预测，取得良好效果。研究表明，随机森林模型建立关键参数的合理设置对预测结果影响较大，随机森林可以作为储层参数预测的有效工具。
system: [SYSTEM]

user: 2. 方法原理 2.1. 随机森林算法 2.1.1. 随机森林原理及特征 随机森林的基本单元是决策树，它是通过集成学习的思想将多棵树集成的一种算法。多棵决策树就组成了森林。由于决策树容易过度拟合，而随机森林可以过集成学习来减少过度拟合现象。随机森林可以解决分类和回归的问题。假设当前随机森林解决的是分类问题，随机森林中的每棵决策树都是一个分类器，那么对于一个输入样本，N棵树会有N个分类结果。随机森林集成了所有的决策树分类结果，将分类次数最多的类别指定为最终的输出，这就是随机森林解决分类问题的基本原理。 随机森林的两个重要特征是随机性和集成特征。随机森林中的随机具有两层含义，一是指随机选取训练样本，另一个指随机选取特征子集。这两个随机性的引入对随机森林的分类性能非常重要，由于这种随机性，使得随机森林不容易陷入过拟合，并且具有很好的抗噪能力。随机森林的本质属于机器学习中的集成学习方法。集成学习是通过建立几个模型组合来解决单一预测问题。它的工作原理是生成多个分类器/模型，各自独立地学习和作出预测。最后将这些预测结合成单预测。集成学习通过将多个学习器进行结合，常常可以获得比单一学习器更为显著优越的泛化性能(图1)。 图1. 集成学习示意图 2.1.2. 随机森林模型构建 随机森林构建思路如下。 1) 构建初始模型 假设随机森林中有X个样本，Y个特征。随机森林的随机性就体现在对于每棵树都随机地抽取2/3X个样本作为训练样本集(另外为测试数据集)，同时有放回地随机选取y (y ≤ Y)个特征作为该树的分支依据。每棵树都据此建立。多棵树构成了随机森林的初始模型。 2) 特征集选择 在Y个特征中，每个特征的重要性是不同的，我们需要找到构建树是最重要的特征。判断特征的重要程度，可以通过随机改变特征值，判断特征值改变前后测试数据集的误差来决定，这个误差又叫做该特征的袋外误差(errOOB)。每个特征在多颗树中的重要程度的均值作为该特征在随机森林中的重要程度。 M ( Y i ) = 1 N i ∑ t = 1 N i ( e r r O O B t 1 − e r r O O B t 2 ) (1) 上式为特征 Y i 在随机森林中的重要性计算公式，其中 N i 为特征 Y i 在随机森林中出现的次数， e r r O O B t 1 为t棵树中特征 Y i 值改变后的袋外误差， e r r O O B t 2 为t棵树中特征 Y i 的袋外误差。将所有特征按照重要程度排序，去除重要性低的特征，得到新的特征集合，完成随机森林的一次迭代。 3) 优化随机森林 按照步骤(2)不断迭代，逐步淘汰重要性低的特征，利用新的特征集重新生成新的随机森林模型。每生成一次随机森林后，利用随机森林预测的样本结果与真实值进行比较，得到该随机森林的袋外误差。当袋外误差达到最小时的随机森林模型为最优模型[ 11 ] [ 12 ]。 2.2. 随机森林储层预测 储层预测主要的目的就是通过估算储层参数来达到研究储层空间分布状况的目的，储层参数包括储层厚度、孔隙度、渗透率、饱和度等，这些参数通常可以由测井数据得到，然而测井数据仅能提供井点位置上的储层参数信息，若要预测整个工区三维尺度上的储层参数还需将测井数据与三维地震数据结合起来。地震数据中包含着丰富的岩性、物性、流体等地下储层信息，这些信息可以通过提取不同的地震属性来实现。不同的地震属性突出的储层信息不一样，有的主要反映岩性变化，有些能够反映流体性质[ 13 ]。然而单纯使用地震属性进行储层预测存在不确定性和多解性，因此我们可以将地震属性与测井数据结合起来，建立二者之间的联系，以地震属性为基础，将井上储层参数在三维空间内进行有效的扩展，然后依据物理意义明确的特征参数对储层进行解释，从而能够更加全面准确地研究储层的岩性物性等特征在三维空间的分布规律[ 14 ] [ 15 ]。 由上述分析可知，建立测井数据与地震数据间的准确关系是进行储层预测的关键，而两者间的关系往往是非线性的，因此建立一种能够准确拟合两种数据的非线性表达式是难点。传统的非线性表达方式有非线性回归，多项式，指数公式等。随着人工智能的发展，一些更加精确的计算方法，如支持向量机、神经网络等成功应用于关系表达。随机森林方法具有训练速度快，容易做成并行化方法、抗过拟合能力强、能够处理高维数据等特点，是一种灵活度和运算效率高的机器学习方法。利用随机森林进行储层预测首先利用井点位置的测井参数和地震属性建立随机森林模型，然后利用建立的模型及三维地震属性数据预测整个工区的储层参数[ 16 ]。具体实现步骤如下。 1) 层位标定。 层位标定是连接测井数据和地震数据的关键步骤，该步骤是为了得到准确的井震时深关系，因而建立测井数据与地震响应间的对应关系。 2) 数据重采样。 由于测井数据采样率高，地震数据采样率低，若要建立两者间的关系，需在层位标定的基础上对测井数据进行重采样，得到与地震数据时间采样率一致的测井数据。 3) 样本集确定。 样本集是测井数据样本集和地震数据样本集的组合。地震数据样本的选择需从井旁道获取。由于单一地震属性只能突出某一方面信息，采用单一属性数据可能无法达到良好的拟合效果，因此可以提取多个地震属性，通过属性相关性分析剔除相关性较高的属性，得到最终的地震数据样本集。 4) 随机森林模型建立。 将样本集输入训练随机森林模型，训练得到最优模型。模型建立过程中需要设置一些关键参数，这些参数的设置不仅影响最终模型预测的精度，同时对计算效率也有较大影响。下面介绍最重要的几个参数。①决策树的数量，决策树数量越大，效果越好，但是计算时间也会随之增加。此外当树的数量超过一个临界值之后，算法的效果并不会很显著地变好。②随机森林的最大深度，这个参数可根据样本数量多少，特征多少来确定，当样本数量多，特征也多的情况下，需要限制树的最大深度。③叶子节点最少样本数。叶子是决策树的末端节点。较小的叶子使模型更容易捕捉训练数据中的噪声。实际应用中，可以尝试多种叶子大小种类，以找到最优的那个值。④内部节点再划分所需最小样本数。这个值限制了子树继续划分的条件，如果某节点的样本数少于该值，则不会继续再尝试选择最优特征来进行划分。如果样本量不大，可以不管这个值。如果样本数量非常大，则应设置较大值。 5) 储层参数预测。 根据建立的随机森林模型开展属性重要性分析，剔除重要性较低的属性，得到新的属性集合。利用新的属性集合输入到随机森林模型中开展储层参数预测，能够在不影响预测精度的情况下提高运算效率(图2)。 图2. 随机森林储层预测流程图
system: [SYSTEM]

user: 3. 应用实例 以SC某工区SXM组储层段伽马值预测为例，分别讨论不同参数设置对模型预测结果的影响。在获取样本集时，根据经验提取三瞬属性、反射强度属性、品质因子属性、振幅均值属性、能量半衰时、弧长属等十一种属性，详见表1。建立井点处测井信息与地震属性信息相对应的样本集。 Table 1 Training sample data set (The first seven lines 伽马值 弧长属性 反射强度 品质因子 振幅均值 能量 半衰时 单频属性 10 HZ 单频属性 40 HZ 单频属性 80 HZ 瞬时 振幅 瞬时 相位 瞬时 频率 61.662 10.444 1289.39 1.171 1862.13 0.58 23，495.9 8972.44 22，000.9 0.0818 −50.803 63.153 65.901 10.697 2704.56 0.871 1099.79 0.58 14，189.3 3972.55 19，097.7 0.2702 −5.333 43.73 52.912 10.824 3894.19 1.247 356.502 0.54 8000.18 13，621.5 12，909.1 0.3507 26.152 39.064 53.621 10.854 4730.82 2.555 −203.152 0.52 7189.98 18，451.2 7832.77 0.2771 54.278 36.708 88.201 10.877 5164.91 2.753 −544.464 0.48 8430.18 19，422.6 7058.02 0.0837 80.707 34.904 85.233 10.906 5180.65 1.168 −762.064 0.56 10，479.1 19，158.4 7778.58 −0.1419 105.838 32.983 89.392 10.981 4794.53 0.605 −1011.3 0.54 13，957.7 18，082.6 9998.2 −0.3066 129.585 29.987 表1. 数据样本集(前7行) 将上述样本集分为训练集和测试集两部分，利用训练样本集建立随机森林模型。为了提高建模精度，需选择最优的参数组合，建立最优模型。下面对随机森林最大深度和决策树个数进行分析。图3为不同决策树个数下随机森林预测结果。图3(a)随机森林中有5棵树，图3(b)中随机森林模型中有20棵树，图3(c)随机森林模型中有50颗树，图3(d)随机森林模型中有80颗树。对比可见，低伽马值的砂体预测结果差别较大。随着模型中决策树个数的增多，预测结果越准确，砂岩刻画的越完整。随着决策树数量的进一步增大(图3(d))，对结果的影响差别不大，即图3(c)和图3(d)结果差别不大，此时可判断最佳决策树个数为50。在实际应用中，随着决策树个数的增加，运算效率也会降低，因此需要综合考虑计算精度和计算效率，找到两者之间的平衡。 图3. 不同决策树个数模型预测结果对比 图4为随机森林的最大深度对比。当最大深度较浅时，预测结果的精度不高，图4(a)中最大深度设置过浅，无法得出准确预测结果。当最大深度过深时，随机森林中的每个节点中的样本数量过少，单棵树容易过拟合。对比图4，本次最大深度最佳设置值为20。 图4. 随机森林最大深度预测结果对比 对参与的十一个属性重要性开展分析，分析哪些属性对预测的储层物性参数更加敏感。图5为属性重要性对比图，最上面的属性是重要性最高的属性，也是对伽马值最敏感的属性。最下面的属性是最不敏感的属性。所有属性重要性加和为1。一般来说保留重要性前0.8左右的属性数据集，可将重要性最小的属性忽略。这样既节约时间，对预测结果精度影响不大。因此我们将重要性小于0.1的最后三个属性去除，保留重要性较高的前八个属性开展后面的预测。图6为属性剔除前后预测结果对比，可以看出，剔除敏感度低的属性对预测结果几乎无影响。 图5. 随机森林最大深度预测结果对比 图6. 属性优化前(左)，后(右)预测效果对比
system: [SYSTEM]

user: 4. 结论 本文形成了随机森林储层预测方法及流程，并利用该流程以某工区储层段伽马值预测为例，讨论了随机森林模型构建过程中的关键参数，及最优参数设置。通过分析得到如下结论。 1) 随机森林可以解决回归问题(储层物性参数预测)和分类问题(地震相划分、岩性识别)，实践证明随机森林模型预测结果良好。 2) 随机森林算法可以对特征进行重要性分析，即对参数计算的不同类型的地震属性进行敏感性分析。敏感性高的属性组合与测井参数具有更准确的非线性映射关系。 3) 随机森林模型的参数调优很重要，影响到算法的效率和预测结果精度，是建模过程中的必须步骤。
system: [SYSTEM]

user: 摘要 目的：检测NEK6在HepG2细胞中的定位，肝细胞肝癌组织与正常肝脏组织中的表达水平，分析其与临床病理学资料间的关系。方法：在HepG2细胞中转染pMCV-Nek6-Myc和pMCV-Nek6-Flag，应用间接免疫荧光法测定NEK6在HepG2细胞中的定位；应用RT-qPCR法检测47例肝细胞肝癌(HCC)组织与相应远癌旁组织(>1 cm)中NEK6 mRNA的表达水平；应用Western blot法检测该47例肝细胞肝癌组织与相应正常肝组织中NEK6蛋白的表达水平。收集并统计该组患者的临床病理学资料，包括性别、年龄、肿瘤大小、肿瘤数量(单个/多个)、血清AFP水平(≥400 ng/ml或<400 ng/ml)、Edmondson分级、纤维包膜、微血管侵犯(microvascular invasion， MVI)等，分析NEK6 mRNA表达水平与各临床病理特点的关系。配对样本应用配对t检验，单因素分析用卡方检验，多因素分析用二元Logistic回归分析，以P < 0.05认为结果有统计学意义。结果：免疫荧光实验显示，NEK6主要定位于HepG2细胞的细胞核中，在细胞质中也有少量存在；RT-qPCR结果显示，NEK6 mRNA在HCC中的表达量为(1.405 ± 0.472)，显著高于正常肝组织中的表达量(1.133 ± 0.474)，差异有统计学意义(t = 3.143， P = 0.0029)；Western blot结果显示，NEK6蛋白在HCC中的表达量为(1.031 ± 0.193)，显著高于正常肝组织中的表达量(0.906 ± 0.182)，差异有统计学意义(t = 3.464， P = 0.0012)。结论：NEK6主要存在于HepG2细胞的细胞核中，在肝细胞肝癌中表达上调，微血管侵犯是Nek6表达水平的独立相关因素，可能作为肝癌预后不良的判断指标之一。
system: [SYSTEM]

user: 1. 引言 肝癌是世界第七大常见恶性肿瘤，也是癌症死亡第二大常见原因 [ 1 ]。世界范围内每年有50万到100万新发病例，以亚洲、非洲为高发地区，而中国是目前肝癌罹患数最多的国家 [ 2 ]。肝细胞癌(Hepatocellular Carcinoma， HCC)是肝癌中最主要的病理类型，约占肝癌总体的75% [ 2 ]。早期肝癌多无典型症状，一经发现往往已是中、晚期，对化疗反应较差，预后不佳。早期识别肝癌预后不良的指标缺乏有效的生物标志物。NIMA最早是由Osmani等 [ 3 ] 在尼杜拉曲霉中发现的一种与细胞有丝分裂相关的基因。此后在高等哺乳类动物细胞中也发现了相似的基因，这类基因在结构和功能上与NIMA高度一致，被命名为Nek (NIMA-related kinase)。目前认为，Nek家族共有11个成员，其中Nek6是由李梅章等首先鉴定并测序的，该基因的逆转录DNA全长1590 bp，定位于人类9号染色体，是参与细胞有丝分裂的重要蛋白质 [ 4 ]。Rozita Adib等人 [ 5 ] 发现NEK6在“Ser-144”处磷酸化EML4，促进其在有丝分裂期间与微管分离，是有效的染色体融合所必需的。NEK6在肿瘤中的研究在近年来逐步深入。Nek6过表达拮抗p53诱导的人癌细胞衰老，Jee H.J.等 [ 6 ] 研究发现Nek6过表达可显著减少细胞周期阻滞于G1期和G2/M期，降低细胞周期蛋白B和cdc2蛋白水平对p53表达的影响。此外，在过度表达Nek6的细胞中，p53诱导的细胞内ROS水平的增加也受到抑制。这些结果表明，Nek6的表达下调是p53诱导的细胞衰老所必需的，并暗示了Nek6在肿瘤发生中的可能作用。Nek6在肝癌中的表达情况尚不完全清楚，本研究通过免疫荧光定位法检测Nek6在HepG2细胞中的位置，通过RT-qPCR及Western blot法测定Nek6在肝癌组织与相应的正常肝组织中mRNA及蛋白质的相对表达量，通过与临床病理学特征相结合，分析与Nek6表达相关的临床病理学特点。
system: [SYSTEM]

user: 2. 材料与方法 2.1. 一般资料 选取青岛大学附属烟台毓璜顶医院在2020年4月至2020年12月经手术切除、病理学诊断明确的肝细胞肝癌及相应的远癌旁组织(>1 cm)手术标本总计47例。所有标本均经2名资深病理科医师确认病理类型。收集该47例患者的临床病理学资料，包括性别(M 36例，F 11例)、年龄(<60 y 32例，≥ 60 y 15例)、肿瘤大小(<5 cm 37例，≥5 cm 10例)、肿瘤数量(单个42例，多个5例)、血清AFP水平(<400 ng/ml 12例，≥400 ng/ml 35例)、HBsAg (阴性9例，阳性38例)、Edmondson分级(I + II级19例，III级28例)、纤维包膜(有32例，无15例)、微血管侵犯(microvascular invasion MVI) (有34例，无13例)等。本研究取得患者知情同意，所有患者均为首次治疗，既往无其他恶性肿瘤病史，术前未接受过任何化疗、放疗、介入治疗及免疫治疗。本研究经烟台毓璜顶医院伦理委员会审批通过。 2.2. 实验材料、手术标本留取及主要仪器 HepG2细胞株取自烟台毓璜顶医院中心实验室；载体：pMCV-Myc、pMCV-Flag (美国Clontech公司)；Nek6 cDNA序列(GenBank Access: NM_014397)；小鼠抗c-Myc单克隆抗体、兔抗Flag多克隆抗体(美国Santa Cruz公司)；荧光二抗：Triton X-100 (北京索莱宝公司)；山羊抗鼠IgG (H & L)-Rhoda-mine、山羊抗兔IgG (H & L)-Rhodamine (上海翊圣生物科技有限公司)；Nek6前向引物5’-AGAA GATCGAGCAGTGTGACTAC-3’，后向引物5’-TAGC ATAAGCCTTGACAGGTCAC-3’、内参(β-MG)前向引物5’-ATGAGTATGCCTGCCGTGTGAAC-3’，后向引物5’-AATGCCTGCACTTGAGGCTGAG-3’ (美国Invitrogen公司)；pMCV-Nek6-Myc、pMCV-Nek6-Flag (实验室内构建)；转染试剂：Lipofectamine2000、DAPI (美国Thermo公司)；ECL显色试剂盒(美国Santa Cruz公司)；共聚焦荧光显微镜(德国Leica公司)；逆转录试剂盒(思科捷生物公司)；Trizol (日本TaKaRa公司)；TaqDNA聚合酶(美国Thermo公司)；荧光定量PCR试剂盒(江苏abm公司)；RIPA (上海碧云天)；凝胶电泳设备(美国伯乐公司)；兔抗人类Nek6单克隆抗体、小鼠抗β-tublin单克隆抗体(美国abcam公司)；手术标本离体后立即留取肿瘤组织及距肿瘤边缘 > 1 cm的远癌旁组织，每例组织留取2份，迅速置于液氮中冷却至少10 min后取出，−80℃冻存备用。 2.3. 实验方法 2.3.1. 免疫荧光定位 HepG2细胞复苏、传代，构建pMCV-Nek6-Myc、pMCV-Nek6-Flag。将细胞株以2 × 10 5 /well接种在经预先处理好的载玻片上，适当转染质粒，转染48 h后取出载玻片上的细胞，用PBS漂洗一次，用预冰的甲醇−20℃固定分钟，用1% Triton X-100室温处理15 min，然后用10%马血清(含1% BSA)封闭1 h，加一抗反应1 h，用PBS漂洗3次，加入带有荧光标记的二抗染色1 h，进行用共聚焦荧光显微镜观察、拍照。 2.3.2. RT-qPCR 用Trizol试剂一步法提取组织中总mRNA，按逆转录试剂盒说明书进行RNA逆转录。然后将所得产物cDNA进行PCR扩增。PCR的反应条件：预变性95℃，4 min，变性95℃，30 S，退火59℃，45 S，延伸72℃，30 S，共循环30次，最后72℃延伸5 min。以阈值循环(threshold cycle， Ct)值反映基因含量，通过2 −ΔΔCt 方法分别计算肝癌组织及相应远癌旁组织中目的基因的相对表达量。 2.3.3. Western blot 取标本约200 mg，加入液氮研磨均匀，再加入强效RIPA裂解液 + PMSF (1 mmol/L) 400 μL，冰上振荡裂解30 min后，12，000 r/min，4℃离心15 min，吸取上清，BCA法测定总蛋白浓度。按4:1比例加入5 × 上样缓冲液后，95℃加热5 min，自然冷却，SDS聚丙烯酰胺凝胶电泳，转膜，5%脱脂奶粉封闭1 h，并作为抗原稀释液，按1:1500稀释目的蛋白一抗(兔抗人类Nek6单克隆抗体，分子量约36-kDa)、1:2000稀释内参一抗(小鼠抗β-tublin单克隆抗体，分子量约55-kDa)；封入杂交袋，4℃摇床过夜。次日TBST洗膜 × 3次后分别加入二抗，37℃孵育1 h，再经TBST洗膜 × 3后加入ECL显色剂，应用化学发光凝胶成像系统观察并分析目的蛋白的表达。所有检测重复2次，应用ImageJ软件对条带灰度值进行测量并计算目的蛋白条带的相对灰度值(目的蛋白灰度值/内参蛋白灰度值)。计算癌组织中Nek6的相对灰度值与相应癌旁组织中Nek6的相对灰度值之比(DR值)作为判断依据，认为DR值 ≥ 1.25为表达上调、<0.75为表达下调、1.25 > DR ≥ 0.75认为表达无显著差别。将该结果与临床病理学资料相结合进行单因素及多因素分析。 2.4. 统计学分析 计量资料采用均数 ± 标准差( X ¯ ± s )表示。应用SPSS 23.0统计软件分析，计量资料组间比较采用配对t检验，计数资料组间比较采用 X 2 检验或Fisher精确概率法检验；多因素分析采用二元Logistic回归分析。所有统计结果均以P < 0.05认为差异具有统计学意义。
system: [SYSTEM]

user: 3. 结果 3.1. 免疫荧光实验 分别将Nek6构建到pCMV-Flag和pCMV-Myc载体上，记为pCMV-Nek6-Flag和pCMV-Nek6-Myc，并转染至HepG2细胞内，通过免疫荧光法检测转染稳定的细胞株表达显示Nek6在肝癌细胞中主要定位于细胞核中，细胞质中也有少量存在(图1(a)~(f))。 图1. (a)~(h)免疫荧光法检测HepG2细胞中Nek6在细胞中的定位(荧光显微镜，400×)。(a)、(e)为未显示荧光的HepG2细胞；(b)显示绿色荧光为兔抗Flag多克隆抗体为一抗、山羊抗兔-绿色Rhodamine为二抗的荧光图像，(c)、(g)显示蓝色荧光为DAPI显示的DNA，(d)为(b)与(c)的叠加；(f)显示红色荧光为小鼠抗cMyc单克隆抗体为一抗、山羊抗鼠-红色Rhodamine为二抗的荧光图像，(h)为(f)与(g)的叠加 3.2. RT-qPCR检测结果 应用RT-qPCR法检测47例HCC组织及相应远癌旁组织中Nek6 mRNA的相对表达量，计算并分析两组2 −ΔΔCt 可知，Nek6 mRNA在HCC中的表达水平为(1.405 ± 0.472)，高于远癌旁组织中表达水平(1.133 ± 0.474)，二者差异有统计学意义(t = 3.143， P = 0.0029) (图2)。 图2. RT-qPCR法检测47例HCC组织及相应远癌旁组织中Nek6 mRNA的相对表达量(**， P < 0.01) 3.3. Western blot检测结果 应用蛋白质免疫印迹法对60对HCC组织及相应远癌旁组织中的Nek6蛋白进行检测，并对其结果进行配对t检验分析，结果显示Nek6蛋白表达水平在HCC组织表达水平为(1.031 ± 0.193)高于正常组织中的(0.906 ± 0.182)，差异有统计学意义(t = 3.464， P = 0.0012) (图3(a)、图3(b))。 对上述结果与临床病理学资料相结合进行分析后显示，Nek6蛋白的表达水平与Edmondson分级、纤维包膜及微血管侵犯(MVI)相关(均P < 0.05)，而与性别、年龄、肿瘤大小、肿瘤数量、血清AFP水平、HBsAg等无显著相关(表1)。 图3. (a)， (b) Western blot测定Nek6在肝细胞肝癌(HCC)组织及相应癌旁组织中的表达水平，T为肝细胞肝癌组织，N为远癌旁组织(**， P < 0.01) Table 1 Relationship between the expression of Nek6 protein and clinicopathological characteristic 临床病理学特征 Nek6表达情况(n = 47) 上调比例(%) Χ 2 值 P值 显著性 上调(n = 31) 下调/无显著变化(n = 16) 性别 0.506 0.477 男性 16 10 16/26 (61.5) 不显著 女性 15 6 15/21 (71.4) 年龄 1.935 0.164 ≥60 y 19 13 19/32 (59.4) 不显著 <60 y 12 3 12/15 (80.0) 肿瘤大小 0.092 0.761 ≥5 cm 7 3 7/10 (70.0) 不显著 <5 cm 24 13 24/37 (64.9) 肿瘤数量 0.088 0.766 单个 28 14 28/42 (66.7) 不显著 多个 3 2 3/5 (60.0) 血清AFP水平 0.587 0.444 ≥ 400 ng/ml 22 13 22/35 (62.9) 不显著 <400 ng/ml 9 3 9/12 (75.0) HBsAg 2.294 0.130 阴性 4 5 4/9 (44.4) 不显著 阳性 27 11 27/38 (71.1) Edmondson分级 8.081 0.005 I + II级 8 11 8/19 (42.1) 显著 III级 23 5 23/28 (82.1) 纤维包膜 6.013 0.014 有 23 6 23/29 (79.3) 显著 无 8 10 8/18 (44.4) 微血管侵犯(MVI) 6.051 0.014 有 26 8 26/34 (76.5) 显著 无 5 8 5/13 (38.5) 表1. Nek6蛋白的表达水平与临床病理学特征间的关系 将单因素分析中差异显著的因素纳入二元Logistic回归模型中进一步分析与Nek6表达情况的相关性，结果显示：微血管侵犯(MVI)是Nek6表达水平的独立相关因素(P = 0.004) (表2)。 Table 2 Binary Logistic regression analysis of Nek6 and clinicopathological feature 临床病理学特征 回归系数 显著性(P值) OR值 OR 95%置信区间 下限 上限 Edmondson分级 0.96 0.20 2.61 0.6 11.22 纤维包膜 0.83 0.26 2.29 0.54 9.67 微血管侵犯(MVI) 2.26 0.004 9.57 2.08 44 表2. Nek6与临床病理学特征的二元Logistic回归分析
system: [SYSTEM]

user: 4. 讨论 肝癌是全球最常见的恶性肿瘤之一，在许多国家，尤其是亚洲国家，是导致死亡的主要原因 [ 7 ] [ 8 ]。尽管近年来除手术切除以外，针对肝癌的局部治疗、靶向药物治疗及免疫治疗等诸多治疗手段日趋成熟，但肝癌的预后仍然不尽人意，术后5年生存率限制在25%~49%，深入了解肝癌发生发展的相关分子机制是十分必要的 [ 9 ] [ 10 ]。 NIMA激酶是哺乳动物细胞细胞周期进程中不可或缺的参与者 [ 11 ] [ 12 ]。哺乳动物NEKs是与脊椎动物NIMA相关激酶同源的哺乳动物激酶 [ 13 ] [ 14 ]。Nek6是Nek家族中的重要成员之一，是一种与真核细胞有丝分裂密切相关的蛋白，在多种实体肿瘤中均有表达上调。Nek6及其邻链NEK7在有丝分裂过程中被上游Nek9磷酸化并激活，从而启动中心体的分离 [ 15 ]。有研究发现，NEK6或NEK7的缺失破坏了有丝分裂中纺锤体的形成，驱动蛋白EG5和伴侣蛋白HSP72是NEK6的有丝分裂底物 [ 16 ] [ 17 ]。在本研究中，通过免疫荧光定位实验我们发现Nek6在HepG2细胞中存在广泛，主要集中于细胞核中，这种分布可能与其参与细胞有丝分裂的机制相关。由于Nek6参与有丝分裂的过程中尚有多种因子共同参与，因此为进一步研究肝癌细胞增殖的分子机制提供了可供参考的研究方向。 Choudhury A.D.等 [ 18 ] 研究发现，NEK6在前列腺癌中过表达。在裸鼠种植瘤模型系统中，将去势耐药癌细胞中的NEK6沉默后可使细胞恢复对去势的敏感性。NEK6介导的去势抵抗性前列腺癌在组织学上主要为鳞状细胞癌。基因表达谱分析表明，NEK6过表达刺激了细胞骨架、分化和免疫信号通路，并维持了去势后基因表达模式的正常下降。磷酸化蛋白质组分析显示，转录因子FOXJ2是一种新的NEK6底物，FOXJ2的磷酸化与新发现的NEK6转录靶点的表达增加有关。这些结果表明，NEK6信号通路可能是去势抵抗性前列腺癌的中枢机制。Zhixian He等 [ 19 ] 研究了Nek6在乳腺肿瘤发生中的作用以及Nek6在乳腺癌中的表达对预后的价值。结果显示，与癌旁非肿瘤组织相比，Nek6在大多数乳腺癌标本中过表达。此外，Nek6的高表达与乳腺癌的组织学分级、肿瘤大小和TNM分期相关。Cox回归分析显示Nek6的表达是乳腺癌的独立预后预测因子。该研究结果提示Nek6在乳腺癌细胞增殖中起促进作用。 在本研究中，通过RT-qPCR及Westren blot等检测手段对HCC组织与癌旁组织中的Nek6表达水平做了不同层面上的研究。我们的结果显示，Nek6在HCC中表达上调，这与其在其他实体肿瘤中的研究结果相一致，未来我们将通过构建Nek6过表达及沉默细胞模型，进一步探究Nek6对于肝癌细胞增殖速度、增殖模式及信号转导途径等方面的深入研究。
system: [SYSTEM]

user: 5. 结论 综上，NEK6主要存在于HepG2细胞的细胞核中，在肝细胞肝癌中表达上调，微血管侵犯是Nek6表达水平的独立相关因素，可能作为肝癌预后不良的判断指标之一。
system: [SYSTEM]

user: 摘要 采用光流作为运动特征进行行为识别需要预先计算并存储光流，需要巨大的计算成本和存储资源，并且由于光流特征主要表征了相邻帧之间的运动特征，导致行为识别中存在长依赖问题。针对这些问题，本文提出了一种新的运动特征建模方式以取代光流特征，并且提出了一种长依赖时序运动建模模块。实验结果表明，本文提出的方法在增加极低的计算成本的情况下，能更好的对远距离图像帧间的时序上下文信息建模，显著提高行为识别的准确度。
system: [SYSTEM]

user: 1. 引言 行为识别是计算机视觉领域非常有挑战性的课题，研究的是视频中目标的行为动作，在视频监控、人机交互等领域有着重要的应用。在行为识别任务中，不仅要分析图像中目标的空间信息，还要提取时间维度上的时序特征。近几年，针对行为识别的研究主要围绕双流法和3D卷积进行展开。双流法包括两个并行分支：RGB空间流与时序流。在时序流中，通常采用光流作为运动特征，这也导致双流法需要预先计算并存储光流。因此，双流法需要巨大的计算和存储资源。3D卷积在2D空间卷积的基础上增加时间维度，学习时序特征，维度的增加也导致了计算量的增长。此外，双流法与3D卷积只能对局部的时间段内的时序特征进行提取，对长时视频中的长依赖问题存在较大的局限性。 针对以上存在的问题，我们提出了两个模块：通道级运动特征编码模块(CME)与长依赖时序运动建模模块(LDTM)。CME模块采用帧差法的思想，对相邻帧之间的运动特征进行编码，取代光流特征。利用注意力机制在通道级对运动特征通道进行激励，对背景通道进行抑制。LDTM模块利用双向LSTM网络，在增加较低的计算成本代价下，对远距离图像帧之间进行时序上下文关系建模，对解决行为识别中的长依赖问题提供了一种解决思路。
system: [SYSTEM]

user: 2. 相关工作 传统的行为识别方法一般是通过人工观察和设计，手动设计出能够表征动作特征的特征提取方法，比如方向梯度直方图(HOG)、光流直方图(HOF)、光流梯度直方图(MBH)、轨迹特征(Trajectories)以及人体骨骼特征等。在早期研究工作中，iDT (improved Dense Trajectories) [ 1 ] 算法是性能最好的算法之一。近几年，随着深度学习的兴起与快速发展，越来越多基于深度学习的方法被提出应用于行为识别，例如比较经典的双流网络架构以及近几年兴起的3D卷积网络及其变种。 2.1. 双流网络架构 2014年，Karen Simonyan等学者提出了双流(Two-Stream) [ 2 ] 卷积网络，利用帧图像和光流图像作为CNN的输入，将行为识别中的特征提取分为两个分支，一个是RGB图像分支提取空间特征，另一个是光流图像分支提取时间上的光流特征，最后结合两种特征进行行为识别。在此之后，许多基于双流架构的先进算法陆续被提出，比如TSN、TRN [ 3 ] [ 4 ] 等。TSN解决了传统双流法无法解决的长视频问题，提出将长视频切割成等长的若干视频段，每个视频段随机选取一帧作为输入提取特征，最后再进行特征融合。双流法的性能超越了传统手工特征提取方法，但是由于双流法需要预先计算光流提取光流特征，因此带来巨大的计算成本和存储需求，于是许多学者开始探寻不需要计算光流的方法，典型的方法例如3D卷积。 2.2. 3D卷积网络 C3D [ 5 ] 作为3D卷积的早期尝试，将VGG16模型中的2D卷积全都换成3D卷积。C3D虽然极具开创性，但是并没取得令人满意的效果，I3D [ 6 ] 提出将2D卷积训练权重在时间维度重复，用ImageNet预训练的权重初始化3D卷积，大幅提升了3D卷积网络的性能。3D卷积是2D卷积的扩展，虽然取得了较大的性能提升，证明了3D卷积网络建模时序特征的可行性，但是3D网络架构相比于2D卷积网络多了时间维度，因此也带来了巨大的计算量。为了降低3D卷积的计算量，许多工作对3D卷积操作进行改进以实现更少的参数量和更高的性能。P3D [ 7 ] 提出将3 × 3 × 3的3D卷积拆分成1 × 3 × 3的2D空间卷积和3 × 1 × 1的1D时序卷积，前者建模空间特征，后者建模时序特征，并采用不同的排列方式和残差连接，设计出多种变形结构。ECO [ 8 ] 在网络浅层采用2D卷积编码图像帧，在网络深层再用3D卷积对拼接起来的特征图进行编码。X3D [ 9 ] 从2D卷积的架构延伸，选择某个需要扩张的维度并固定住其他维度，将2D卷积核从不同维度扩展成3D卷积核。此外，X3D采用了通道可分离卷积网络，从而得到一个轻量级的网络模型。 除了双流模型与3D卷积以外，也有一些其他的工作聚焦于解决行为识别中的计算资源巨大、长距离依赖建模困难等问题。Chao-YuanWu等学者发现多数研究直接使用视频作为模型输入，从而导致数据量过大，因此他们参考视频压缩的技术，对视频进行压缩 [ 10 ]。为了避免光流的计算和储存，Hidden Two-Stream [ 11 ] 让模型先产生类似光流特征，再参考双流网络架构模型，分开处理时序特征和RGB特征。TSM [ 12 ] 提出在2D卷积中沿时间轴交替拼接特征通道，这个操作不需要任何额外计算成本和参数，解决了3D卷积网络计算成本高的问题，同时也保证了时序特征的连续性。 此外，一些学者提出用新的运动特征编码方式来取代光流特征，降低计算成本。Boyuan Jiang等人提出了一个STM [ 13 ] 模块，它包含一个通道级的时空模块(CSTM)来呈现时空特征和一个通道级的运动模块(CMM)来有效地编码运动特征。Yan Li等人认为时序建模是行为识别的关键，通常考虑短程运动和远程聚集，提出了一个时序激发和聚集模块(TEA) [ 14 ]，包括一个运动激发(ME)模块和一个多时序聚集(MTA)模块，专门用于捕获短距离和长距离的时序运动特征。除了取代光流特征，也有学者开始将研究方向投向更加轻量级的模型架构设计，例如采用2D + 1D [ 15 ] 卷积、shifting或注意力机制等等。 2.3. 长短期记忆网络 在行为识别任务中，输入的视频段可以看作是若干视频帧按一定时序进行排列得到，当我们的模型在学习某一帧视频帧特征信息时，我们需要模型将前面视频帧所学的特征信息与当前帧联系起来，即学习视频中的上下文信息。传统的神经网络无法做到这一点，循环神经网络(RNNs)解决了这一点，循环神经网络带有自循环结构，使得特征信息可以持久保存。但是当视频帧增多，视频时段较长时，我们需要学习更远距离的上下文，循环神经网络的效果就不是很明显了。长短期记忆网络(LSTM)便是针对视频理解、自然语言处理及语音识别等时序任务中存在的长依赖问题而提出的一种网络模型。长短期记忆网络是一种特殊的循环神经网络，由Hochreiter和Schmidhuber (1997)提出，它能够学习视频、语音或文本等数据中的长距离依赖关系。在随后的发展中，许多研究人员针对计算机视觉任务中出现的不同问题，对LSTM进行改进和推广，出现很多LSTM变种，例如双向LSTM、GRU等，它们在许多问题上起到很好的效果，得到了广泛使用。 在本文中，我们的主要贡献总结如下： (1) 提出了一个基于注意力机制的通道级运动特征编码模块(CME)，学习相邻帧间的时序上下文，在小幅增加计算成本的情况下显著提高模型性能； (2) 提出了一个长依赖时序运动建模模块(LDTM)，对行为识别中远距离帧间的上下文关系建模，有效降低了长依赖问题对行为识别的影响。
system: [SYSTEM]

user: 4. 实验结果与分析 4.1. 实验设置及数据集 实验设置。我们的实验选用ResNet50作为我们的基础卷积网络，并用我们提出的模块对ResNet50中的网络构件进行替换。为了便于与其他模型进行比较，我们在Something-Something-v1数据集上进行了实验。实验模型用2块2080Ti显卡进行训练，共训练50个epoch。训练数据的Batchsize大小设定为16，初始学习率设定为0.005，并分别在第30，40以及45个epoch时将学习率缩小10倍。 数据集。Something-Something-v1数据集是一个大型的带标签的视频段集合，这些视频段主要包括了人们对日常物品进行预定义的一些基本动作。该数据集包含108499个视频，并分为174个类别，其中训练集有86017个，验证集有11522个，测试集有10960个。 4.2. 与不同模型的性能对比 我们将我们的方法与当前最先进的一些行为识别模型在Something-Something-v1公开数据集上进行了实验对比。如表1，可以发现，在相同的实验参数设置条件下，比如相同的帧采样、Backbone网络以及预训练等，我们的方法相较于TSN、TSM、GST等优秀模型都有一定的性能提升。 Table 1 Comparison with state-of-the-art models on Something-Something-v Method Backbone Frames × Crops × Clips Flops Param Pre-train Top-1 val (%) Top-5 val (%) TSN ResNet50 8 × 1 × 1 33G × 1 × 1 N/A ImageNet 19.70 46.60 TRN BNInception 8 × 10 × N/A 16G × 10 × N/A 18.3M ImageNet 34.40 63.20 TRN Two-Stream BNInception (8 + 8) × 10 × N/A 32G × 10 × N/A 36.6M ImageNet 42.00 / I3D 3D ResNet50 32 × 3 × 2 153G × 3 × 2 28.0M ImageNet + Kinetics400 41.60 72.20 NL-I3D 3D ResNet50 32 × 3 × 2 168G × 3 × 2 35.3M ImageNet + Kinetics400 44.40 76.00 NL-I3D&GCN 3D ResNet50 32 × 3 × 2 303G × 3 × 2 62.2M ImageNet + Kinetics400 46.10 76.80 TSM ResNet50 8 × 1 × 1 33G × 1 × 1 24.3M ImageNet 45.60 74.20 TSM ResNet50 16 × 1 × 1 65G × 1 × 1 24.3M ImageNet 47.30 77.10 TSM&En ResNet50 (8+16) × 1 × 1 98G × 1 × 1 48.6M ImageNet 49.70 78.50 STM ResNet50 8 × 3 × 10 33G × 3 × 10 N/A ImageNet 49.20 79.30 STM ResNet50 16 × 3 × 10 67G × 3 × 10 N/A ImageNet 50.70 80.40 GST ResNet50 16 × 1 × 1 59G × 1 × 1 N/A ImageNet 48.60 77.90 GSM BNInception 16 × 1 × 1 33G × 1 × 1 N/A ImageNet 49.56 / 我们的方法 ResNet50 8 × 1 × 1 33G × 1 × 1 24.3M ImageNet 47.89 76.78 ResNet50 16 × 1 × 1 67G × 1 × 1 24.3M ImageNet 49.74 79.03 表1. 与当前先进的行为识别模型在Something-Something-v1数据集上进行对比 此外，我们也尝试了在ResNet50不同的层上加入LDTM模块，得到的对比实验数据如表2。由于ResNet50网络的浅层特征图尺寸较大，语义信息较少，我们考虑跳过第一层卷积，而从第二个Stage开始输入LDTM模块。我们发现，在第3个卷积层(一个卷积层表示ResNet50网络的一个Stage)后加入我们的LDTM模块，可以取得更好的效果。在较浅层或者更深层单独加入LDTM模块，由于浅层语义特征较少，而深层网络分辨率信息丢失，导致性能都有所下降。当然，在每一个Stage都加入LDTM，能取得最好的效果，但也不可避免带来更大的计算量。 Table 2 Comparison after adding LDTM modules to different layers of ResNet5 Stage Top-1 val (%) Top-5 val (%) Conv2 42.6 71.8 Conv3 45.3 74.3 Conv4 44.6 73.4 Conv3 + Conv4 46.9 76.1 Conv2 + Conv3 + Conv4 47.4 76.2 表2. 在ResNet50网络不同卷积层加入LDTM模块后的性能比较 4.3. 可视化分析 我们将我们的方法与TSM模型在ResNet50骨干网络第五层卷积Conv5后得到的特征图可视化。对比可以发现，我们的方法可以在长距离帧间进行关联的上下文学习。如图4，在我们的方法中，第1帧与第4、5帧特征图中，人手在拉动物体时，前景目标区域的特征被分配了更大的权重和关注度，明显区别于背景目标。这也证明，我们的方法对长依赖时序运动特征建模是有效的。 图4. “拉某物的两端但什么都没发生”行为视频段在Conv5后的特征热图，其中(a)表示我们的方法，(b) 表示TSM模型
system: [SYSTEM]

user: 5. 结束语 在行为识别任务中，短时相邻帧间采用光流特征作为运动特征进行行为识别存在着计算成本高、效率低等问题，而长时视频由于长依赖问题、远距离帧间上下文关系无法有效建模导致行为识别效果很差。针对以上的问题，我们提出了两个模块：通道级运动特征编码模块(CME)与长依赖时序运动建模模块(LDTM)。CME模块在采用帧差法的思想，对相邻帧间的运动特征进行编码，并利用注意力机制在通道级对运动特征通道进行激励，对背景通道进行抑制，从而得到更加有效的短时运动特征。LDTM模块利用双向LSTM网络，对远距离的帧间进行时序上的上下文关系学习，对解决行为识别中的长依赖问题提供了一种解决思路。CME模块与LDTM模块均不改变输入特征的输出维度，这允许我们将模块嵌入到模型任何位置进行端对端的学习，在增加较低的计算成本代价下，显著增加了模型的识别性能。本文主要从短时运动特征编码与长时依赖问题两方面对行为识别进行思考，后续我们针对这两方面问题，将进一步优化提出的方法，以获得更好的性能。
system: [SYSTEM]

user: 摘要 基于生成对抗网络的SAR图像超分辨率重建算法可以产生非常好的视觉效果。但是，现有的生成对抗网络在图像超分辨率重建的过程中仅判别生成的高分辨率图像，而忽略了低分辨率图像的作用。这不能保证生成的高分辨率图像可以被准确地降采样到最初的低分辨率图像。为了有效利用高分辨率图像和低分辨率图像，提出了双重判别的SAR图像超分辨率重建算法。双重判别在对高分辨率图像进行判别的基础上增加对低分辨率图像的判别，这使生成的高分辨率图像可以被准确地降采样到原始的低分辨率图像。而且，生成器网络在残差密集网络的基础上，融合了不同层次的变换特征，提高了参数利用率。提出的双重判别算法已成功应用于SAR图像，并且在视觉效果和客观评估指标方面都优于最新的深度学习算法。
system: [SYSTEM]

user: 1. 引言 合成孔径雷达(Synthetic Aperture Radar， SAR)图像具有极强的抗干扰特性，在航空航天工程、地质勘探、测绘和军事侦察中发挥着关键作用。为了确保SAR图像在图像分类和目标识别方面具有良好的性能，可以提高现有SAR图像的分辨率。但是，许多高分辨率图像是从低分辨率图像中重建出来的，很难区分生成的哪一张高分辨率图像效果更好，这对图像超分辨率来说是一个挑战。 现有的超分辨率生成对抗网络，例如SRGAN [ 1 ]、ESRGAN [ 2 ] 和A-SRGAN [ 3 ]，仅判别高频特征空间，而忽略低频特征空间的作用。在图像超分辨率重建过程中，生成的高分辨率图像不能保证准确地降采样到最初的低分辨率图像。如果重建的高分辨率图像更接近真实的高分辨率图像，则对生成的高分辨率图像进行降采样后得到的低分辨率图像也更接近真实的低分辨率图像。为了充分利用高分辨率图像和低分辨率图像的信息以获得具有更好视觉效果的高频纹理细节，提出了双重判别的SAR图像超分辨率重建算法。首先，双重判别通过利用高分辨率图像和低分辨率图像之间的相关性，同时判别两种不同分辨率的图像，这使得生成的高分辨率图像更加逼真。其次，考虑到在最近的超分辨率工作中残差密集块RDB [ 4 ] 和多层特征融合的优越性能，将这两种技术引入到了双重判别的生成器中，提出了能够融合多层变换特征的生成器网络，有效地提高了参数的利用率。