wcy1122/Long-TTS-Eval huggingface dataset:
所以有这么大的一个蓝色空间，其实我们很难去真正控制AI在这些没有见过的输入上到底输出什么。于是，如果有一个坏人，他就可以在蓝色空间这么大的空间中选择一个点。这个点就是对抗样本。这个对抗样本它的输出可以是坏人所想的。那这事儿严重吗？理论上说，这事儿不可避免，因为这个是大模型内在的缺陷。但是实际上其实它也没那么严重。因为我们其实每个人都知道对抗样本的存在，所以大部分的AI应用都会做非常多的AI加强，也会对于恶意的输入做出非常严格的检测。所以实际上还好。但是即使输入完全没有任何恶意，最后还是有AI产品出了一些事故。出事的这个人叫Google。2015年的时候，有一个美国的黑人小哥，他把他和他朋友的自拍照发到了Google的Google photo的应用上。Google的AI把它打了个标签，叫大猩猩。这在美国是天大的事情。Google还是花了一些成本去摆平了这件事情。大家可以猜一猜Google最后产品上是怎么解决这个问题的。猜一猜。我可以揭晓答案了，就是也没有那么麻烦，没有什么高深的技术。Google单纯地把大猩猩这个标签扔掉。本来也是，你一个美国的相册软件，干吗要大猩猩？Google出了事儿。后来亚马逊也出了个小事儿。有一个记者发现亚马逊的招聘部门要用AI去帮它筛简历。他发现亚马逊用的这个AI只要看到简历里面有“女性”这个字样，直接会把它pass掉。嗬，这是性别歧视，也很糟糕，被爆了出来。所以问题就来了。那么AI的偏见 bias 到底是怎么来的？我们先从技术上给一个结论。技术上说，它是由模型的缺陷、不完美的数据和一些其他的因素很复杂共同导致的。我们下面跟大家仔细来说一说。我们先说说模型的缺陷。用术语来说，这个叫大模型的过度自信现象，overconfidence。什么是过度自信现象？我们先来讲一下大模型的自信度。我想大家应该很熟悉。经常会看到一个AI模型说这张图片我觉得90%的概率是狗。这张图片我觉得90%的概率是猫。所以百分之多少的这个数就是大模型的自信度。怎么理解这件事呢？理想状态下，如果一个大模型说我有九成的概率说这张图片是狗，那么我们所期待的其实是，如果我给这个模型大概类似的100张照片，那么它应该有90次说对。所以，理想的AI的自信度其实它的意思是实际正确率应该这两个事儿比较接近才对。那么AI实际上是不是这样？过去的AI确实是这样。这里我放出了一个1998年最有名的AI模型叫LeNet。上面这张图是LeNet这个模型在输出不同自信度的时候，它在不同数据上的统计的频率。下面这张图的话，它的横轴是自信度，y轴是它的正确率。基本上你可以看到是一个正比关系。如果你仔细看的话，我们把80%自信度的这条线拿出来，你会发现当LeNet说它有80%自信度的时候，其实它有95%的正确率。再去看它的分布的话，你会发现甚至LeNet这个模型会倾向不自信一点。什么意思？也就是AI说八成把握，大概它一定能做。所以这个AI虽然有点笨，但是它挺靠谱的。好，20年之后我们来看一看。20年之后，2016年最好的AI，它叫ResNet。ResNet是一个非常有名的工作，它是21世纪至今引用最高的论文。ResNet更大，也更强。但是大家如果观察一下两个图表，会发现好像有一些不一样了。我们还是看一下80%自信度的时候。ResNet的输出，80%自信度的时候，ResNet其实只有50%的正确率。所以对于ResNet来说，自信度远远大于它的实际正确率。我们再看它的分布，我们会发现有60%的时候ResNet直接会说我100%自信。这就有一点不太靠谱了。对吧？因为这个大模型会过度自信。所以从技术上说，所谓的偏见 bias 就是在特定的，比如性别、种族场景下，大模型的过度自信现象。我还想说，偏见这件事其实非常普遍。在AI领域其实不止于性别，不止于种族。我讲一个我们团队的小的研究。我们让大模型GPT-4去玩石头剪刀布游戏。
RL微调阶段：在RL阶段，学习到的奖励函数用于向语言模型提供反馈。遵循先前的工作，优化被表述为最大化期望奖励，并带有一个基于当前策略和基础参考策略（即初始SFT模型）之间KL散度的惩罚项。在实践中，语言模型策略也初始化为SFT模型。增加的约束很重要，因为它防止模型偏离奖励模型准确的分布太远，并保持生成的多样性并防止模式崩溃到单个高奖励答案。由于语言生成的离散性，该目标是不可微的，通常使用强化学习进行优化。标准方法是构建奖励函数并使用PPO进行最大化。第4节：直接偏好优化受在大型问题（如微调语言模型）上应用强化学习算法所面临挑战的启发，我们的目标是推导一种直接使用偏好进行策略优化的简单方法。与先前的RLHF方法（先学习奖励然后通过RL优化它）不同，我们的方法利用了奖励模型参数化的特定选择，该选择使其最优策略能够以封闭形式提取，而无需RL训练循环。正如我们接下来将详细描述的，我们的关键洞见是利用从奖励函数到最优策略的分析映射，这使我们能够将奖励函数上的损失函数转换为策略上的损失函数。这种变量替换方法避免了拟合一个明确的、独立的奖励模型，同时仍然在现有的人类偏好模型（如Bradley-Terry模型）下进行优化。本质上，策略网络同时代表了语言模型和（隐式的）奖励。推导DPO目标。我们从与先前工作相同的RL目标开始，在一个通用的奖励函数r下。遵循先前的工作，很容易证明KL约束奖励最大化目标的最优解具有特定形式，其中最优策略与参考策略乘以指数化奖励成正比，并由beta缩放。比例常数是一个配分函数。即使我们使用真实奖励函数的MLE估计，估计配分函数仍然是昂贵的，这使得这种表示在实践中难以利用。然而，我们可以重新排列方程，用其对应的最优策略、参考策略和未知的配分函数来表示奖励函数。具体来说，我们首先取两边的对数，并经过一些代数运算，我们得到奖励等于beta乘以最优策略与参考策略的对数比，再加上beta乘以配分函数的对数。我们可以将这种重参数化应用于真实奖励和相应的最优模型。幸运的是，Bradley-Terry模型仅依赖于两个完成之间奖励的差异。将奖励的重参数化代入偏好模型，配分函数被抵消，我们可以仅用最优策略和参考策略来表示人类偏好概率。因此，Bradley-Terry模型下的最优RLHF策略满足偏好模型，该模型可以表示为两个响应的最优策略与参考策略的对数比之差的逻辑函数，并由beta缩放。虽然这里使用了Bradley-Terry模型，我们也可以在更通用的Plackett-Luce模型下推导出类似的表达式。现在我们已经用最优策略而不是奖励模型来表示人类偏好数据的概率，我们可以为一个参数化的策略制定一个最大似然目标。与奖励建模方法类似，我们的策略目标变成了一个基于策略概率的缩放对数比之差的逻辑函数的负对数似然损失。通过这种方式，我们使用一种替代的参数化来拟合一个隐式奖励，其最优策略就是策略本身。此外，由于我们的过程等同于拟合一个重参数化的Bradley-Terry模型，它享有某些理论属性，例如在偏好数据分布的适当假设下的一致性。在第5节中，我们进一步讨论DPO与其他工作相关的理论属性。DPO更新做了什么？为了从机制上理解DPO，分析损失函数的梯度是很有用的。关于参数的梯度可以写成对偏好数据的期望。直观地，损失函数的梯度增加了偏好完成的似然性，并减少了不偏好完成的似然性。重要的是，样本的权重取决于隐式奖励模型对不偏好完成的评分高出多少，并由beta缩放，即隐式奖励模型对完成排序的错误程度，同时考虑了KL约束的强度。我们的实验表明了这种加权的重要性，因为没有加权系数的该方法的朴素版本可能导致语言模型退化。DPO概述。
按照国务院的统一部署,1995年在全国开展第三次工业普查。我省于1995年着手准备,1996年正式实施工业企业普查登记。在各级人民政府的统一领导下,各有关部门协作、联动,各工业企业和工业生产活动单位积极配合,经过各级普查机构和全省30多万普查人员夜以继日的辛勤工作,经过一年多的努力,圆满完成了普查工作的试点、社会宣传动员、整顿企业管理基础工作、普查业务培训、清查企业调查单位、普查表的填报、数据审核、汇总和上报等一系列复杂而繁重的任务。在这次工业普查中,我省对全省境内421662个各类工业企业和工业生产单位进行了直接发表调查。其中,填报甲表的大中型工业企业663个,填报乙表的乡及乡以上小型工业企业26529个,填报丙表的年销售收入在100万元以上的村及村以下工业企业9736个,填报丁表的"三资"车间105个,填报卡片的年销售收入在100万元以下的村及村以下工业企业和工业生产活动单位384734个。在登记填报结束后,省、地(市)、县三级都开展了工业普查事后数据质量抽查和评估活动。省级质量抽查和评估结果表明,这次工业普查全省数据质量好于国家规定质量控制目标。现将普查结果公布如下:一、工业经济整体实力增强工业普查结果表明,自1985年第二次全国工业普查以来,我省工业经济总量显著扩大,特别是"八五"期间发展水平明显提高。工业发展速度加快。到1995年末,全省各类工业企业和工业生产活动单位共完成现价工业产出额3156亿元,按可比价格价格计算,比1985年增长4.7倍,平均每年增长18.9%,其中"八五"时期平均每年增长26.2%。与"五五"时期的8.5%,"六五"时期的.14.8%,"七五"时期的13.1%,"八五"时期是我省工业经济发展最快的时期。我省工业经济的快速增长主要是受乡属工业和村及村以下工业高速增长影响,按可比价格价格计算,1995年比1985年增长14.9倍,平均每年增长31.9%。国有工业企业每年平均增长9.7%,特别是大中型企业亦以15.1%的速度增长。企业规模显著扩大。到1995年末,全省有特大型企业8个,大型企业130个,中型企业525个。与1985年相比,大中型工业企业单位数增加458个,其中"八五"期间增加了281个。平均每个大中型工业企业完成工业产出额由1990年的7284万元提高到1995年的8988万元,五年内扩大了23.4%。平均每个大中型工业企业拥有资产总额由1990年的6699万元提高到1995年的20650万元,五年内扩大了2.1倍。从大中型工业企业的开工年限看,有632个企业是在"八五"时期以前开工投产的,这说明我省工业企业规模的扩大走的是内涵式扩大再生产之路。"八五"时期我省小型工业企业的生产规模不断发展壮大,平均每个小型工业企业完成工业产出额由1990年的7.4万元提高到1995年的38.4万元,五年内扩大了4.2倍。工业经济整体实力增强。到1995年末,全省各类工业企业和工业活动单位实现工业增加值852.1亿元,按可比价格价格计算,比1985年增长3.5倍,平均每年增长16.1%,占国内生产总值的比重由1985年的30.6%提高到1995年的42.5%,工业在整个国民经济中的主导地位日益突出。我省工业增加值占全国的比重由1985年的2.9%上升到1995年的3.5%。工业经济实力的增强还表现在企业资产总量和实现利税的增加上,1995年,全省乡及乡以上独立核算工业企业资产总额达2082.7亿元,比1985年增长8.7倍,平均每年增长25.6%;实现利税总额达153.5亿元,比1985年增长2.7倍,平均每年增长14.1%。
凯恩斯从来没有否定市场经济或要搞国家计划经济，他只是要在市场经济基本框架上，也就是在私有产权与供求决定价格的制度基础上，加进一个公共政策或公共服务，即宏观调控。凯恩斯主义是在大萧条的腥风血雨中产生的理论，要解决的是千百万人的生计问题。真正的宏观政策需要在数量上进行控制，一方面要有足够的力度，另一方面要放得起、收得住、退得出。宏观经济问题从原则上来讲是一个短期问题，应对政策要马上见效。比如面对通货紧缩，失业率不断上升，不可能通过一个20年的体制改革方案来解决这个问题，必须通过利率调整或者政府支出，马上抑制经济紧缩，缓解失业。很赞赏今年出台的推动大规模设备更新和消费品以旧换新的政策，因为这可以对实体部门产生真正的需求。 这是宏观经济学作为一个理论存在的意义，宏观经济政策解决的是短期问题，并不解决所有的问题，特别是像发展教育、科技创新、体制改革这些长期问题，我们还有其他理论与政策来解决这些长期问题，比如发展经济学，制度经济学等。第二，供给侧与需求侧。失衡可以由供给侧造成，也可能由需求侧造成，不同的时候有不同的侧重。这十几年来，我们的改革和科技进步都取得一定的成就，供给能力的增长速度令世界称奇。而另一方面，需求不足的问题迟迟没有得到重视。供给侧和需求侧的问题都要研究，当宏观经济失衡时，更应该关注需求侧。需求侧有哪些问题呢？一方面储蓄率长期处于高位，使得消费难以增长；另一方面，公共消费特别是公共服务消费的增长还有各种障碍，包括社保和税收过高，公共教育、公共医疗和公共卫生以及养老等一系列公共服务需求没有得到很好的满足。公共服务的供给有很多缺口，需要进一步投入。公共服务的基础设施不完善，要从财政支出的角度加大对这些领域的投资，对扩大整个需求发挥积极作用。城市化进程缓慢，受阻，是当前我国需求不足的一个重要原因。第三，个人与社会。任何经济波动中都会有个别企业的“骗局”起作用，罪犯必须严惩，但要防止惩罚了无辜的大众。如果为了惩罚少数坏人，出台非常强硬涉及面很广的打压政策，造成经济下滑，导致无辜的大众也受到惩罚，就会产生各种负面影响。这是在危机时期需要注意的一个重要问题，宏观政策本来就是一个公共政策，要以保护大众的利益为前提。第四，市场与政府。这是一个经济学中反复被讨论的重要问题，这里不全面展开，只讨论一个问题：我们需要尊重事实，而不是用一些毫无根据的说法，混淆视听。一个经常听到的似是而非的说法就是：凯恩斯主义是否定市场经济，搞国家计划经济。这是无中生有。凯恩斯从来没有否定市场经济或要搞国家计划经济，他只是要在市场经济基本框架上，也就是在私有产权与供求决定价格的制度基础上，加进一个公共政策或公共服务，即宏观调控，就像搞市场经济同时要搞社会保障（以及行业监管、法制法规等）的道理一样，是要在“原始市场经济”的基础上，加上一些公共物品的提供，发展出今天的现代市场经济。他也从来没有主张政府要用行政手段而不是经济政策来进行宏观调控。凯恩斯主义是在大萧条的腥风血雨中产生的理论，要解决的是千百万人的生计问题。批判凯恩斯的人往往会说，只要有市场经济，市场早晚会调整过来。但是，这个“早晚”是多久？大萧条本身是十年，加上与大萧条相关的二次世界大战及其之后的恢复时期，是25年，世界经济当时是直到1954年才恢复到1929年的水平。理论家们上嘴皮碰下嘴皮，而对那些在危机中失业、饥饿、收入下降的人来说，这可能就是一辈子的贫困（当今世界上也经常有“失去”几十年的案例）。我们交了那么多的税养着政府，危机来了它不作为，见死不救，告诉你等着市场调节吧，早晚会好的？这是我们要的市场经济么？那些批判凯恩斯的人要面对的更基本的问题是，你用什么来替代？替代方案是回到原始放任的自由市场经济？市场经济来到人世间，就伴随着不断的波动，世界各地的市场经济也还在不断地波来动去。你如果不能消除波动，你就要提供如何应对波动的办法。现在没有一个市场经济国家是没有宏观调控机制的。自凯恩斯宏观经济学问世以来，世界范围内的市场经济总的来说比早期的运行更加平稳。2008年金融危机比1929年更加严重，但几年之间就趋于稳定。这次疫情冲击，凡是采取凯恩斯主义政策（即财政政策为主）并且力度足够大的国家，都没有出现大的下滑，后面的恢复也很迅速。这些都说明凯恩斯主义是有效的。如果提不出有效的替代方案，你的批判就是无效的。
有多种方法用于建模偏好，Bradley-Terry（BT）模型是一个流行的选择（尽管如果我们有几个排名的答案，更通用的Plackett-Luce排名模型也与该框架兼容）。BT模型规定，人类偏好分布可以写为两个响应之间奖励差异的逻辑函数。假设可以访问一个静态的比较数据集，我们可以参数化一个奖励模型并通过最大似然来估计参数。将问题构建为二元分类，我们得到负对数似然损失。在LM的背景下，奖励模型的网络通常从SFT模型初始化，并在最后一个transformer层之上增加一个线性层，该层产生奖励值的单个标量预测。为了确保奖励函数具有较低的方差，先前的工作对奖励进行归一化，使得数据集中所有提示的期望奖励为0。
最后，DPO存在许多可能的应用，超出了从人类偏好中训练语言模型的范围，包括在其他模态中训练生成模型。致谢EM衷心感谢Knight-Hennessy研究生奖学金的资助。CF和CM是CIFAR研究员。这项工作部分得到了斯坦福学习加速器（SAL）和斯坦福以人为本人工智能研究所（HAI）“未来学习的生成式AI”种子基金计划的支持。斯坦福基础模型研究中心（CRFM）提供了本工作中实验所用计算资源的一部分。这项工作部分得到了ONR拨款N00014-20-1-2675的支持。
组相对策略优化（Group Relative Policy Optimization）为了节省RL的训练成本，我们采用了组相对策略优化（GRPO），它放弃了通常与策略模型大小相同的评论家模型，而是从组得分中估计基线。具体来说，对于每个问题，GRPO从旧策略中采样一组输出，然后通过最大化一个特定目标来优化策略模型。优势是使用每组内对应于输出的一组奖励来计算的。奖励建模奖励是训练信号的来源，它决定了RL的优化方向。为了训练DeepSeek-R1-Zero，我们采用了一个基于规则的奖励系统，主要包括两种类型的奖励：准确性奖励：准确性奖励模型评估响应是否正确。例如，在具有确定性结果的数学问题中，模型被要求以指定格式（例如，在方框内）提供最终答案，从而能够可靠地进行基于规则的正确性验证。同样，对于LeetCode问题，可以使用编译器根据预定义的测试用例生成反馈。
自金管局与中国人民银行和澳门金管局于去年六月联合宣布开展粤港澳大湾区跨境理财通(跨境理财通)以来,三地监管机构一直就跨境理财通的落实安排保持紧密沟通,积极推进筹备工作。今年二月,我们与三地监管机构签署了谅解备忘录,确立了监管合作安排和联络协商机制。我们亦就实施细节进行了三轮业界谘询,业界提出的数百条问题及建议有助我们构思计划落实时的情况,并细化相关安排。经过多轮讨论及谘询,金管局、人民银行及澳门金管局今天分别公布了跨境理财通在三地的实施细则。在讨论过程中,我们争取了在风险可控的前提下为银行及投资者增加灵活度,包括容许两地银行可与超过一家银行开展业务合作等。相信这些灵活性将有利业界发展跨境理财通业务。粤港澳大湾区(大湾区)居民最快在一个多月后,待银行完成准备工作及报备,即可正式通过跨境理财通进行跨境投资。我希望借此机会跟大家分享跨境理财通的主要安排。正如我们去年六月时的汇思文章1指出,我们设计跨境理财通机制时有几个重点考虑,一是充分考虑大湾区居民的实际需要;二是互相尊重内地和两个特区现行监管制度和做法;三是确保风险可控,採取循序渐进的方式推进;四是在整个投资流程保障投资者的合法权益。这些考虑贯穿跨境理财通机制的设计。开户流程跨境理财通以两地银行系统为基础,参与计划的香港银行可与一家或以上的内地银行以伙伴模式合作开展业务,分别负责汇款和产品销售。以“北向通”为例,香港投资者须在香港银行开立一个汇款户口,并在与该香港银行合作的内地银行开立投资户口。两地银行会把两个户口配对,以实施资金闭环管理(见下文)。虽然每间银行可与对方多过一间银行合作,但每名合资格投资者只可以在其所在地持有一个跨境理财通汇款户口,及在另一市场持有一个跨境理财通投资户口2。业界和投资者均关注跨境理财通的开户方式。“南向通”方面,内地居民可以通过见证方式开户。“北向通”下,香港投资者则可按照现行制度开立人民币账户,或指定已有人民币账户作爲投资户口。我们亦正与内地监管当局探讨在现行安排的基础上,以试点形式,循序渐进地设立“北向通”下的见证开户安排。此外,不论是“南向通”或是“北向通”,当投资者在完成开户程序,及后的户口操作和选购合资格理财产品皆可以遥距方式进行,例如电话或网上银行。合资格理财产品考虑到一般投资者对两地理财产品的认识程度、产品特性及可接受风险程度等因素,我们于起步阶段先涵盖风险较低及相对简单的理财产品。因此,一些结构性产品或衍生工具(例如期货、期权)等产品都不会列入初阶段的合资格范围内。“北向通”的合资格理财产品将涵盖被界定为低至中风险的公募基金和固定收益类(主要投资于债券和存款)及权益类(主要投资于股票)公募理财产品。“南向通”的合资格理财产品则主要包括存款(但不包括结构性存款)、低至中风险及非複杂的债券及在香港注册成立并经香港证监会认可的基金。额度管理计划实施初期,“北向通”和“南向通”各设1,500亿元人民币单边总额度和100万元人民币的投资者个人额度。额度使用量以跨境汇款淨值计算。举例说,某“北向通”投资者从香港汇款80万人民币到内地购买理财产品,其投资者个人额度用量将为80万;如果该投资者后来退出部分投资,将部分收益及本金汇回香港(以20万人民币爲例),该投资者的个人额度使用量会变成80 - 20 = 60万人民币。一旦额度达至上限时,个人跨境汇出款项至投资户口便会停止,但投资者仍然可以从投资户口汇款至其所在地的汇款户口。我们将不时检视额度的整体使用情况和市场发展需要,并据此与内地及澳门监管机构探讨将来对额度作出调整。资金汇划跨境理财通的跨境资金汇款须使用人民币通过人民币跨境支付系统(CIPS)进行。当投资者完成两地开户程序后,便可透过汇款户口把人民币资金跨境汇到投资户口。在“南向通”下,若内地投资者有兴趣投资以其他货币计价的产品,可在香港的离岸市场把人民币资金兑换成有关币种;在“北向通”下,香港投资者可先在香港的离岸市场换取人民币资金,再把资金汇到其内地的投资户口。值得一提的是,“北向通”将不受现时香港居民汇款至内地的8万元人民币每日上限的限制。跨境理财通户口下的资金将实施闭环管理。换言之,投资者在投资户口内的资金,只可以用来购买合资格的理财产品,或者在退出投资后以原路汇回汇款户口;投资者不可以直接从投资户口提取现金,或将资金汇到汇款户口以外的其他账户。跨境销售安排考虑到初阶段跨境理财通只涵盖由银行销售的风险较低、相对简单的理财产品,较适合透过“只执行交易”(Execution-only)模式进行销售。在“只执行交易”模式下,投资者将主动作出投资指示,银行负责执行。投资者如有疑问,亦可以向销售银行查询,由银行提供有关跨境理财通计划或合资格理财产品的事实性资讯。至于身处销售银行所在地的客户,银行可以按照现行的法律法规和监管指引对他们作出销售行为,包括给予投资意见。投资者保障保障投资者是跨境理财通的重要考虑。为确保投资者权益受相关法律法规保障,所有投诉或违规行为会按“属地管理原则”处理。以“北向通”为例,涉及理财产品及相关投资的投诉会由内地的银行根据现行机制负责跟进,并受内地监管机构监管;涉及跨境汇款的投诉则会由香港银行及监管机构处理,反之亦然。
这些车辆大多集中在城市地区，所以农村的情况更加严重和迫切。然而现实是，大多数非洲人，非洲13亿人口中有70%居住在农村地区。她们构成了80%的农业劳动力，80%的农田由这些小农耕种，并且生产了非洲大陆80%的食物。所以他们非常关键。但是，他们中的许多人居住在离市场很远的地方。大多数人居住在离全用途道路2公里之外的地方，这些道路甚至可能没有铺过。我们还发现，至少20%到30%的收入被用在了交通上。把你的货物运到市场，或把你的孩子送到学校，或去诊所，这是一笔巨大的负担。虽然有摩托车，数量也越来越多，但它们不适合农村女性。摩托车需要跨着骑，而大多数女性，尤其是老年女性，会穿裙子。如果你还要带一个孩子，还有一个50公斤重的化肥或种子袋，骑摩托车就变得不可能了。最后，大多数交通工具都是家里的男人在用，这就更难上加难了。2014年，我的生活发生了巨大变化。我来到中国工作。我进入了一个快速变化的社会，比我之前生活过的其他地方都快。这里有新的主意、新的发明。运输、通信、购物等领域的创业迅速规模化，包括共享经济。我们不需要占有物品，而是需要的时候去用就行了。当然，中国的交通非常方便。我们有高铁、有地铁、有共享单车，还有三轮车。它既经济又可靠，并且正在变成电动的。这与我的日常工作形成了鲜明对比。在那里，我被困在许多会议中，问题谈得很多，但解决方案的实践却很少。受到中国这种氛围的启发，我开始更多地了解社会企业、创业、影响力投资。2017年，我决定抛开一切顾虑。我在想，为什么不把中国正在发生的电动车革命带给非洲农村的女性呢，改变她们的出行方式。虽然我父母很替我担心，我还是以46岁的高龄，跟我的联合国的工资条说了byebye，成立了美力非洲。我回到非洲，开启了这段新的旅程。我做了一个融资PPT和商业计划，试图融资。心想这是个绝妙的主意，但朋友们很快告诉我融资很难，你这个事情太新了，而且没有验证过。所以我在2018年回到了中国，与清华大学的朋友和同事重新建立了联系。一切都是从清华开始的。徐迎庆教授是清华一位很棒的学者，他和彭瑞文一起运营着未来实验室。他们听了我的想法，说会帮我找一些学生帮你启动试点项目。于是我们找到了五位博士生，他们来自不同的专业，从社会学、能源到汽车机械。这些学生帮助设计了我们的试点项目。一开始我们就很明确，我们不想原封不动地进口三轮车，那样行不通。我们要让它变得适用于非洲，还要给它一个非洲名字。我们叫它Hamba。在恩德贝莱语中，意为“走吧”。这是津巴布韦的主要语言之一。我的联合创始人费利西蒂有一个农场，离首都哈拉雷大约有120公里。所以我们在她的农场启动试点项目，与那个社区的小农一起工作。这有点疯狂。我们有很多问题需要解决。清华的学生们做了很多准备工作和文献搜集，包括三轮车如何适应非洲的路况，需要进行改造吗？女性能驾驶它吗？这是机动车。她们大多数人可能只学会了骑自行车，有的可能自行车都没骑过。如何让大家买得起它？如何让商业模式立得住，这样才能融到资进行规模化？还有就是，我们想要实现电动化，那么如何给三轮车充电？电从哪里来？这些问题刚开始的时候，我都不懂。于是我们直接试点，边做边学。我们进口了50辆三轮车。我们众筹了买车的钱。清华的学生们也来到津巴布韦。来自河北的技师也随着三轮车一起来了。他们教当地技术人员如何组装。不到两周，试点就启动了。第一年的试点涉及到与女性的合作。我们拿出来30辆三轮车，让女人们分成三人一组，三个人租一辆三轮车，共享它。这非常有趣。一开始，男人们很嫉妒，为什么只有女性有三轮车用，为什么不给他们？但在这个过程中，他们明白了，如果家里的女性节约了更多的时间，能做更多的事情，她们就能赚更多的钱，也不会那么唠叨他们了。所以引入三轮车之后，我们看到性别关系发生了很大变化。第一年试点还有一个部分是教她们学会开车。所以我们开发了一个五天的驾驶课程，教她们关于道路安全和Hamba的基本操作。她们必须通过考试认证。照片上这句话是我们一位女学员说的，她说，简直不敢相信自己也能开车。所以光是看到这些女性学完驾驶课、获得证书，就已经非常鼓舞人心了。然后，在试点的第二阶段，我们增加了三轮车，总共有大约60辆三轮车。我们开始实验她们可以经营哪些业务。于是我们让一些女性来申请用车。她们是一群做生意的女性，她们的生意需要用车来帮助她们增加收入。这张照片上的女人开着三轮车挨家挨户去卖二手衣服。显然，这意味着她们不需要坐在市场上干等，她们可以上门推销。这是我们的一个新用户，苏珊。她开了一个家庭面包坊。现在她能够运一百个面包，她每天都可以卖。她家离她卖面包的地方有10公里远。现在她可以上门去卖了，她的收入呈指数级增长。我们还搞了一个迷你版滴滴。我们知道，整个社区都有很大的用车需求。
换句话说，在每一层中（在预训练模型W的整个特征空间之外），通常有四个特征方向需要被放大一个非常大的因子20，以便为下游特定任务达到我们报告的准确性。并且，应该期望对于每个不同的下游任务，都有一组非常不同的特征方向被放大。然而，人们可能会注意到，对于r=64，这个放大因子仅为2左右，这意味着在r=64的delta W中学到的大多数方向并没有被放大很多。这不应令人惊讶，实际上再次证明了表示“特定于任务的方向”（从而用于模型适应）所需的内在秩是低的。相比之下，delta W的秩-4版本（对应于r=4）中的那些方向被放大了更大的因子20。
通用能力：目前，DeepSeek-R1在函数调用、多轮对话、复杂角色扮演和JSON输出等任务中的能力不及DeepSeek-V3。展望未来，我们计划探索如何利用长CoT来增强这些领域的任务。语言混杂：DeepSeek-R1目前针对中文和英文进行了优化，这可能在处理其他语言的查询时导致语言混杂问题。例如，即使查询是英语或中文以外的语言，DeepSeek-R1也可能使用英语进行推理和响应。我们旨在在未来的更新中解决这个局限性。提示工程：在评估DeepSeek-R1时，我们观察到它对提示很敏感。少样本提示会持续降低其性能。因此，我们建议用户直接描述问题并使用零样本设置指定输出格式以获得最佳结果。软件工程任务：由于评估时间长，影响了RL过程的效率，大规模RL尚未在软件工程任务中广泛应用。因此，DeepSeek-R1在软件工程基准上并未显示出比DeepSeek-V3巨大的改进。未来版本将通过在软件工程数据上实施拒绝采样或在RL过程中整合异步评估来解决这个问题，以提高效率。
Mazumdar-Shaw大胆的生物技术使命：可负担、可及的医疗保健。  在打造印度第一家生物技术公司的过程中，如今已成为全球可负担医疗保健巨头的企业家Kiran Mazumdar-Shaw，明确的目标、非凡的人才与创新至关重要。  作为Biocon Group的创始人兼董事长，Kiran Mazumdar-Shaw创办了印度最早的生物技术公司之一，也是最成功的一家。  Biocon不仅改变了印度的医疗保健获取方式，也已成为在可负担创新、生物类似药和尖端研究领域的全球力量。  Mazumdar-Shaw是全球最杰出的白手起家的女性亿万富翁之一——这是科学主导的创业领域中罕见的成就。  她的故事充满了科学好奇心、大胆冒险以及对扩大全球医疗保健获取途径的坚定承诺，而不仅仅是在印度。  在1970年代，我遇到了一位来自Ireland的生物技术企业家，他邀请我和他一起在India创办一家生物技术公司。  由于我对生物技术感兴趣，我便决定一试。  我也意识到India当时没有生物技术产业——大多数企业当时专注于贸易，或是大公司和multinationals的附属机构。  作为一位brew master的女儿，我对生物技术产生了科学上的兴趣，因为我认为它与酿酒密切相关。  我最初通过应用发酵技术开发酶类。  我认为Biocon是India第一家科技初创公司，因为当时没有人打算创办一家以科学和技术为主导的企业，或使用新技术。  从一开始，我就立志追随一条以科学和技术为引领的独特道路——这种动力贯穿了我的整个旅程。  作为一名企业家，我相信科学和技术的力量，并且我一直试图挑战现状。  我也采纳了这样的信念：不断问自己接下来还能做些什么。  多年来，我正是通过这种方式打造起了Biocon。  我有两个North Stars.  其中一个是由科学驱动，探索科学能带你到何处。  另一个是通过打造通往可负担、救命药物的通道，从而在医疗保健领域产生变革。  我们在科学的推动下做出了许多了不起的事情，研发出了许多全新的药物和疗法，但全球有多少人能负担得起这些药物呢?  身处India，我深知这里的患者对新疗法和新药物的获取有多么有限。  我正试图应对这一挑战，不仅仅是在生物类似药方面——例如，如果我开发了一种新药，如何让India患者参与临床试验并从出色的新药中受益?  我认为我的优势之一是擅长建立人脉，并与全球health arena内的众多利益相关者互动。  我以各种方式在科学与技术领域以及与生物技术CEO之间建立联系。  我与著名oncologist Siddhartha Mukherjee共同创办了CAR-T公司，并因此对细胞与基因疗法领域发生的变化有了更加深入的理解。  在COVID期间，我参与了多个致力于疫情准备和病毒防控方案的小组。  我倾向于与这些人接触，邀请他们参与进来，并加强我们之间的联系。  我最初与来自Indian Institute of Technology (IIT)、学习过biology、生物技术和biosciences的年轻科学家们建立联系。  他们主动联系我，因为他们意识到我所做的事情是独一无二的。  这帮助我打造了建立Biocon所需的初步生态系统。  我还与government接触，因为他们注意到了我的所作所为。  他们成立了Department of Biotechnology，我成为他们在制定政策和建设India生物技术产业方面的关键顾问。  我建议他们设立创业基金，以鼓励更多初创企业，因为我知道当时用于支持初创企业的capital极为有限，而我创立Biocon的过程也非常艰难。  他们在Department of Biotechnology下创建了如今非常成功的生物技术基金BIRAC，该基金资助了国内所有重要的生物技术初创企业。  风险投资家 (VCs) 仍需发挥作用，但我认为他们没有参与进来，是因为India的regulatory pathways零散且不可预测。  如果风险投资家不知道开发、完善并将新理念推向市场需要多长时间，他们就不会投资于新理念。  在India，我们仍停留在政府资助的早期阶段。  我认为我们需要着力于通过推进regulatory reforms来释放创新潜力，因为只要消除监管障碍，相信我，创新就会涌现。  我见过许多值得支持的优秀创业理念。  我告诉年轻的创业者，“不要只是呆在你的lab里。你们必须像我一样建立network。”  如果我一直留在lab或office，我绝不可能达到这样的高度。  我认为我处理人际关系的方式有些非传统。  从一开始，我就决定每个人都必须是问题解决者，并参与为我们试图解决的任何问题提供方案。  我培养了一种团队精神，让每个人都能协同解决重大问题。  当一个企业拥有无处不在的问题解决文化时，你便会拥有极为聪明、富有创新精神的人才。  当我们招聘有经验的人时，我们需要对人选进行筛选。市场上有很多优秀的人才，但我们需要找到那些具有创新思维、愿意学习新事物的人。如果你给一个普通人一个问题，他们能够解决，他们会变得更加自信。他们会获得成就感，并能够应对越来越大的问题。这最终使他们变得非凡。  Gautam Kumra: 我注意到许多创始人企业家的两个特点：他们重视忠诚度，并且有能力让普通人发挥出非凡的表现。  Kiran Mazumdar-Shaw: 我同意这两点。Biocon 是一个活生生的例子，证明了可以让普通人做出非凡的事情。我认为这是因为许多 Biocon 的专家与公司一起成长，有些人已经工作了 25 到 30 年。即使是最近加入的人，如果他们吸收了我们的文化，也会增加价值，因为他们带来了新的专业知识和做事方式。不是每个人都必须是内部培养的，但忠诚度很重要。如果你给一个普通人一个问题，即使他们没有很高的资历，他们能够解决，他们会变得更加自信。他们会获得成就感，并能够应对越来越大的问题。这最终使他们变得非凡。  作为企业家，我一直相信只有坚持才能建立有价值和影响力的东西。我从未出售过我的业务，尽管有很多机会可以卖给更大的公司。同样，我认为员工也需要坚持。这就是为什么我有如此多的人与我共事了几十年。Z 世代非常不同，但作为公司，我们正在尝试创造稳定性，让他们留在我们这里。  他教会了我如何承担有计划的风险，如何衡量风险，并确保在不失去理智的情况下实现我的目标。如今，我有一个非常出色的领导团队，我们可以一起头脑风暴新的想法。即使在我建立Biocon时，我也与我的核心团队讨论过发展事宜。我可以提出和制定策略，但最终他们必须执行——如果他们不认同我说的话，我们就不会成功。  作为企业家，我从一开始就遇到了挫折。你必须坚韧不拔才能实现自己的目标。归根结底，是使命感驱使着你前进。
先前的工作表明，这种重新排序会引入对样本质量有影响的归纳偏置，因此我们推测高斯扩散也起着类似的作用，可能效果更好，因为与掩码噪声相比，向图像添加高斯噪声可能更自然。此外，高斯扩散的长度不限于等于数据维度；例如，我们使用 T 等于 1000，这小于我们实验中图像的维度。高斯扩散可以做得更短以实现快速采样，或更长以增强模型表达能力。4.4节：插值我们可以使用 q 作为随机编码器，在潜空间中对源图像进行插值，然后通过反向过程将线性插值的潜变量解码到图像空间。实际上，我们使用反向过程来消除对源图像的损坏版本进行线性插值所产生的伪影。我们为不同的 lambda 值固定了噪声，因此带噪声的潜变量保持不变。对原始 CelebA-HQ 256x256 图像的插值和重建表明，反向过程产生了高质量的重建，以及可信的插值，这些插值平滑地改变了姿势、肤色、发型、表情和背景等属性，但眼镜除外。更大的 t 会导致更粗糙和更多样化的插值，在 t 等于 1000 时会产生新颖的样本。第5节：相关工作虽然扩散模型可能类似于流模型和VAE，但扩散模型的设计使得 q 没有参数，并且顶层潜变量 x_T 与数据 x_0 的互信息几乎为零。我们提出的预测 epsilon 的反向过程参数化建立了扩散模型与在多个噪声水平上的去噪分数匹配以及使用退火朗之万动力学进行采样之间的联系。然而，扩散模型允许直接的对数似然评估，并且训练过程使用变分推断明确地训练朗之万动力学采样器。这种联系也反过来意味着，某种加权形式的去噪分数匹配与使用变分推断来训练一个类朗之万采样器是相同的。学习马尔可夫链转移算子的其他方法包括注入训练、变分回溯、生成式随机网络等。
大概正是因此，胡冬林从未将写作与对自然生态的记录、守护分离开来，并且由此建构起他的生态世界观和写作理念。生态书写的重要价值正在于鼓励人们不断扩展视野，将视线落向沉默但美丽的自然世界，从而更好地与自然相处。保护自然生态也就是保护人类的未来。《山林笔记》的文学意义及其生态研究价值，有待更多发现和挖掘。
专家表示，随着自贸区建设的推进，非洲国家将重新配置资源，把数字经济纳入第二阶段谈判，完善协议框架，并更好地应对公共卫生、气候变化和外部经济冲击。
Qwen2-VL：增强视觉语言模型在任意分辨率下对世界的感知能力摘要我们推出了Qwen2-VL系列，这是对先前Qwen-VL模型的先进升级，它重新定义了视觉处理中传统的预定分辨率方法。Qwen2-VL引入了原生动态分辨率机制，使模型能够动态地将不同分辨率的图像处理成不同数量的视觉令牌。这种方法使模型能够生成更高效、更准确的视觉表示，与人类的感知过程紧密一致。该模型还集成了多模态旋转位置嵌入（M-RoPE），促进了文本、图像和视频中位置信息的有效融合。我们采用统一的范式来处理图像和视频，增强了模型的视觉感知能力。为了探索大型多模态模型的潜力，Qwen2-VL研究了大型视觉语言模型（LVLM）的缩放定律。
它还提高了后续数学训练的效率，最终达到了最佳性能。然而，将代码词元和数学词元混合进行一阶段训练，损害了不使用工具的数学推理能力。一个猜想是，DeepSeek-LLM 1.3B由于其规模有限，缺乏同时完全吸收代码和数学数据的能力。ArXiv论文似乎对提高数学推理无效ArXiv论文通常被用作数学预训练数据的一个组成部分。然而，关于它们对数学推理影响的详细分析尚未被广泛进行。也许与直觉相反，根据我们的实验，arXiv论文似乎对提高数学推理无效。我们使用不同大小的模型进行了实验，包括DeepSeek-LLM 1.3B和DeepSeek-Coder-Base-v1.5 7B，使用了经过不同处理流程的arXiv语料库。这些语料库包括MathPile，一个89亿词元的语料库，其中超过85%来自科学arXiv论文；以及ArXiv-RedPajama，即全部arXiv LaTeX文件，移除了前导、注释、宏和参考文献，总计280亿词元。在我们的实验中，我们分别在每个arXiv语料库上对DeepSeek-LLM 1.3B训练了1500亿词元，对DeepSeek-Coder-Base-v1.5 7B训练了400亿词元。看起来arXiv论文对提高数学推理是无效的。当在仅包含arXiv的语料库上训练时，两个模型在本研究中使用的各种不同复杂度的数学基准上都没有显示出显著的改进，甚至出现了性能下降。这些基准包括像GSM8K和MATH这样的定量推理数据集，像MMLU-STEM这样的多项选择挑战，以及像miniF2F这样的形式化数学。然而，这个结论有其局限性，应持保留态度。
Hello，大家好。我是许华哲，是清华大学交叉信息研究院的助理教授，也是一个搞AI的。正是因为我是搞AI的，所以我的朋友经常会问我这样一个问题。就是说你们搞AI的这么能，到底什么时候能让AI把我这些麻烦事都做了，对吧？这样一个灵魂发问。比如说，又是一个美好的周末，你可能想美美地睡一个懒觉。但是你一觉醒来发现昨天吃剩的外卖垃圾忘记扔了。好，你现在费尽辛劳把它清理掉了，发现地上有一些不明的液体固体液体混合体。你现在又接着去扫地清理。好，你终于把一切都搞好了，时间已经到了中午。你说我这一周都在加班，不如我给自己做一顿健康餐吧。这个时候你在想我还要自己洗菜，我还要自己削皮，我甚至还要自己切洋葱。这个时候我想很容易问出刚刚那个问题：到底AI什么时候才能帮我们把这些破事都做了？非常幸运的是，你们遇到了我，我帮你们摘抄了一个答案：From 3 to 8 yearswe will have a machinewith the general Intelligence of an average human being。说啥，说3到8年内通用智能体会出现，你的破事被解决了。当然了，这是我摘抄的。它是谁说的呢？他说的他是谁呢？他是Marvin Minsky，是图灵奖获得者，也是一个人工智能先驱。他什么时候说的这句话呢？在1970年被生活杂志采访的时候。也就是说，只要时光倒退几十年，你的问题就被解决了。当然这是不可能的。我们看到，包括人类最聪明的头脑，都低估了AI给我们带来的挑战。当然了，Marvin Minsky说这句话的时候，是在人工智能第一波蓬勃发展的时候。我们不妨看看1970年之后历史上发生了什么。首先就是一波寒冬，十几年没发生什么大事。然后到了1997年，IBM深蓝可以跟人进行国际象棋的对弈。到了2012年，AlexNet来到我们身边，我们可以用深度学习的方式进行图片分类。到了2017年，DeepMind在强化学习的加持下发明了AlphaGo，可以击败人类最好的围棋棋手李世石。再到了2022年，我想大家都不陌生，我们有了可以跟它对话、可以问它问题的GPT。到了2050年，我可以告诉你们人工智能将会非常非常的强大。但你可能会说，稍等，稍等。确实人工智能发展了，我现在可以人脸支付了，我可以让GPT帮我写小作文了。可是为什么这些人工智能做的事是我想做的事，而我那些不想做的事，它也不做？这到底怎么回事呢？其实它真正的问题是什么，是智能。我不妨以下面这两个例子来问一问大家。左边是我们刚刚看到的围棋，而右边是我们希望打开这道门并且走过去。大家觉得哪一个更需要智能？我想大家心里可能都会觉得是围棋。因为当提到它的时候，我们都会联想到神童、聪明、高深。但就像我们之前说的，它已经被阿尔法狗解决了。但是让我们看看我们打开门走过去这个任务，解决得怎么样呢？机器人们非常整齐划一地选择了同样的解法，解决不了。这也就让我们想到，为什么这样简单的事情好像并不容易解决。我们好像有一个了不起的发现，就是说什么是难的、什么是简单的，好像并不是很清楚。其实这个发现确实很伟大。它叫什么呢？它叫做莫拉维克悖论。莫拉维克悖论是说，在人工智能里，困难的问题是易解的，而简单的问题是难解的。这是什么意思呢？就是说有的时候，这个事情看起来很简单，但对人工智能来说确是很难的。Marvin Minsky也给我们了一个解释。为什么会是这样呢？因为我们有时候往往会觉得有一些很简单的事，只是因为我们不擅长解决，所以我们觉得很难。比如说，我问你开门难不难，你说不难。但是这时候如果给你一个六年级的奥数题，你说兄弟，你给我上强度是吧。所以说很多时候，难和简单是我们一种主观的。到底为什么我们会产生这样的主观感觉呢？一种解释是从进化的角度来看。我们花了几十亿年的时间，从这个地球孕育生命变成了猿猴，又花了几千万年的时间从猿猴变成了人类，又花了几百万年的时间从人类发展出语言，最后花了十几万年的时间有了语言的使用逻辑，甚至后面的音乐美术等等。也就是说，如果我们看这个时间轴的话，我们花了超过99%的时间用来与这个物理世界打交道，用来熟悉物理世界的运动，而我们只花了一丁点的时间去研究我们那些难的问题。这也许就是为什么我们人类和AI对困难和简单的定义其实并不相同。但你可能说我不听我不听我就是要让你给我倒垃圾，就是让你给我做饭。那也没问题。我们就召唤今天我们的主角，叫做通用具身人工智能，Embodied AI。什么是通用具身人工智能？定义也很简单。我们首先要有一个身体，通常来说是一个机器人。它可以在各种各样的场景里面进行工作，比如你的卧室里，比如你的厨房里，等等。而且它在这些场景可以做非常多的任务。这就是一个最简单的通用具身人工智能的定义。你可能会问，生活中好像已经有很多机器人了，它们是通用具身人工智能吗？举个例子，送餐机器人、海底捞里给你上肉片、银行里面给你做服务、家里面给你扫地，它们是吗？好像直觉告诉你们它们太菜了，它们好像不是。但是这些是不是呢？
研究人员感到好奇：如果有必要，你需要向那些在票上写上自己号码的群体支付多少比给那些被分配号码的人更多？当我听到我们合作的那位社会科学家说，“在每个地理区域、每个人口统计、我们所做过的每一次此类实验中，我们发现你至少需要多支付五倍于给那些写上自己号码的人”的费用时，我感到非常惊讶。我并不惊讶于你必须支付更多这个事实。但这种差异的程度真是荒谬。这来自于心理学家Daniel Kahneman著名的可预测非理性领域。这些CEO隐含地知道这种巨大价值。如果让人们觉得自己在某件事上留下了指纹，他们的执行动力会增加五倍。而这正是这些领导者所利用的。Kurt Strovink：我想回到心态上来，谈谈这个重要的第二个阶段：作为新任CEO扮演一个重要角色。这不仅仅关乎你个人，而是关乎整个组织。你如何通过自己的角色引领——如何利用你的角色成为变革和探索的催化剂；倾听人们的想法；以及重新面对一些旧真理——这些都尤为重要。许多CEO对此都十分清楚。正如Scott所说，存在一种解冻的观念，但也有机构更新的前景。我记得一位CEO问道，“有哪些别人没有告诉我，而我却需要知道的事情？”那位CEO善于弄清真相，并成为一个问题解决者。这也是我们所说的深度倾听、真正敏锐的倾听的一部分：不仅仅是问一些每个人面试清单上都有的普通问题。Carolyn Dewar：当我们考虑在这个角色中的前六、九、十二个月时，我们会大量思考公司高管的情况。我也常常想到员工们试图破译你是谁的秘密解码器。如果你在第一年过于缓慢，人们就会认定你就是那样。在第一年设定步调——无论是大胆、执行力、领导品质，还是你将容忍和不容忍的东西——都有助于为你的任期定下基调。Kurt Strovink：“有目的的精通”在这个第二阶段意味着激发组织不断进化的潜力。这正是我们所谈论的第二个阶段尤为重要的原因。你如何利用你的角色成为变革和探索的催化剂；倾听人们的想法；以及重新面对一些旧真理——这些都尤为重要。Kurt Strovink：我们也来谈谈第三个阶段。Vik，帮助我们理解一些洞见。为什么这些CEO在中期会变得真的优秀？Vik Malhotra：如果我们采用用于识别真正优秀CEO的方法，并且把时间截断在大约三年左右，那么实际上符合优秀——真正优秀——表现标准的CEO数量将是数百甚至数千。你会发现有很多CEO在最初的三四年表现非常出色，但随后遇到了瓶颈。这种情况出现的时间比大二低潮稍晚一些。第三阶段中这种情况的原因十分有趣。我只想强调其中的三个：优秀的领导者会继续像局外人一样思考。太多时候，CEO本来会做得非常好，但他们一直在按剧本走。他们认为情况会一直这样下去。现实是，世界变化太快。变化是持续的。像局外人那样思考，并且不断推动或改变对于新机遇的愿景，即使是在你的团队和人才中。有时候，那些在最初三年里为你付出巨大努力的人，可能并不是未来三年里合适的人选。你是否愿意实际做出那些艰难的抉择？当我们与JPMorgan Chase的CEO Jamie Dimon交谈时，他说，“如果你因为一个人迄今为止做出了令人难以置信的工作而对其忠诚，那么你实际上是在对组织不忠。因为他们最终会伤害组织或不能让组织充分发挥潜力。”不同的人适合不同的时代。要不断推动组织前行。优秀的领导者最终会成为持续学习者。他们认识到自己确实犯过错误，并从错误中学习，并期望在领导的中期纠正这些错误。他们也会不断寻求他人的见解。优秀的领导者开始认真考虑继任计划。他们会考虑未来如何领导这个组织，既包括进入他们领导生涯的下一个篇章，甚至超越这一层面。当然，每位优秀CEO从第一天起就有继任计划。但在第三和第四年，他们会开始非常认真地考虑如何真正培养下一代未来可以接任他们的CEO。因此，他们也会在这方面花费大量时间和精力。Kurt Strovink：在某种意义上，Vik，你所谈论的是对更新永恒存在的需求。Carolyn Dewar：基于这一点，CEO们常常会陷入回音室效应。如果你不非常小心和有意识地去避免，即使你自己没有察觉，可能其他人已经开始看到某种停滞。最极端的例子就是激进投资者。他们是从外部以非常直观的外部视角指出缺陷的人。如果你创造了一种环境，使你的声音始终是正确的，而其他人只是执行，这种你最终错过信号的风险就更高。在别人替你问问题之前，你应该自己先提出问题。你必须愿意进行那种诚实的对话。Vik Malhotra：如果你只留在内部，就会陷入回音室。许多CEO都会谈论外部视角的重要性——更广泛地与其他CEO、全球其他领导者、政治家、投资者、分析师交流。实际上，最重要的声音可能是客户的声音。我印象深刻的是，当我们和Microsoft的CEO Satya Nadella交谈时，他通过日程分析告诉我们，他大约15%到20%的时间是在与客户交流。他非常明确地表示，“我把自己视为Microsoft的首席学习官。我会出去和客户交流，明确地获取他们的见解，他们对于组织的第一手见解。”这非常具有力量。如果你能获得大量的外部视角，它将使你保持时刻更新，避免回音室效应，并能推动组织以外部关注无法实现的方式发展。Scott Keller：关于其中的心理学因素，你现在锚定在自己的战略和成功上，而不是外部视角。关于持续学习还有一点需要补充。当你在最初两、三或四年成功时，人们开始要求你谈论你的成功。“这里有哪些最佳实践？我们如何都能从中受益？”我们采访的那些CEO想，“当然，我会去参加那个会议，或者接受那次采访，但我想问你三四个问题。”这正是他们在我们的采访中对我们所做的。每当有机会与客户交流时，这些CEO都在思考，“我如何能从中学习，帮助我们的组织更好地共同取得成功？”这种心态非常重要。第四阶段：传承下去。Kurt Strovink：我发现关于第四阶段最令人惊奇和有趣的部分在于将这一概念形象化为接力赛。这是奥运会中最快、最激动人心的比赛之一。
我们的结果与这些基线一起报告了以每维度比特（BPD）为单位的负对数似然（NLL），通过Frechet Inception Distance（FID）测量的样本质量，以及自适应求解器达到预设数值容差所需的平均函数评估次数（NFE），该值在50k个样本上取平均。所有模型都使用相同的架构、超参数值和训练迭代次数进行训练，其中基线被允许进行更多迭代以获得更好的收敛。请注意，这些都是无条件模型。在CIFAR-10和ImageNet上，与竞争方法相比，使用最优传输的流匹配（FM-OT）在我们所有的定量测量中都持续获得最佳结果。我们注意到，与以前的工作相比，CIFAR-10的FID性能高于通常水平，这可能是因为我们使用的架构没有为CIFAR-10进行优化。其次，一个在分辨率为128x128的ImageNet上使用OT路径的流匹配训练的模型，显示了最先进的FID，除了IC-GAN，它使用了自监督的ResNet50模型进行条件化，因此被排除在此比较之外。更快的训练。
这证明了delta W包含了那些在W中未被强调的“特定于任务”的方向。一个有趣的下一个问题是，我们需要多“强”地放大那些特定于任务的方向，才能使模型适应良好？放大因子人们可以自然地将特征放大因子视为delta W的弗罗贝尼乌斯范数与U转置W V转置的弗罗贝尼乌斯范数之比，其中U和V是delta W的SVD分解的左右奇异矩阵。（回想一下，U U转置W V转置V给出了W在由delta W张成的子空间上的“投影”。）直观地说，当delta W主要包含特定于任务的方向时，这个量衡量了它们被delta W放大了多少。如前所示，对于r=4，这个放大因子高达20。
我国的工业化用了不到40年的时间，就走完了西方资本主义国家上百年、甚至几百年走过的历程。如今，冬奥会的所有场馆已提前一年完工并进入测试阶段，许多冬奥项目在两年多的时间里实现了从无到有，一些项目达到了世界先进水平，这都得益于我们的制度优势。我国的社会主义现代化，是靠一个方面一个方面的现代化不断累积起来的。
对于具有挑战性的Video-MME基准，其中包含长达一小时的视频，值得注意的是，我们在评估期间将每个视频提取的最大帧数限制为768，这可能影响了在较长视频上的性能。未来的工作将集中于扩展Qwen2-VL以支持更长的序列，从而适应更长的视频。视觉智能体Qwen2-VL首先评估其通过函数调用与环境交互的能力，然后评估其通过多轮交互完成复杂序贯决策任务的能力。该实现基于Qwen-Agent框架。函数调用与LLM中的函数调用不同，LVLM中的函数调用通常涉及从视觉线索中提取信息。由于缺乏评估LVLM函数调用能力的公共基准，我们构建了我们内部的评估数据集。为了构建评估数据集，我们采取了以下步骤：场景分类、图像收集、图像内容提取以及问题/函数/参数生成。首先，我们根据不同的视觉应用将场景进行分类。随后，我们从互联网上下载并精心挑选了每个类别的高质量、有代表性的图像。之后，利用一个先进的LVLM，我们分析每张图像以提取关键的视觉元素和文本信息。最后，基于图像的内容信息，我们使用一个先进的LLM生成了一系列需要特定函数来回答的问题，并指定了这些函数调用所需的输入参数。与LLM中函数调用的评估方法类似，我们设计了两个指标来评估函数选择的准确性和输入参数的正确性。具体来说，类型匹配（TM），计算为模型成功调用正确函数的次数与尝试调用总次数的比率。
在微调阶段，我们对同一说话人的说话人嵌入进行无监督聚类，以确保说话人音色的稳定性。我们已经证明，目标说话人仅需 400 条音频记录即可实现相当不错的语音合成性能，不同说话人之间的客观指标仅观察到轻微变化。我们的实验表明，大多数说话人可以继承零样本 TTS 模型强大的上下文理解和感知能力，从而根据输入文本自然地表达各种情绪和情感。使用强化学习进行语言模型微调尽管 SFT 可以提高大多数说话人的性能，但一位说话人 Spk E 的结果仍然比基础模型差，尤其是在英语方面。因为 Spk E 的声音更复杂，语速更快。此外，Spk E 只有中文录音可用。因此，我们对 Spk E 应用强化学习以作进一步改进。对于 DPO，我们通过 SFT 模型合成了 1 万个样本对，以通过 ASR 和 SS 奖励来改变语言模型的偏好偏置。我们还使用可微分的 ASR 奖励来优化语言模型参数。在 RL 之后，我们在 Spk E 的测试集上用内容一致性（WER）、说话人相似度（SS）和语音质量（NMOS）评估模型，并进一步在 SeedTTS 测试集上评估 WER，以探究模型是否能对域外或跨语言输入文本保持鲁棒性。与预训练的基础模型相比，SFT 模型显示出更高的说话人相似度和语音质量，然而，WER 可能比基础模型差。我们发现，基础模型合成的音频通常比 SFT 和真实语音速度慢，这对 ASR 系统更友好。对于目标说话人数据集，偏好偏置和可微分奖励都可以降低 WER，而对其他两个指标几乎没有负面影响。但对于 SEED 测试集，基于 DPO 的强化学习仅对中文和英文子集有益，而困难样本会变得更差。原因可能是困难样本包含许多重复的单词或短语，在 DPO 训练期间它们可能被视为拒绝样本。然而，可微分的 ASR 奖励不会遇到这个问题，因为它可以直接通过 ASR 后验概率优化 TTS 系统。这意味着可微分的 ASR 奖励在域外情况下具有更好的泛化能力。最后，我们可以将它们相互结合以获得进一步的改进。结论在本报告中，我们在 CosyVoice 成功的基础上，提出了 CosyVoice 2，一个利用大语言模型的改进版流式语音合成模型。通过在单一框架内统一流式和非流式合成，CosyVoice 2 在流式模式下实现了与人类相媲美的自然度、极低的响应延迟和几乎无损的合成质量。关键创新包括：用于实现码本完全利用的有限标量量化、一个集成了预训练文本大语言模型的简化文本到语音语言模型架构，以及开发了一个支持块感知的因果流匹配模型以支持多样化的合成场景。此外，指令式 TTS 能力的提升允许通过对情感、口音、角色风格和语气词进行细粒度控制，生成多功能且生动的语音。通过系统性的修改和优化，CosyVoice 2 不仅提供了卓越的合成质量，还放宽了部署要求，使其适用于流式和非流式应用。我们相信，CosyVoice 2 代表了在可扩展、高质量和交互式文本到语音合成方面的一个重大进步。局限性CosyVoice 2 有几个需要解决的局限性。首先，它只支持有限数量的语言。对于具有重叠字符集的语言，合成性能可能会下降，这为未来的研究提出了一个开放性挑战。其次，CosyVoice 2 无法通过文本指令控制声学特性，如音色，这可能是角色扮演应用中一个引人入胜的探索领域。此外，当被要求唱歌时，CosyVoice 的表现不佳。