wcy1122/Long-TTS-Eval huggingface dataset:
6月份,全国规模以上工业增加值增长6.8%,较5月份加快1.0个百分点。工业品出口韧性凸显。上半年,在外部环境不确定性不稳定性较为突出的背景下,我国规模以上工业品出口交货值同比增长4.2%,展现出强大的韧性与活力。从行业看,全球新造船市场需求活跃,带动铁路船舶航空航天行业出口交货值增长24.0%,其中金属船舶制造、海洋工程装备制造出口交货值分别增长38.6%、20.0%;随着我国工业发展质量不断提升,专用设备行业出口交货值增长9.6%,其中纺织专用设备制造、塑料加工专用设备制造、半导体器件专用设备制造等行业出口交货值分别增长32.5%、17.1%、14.9%。二、工业经济转型升级持续推进装备制造业占比持续提升,产业结构进一步优化。上半年,规模以上装备制造业增加值同比增长10.2%,拉动全部规模以上工业增长3.4个百分点;占全部规模以上工业的比重为35.5%,较2024年提高0.9个百分点,"压舱石"作用进一步夯实。装备制造业中的8个行业均保持增长,其中,铁路船舶航空航天、电气机械、汽车、电子等行业增速分别为16.6%、12.2%、11.3%、11.1%。从产品看,中高端装备类产品产量高速增长,发电机组、铁路客车、动车组等产品产量分别增长60.5%、49.8%、41.4%。高技术制造业较快增长,助力工业经济高质量发展。上半年,规模以上高技术制造业增加值同比增长9.5%,对全部规模以上工业增长的贡献率为23.3%。从行业看,在商业航天、国产大飞机等新兴产业快速发展带动下,航空、航天器及设备制造业增长8.4%,其中航天器及运载火箭制造、飞机制造、航空航天相关设备制造分别增长58.6%、18.0%、16.1%。随着科技创新不断取得新突破,电子及通信设备制造业增长12.7%,其中智能车载设备制造、集成电路制造、电子专用材料制造、通信系统设备制造等行业分别增长27.7%、21.2%、17.1%、14.6%。数字产品制造业增势强劲,工业数智化转型稳步推进。上半年,规模以上数字产品制造业增加值同比增长9.9%,增速高于全部规模以上工业3.5个百分点,已连续23个月高于全部规模以上工业平均水平。其中,智能设备制造、电子元器件及设备制造等行业两位数增长,增速分别为14.9%、11.7%。从产品看,在大模型快速发展带动下,服务器产量增长126.7%;3D打印设备、工业机器人、服务机器人等智能化产品产量分别增长43.1%、35.6%、25.5%;工业控制计算机及系统、工业自动调节仪表与控制系统等自动化产品产量分别增长28.9%、15.6%。绿色低碳产品表现亮眼,工业绿色发展步伐加快。上半年,"新三样"产品快速增长,新能源汽车、汽车用锂离子电池、太阳能电池产量同比分别增长36.2%、53.3%、18.2%;风电建设提速带动风力发电机组产品产量快速增长,增速为72.0%;绿色材料供给增加,高性能化学纤维、生物基化学纤维、单晶硅等产品产量分别增长36.6%、18.1%、12.5%。三、政策效应持续显现"两新"政策加力扩围,内需潜力持续释放,对工业生产带动明显。上半年,在设备更新政策等因素带动下,船舶及相关装置制造、电机制造、通用零部件制造、锅炉及原动设备制造等行业增加值同比分别增长20.0%、19.2%、14.3%、13.6%;包装专用设备、电站用汽轮机、数控金属成形机床、数控金属切削机床等产品产量分别增长34.0%、31.7%、17.4%、15.4%。以旧换新方面,在汽车报废置换更新补贴政策等带动下,汽车产量增长10.8%,与之相关的充电桩产量增长25.6%;得益于消费品以旧换新及购新补贴政策支持,平板电脑、5G智能手机、家用洗衣机等产品实现较快增长,增速分别为25.9%、11.5%、10.3%。助企政策显效发力,企业获得感增强。对11万家规模以上工业企业问卷调查显示,二季度,在调查的7项惠企政策中,企业对多项政策的满意度明显提升。其中,对稳外贸稳外资政策、缓解融资难融资贵、清理拖欠账款的满意度同比分别提高1.8个、1.6个、1.6个百分点;对创新支持政策的满意度相对较高,认为政策有效果的企业比例超七成,同比提高0.7个百分点。总体看,上半年工业经济展现稳中有进发展态势。但也要看到,外部环境不稳定不确定性较为突出,有效需求不足问题仍存,工业企业盈利承压。下阶段,要完整准确全面贯彻新发展理念,构建新发展格局,鼓励企业提升科技创新能力,加快培育新质生产力,以高质量发展的确定性应对各种不确定性,推动工业经济持续向好发展。(作者系国家统计局工业统计司司长)(原文链接:http://www.ce.cn/xwzx/gnsz/gdxw/202507/t20250715_2408780.shtml)
中共二十大将于10月16日开幕，会议至10月22日结束。中国问题专家指出，大会在各派达成一致前不会举行，很多人认为会议前“一切已被安排好”，这使得可能的权力格局更难预测。预计69岁的习近平将获得历史性的第三个任期，进一步巩固他作为毛泽东以来最强有力领导人的地位。当前中国仍实施“清零”防疫政策，对人员流动严格管控，会议将在严格的防疫措施下进行，北京天安门广场周边安保已加强，周日约有近2300名来自各省的代表齐聚人民大会堂。大会议程高度程式化，多为闭门会议，与会者将“选举”出约200名中央委员，再从中“选举”出25名政治局委员；但外界普遍认为结果早有安排。习近平将于首日的讲话中回顾上届任期并为未来五年制定蓝图。回溯到2017年十九大，习近平曾宣称进入“新时代中国特色社会主义”，并表示“开放带来进步，封闭必然落后”“中国开放的大门不会关闭，只会越开越大”，但此后中国坚持清零政策、实施旅行限制、强制隔离和反复封锁，导致经济增长放缓、房地产问题加剧，民众尤其是年轻人对投资和就业前景感到不满。过去五年中美关系进一步恶化，中国更自信的外交政策在印度、澳大利亚、加拿大等地引发争端，西方国家谴责中国对台湾的威胁并批评其在新疆等地的人权状况。人权观察高级研究员认为，习近平进入第三任期对中国和世界的人权前景是不利的。中共现有9670万党员，是世界上最大的政治组织之一，其内部运作在很大程度上不透明。
当地时间2月10日，美国总统特朗普签署行政命令，宣布对所有进口至美国的钢铁和铝征收25%关税，并表示“没有例外和豁免”。这与他早在2018年推出的所谓“钢铝关税”相呼应：2018年3月8日，他在白宫签署行政令，对进口钢铁加征25%关税、对进口铝加征10%，并在6月将关税扩展至加拿大、墨西哥和欧盟，随后多数美方主要贸易伙伴采取了反制措施。欧盟等通过的报复性关税针对美国钢铝产品、农产品及其他商品，甚至选中了许多支持特朗普州的特产，如波本威士忌、哈雷摩托和牛仔裤；据美国蒸馏酒协会，自欧盟制裁以来，美国威士忌对欧盟的年度出口额下降了三分之一。特朗普任期结束后，拜登政府与欧盟、英国和日本达成“停火协议”，提供免关税的进口配额；欧盟方面的停火协议将于今年3月到期，美国配额则在年底到期。加拿大和墨西哥在推出报复措施后，随着美墨加协定的达成，美国也撤销了部分关税。总体来看，史实数据显示，钢铝关税并未带来制造业复兴，反而增加了产业和消费者负担。2018年，通用、福特等美国汽车制造商被迫下调盈利预测，原因包括关税带来的不确定性和原材料成本上升；尽管大部分汽车用钢来自本地，国内钢厂并未明显扩产，却借机提价。被重点保护的美国钢铁企业也面临困境，涉及裁员、关厂和收购诉讼。至今，美国汽车行业仍首当其冲承受冲击，且在电动化转型中陷入困境。美国钢铁协会数据显示，2024年美国最大的钢铁供应国依次为加拿大、巴西、墨西哥和韩国；加拿大也是美国铝的主要供应国。面对美国的贸易威胁，加拿大已多次表态“准备好了报复手段”。
本书将中国考古发现和学术发展的“大叙事”与考古工作者个体的“小叙事”互相交织，整合出一种富有活力的时空维度；考古工作者的声音赋予“透物见人”的中国考古学更深层次的延展性。中国考古应该对世界历史做出贡献，也能够对世界历史做出贡献，我们要增强这样的自信，从继续讲好华夏文明现场的考古故事开始。《了不起的文明现场——跟着一线考古队长穿越历史》是一部考古工作者群体的“口述史”，很有意义，也很有趣味。近年来，考古学越来越受到关注，大众对考古与文物的认知不断提高。越来越多的考古工作者逐渐从考古学普及的幕后走向台前，激发我们重新思考考古工作者作为文明对话主体的意义以及文明叙事的更多可能性。近代中国考古学自诞生之日起，就以建立“科学”的方法体系为目标，并努力从固有的史学编纂传统中剥离开来。与传统史学书写不同，考古发掘报告依托地形学和类型学的独特方法论，追求形式的客观性、场景的真实性、要素的系统性，以符合现代科学的方法。因此，在考古发掘报告中，考古工作者一向是避免自己“在场”的，考古报告给人留下的印象似乎是“枯燥”“罗列”“细碎”的。但考古工作者的定位仍然值得思考。本书通过考古队长对考古“第一现场”的讲述，让人认识到考古工作者其实是与古代文明进行对话的一个“主体”，正如考古学家苏秉琦的论断，“在考古工作中，你只有想到什么，才能挖到什么。”在本书每一章节的最后部分，相关考古发掘报告都被列为附录，作为延伸阅读的参考书目，满足考古爱好者学习进阶的需求。现代考古学的关键指征，是试图通过认知和理解“真”的过去，以不断指向和更新我们对“善好”未来的想象。正如良渚古城考古主持人刘斌所感悟：“考古能让我们走向一个不断被认知、明晰的历史。随着考古的发展，或者说今天科技的发展，一方面展望未来，另一方面回到过去，这两个方向都在不断地将探索往更深远、更客观推进……这就是考古不断进行探索的动力。”
例如，近年来我国加快推进煤矿智能化建设，用机器人替代危险岗位作业，既保证安全又提高效率。在云南的一个智能化采煤工作面，每班井下作业人员比过去减少约50%，生产工效却提升了30%以上。绷紧安全弦、织密责任网，一定能安全度过年关，为做好2021年经济工作打下坚实基础。
新疆阿克苏地区拜城县老虎台乡民兵骑兵连为了维护边境地区的安宁和稳定，常年战斗在风雪一线。这里平均海拔高，地势险要，条件艰苦，民兵们的身体健康常常受到影响，这牵动着浙江省医疗人才“组团式”援疆医疗队全体队员的心。

“你为固边守家无私奉献，我为你的健康不畏酷暑严寒。”不久前，浙江“医疗大巴扎”走进老虎台乡民兵骑兵连，为100多位民兵进行了全面系统的健康体检、疾病诊疗与心理咨询服务，获得了民兵们的称赞。

“医疗大巴扎”是浙江省医疗人才“组团式”援疆医疗队结合新疆实际情况推出的帮扶新举措。浙江省医疗人才“组团式”援疆医疗队队长涂建锋说：“医院围墙内的帮扶惠及面太小。我们要积极走出去，走到老百姓家里，将爱洒满天山南北各个角落，尤其是遥远的山区、牧区、边境等地。”

之所以取名“医疗大巴扎”，主要是基于当地群众有周末逛“大巴扎”的习惯。援疆医疗队中不仅有不同专业的专家，老百姓还可以按需享受疾病就医、检验、检查、健康咨询、取药、心理咨询、针灸推拿等各种服务，就如逛免费“大巴扎”一样，努力打造一种群众喜闻乐见的形式。浙江省还特别配套专项经费，配置了巡回诊疗车，并配备了先进医疗设备。这支流动医疗队走遍了天山南北，走到各族群众家门口，为他们提供优质医疗服务，切实解决边疆百姓看病难、看病贵和因病致贫、因病返贫的问题。

75岁的维吾尔族老人吐尔汉·肉孜独自住在阿克苏地区温宿县巴夏克其村，老伴已去世，儿女在城里打工，患有高血压、糖尿病、胆囊炎等疾病多年。了解到相关情况后，援疆医疗队走进吐尔汉·肉孜的家里，内科、外科、眼科、超声科、放射科等援疆专家联手协作，为她做了B超、心电图等检查，然后给出了详细的治疗方案。吐尔汉·肉孜感动地说：“去大医院看病不方便。你们到家里来为我看病，还不用花钱，我太感动了，谢谢共产党！”

新疆地域广袤，即使有援疆医疗队驻在阿克苏市，边远、边境地区的居民就医仍然困难。通过“医疗大巴扎”送医送药，居民足不出户就可以享受医疗服务。“医疗大巴扎”还对重点病人进行定期上门随访复诊，让患者实现“一次也不跑”。

通过深入偏远边境地区广泛开展义诊、健康筛查，援疆医疗队可以发现、筛选出因各种原因无法及时就医的特定患者群体，有针对性地通过帮扶基金、公益扶贫项目对其进行精准帮扶。不仅如此，巡回诊疗还有助于精准选派专家，推进适宜技术落地，培训一支“带不走”的医疗人才队伍。

阿克苏地区高发消化系统、泌尿系统结石病、口腔疾病、眼病等。浙江对口支援阿克苏以来，针对这些疾病持续选派专家接力支援，久久为功，将一系列适宜边疆的诊疗技术逐步落地，并培训了一大批新疆本地的医疗人才，为广大群众提供优质医疗服务。

援疆以来，浙江“医疗大巴扎”不断走进农村、山区、牧区、边境、部队、学校，累计巡回诊疗766次，服务群众1.5万余人次，免费发放药品价值14万余元。

浙江省“组团式”援疆医疗队联合10支县级援疆医疗队，正在打造升级版“医疗大巴扎”。浙江省对口支援新疆阿克苏地区和兵团第一师指挥部党委书记、指挥长、新疆阿克苏地委副书记朱林森介绍，今后浙江医疗援疆专家们将进一步做好巡回诊疗的患者病种摸底，建立患者数据库，做好院内诊疗、出院康复、长期随访和健康教育关注，为困难患者提供一条龙专业服务。同时，对“医疗大巴扎”定期开展效果评价和持续质量改进，努力将其打造成为浙江援疆特色品牌，为增进民族团结、建设健康中国贡献更大力量。
我们将数据格式化，使用<GEN>作为触发器来启动生成过程，并将目标标题包裹在<h>...</h>中。在文本生成之后，Mini-Gemini提取目标标题并利用SDXL生成相应的图像。第四节. 实验在本节中，我们首先概述我们的实验框架，从实验设置开始。随后，我们将Mini-Gemini与各种基准测试中的领先方法进行比较。本节末尾给出了组件分析和定性结果。4.1节. 实验设置实现细节。在这项研究中，我们使用经过CLIP预训练的ViT-L作为LR视觉编码器，以及经过LAION预训练的ConvNext-L作为HR视觉编码器来实例化Mini-Gemini。为了高效训练，我们在所有阶段都保持两个视觉编码器固定，并优化补丁信息挖掘的投影器。同时，我们仅在指令微调阶段优化LLM。关于训练方案，我们使用AdamW优化器和余弦学习率调度对所有模型进行1个周期的优化。在大多数情况下，模态对齐和指令微调的初始学习率分别设置为1e-3和2e-5，对于Mixtral-8x7B和Hermes-2-Yi-34B，为了确保稳定的指令微调，学习率调整为1e-5。该框架涉及在8个A800 GPU上进行标准机器配置的训练。对于最大的模型Hermes-2-Yi-34B，我们利用了4台机器，并使用DeepSpeed Zero3策略在2天内完成了优化。对于高清（HD）版本，由于LLM中视觉令牌的扩展，总成本增加到约4天。数据集。为了进行模型优化，我们构建了用于跨模态理解和生成的高质量数据。它主要包括用于模态对齐的120万个标题对和用于指令微调的150万个单轮或多轮对话。此外，我们在广泛采用的零样本图像基准测试上报告了结果，包括TextVQA、MMBench、MME、MM-Vet、MMMU和MathVista数据集。4.2节. 主要结果正常分辨率。我们将我们的方法与之前在多种设置下的领先方法进行了比较，包括正常分辨率和高分辨率，并考虑了私有模型。在正常分辨率下，Mini-Gemini在一系列广泛的LLM上持续优于现有模型。在高效模型类别中，配置了Gemma-2B的Mini-Gemini表现出比高效的MobileVLM更优越的性能，甚至超过了配备Vicuna-7B乃至13B的InstructBLIP。当采用更大的LLM时，Mini-Gemini的可扩展性变得显而易见。在给定相同LLM的情况下，所提出的Mini-Gemini在所有基准测试中均被验证以较大优势超越了LLaVA-1.5。值得注意的是，使用Hermes-2-Yi-34B LLM时，Mini-Gemini取得了卓越的成果，在一些具有挑战性的基准测试如MMMU和MMB中，其性能超过了资源密集型的私有模型，如Qwen-VL-Plus和Gemini Pro。高分辨率。
与三五好友灯下茶聚，地点在八字桥边上。这里街随河走、河随街流，流动着古运河的文明，特别适合走一走、坐一坐，停下来，想想事儿。我从茶聚中抽身，顺河沿街行走，偶能听见岸边屋子里的声音，时轻时重：或是孩子一声唤妈的依恋，或是老人清清嗓门、唱一段绍剧的痛快淋漓。窗里透出的灯影各式各样，映在河面上，像水彩的写意。

绍兴古城多街巷。走在街上，随意拐个弯，就会进入别的巷弄。街巷里藏着许多故事。我总喜欢在笔记里称这座城为街巷之城。回想起来，我与那些街巷还有一段亲密的接触。很久以前，我与妻子的婚房，就在一处古街上。多年后，这条街恢复旧称“仓桥直街”。街上，有前人留下的很多河埠、台门。早晚时分，传来小船的桨声。开窗去看，戴毡帽的老伯总要向着我抖抖竹篮，意思是说：你看，多好的活鱼鲜虾……水边台门烟火足，谁家做霉干菜蒸肉，味道都闻得着。后来不久，旧城改造、污水处理一步步规范起来，古城里的水质就更好了，到了新世纪初时，仓桥直街历史街区还获了联合国教科文组织颁发的亚太地区文化遗产保护优秀奖。

时间在走，人的思想也在向前走。这座城市里，更多的人用自己的方式思考、参与城市化，践行建设与保护之间的平衡。人们希望，既保护传统，又改善环境；既发展旅游，又方便生活。八字桥直街、仓桥直街，还有西小路、书圣故里等一批街巷，被列为“历史保护街区”……古城保护也有了地方性法规。

孩子出生那年，我从仓桥直街搬走，住到了城市南边。这一别，就是二十六七年。但很多年了，只要到城北办事，时间够用，我都会很自然地拐进那条街去看一看。有空的时候，我还会与家人或朋友一道，到街巷去散散步，体验一番。老街上，艺术空间和生活场所多了起来，可以欣赏游览，也可以吃喝住宿，当然还可以什么都不做地走过。街巷里飘动的声音，已不是只有绍兴方言、普通话，还有其他方言，甚至是其他国家的语言……

新的面孔也越发地多了起来，丰富着这座古老的城市。我就认识一位来自陕西的陈先生，他慕名来到绍兴，先干保安，后为企业写稿编刊。他还在八字桥直街的一间房里，一边写作，一边为家乡的特产吆喝。一到秋冬季节，红红的苹果、柿子、柿子饼，让他的微信朋友圈和微店、抖音号人气满满。在绍兴，他成了一位诗人，也成了家乡的代言人。来到异乡的这些家乡农特产品，既传递着丰收甜蜜，又彰显着绍兴的厚重温暖。这也让我越来越觉得，自己所生活的这座城市老而弥新，它是内敛的，也是开放的，实在是可爱得很。

忽然又想起一件事来。少年时，几次跟随在城里工作的父亲进城拍照，照相馆师傅拉出的背景布上，大多是一条两旁都有房屋的街道。那时候不管宽窄，都叫“大街”。镜头里，我“跑”进了大街，而且还与大街一起被拍进了相片里。那是一件很了不得的事情。这一幕，是城市给我的最初印象。成年之后，我考入父亲所在的地质单位，走进了“相片里的城市”。如今已近四十年。四十年来，城市、街巷与我，都在一天天发生着变化。
1118亿千瓦时！三峡电站2020年全年累计发电量，创造了单座水电站年发电量新的世界纪录。亮眼的成绩单不只是发电量。作为全球最大的水电开发企业和中国最大的清洁能源集团，中国长江三峡集团（以下简称“三峡集团”）2020年预计完成投资超过1760亿元、利润总额超过550亿元、净利润超过452亿元，分别同比增长约60%、26%、28%。“三峡集团因改革而生、因创新而强，改革创新是三峡集团与生俱来的基因。”三峡集团党组书记、董事长雷鸣山说，“三峡集团坚决贯彻落实党中央、国务院关于国企改革三年行动的重大决策部署，进一步激发改革创新意识，努力在深化国有企业改革中发挥示范作用。主要经营指标实现高基数基础上的稳增长，充分展示了三峡集团近年来改革发展所取得的显著成果。”三峡集团持续深化内部体制机制改革，为创建世界一流示范企业、实现清洁能源和长江生态环保“两翼齐飞”提供体制机制保障。以子企业董事会建设为重点，不断健全公司法人治理结构，形成了运转协调、有效制衡的治理机制。近年来，三峡集团把混合所有制改革作为深化国企改革重要突破口。坚持“三因三宜三不”的原则，聚焦主业“多板块”上市目标，按照完善治理、强化激励、突出主业、提高效率的要求，成熟一家、推进一家，目前，三峡集团并表范围内混改企业占比约78%。针对国有企业“机关化”阻碍企业释放活力的问题，三峡集团从优化组织体系、精简审批事项、优化工作流程、改进文风会风、转变工作方式、打造高素质人才队伍等6个方面深入整改，持续优化集团管控，充分激发企业活力和效率。“三峡集团积极参与市场竞争，破解发展瓶颈、厚植发展新优势。”三峡集团党组副书记、总经理王琳说，“在实施国企改革三年行动过程中，我们主动加压，按下了改革的‘加速键’，实现良好开局。”对照国企改革三年行动方案50条任务，三峡集团逐条、逐项分解，明确了时间表、路线图，制定了工作任务台账，具有明确时间节点的标志性改革成果超过90项。高质量完成“规定动作”。2020年上半年，三峡集团推动国企改革“双百行动”试点企业率先完成经理层成员任期制和契约化管理试点。在试点经验基础上，2020年下半年完成13家重要子企业经理层任期制和契约化管理工作。主动谋划部署“自选动作”。按照国企改革三年行动改革精神和改革方向，三峡集团提出了探索混改企业负面清单管理、推动职业经理人在二级企业试点、开展股权激励以及分板块出台尽职合规免责清单等举措。绝大部分“自选动作”有望在2021年完成。打通深化改革落地见效的“最后一公里”。三峡集团成立了由集团主要领导担任组长的全面深化改革领导小组，全面负责集团改革三年行动各项工作。
对DeepSeek-R1-Zero和OpenAI的o1-0912模型在各种与推理相关的基准上进行的比较分析显示，RL使DeepSeek-R1-Zero能够在不需要任何监督微调数据的情况下获得强大的推理能力。这是一个值得注意的成就，因为它强调了模型仅通过RL就能有效学习和泛化的能力。此外，通过应用多数投票，DeepSeek-R1-Zero的性能可以进一步增强。例如，当在AIME基准上采用多数投票时，DeepSeek-R1-Zero的性能从71.0%提升到86.7%，从而超过了OpenAI-o1-0912的性能。DeepSeek-R1-Zero无论是否使用多数投票都能达到如此具有竞争力的性能，这凸显了其强大的基础能力和在推理任务中进一步发展的潜力。DeepSeek-R1-Zero的自我进化过程DeepSeek-R1-Zero的自我进化过程是一个引人入胜的展示，说明了RL如何驱动模型自主提升其推理能力。通过直接从基础模型启动RL，我们可以密切监控模型的进展，而不受监督微调阶段的影响。这种方法清晰地展示了模型随时间的演变，特别是在处理复杂推理任务的能力方面。在整个训练过程中，DeepSeek-R1-Zero的思考时间持续改善。这种改善并非外部调整的结果，而是模型内部的内在发展。DeepSeek-R1-Zero通过利用扩展的测试时计算，自然地获得了解决日益复杂的推理任务的能力。这种计算范围从生成数百到数千个推理词元，使模型能够更深入地探索和完善其思维过程。这种自我进化最引人注目的方面之一是，随着测试时计算的增加，复杂行为的出现。诸如反思——模型重新审视和重新评估其先前步骤——以及探索解决问题的替代方法等行为都是自发产生的。这些行为不是明确编程的，而是模型与强化学习环境互动的结果。这种自发的发展显著增强了DeepSeek-R1-Zero的推理能力，使其能够更高效、更准确地应对更具挑战性的任务。DeepSeek-R1-Zero的“啊哈”时刻在训练DeepSeek-R1-Zero期间观察到的一个特别有趣的现象是“啊哈”时刻的发生。这个时刻出现在模型的一个中间版本中。在此阶段，DeepSeek-R1-Zero通过重新评估其最初的方法，学会为问题分配更多的思考时间。这种行为不仅证明了模型日益增长的推理能力，也是一个迷人的例子，说明强化学习如何能导致意想不到的复杂结果。这个时刻不仅是模型的“啊哈”时刻，也是观察其行为的研究人员的“啊哈”时刻。它强调了强化学习的力量和美妙之处：我们不是明确地教模型如何解决问题，而是简单地为它提供正确的激励，它就能自主地发展出先进的解决问题的策略。“啊哈”时刻有力地提醒我们，RL在解锁人工智能系统中新层次智能方面的潜力，为未来更自主和自适应的模型铺平了道路。DeepSeek-R1-Zero的缺点尽管DeepSeek-R1-Zero表现出强大的推理能力，并自主发展出意想不到且强大的推理行为，但它也面临一些问题。例如，DeepSeek-R1-Zero在可读性差和语言混杂等挑战上表现不佳。为了使推理过程更具可读性并与开放社区分享，我们探索了DeepSeek-R1，这是一种利用RL和对人类友好的冷启动数据的方法。DeepSeek-R1：带冷启动的强化学习受DeepSeek-R1-Zero令人鼓舞的结果启发，出现了两个自然的问题：1) 通过引入少量高质量数据作为冷启动，能否进一步提高推理性能或加速收敛？2) 我们如何训练一个用户友好的模型，它不仅能产生清晰连贯的思维链（CoT），还能展示出强大的通用能力？为了解决这些问题，我们设计了一个训练DeepSeek-R1的流程。该流程包括四个阶段，概述如下。冷启动
CosyVoice 2：基于大语言模型的可扩展流式语音合成摘要在我们之前的工作中，我们介绍了 CosyVoice，一个基于监督式离散语音标记的多语种语音合成模型。通过采用两种流行的生成模型——语言模型（LMs）和流匹配（Flow Matching），CosyVoice 在语音的上下文学习（in-context learning）中展示了高度的韵律自然度、内容一致性和说话人相似度。近来，多模态大语言模型（LLMs）取得了显著进展，其中语音合成的响应延迟和实时率在交互体验中扮演着至关重要的角色。因此，在本报告中，我们提出了一个改进的流式语音合成模型——CosyVoice 2，它融合了全面而系统的优化。具体来说，我们引入了有限标量量化（finite-scalar quantization）来提高语音标记的码本利用率。对于文本到语音的语言模型，我们简化了模型架构，以允许直接使用预训练的大语言模型作为骨干网络。此外，我们开发了一个支持块感知（chunk-aware）的因果流匹配模型，以支持各种合成场景，从而在单个模型中实现流式和非流式合成。通过在超大规模多语种数据集上进行训练，CosyVoice 2 在流式模式下实现了与人类相媲美的自然度、极低的响应延迟以及几乎无损的合成质量。我们邀请读者在线试听演示音频。引言近年来，神经文本到语音（TTS）合成模型因其超越了传统的拼接式和统计参数式方法而受到了广泛关注。这些模型在预定义的特定说话人上实现了高保真度和自然度。最近的研究表明，零样本（zero-shot）TTS 模型能够通过模仿参考语音的音色、韵律和风格，为任何说话人合成语音。除了其上下文学习（ICL）能力外，零样本 TTS 模型还受益于大规模训练数据，实现了几乎与人类语音无法区分的合成质量和自然度。近期的零样本 TTS 模型大致可分为三类：编解码器语言模型、特征扩散模型及其混合系统。编解码器语言模型利用语音编解码模型提取离散的语音表示，并采用自回归或掩码语言模型来预测语音标记，然后通过编解码器的声码器（vocoder）合成为波形。连续语音表示也得到了探索。基于语言模型的 TTS 可以通过自回归采样生成多样化且韵律一致的语音。受图像生成领域进展的启发，去噪扩散和流匹配模型被引入到非自回归（NAR）语音合成中。早期的基于扩散的 TTS 模型需要为每个文本（音素）预测时长，以解决文本和语音特征之间的长度不匹配问题。然而，这种僵硬的对齐方式会影响自然度，导致韵律平淡。为了缓解这个问题，交叉注意力和扩散变换器（DiT）被引入到非自回归 TTS 模型中。最近的研究表明，在非自回归 TTS 模型中，存在更简单的文本-语音对齐方法，例如 E2 TTS、F5-TTS 和 Seed-TTS。在这些模型中，输入文本用特殊标记填充，以匹配总语音长度，该长度可以由话语时长预测模块自动预测，也可以由用户预先指定。由于非自回归 TTS 模型不受编解码器声码器的限制，它们可以实现卓越的语音质量。混合系统结合了文本到编解码器的语言模型和编解码器到特征的扩散模型。语言模型解决了文本与语音之间的对齐以及话语时长预测问题，而编解码器到特征的扩散模型则根据生成的编解码器和其他条件合成语音特征（梅尔频谱）。通过利用两种生成模型的优势，混合系统实现了高度的多样性、韵律一致性和语音质量。尽管近期的零样本 TTS 模型取得了成功，但它们通常以非流式（离线）模式运行，这需要完整的输入文本，并且在返回波形之前需要合成整个话语。这导致了高延迟，对语音聊天等应用中的用户体验产生了负面影响。
在应用方面，Sora的应用较为广泛，而字节豆包视频大模型由于企业属性，在影视创作、广告传媒、短视频等领域具有更大优势。商业化与本土化方面，字节豆包视频大模型已公布使用方案，凭借出色的中文语义理解能力，在本土市场的应用将比Sora更为广泛。对标海外大模型进展，结合此次发布，梁程加等人认为，随着国内大模型持续迭代与升级、GPU供应问题逐步缓解以及政策推动，国内大模型训练与推理的算力需求有望逐步释放。A股方面，建议关注光通信产业链的中际旭创、新易盛、天孚通信；ICT产业链的盛科通信、紫光股份、中兴通讯、锐捷网络、菲菱科思、共进股份；IDC产业链的润泽科技、万国数据、世纪互联、奥飞数据等。国泰君安的舒迪等人在12月11日的研报中指出，未来字节跳动可能以豆包AI为核心形成包括办公、教育、陪伴等多类硬件产品矩阵。
纪要显示，委员一致认为，美联储缓解金融市场压力的努力将通过支持流向家庭和企业的信贷，帮助限制短期内的经济下行，而更宽松的货币政策立场将短期内为经济活动提供支持。对于市场担忧美联储的弹药库是否充足，FOMC表示，美联储的弹药尚未耗尽，如果需要可以通过资产购买和前瞻指引做更多事情。委员们还强烈支持其他行动，例如加强与外国央行的货币互换额度、降低贴现率、鼓励银行放贷等。此外，纪要显示，此次会议上讨论了定期拍卖机制（TAF），以缓解银行因担心在美联储贴现窗口借款而产生的“污点效应”。通常，银行不愿意将贴现窗口作为融资来源，因为市场常因银行进行再贴现贷款而质疑其经营状况。2008年金融危机时，美联储曾通过推出TAF来解决这一问题，通过这一工具，贷款利率（贴现率）可由拍卖过程确定。

全球央行齐发力。世界银行最新报告预计，2020年由于新冠肺炎疫情，发展中国家、欧洲新兴市场以及中亚的国内生产总值（GDP）将收缩2.8%至4.4%。在疫情面前，没有一个国家可以独善其身，因此各国央行纷纷采取措施抑制经济衰退。4月9日，韩国央行宣布维持关键利率在0.75%不变，符合市场预期。但与此同时，韩国央行行长李柱烈表示，即将宣布政府债券购买计划。韩国版量化宽松政策的推出令韩国10年期债券收益率跃升15个基点。李柱烈表示，韩国无法避免全球经济衰退带来的困难，他认为疫情的影响超过了2008年金融危机，全球经济衰退的几率上升。韩国央行也公开表示，预计2020年GDP增长率将明显低于2月份预测的2.1%，而且未来GDP增长路径的不确定性明显增大，韩国经济增长已明显放缓。尽管如此，李柱烈强调，央行在利率政策上仍有空间，将视5月份情况作出回应；同时，韩国央行和政府正在讨论向非银行金融公司提供贷款。

与此同时，日本央行行长黑田东彦在当天召开的会议中强调，日本经济面临高度不确定性，金融市场紧张情绪明显，如有必要将毫不犹豫地加大宽松力度。据知情人士透露，日本央行可能会在本月预测今年经济将出现萎缩，这将成为日本央行自2014年以来首次预测经济萎缩——2014年因销售税上调导致了经济下滑。
LG 的 Gram 笔记本电脑。韩国科技巨头在今年的消费电子展上更新了轻薄且功能强大的 Gram 系列。Gram Ultraslim 是 2023 款中最薄的一款，仅 10.99 毫米；Gram Style 稍厚，顶部为全玻璃，表面下隐藏触控板，轻敲玻璃即可唤醒并点亮一排 LED，照亮触摸区域。新款内置英特尔 Raptor Lake 芯片，将于 2 月全球发货，LG 表示会很快公布美国和英国的定价。

Shiftall 的隔音蓝牙麦克风 Mutalk。Mutalk 看起来像一个口套——从某种意义上看它确实能让说话声变小，但实际上它是为元宇宙设计的蓝牙麦克风。它是我在 2023 年消费电子展上见到的最奇怪的发明之一：外观笨拙，佩戴不太舒服。但如果你和室友住在狭小的房间里，且经常在 VR 中与他人互动，绑在脸上的 Mutalk 可能是维持和平的有效工具。你也可以只拿着它不用带子，但那样就没意思了。

AtmosGear 的电动溜冰鞋。我在展厅看到有人穿着它走过时追了上去试穿。创始人兼首席执行官穆罕默德·索利曼（Mohamed Soliman）两个月前在他的祖国法国开始制造这些电动直排轮滑鞋。这个系统用起来有点别扭：电池组很大，需要像腰包一样挂在腰上，巨大的黑色电线从电池连到包裹在车轮上的框架上。500 欧元（约 531 美元）的价格也不便宜。然而，和大多数个人电动交通工具一样，它们非常有趣——一旦试过，我就不想脱下它。

Mui Labs 的智能设备 Mui Board。新兴的智能家居标准 Matter 刚在 2022 年底推出，所以在 2023 年消费电子展上看到一批为该平台打造的设备很合适，Mui Board 就是其中之一。
日本金融市场在植田和男发表国会听证会讲话之际出现剧烈波动。市场高度关注这位新行长提名人的立场，美元兑日元在植田讲话期间几经波折，上下波动近百点——最低触及134.05，最高攀升至134.91。截止发稿，美元兑日元最新交投于134.70一线，与亚洲时段开盘时点位相距不远。日经225指数一路走高，最新上涨逾1.2%，来到27400点上方。整体来看，日本股市似乎对植田表示“当前宽松的货币政策是适当的”较为满意。不过外汇市场的考量显然更多，尤其在植田已开始对货币正常化路径发表看法的背景下。新加坡银行外汇策略师Moh Siong Sim在谈到植田讲话时称，“这似乎是黑田东彦所持立场的延续，不过我认为现在还很难说。从试图找到一种退出YCC的方式，而又未对美元/日元走势造成太大干扰的意义上来说，他目前正走在了一条很好的路线上。” 植田对获得提名也感到意外。2月14日，日本政府向国会提交了关于日本央行行长及副行长的人事任命提案，提名经济学家植田和男担任下任日本央行行长，提名原金融厅官员冰见野良和日本银行理事内田真一担任副行长。
该流程包含两个强化学习阶段，旨在发现更好的推理模式并与人类偏好对齐，以及两个SFT阶段，作为模型推理和非推理能力的种子。我们相信该流程将有助于行业创造更好的模型。蒸馏：小模型也可以很强大我们证明了较大模型的推理模式可以被蒸馏到较小的模型中，与在小模型上通过强化学习发现的推理模式相比，能获得更好的性能。开源的DeepSeek-R1及其API将有益于研究社区未来蒸馏出更好的小模型。利用DeepSeek-R1生成的推理数据，我们微调了几个在研究社区中广泛使用的密集模型。评估结果表明，蒸馏后的小型密集模型在基准测试上表现异常出色。DeepSeek-R1-Distill-Qwen-7B在AIME 2024上取得了55.5%的成绩，超过了QwQ-32B-Preview。此外，DeepSeek-R1-Distill-Qwen-32B在AIME 2024上得分72.6%，在MATH-500上得分94.3%，在LiveCodeBench上得分57.2%。这些结果显著优于以往的开源模型，并与o1-mini相当。我们向社区开源了基于Qwen2.5和Llama3系列的蒸馏后的1.5B、7B、8B、14B、32B和70B检查点。评估结果摘要推理任务：(1) DeepSeek-R1在AIME 2024上的Pass@1得分为79.8%，略超OpenAI-o1-1217。在MATH-500上，它取得了97.3%的惊人分数，与OpenAI-o1-1217表现相当，并显著优于其他模型。(2) 在编码相关任务上，DeepSeek-R1在代码竞赛任务中表现出专家水平，其在Codeforces上取得了2029的Elo等级分，超过了竞赛中96.3%的人类参赛者。对于工程相关任务，DeepSeek-R1的表现略好于DeepSeek-V3，这可能在现实世界任务中帮助开发者。知识：在MMLU、MMLU-Pro和GPQA Diamond等基准上，DeepSeek-R1取得了优异的成绩，以90.8%（MMLU）、84.0%（MMLU-Pro）和71.5%（GPQA Diamond）的分数显著优于DeepSeek-V3。虽然其在这些基准上的表现略低于OpenAI-o1-1217，但DeepSeek-R1超过了其他闭源模型，显示了其在教育任务中的竞争优势。在事实基准SimpleQA上，DeepSeek-R1优于DeepSeek-V3，展示了其处理基于事实的查询的能力。在OpenAI-o1超过4o的这个基准上也观察到了类似的趋势。其他：DeepSeek-R1在创意写作、通用问答、编辑、摘要等广泛任务中也表现出色。它在AlpacaEval 2.0上取得了87.6%的长度控制胜率，在ArenaHard上取得了92.3%的胜率，展示了其智能处理非考试导向查询的强大能力。此外，DeepSeek-R1在需要长上下文理解的任务上表现出色，在长上下文基准上大幅优于DeepSeek-V3。第2节：方法概述以往的工作严重依赖大量的监督数据来提升模型性能。在本研究中，我们证明了即使不使用监督微调（SFT）作为冷启动，通过大规模强化学习（RL）也能显著提高推理能力。此外，加入少量冷启动数据可以进一步提升性能。在接下来的部分，我们介绍：(1) DeepSeek-R1-Zero，它直接在基础模型上应用RL，不使用任何SFT数据；(2) DeepSeek-R1，它从一个用数千个长思维链（CoT）示例微调过的检查点开始应用RL；3) 将DeepSeek-R1的推理能力蒸馏到小型密集模型中。DeepSeek-R1-Zero：在基础模型上进行强化学习我们的先前工作已经证明，强化学习在推理任务中表现出显著的有效性。然而，这些工作严重依赖于监督数据，而收集这些数据非常耗时。在本节中，我们探索大语言模型在没有任何监督数据的情况下发展推理能力的潜力，专注于它们通过纯粹的强化学习过程实现自我进化。我们首先简要概述我们的RL算法，然后展示一些激动人心的结果，并希望这能为社区提供有价值的见解。强化学习算法
新时代我国的能源发展，既为国家经济社会持续健康发展提供了有力支撑，也为维护世界能源安全、应对全球气候变化、促进世界经济增长作出了积极贡献。

坚持创新、协调、绿色、开放、共享的新发展理念，以推动高质量发展为主题，以深化供给侧结构性改革为主线，对于新时代做好能源工作、推动能源事业高质量发展具有重大指导意义。

能源是人类文明进步的基础和动力，攸关国计民生和国家安全。2012年以来，我国以能源消费年均2.8%的增长支撑了国民经济年均7%的增长；水电、风电、太阳能发电累计装机规模均位居世界首位；2019年提前实现了2015年提出的碳排放强度下降40%至45%的目标……一个个可喜变化充分说明，新时代我国的能源发展，既为国家经济社会持续健康发展提供了有力支撑，也为维护世界能源安全、应对全球气候变化、促进世界经济增长作出了积极贡献。

党的十八大以来，以习近平同志为核心的党中央提出“四个革命、一个合作”能源安全新战略，开辟了中国特色能源发展新道路，推动中国能源生产和利用方式发生重大变革。不久前发布的《新时代的中国能源发展》白皮书指出：“中国坚持创新、协调、绿色、开放、共享的新发展理念，以推动高质量发展为主题，以深化供给侧结构性改革为主线，全面推进能源消费方式变革，构建多元清洁的能源供应体系，实施创新驱动发展战略，不断深化能源体制改革，持续推进能源领域国际合作，中国能源进入高质量发展新阶段。”能源发展取得历史性成就，为促进经济社会可持续发展、增进广大人民福祉打下坚实基础。

如今，我国已成为世界上最大的能源生产国，同时也是最大的能源消费国。要保障经济社会高质量发展，能源供应保障不仅要跟得上、能满足，而且要提品质、增效果。在服务经济高质量发展中，电力安全稳定运行达到世界先进水平，能源综合应急保障能力显著增强；在支持农村贫困地区发展上，实施光伏扶贫工程，建成了成千上万座遍布贫困地区的“阳光银行”；在促进生态文明建设中，采煤沉陷区治理、绿色矿山建设取得明显成效，二氧化硫、氮氧化物和烟尘排放量大幅下降；在保障和改善民生领域，完成全部人口都用上电的历史性任务，保障城乡居民获得基本能源供应和服务。实践表明，坚持创新、协调、绿色、开放、共享的新发展理念，以推动高质量发展为主题，以深化供给侧结构性改革为主线，对于新时代做好能源工作、推动能源事业高质量发展具有重大指导意义。

习近平主席在第七十五届联合国大会一般性辩论上宣布：“中国将提高国家自主贡献力度，采取更加有力的政策和措施，二氧化碳排放力争于2030年前达到峰值，努力争取2060年前实现碳中和。”这一重大宣示，彰显出促进全球能源可持续发展、应对气候变化挑战、建设清洁美丽世界的中国决心。面对气候变化、环境风险挑战、能源资源约束等日益严峻的全球问题，我国积极参与全球能源治理，努力与各国一道寻求加快推进全球能源可持续发展新道路。比如，以共建“一带一路”倡议为引领，一批重大能源合作项目落地实施，能源合作多边、双边机制不断完善，能源政策和技术交流日益频繁。面向未来，中国将在更大范围、更宽领域、更高层次参与国际能源合作与竞争，推动全球能源可持续发展，为建设更加清洁、美丽的世界贡献力量。

“十四五”时期我国将进入新发展阶段，转型与变革同在，机遇与挑战交织，加快构建清洁低碳、安全高效的能源体系的需求更为迫切。
今年1月初以来，河北石家庄市出现新冠肺炎疫情，发现数百名确诊病例。为了快速遏制疫情传播，对密切接触者等高风险人群进行集中隔离观察很有必要。目前，石家庄市设置隔离观察点超过430个、隔离房间27800余间，正在隔离观察人数超过2.7万。除了充分利用酒店等场所作为隔离点，石家庄市正在火速建设黄庄公寓隔离场所，以容纳更多的高风险人群。正在隔离的群众生活怎么样，能享受到什么样的服务保障？新的隔离场所建设进展如何？本报记者进行了实地走访。照顾生活，严防感染。“开饭啦！”19日中午11点半，在石家庄市裕华区一家酒店隔离点的门口，工作人员正将热腾腾的盒饭送进隔离区。记者打开一盒饭，水果、土豆、青椒炒肉、大饼、米饭，满是香气。“饭菜由区里定点厨房统一制作、配送，荤素搭配。我们还推出了儿童套餐，适合不同口味。”酒店隔离点负责人刘步克告诉记者，该隔离点11日开始启用，居住112名人员，全部来自藁城区增村镇东慈邑村。老人和孩子约占一半，最大的88岁，最小的才两个月。在隔离点清洁区的墙上，贴有一周七天每餐的菜谱，每天不重样，品类丰富，讲究营养均衡。“我们在这里吃得不错，饭菜荤素搭配，还有水果和面包。给老人和儿童吃的米饭特意做得很软，非常贴心！”正在隔离的东慈邑村村民刘婷婷说。“14岁以下的儿童可由家人陪伴，其余每人一间，空调、热水器、网络一应俱全。”刘步克向记者介绍。该酒店是一家快捷酒店，经济适用，房间面积不大，但干净整洁，浴室与卫生间干湿分离。房间内床铺大小适中，床边设有一套办公桌椅，床铺对面墙上挂着有线电视，无线网络全覆盖。隔离人员可以看电视、上网娱乐。如何确保隔离人员的安全？酒店隔离点划分为清洁区、半污染区、污染区，实现工作人员和隔离人员的严格分离，避免人员交叉感染。隔离点内的所有生活垃圾全部按照医疗垃圾处理。为了防止隔离人员串门引发交叉感染风险，酒店走廊都安装了视频监控，如果有人出房门走动，工作人员会及时劝返。保障就医，安抚情绪。“非常感谢这里的医护人员，是他们救了我的孩子！”在石家庄市裕华区另一家酒店隔离点，来自高风险地区藁城区北桥寨村的张女士激动地对记者说。1月11日，她和5岁儿子转移到了隔离点。当天晚上，张女士给儿子洗了个澡，没想到孩子第二天就发烧了。“儿子发烧39度，当时特别害怕，以为他感染新冠病毒了。”张女士说，她马上联系了隔离点的医护人员。
2025年和2026年，免费学校早餐俱乐部的预算将增加两倍，达到3000万英镑。明年学校的核心预算也将增加23亿英镑。对继续教育投资3亿英镑，对有特殊教育需要（SEN）的儿童投资10亿英镑。伦敦西部Old Oak Common与伯明翰之间的HS2铁路连接已得到确认，延伸至伦敦尤斯顿站的隧道工程也将开始。私人飞机的航空旅客税将上涨50%，相当于每位乘客450英镑。明年年度国防预算将降至国内生产总值（GDP）的2.5%以下，但国防部预算将增加29亿英镑，并承诺每年向乌克兰提供30亿英镑，“直至需要”。到2027–2028财政年度，公共财政将实现盈余而非赤字，政府称这比原计划提前两年实现财政稳定。预算责任办公室（OBR）预测英国GDP增长率为：2024年1.1%、2025年2.0%、2026年1.85%、2027年1.5%、2028年1.5%、2029年1.6%。OBR预计，公共部门净借款额将为：2025–26年1056亿英镑、2026–27年885亿英镑、2027–28年722亿英镑、2028–29年719亿英镑、2029–30年706亿英镑。软饮料税将随通货膨胀每年上调，预计每年带来近10亿英镑收入。政府部门明年将设定2%的生产力、效率和节约目标。
换句话说，从模型非常广泛的知识和能力中选择其期望的响应和行为，对于构建安全、高性能和可控的AI系统至关重要。虽然现有方法通常使用强化学习（RL）来引导LMs以匹配人类偏好，但我们将展示，现有方法使用的基于RL的目标可以通过一个简单的二元交叉熵目标进行精确优化，从而大大简化偏好学习流程。从高层次来看，现有方法使用代表人类认为安全和有用的行为类型的精选人类偏好集，将期望的行为灌输到语言模型中。这个偏好学习阶段发生在一个大型文本数据集上进行大规模无监督预训练的初始阶段之后。虽然最直接的偏好学习方法是在高质量响应的人类演示上进行监督微调，但最成功的一类方法是基于人类（或AI）反馈的强化学习（RLHF/RLAIF）。RLHF方法将奖励模型拟合到人类偏好数据集上，然后使用RL优化语言模型策略，以产生被分配高奖励的响应，同时又不会与原始模型偏离太远。虽然RLHF产生了具有令人印象深刻的对话和编码能力的模型，但RLHF流程比监督学习要复杂得多，涉及训练多个LM并在训练循环中从LM策略中采样，从而产生显著的计算成本。在本文中，我们展示了如何直接优化语言模型以遵循人类偏好，而无需显式的奖励建模或强化学习。我们提出了直接偏好优化（DPO），这是一种隐式优化与现有RLHF算法相同目标（带KL散度约束的奖励最大化）的算法，但实现简单且易于训练。直观地说，DPO更新增加了偏好响应相对于不偏好响应的相对对数概率，但它包含一个动态的、针对每个样本的重要性权重，以防止我们发现的朴素概率比目标所导致模型退化。与现有算法一样，DPO依赖于一个理论上的偏好模型（如Bradley-Terry模型），该模型衡量给定的奖励函数与经验偏好数据的对齐程度。然而，现有方法使用偏好模型来定义一个偏好损失以训练奖励模型，然后训练一个优化所学奖励模型的策略，而DPO则使用变量替换将偏好损失直接定义为策略的函数。因此，给定一个关于模型响应的人类偏好数据集，DPO可以使用一个简单的二元交叉熵目标来优化策略，从而为拟合到偏好数据的隐式奖励函数产生最优策略。我们的主要贡献是直接偏好优化（DPO），一种用于从偏好中训练语言模型的简单的无RL算法。我们的实验表明，DPO在情感调节、摘要和对话等任务中学习偏好方面，至少与包括基于PPO的RLHF在内的现有方法同样有效，并且使用的语言模型参数高达60亿。第2节：相关工作规模不断增大的自监督语言模型学会了零样本或少样本提示完成一些任务。然而，它们在下游任务上的性能和与用户意图的对齐度可以通过在指令和人类编写的完成数据集上进行微调来显著提高。这种“指令微调”过程使LLM能够泛化到指令微调集之外的指令，并通常提高其可用性。尽管指令微调取得了成功，但响应质量的相对人类判断通常比专家演示更容易收集，因此后续工作使用人类偏好数据集对LLM进行微调，提高了在翻译、摘要、讲故事和指令遵循方面的熟练度。这些方法首先在偏好模型（如Bradley-Terry模型）下优化神经网络奖励函数以与偏好数据集兼容，然后使用强化学习算法（通常是REINFORCE、近端策略优化（PPO）或其变体）微调语言模型以最大化给定的奖励。一个密切相关的工作系列利用经过人类反馈指令微调的LLM来为目标属性（如安全性或无害性）生成额外的合成偏好数据，仅使用来自人类的弱监督，形式为LLM注释的文本规则。这些方法代表了两个工作体系的融合：一个体系是关于使用强化学习为各种目标训练语言模型，另一个体系是关于从人类偏好中学习的通用方法。尽管使用相对人类偏好的吸引力很大，但使用强化学习微调大型语言模型仍然是一个重大的实践挑战；这项工作提供了一种理论上合理的、无需RL即可优化相对偏好的方法。在语言领域之外，从偏好中学习策略已在老虎机和强化学习设置中进行了研究，并提出了几种方法。使用偏好或动作排名而不是奖励的上下文老虎机学习被称为上下文决斗老虎机（CDB）。在没有绝对奖励的情况下，CDB的理论分析用冯·诺依曼赢家（von Neumann winner）的概念替代了最优策略的概念，冯·诺依曼赢家是一种其对任何其他策略的预期胜率至少为50%的策略。然而，在CDB设置中，偏好标签是在线给出的，而在从人类偏好中学习时，我们通常从一批固定的、带有偏好注释的动作对中学习。同样，基于偏好的RL（PbRL）从未知“评分”函数生成的二元偏好而不是奖励中学习。存在各种PbRL算法，包括可以重用离策略偏好数据的方法，但通常涉及首先明确估计潜在的评分函数（即奖励模型），然后对其进行优化。我们则提出了一种单阶段策略学习方法，该方法直接优化策略以满足偏好。第3节：预备知识我们回顾了Ziegler等人（以及后来的Stiennon等人、Bai等人、Ouyang等人）的RLHF流程。它通常包括三个阶段：1）监督微调（SFT）；2）偏好采样和奖励学习；以及3）RL优化。SFT：RLHF通常从使用监督学习在下游任务（对话、摘要等）的高质量数据上微调预训练的LM开始，以获得一个模型。奖励建模阶段：在第二阶段，SFT模型被提示x以产生成对的答案。然后将这些答案呈现给人类标注者，他们表达对其中一个答案的偏好，表示为在给定提示x的情况下，获胜响应优于失败响应。假设这些偏好是由某个我们无法访问的潜在奖励模型生成的。
白宫星期四（3月17日）宣布，美国总统乔·拜登星期五将再次与中国国家主席习近平通电话。这是在美国对北京施加强大压力，试图阻止中国向因为入侵乌克兰而遭遇严厉制裁的俄罗斯提供援助之时，两国领导人之间的又一次直接沟通。白宫发言人珍·莎琪（Jen Psaki）星期四表示，两国元首这次通话是美国努力维持两国通讯联络管道开通努力的一部分。“两国领导人将讨论管控两国竞争以及俄罗斯侵略乌克兰战争等共同关心的问题，”莎琪说。北京外交部发言人华春莹当天也发表了一句话的声明：“国家主席习近平将应约于北京时间3月18日晚同美国总统拜登就中美关系和双方共同关心的问题交换意见。”拜登总统入主白宫后曾分别在去年2月和9月与习近平两次通电话，后来在去年11月首次举行历时三个半小时的视频会晤。但是美中关系似乎并未因为两国领导人的通话或视频会晤而有显著的改善。本周一，白宫国家安全顾问杰克·沙利文在罗马与中共中央政治局委员、中央外事办主任杨洁篪举行了历时七个小时的“高强度”对话。除了美中关系外，双方主要讨论了俄罗斯入侵乌克兰一事。沙利文对莫斯科挥军入侵乌克兰之后，北京选择站在俄罗斯一边表达了严重关切。拜登政府一位高层官员表示，沙利文在会谈中非常直率地告诉杨洁篪，如果中国向俄罗斯提供援助“可能会带来的影响和后果”。但是罗马会谈虽然“高强度”，双方并未达成任何具体的成果。俄罗斯总统普京2月24日下令入侵乌克兰之时，一心只想速战速决，在几天之内结束战事。但是人数和武力处于严重劣势的乌克兰守军保家卫国的斗志和机动灵活的战法却让普京和他的将军们始料所不及。战事目前虽然已进入第四周，貌似强大的俄军也发动了针对一个欧洲国家二战以来最大的攻势，但迄今为止仍无法夺取乌克兰任何一座大城市。根据英国军方星期四的最新情报通报，俄军的侵略行动“几乎在所有方向都陷于停顿”，而且俄军在斗志高昂而且战术协调有方的乌克兰军民顽强抵抗下损失惨重。美方官员此前曾表示，俄罗斯为了扭转战局，摆脱困境，已经向北京求援，除经济、金融援助外，甚至还希望北京对俄罗斯提供军事援助。但北京除了表示将维持与俄罗斯的所谓正常经贸往来，呼吁美方在处理同俄方关系时不得损害中方权益外，一再否认俄罗斯有向中国提出军事援助的要求。
历史上，陕西榆林生态曾遭到严重破坏，绵延千里的森林被大量砍伐，黄土高原裸露出苍黄的颜色，与毛乌素沙漠连成一片。那时，在榆林，人道是一年一场风，从春刮到冬。资料显示，新中国成立前的一百年间，榆林地区有六个城镇和四百多个村庄被风沙掩埋，“堆沙高及城堞”。新中国成立后，中国共产党人愈愈深切地感到生态建设的重要性。1956年，毛泽东同志发出“绿化祖国”的伟大号召。榆林地方政府、林场和老百姓全力治沙、坚定造绿，向沙漠深处执着推进，矢志不渝，接力苦干，书写了生态改造的奇迹……

一、1974年3月，榆林补浪河公社的大喇叭连续广播，宣布要成立一个“长城姑娘治沙连”，战时去打仗，平时搞造林。村里的姑娘们热血沸腾。第一个报名的是十八岁的童军。她是刚刚插队两个月的知青，父母都是毛纺厂工人。干部看她又瘦又小，连连摆手说不要。童军坐在台阶上写了一份请战书，贴在门上，然后旁若无人地站在那里一遍遍大声朗诵。不多时，又跑来几个姑娘，有贺莎莲、席永翠、张列爱等。人多了，胆子更壮了，朗诵声引得很多人都跑出来看。公社书记姚志英说：“治沙连要搞军事化管理，进了大沙漠就不许回家，要吃很多苦，你们受得了吗？”“怕苦我们就不来了！”姑娘们说。“要的就是你们这个态度！”姚书记兴奋地说。1974年5月，五十四个姑娘组成的治沙连成立了。童军当了连长，席永翠当了指导员。姑娘们带上行李和口粮，住进沙漠深处的柳芭庵子——那是用柳条和泥巴匆匆盖起来的草房，一铺炕，脚对脚，睡八个人。

改造沙漠的战斗开始了，早6时出工，晚6时收工。种树主要在春秋两季，每天去十几里外的村庄背树苗。树苗背起来又沉又累，可姑娘们没有一个叫苦的。刮沙尘暴时，连人带苗滚到沙沟里是常事。在技术员的指导下，姑娘们把沙地分成六十亩一块，种上树苗当界线；再把大块分成小块，每块挖一条长长的马槽井，好在地下水位很高，挖下一米半就能见水。之后是挖坑、栽树、担水，用三辆架子车从数里之外运来五千多方泥土，建了育苗基地。家里带来的口粮不够吃，只能挖些野菜填饱肚子；手上、肩上、脚底磨出血泡，又溃烂了，只能忍着躲被窝里抹眼泪。沙尘暴把树苗吹倒掩埋了，姑娘们便一次次重种、补种，再把树苗的水分补足。就这样，一个个小块绿了，一个个大块绿了，然后是大片大片的沙地绿了。天天满脸沙，干活儿一身汗……姑娘们就这样在毛乌素沙漠留下无边的新绿。

进入治沙连的姑娘们最初一定没想到，当初的选择对她们后来的人生产生极大影响。因为治沙连表现优秀，名声在外，部队每年都从连队挑走一两个女兵。第一任连长童军后来当了县妇联主任、区老干部局局长。贺莎莲后来考上大学，毕业后从小学教师当到校长。连队中所有姑娘学会了认字。三年奋战后回到家乡，绝大多数都当了村干部。当了三任连长的张列爱记忆力好，在连队里把几本教科书背得滚瓜烂熟，看书看报非常顺畅。她先后把三个女儿送进治沙连。因为有了文化，席永翠回村后拒绝了爹妈给定下的“娃娃亲”，主动选了一个心上人，这是全村自主婚姻的第一例。一代代治沙连姑娘回村后就像天女散花，把造林治沙的理念带回各自村庄，主动承包大片沙梁，带动家人和邻居种草种树，家家户户都有了一片小绿洲。春风一到，杨柳杏花飞；秋风一来，瓜果满村香。

二、党的十一届三中全会以后，中央决定在西北、华北、东北建设三北防护林工程，抵御沙漠和沙尘的南侵。与此同时，榆林地区持续开展大规模治沙活动。
一块石砖上錾刻的“同治十年十一月造”引起了人们注意，历史的厚重感扑面而来；在许多地方张贴有二维码，“扫一扫”便能听取语音讲解。走到一座敌台前，临海市文物保护管理所所长彭连生介绍，江南长城由城墙墙体、城门、城楼、瓮城、护城河、护城桥、敌台、马面、垛口、女墙等组成。台州府城墙城门现存7座，分别为崇和门、揽胜门、朝天门、望江门、镇宁门、兴善门、靖越门。江南长城首创双层空心敌台，把瓮城修作弧形，兼具防御和防洪功能，所以在各地大面积拆除城墙过程中，它因实际功能无可取代得以保存，在国内非常罕见。