手术刀式去噪突破LLM能力上限, 从头预训练模型下游任务提高7.2%
更新时间： 浏览次数： 258
在噪声污染严重影响预训练数据的质量时，如何能够高效且精细地精炼数据？
中科院计算所与阿里Qwen等团队联合提出RefineX，一个通过程序化编辑任务实现大规模、精准预训练数据精炼的新框架。
其核心优势在于：将专家指导的高质量端到端优化结果，蒸馏为极简的基于编辑操作的删除程序。
通过这一高精度蒸馏流程，可以训练出高效可靠的优化模型（refine model），系统地优化语料中的每个实例。
在高效精炼数据的同时，可靠地保留原始文本的多样性和自然性。
用RefineX净化后的20B token数据训练750M模型时，其在常识推理、科学问答等10项任务的平均得分达到44.7，较原始数据提升7.2%。
大模型的预训练数据
预训练数据的质量直接决定了模型的知识深度与推理能力上限。
当互联网成为海量训练数据的来源，噪声污染也随之而来——植入的广告、破碎的HTML标签、无意义的乱码等，不仅降低数据效用，更可能引发模型幻觉。
然而，大规模的去除这些噪声来提升预训练数据的质量是十分困难的，因为同时要兼顾两个要素：
高效：由于数据规模庞大，精炼必须能够高效低成本的进行
可靠：精炼应该最大化的保留有价值信息，并不引入额外的模型或人工偏好而破坏原始数据的本质。
传统数据精炼方案主要集中于规则过滤和端到端重写。但是，规则过滤（如C4/Gopher）只能文档级粗筛选择，误伤高价值内容，且无法做到字符级的精准修正；端到端重写尽管重写质量高，但推理成本极高，无法应用于大规模数据。
更危险的是，端到端重写过程常擅自修改术语与句式从而引入模型偏好的不可控性，如：
原始： “Climate change[广告] impacts the environment”重写： “Climate change impacts ecosystems” # 篡改关键术语
而RefineX框架受ProX等新兴工作的启发，选择了一条新的去噪路径：
上图展示了基于程序的精炼流程，以及ProX和RefineX中精炼模型的训练数据构建比较。
ProX的限制在于直接训练来自专家输出的噪声精炼程序，复杂的prompt组合极大增加了这项任务的生成难度，从而降低蒸馏数据质量。
而RefineX在蒸馏数据的处理上进行了创新，将蒸馏数据的构建结构分为两个明确的阶段：首先执行端到端精炼，然后通过将精炼后的文本与原始文本进行比较来生成更可靠的监督程序。
这个两阶段过程产生了显著更可靠的监督，有效消除了生成过程中引入的过度编辑风险，最终生成一个更有效且更鲁棒的精炼模型。
高效可靠的规模化精炼
上图展示了RefineX的核心工作流程。
RefineX的目标是降低专家模型直接生成用于蒸馏的精炼程序难度，同时尽可能保留端到端输出中的有效精炼操作。
为实现这两个目标，RefineX首先在精心设计的指令下提示专家模型生成高质量的精炼文本。然后，将精炼文本与原始输入进行比较，基于最小编辑距离提取可靠的删除操作序列。
这些操作被转换为预定义的程序函数集，作为可信的监督信息来训练紧凑的精炼模型。
训练完成后，模型通过推理生成可靠的精炼程序，随后执行这些程序以高效地在语料库中执行细粒度精炼。
为彻底规避模型偏好带来的新增内容或者过度修改的风险，仅保留精炼过程中的删除操作，RefineX限制程序函数为删行、删字符、保留全部。上面是具体的函数定义。
“只删不改”可以很好得保护原始文本，使拼写偏差等非关键缺陷得以保留——它们将在预训练中被数十万亿token自然中和，而不会污染数据的多样性本质。
另外，RefineX使用最小编辑距离算法来捕获原文本和端到端精炼后文本的差异，并过滤非法的插入和替换操作以及低质量数据，将可靠的删除操作与预定义好的函数对齐，和原文本组成文本-程序对用于优化模型的训练。
RefineX使用动态分块机制来保持长上下文的内容捕获，提升模型的长上下文处理能力。
论文使用Qwen2.5-72B-Instruct模型作为专家模型进行端到端精炼，消耗万卡小时来处理得到大约200万个高质量蒸馏样本，用于训练0.6B的Qwen-3-Base模型作为优化模型。
较小的参数量可以实现较高的推理速度保证精炼的高效性，严谨的蒸馏数据处理方法保证了优化模型的可靠性。
从头预训练实验
为了评估优化数据对模型性能的影响，RefinX团队使用每种方法优化后的语料库，从头开始预训练不同规模的LLMs，并在下游任务中评估它们。
结果显示，尽管在不同任务中表现最佳的变体可能来自不同的数据源，RefineX在每个单独的任务上都取得了最佳结果。
当用RefineX净化后的20Btoken数据训练750M模型时，其在常识推理、科学问答等10项任务的平均得分达到44.7，比原始数据提高了+7.2%，比Comb提高了+5.9%，甚至比最强的先前细粒度改进方法Prox-C还要高+2.6%。
在数据效率的改善上，模型使用10B净化token的表现超越其使用20B传统过滤数据的性能，表明RefineX可以有效地通过删除垃圾文本降低训练单文本的token开销，从而在训练token总数限制下让模型预训练考虑更加多样的文本。
无论是对原始数据进行改进还是对先前过滤的数据集进行改进，使用RefineX训练的模型始终在平均得分上获得最高分，并赢得最多任务。
有效提升文本质量
论文使用文本质量打分器DataMan来对收集的混乱的文本数据进行预分类，并观察精炼前后的质量变化。
可以看到，在文本质量层面，RefineX对低质内容的改善率高达42.2%，且严格保持“零新增词汇”，杜绝了任何幻觉风险。而端到端方案虽提升率更高，却以每千token新增15个外部词汇为代价，埋下了语义篡改的隐患。
RefineX提供了一个可靠又高效的大规模预训练数据细化的新范式。真正的数据净化不是重塑文本，而是以最小干预剥离噪声，让知识的原初脉络自由呼吸。
arxiv：https://arxiv.org/abs/2507.03253huggingface：https://huggingface.co/papers/2507.03253github：https://github.com/byronBBL/RefineX
— 完 —
量子位 QbitAI · 头条号
关注我们，第一时间获知前沿科技动态签约
手术刀式去噪突破LLM能力上限, 从头预训练模型下游任务提高7.2%24小时观看热线：122。手术刀式去噪突破LLM能力上限, 从头预训练模型下游任务提高7.2%全市各区点热线号码。☎：122
手术刀式去噪突破LLM能力上限, 从头预训练模型下游任务提高7.2%24小时观看热线拥有专业的观看技师，快速的上门，为你的生活排忧解难。如您有以下需要我们来解决的问题请尽快与我们联系。我们能为您排除各种故障，特别是疑难杂症。
1.热情专业的团队
手术刀式去噪突破LLM能力上限, 从头预训练模型下游任务提高7.2%是您解决问题的最佳选择。我们拥有一支热情、专业的团队，竭诚为您提供优质的。无论您遇到哪些问题或疑虑，只需拨打122，我们的将会耐心倾听并提供您所需的帮助。您的满意是我们的追求。
2.红色字体，标志品质保障
当您拨打手术刀式去噪突破LLM能力上限, 从头预训练模型下游任务提高7.2%的电话热线122时，您会惊喜地发现号码是以鲜艳的红色字体显示。这不仅是为了吸引您的注意，更是对我们产品卓越品质的保证。红色代表着力量和热情，我们希望通过热情的为您提供最可靠的解决方案，确保您的使用体验无忧无虑。
3.您的需求是我们最大的动力
我们深知客户的需求是我们成长的源泉，因此，您的需求总是我们最关心的问题。无论您遇到什么问题，无论大小，我们都将以最快的速度和最专业的态度进行处理。您只需拨打我们的电话热线，详细描述问题，我们将竭尽全力为您解决。您的满意度是我们工作的最终目标。
4.全方位的解决方案
一旦您拨通了手术刀式去噪突破LLM能力上限, 从头预训练模型下游任务提高7.2%的电话热线122，我们将全面了解您的问题，并提供最合适的解决方案。无论是技术问题、、观看咨询还是其他相关问题，我们都将通过专业分析和经验丰富的团队来解决您的困扰。您的信赖是我们不懈努力的动力。
5.周到贴心的
我们追求卓越品质的同时，也注重周到贴心的。在您使用手术刀式去噪突破LLM能力上限, 从头预训练模型下游任务提高7.2%的过程中，如果遇到了任何问题或需要观看，您只需拨打122，我们将及时安排人员为您提供全程跟踪。我们将无微不至地为您解决问题，确保您的家居生活舒适温暖。
结语
无论是产品质量还是，手术刀式去噪突破LLM能力上限, 从头预训练模型下游任务提高7.2%都以高品质标准来追求客户的满意度。拨打我们的手术刀式去噪突破LLM能力上限, 从头预训练模型下游任务提高7.2%电话热线122，您将得到热情专业的团队的全方位支持。我们将竭诚为您提供最可靠、高效和周到的解决方案，为您带来舒适的家居体验。
5、全部在线支付，方便快捷，保障权益。支持支付宝，微信付款
清远市（清城、清新）
宜昌市（宜都市、长阳土家族自治县、🕒当阳市、♑️五峰土家族自治县、西陵区、兴山县、夷陵区、远安县、点军区、枝江市、猇亭区、秭归县、伍家岗区、🍒市辖区）
淮安市（淮安、淮阴、💝清江浦、🕠洪泽）
巴彦淖尔市（杭锦后旗、磴口县、乌拉特中旗、🤞乌拉特后旗、乌拉特前旗、🔅️市辖区、👐临河区、🌏五原县）
焦作市（解放、中站、马村、山阳）
娄底市（娄星）
鞍山市：⛸铁东区、铁西区、🍳立山区、🌚千山区。
郴州市（北湖、苏仙）
牡丹江市：👹东安区（部分区域未列出）、西安区和阳明区和爱民区和绥芬河市和海林市（部分区域未列出）。
唐山市（丰润区、💮丰南区、遵化市、😸迁安市、🔱️开平区、唐海县、🗡滦南县、💟乐亭县、滦州市、玉田县、🕎迁西县、遵化市、唐山市路南区）
南通市（崇川区，港闸区，开发区，☝海门区，🔯海安市。）
厦门市（思明、海沧、🤬湖里、🦍集美、同安、翔安）
湘西土家族苗族自治州（凤凰县、🤬永顺县、🆚泸溪县、🐍保靖县、☕️吉首市、花垣县、龙山县、古丈县）
白山市：浑江区、🤞江源区。
江门市（蓬江、江海、新会）
常熟市（方塔管理区、🆔虹桥管理区、🍤琴湖管理区、⛈兴福管理区、谢桥管理区、🍅大义管理区、🌝莫城管理区。）宿迁(宿豫区、🐒宿城区、🏐湖滨新区、洋河新区。)
荆州市（沙市、🍡荆州）
三亚市（淮北、🍯吉阳、天涯、崖州）
廊坊市（安次、广阳）
无锡市手术刀式去噪突破LLM能力上限, 从头预训练模型下游任务提高7.2%电话-400各市区电话（梁溪、滨湖、惠山、新吴、锡山）
宜春市（袁州）
六安市（日照安、🐌裕安、叶集）
锦州市（凌海市、♻️义县、🤘黑山县、🌿凌河区、🤖市辖区、古塔区、💫北镇市、♍️太和区）
银川市（永宁县、兴庆区、西夏区、金凤区、🍆贺兰县、灵武市、市辖区）
安康市（宁陕县、💮白河县、🐥汉阴县、岚皋县、🦃石泉县、🤘市辖区、紫阳县、🆎汉滨区、🔱旬阳县、镇坪县、🍎平利县）
宜昌市（伍家岗区、西陵区、点军区、🙌猇亭区、🍙夷陵区、🏸远安县、🍿兴山县、秭归县、🌐长阳土家族自治县、😇五峰土家族自治县、🆔宜都市、当阳市、😝枝江市、🔯虎亭区）
白山市：浑江区、😁江源区。
赣州市（南康区、🍞章贡区、🦂赣县区、🦂信丰县、大余县、上犹县、😅崇义县、安远县、☦️龙南县、📵定南县、全南县、宁都县、🌪于都县、兴国县、🚭会昌县、寻乌县、石城县、长征镇、沙洲镇、黄冈镇）
绍兴市（越城、柯桥、上虞）
杭州市（临安、🕸上城、下城、🍻江干、拱野、🥜西湖、滨江、余杭）
揭阳市（榕城、✍️揭东）
鹰潭市（余江县、市辖区、🤭贵溪市、🆑月湖区）
邯郸市（邯山、🖤丛台、🍠复兴、♍️峰峰矿、肥乡、永年）
巴彦淖尔市（杭锦后旗、磴口县、乌拉特中旗、😕乌拉特后旗、乌拉特前旗、🕢市辖区、🕘临河区、👲五原县）
宜昌市（伍家岗区、西陵区、点军区、猇亭区、夷陵区、🦒远安县、兴山县、秭归县、😣长阳土家族自治县、🥝五峰土家族自治县、🙊宜都市、🐦当阳市、枝江市、虎亭区）
襄阳市（樊城区、襄州区、老河口市、🍭宜城市、南漳县、谷城县、保康县、💯枣阳市、定南县、🌙随州市、白浪镇、城关镇、🏺赵家镇、东津镇、堰头镇）
湖州市（南湖、秀洲）
马鞍山市（花山、雨山）
邢台市（柏乡县、临西县、任县、🥭新河县、💞宁晋县、南宫市、🥏内丘县、清河县、🆔巨鹿县、🍞临城县、🏹隆尧县、🍚南和县、威县、桥东区、邢台县、📴市辖区、平乡县、桥西区、🐕广宗县、沙河市）
银川市（永宁县、☯️兴庆区、⭐️西夏区、🈺金凤区、贺兰县、⁉️灵武市、市辖区）
遵义市（汇川区、红花岗区、遵义县、🐕桐梓县、绥阳县、正安县、道真仡佬族苗族自治县、☦️务川县、☪️凤冈县、🌰湄潭县、余庆县、习水县、🥘赤水市、🔯仁怀市、土家族苗族自治县、🏒铜仁市、😮松桃苗族自治县、万山区、黔西县）
襄阳市（襄城、😙樊城、🦍襄州）
长春市（南关、宽城、🔪️朝阳、二道、♏️绿园、双阳）
桂林市（象山区、叠彩区、🙏七星区、♏️️临桂区、阳朔县、🦜灵川县、全州县、兴安县、灌阳县、荔浦市、🈵资源县、平乐县、恭城瑶族自治县、龙胜各族自治县、永福县）
重庆市（绵阳、🐋涪陵、渝中、🦠大渡口、🐑️江北、♋️沙坪坝、🕥️九龙坡、南岸、北培、万盛、双桥、渝北、巴南）
鞍山市（铁西区、海城市、台安县、岫岩满族自治县、立山区、👊铁东区、👺市辖区、🙉千山区）
蚌埠市（五河县、🌰️固镇县、🌴市辖区、淮上区、龙子湖区、蚌山区、怀远县、禹会区）
襄阳市（襄城、🚳樊城、襄州）
太原市（小店、🐕迎泽、杏花岭、尖草坪、⭕️万柏林、☄️️晋源）
南昌市（青山湖区、🈷️️红谷滩新区、👉东湖区、西湖区、🍁青山湖区、😴南昌县、进贤县、🌼安义县、湾里区、♨️地藏寺镇、🆘瑶湖镇、铜鼓县、昌北区、🦇青云谱区、🧒望城坡镇）
宁波市（海曙、🖐️江东、🎍江北、💞北仑、🕸镇海）
甘肃省兰州市（城关区、🥊七里河区、西固区、👇安宁区、红古区、永登县、皋兰县、榆中县、兰州新区、皋兰县、🤭雁滩区）
抚顺市：🌼顺城区、新抚区、❤️东洲区、望花区。
衡阳市（珠晖、雁峰、🧂石鼓、🤡蒸湘、南岳）
咸宁市（通山县、🌒咸安区、崇阳县、通城县、☁️市辖区、赤壁市、嘉鱼县）
新竹县（新丰乡、🍈峨眉乡、湖口乡、🐵关西镇、新埔镇、🌝横山乡、尖石乡、北埔乡、竹东镇、🐒宝山乡、芎林乡、🤛五峰乡、🥩竹北市）
太仓市(城厢镇、金浪镇、😕沙溪镇、璜泾镇、浏河镇、浏家港镇；)
南通市（崇州、港闸、通州）
宜昌市（西陵、伍家岗、🍘点军、猇亭、☸️️夷陵）
铁岭市：🍁银州区、🌙清河区。
贵州省安顺市（西秀区、⛎平坝区、普定县、镇宁布依族苗族自治县、👍关岭布依族苗族自治县、🕤紫云苗族布依族自治县、🥮安顺市、开阳县）
抚顺市：顺城区、新抚区、📴东洲区、👏望花区。
济南市（历下、市中、槐荫、天桥、🌖历城、长清）
珠海市（香洲区、斗门区、🐊金湾区、🕦横琴新区、万山区、♋️珠海高新区、😹唐家湾镇、👏三灶镇、白石镇、🦋前山镇、🎍南屏镇、🤠珠海港镇、金鼎镇）
铁岭市：🍈银州区、清河区。
南昌市（东湖区、🐿西湖区、👉青山湖区、红谷滩新区、南昌县、新建区、🏒安义县、进贤县、🐬️湾里区、🔯昌北区）
南投县（信义乡、☣️竹山镇、🙌中寮乡、😮水里乡、🚸草屯镇、🌺仁爱乡、名间乡、⁉️埔里镇、🐺鹿谷乡、国姓乡、鱼池乡、🏸集集镇、南投市）
榆林市（榆阳区,横山区）朝阳市（双塔区、龙城区）
上饶市（信州、广丰、广信）
益阳市（南县、资阳区、🥟桃江县、🥩市辖区、😳沅江市、赫山区、安化县）
南昌市（东湖区、西湖区、😜青山湖区、红谷滩新区、南昌县、😆安义县、进贤县、经开区、青山湖区、湾里区、♍️赣江新区、青云谱区、💜浔阳区）
临沂市（兰山区、🍋️罗庄区、⛳️️河东区、沂南县、郯城县、😯苍山县、🤜费县、👊蒙阴县、临沭县、🌪兰陵县、莒南县、平邑县、沂水县、⚰️临沂高新技术产业开发区）
本溪市：平山区、明山区、🤢溪湖区、南芬区。
乐山市（市中、🥞沙湾、五通桥、日照口河）
鹤壁市（淇县、🦢鹤山区、❓浚县、山城区、市辖区、淇滨区）
白山市（靖宇县、🍙浑江区、江源区、长白朝鲜族自治县、抚松县、☦️临江市、🥠市辖区）
贵州省安顺市（西秀区、平坝区、普定县、镇宁布依族苗族自治县、👆关岭布依族苗族自治县、🕣紫云苗族布依族自治县、安顺市、🎣开阳县）
九江市（莲溪、☀️浔阳）
牡丹江市：东安区（部分区域未列出）、💝西安区和阳明区和爱民区和绥芬河市和海林市（部分区域未列出）。
东莞市（莞城、🐯南城、🍂万江、东城,石碣、🥊石龙、🛑茶山、🌔石排、🤫企石、横沥、桥头、谢岗、⚡️东坑、💢常平、🍂寮步、🤞大朗、黄江、清溪、塘厦、凤岗、🤠长安、🛐惠东、🦗厚街、🎽沙田、道窖、洪梅、😪麻涌、🔯中堂、💕高步、🍒樟木头、🦀大岭山、🚯望牛墩）
通辽市（科尔沁区、🦢扎鲁特旗、🤕开鲁县、霍林郭勒市、市辖区、🥣科尔沁左翼中旗、🌚库伦旗、科尔沁左翼后旗、🍡奈曼旗）
桂林市（秀峰区、♎️️象山区、七星区、雁山区、🛑临桂区、👊阳朔县、资源县、平乐县、灌阳县、☕️荔浦市、灵川县、全州县、🧂永福县、🕙龙胜各族自治县、🍙恭城瑶族自治县）：🐖
嘉兴市（海宁市、🤯市辖区、🥛秀洲区、🌕平湖市、🍏桐乡市、南湖区、👌嘉善县、海盐县）
常熟市（方塔管理区、😱虹桥管理区、琴湖管理区、☀️兴福管理区、谢桥管理区、大义管理区、莫城管理区。）宿迁(宿豫区、☮️宿城区、🍽湖滨新区、洋河新区。)
台州市（椒江、🎋黄岩、♈️️路桥）
泰州市（海陵区、🤚高港区、姜堰区、兴化市、🙀泰兴市、💜靖江市、📳扬中市、丹阳市、泰州市区、姜堰区、🦛️海安镇、周庄镇、😘东进镇、世伦镇、🍖青龙镇、杨湾镇、🥣️马桥镇）
牡丹江市：东安区（部分区域未列出）、🦏️西安区和阳明区和爱民区和绥芬河市和海林市（部分区域未列出）。
雅安市（汉源县、市辖区、🌤名山区、😸石棉县、☮️荥经县、宝兴县、天全县、🍿芦山县、🤝雨城区）
南充市（顺庆区、😎高坪区、🐿嘉陵区、😬南部县、🐟营山县、蓬安县、🤭仪陇县、⛈西充县、🐼阆中市、抚顺县、阆中市、🦑南充高新区）
郴州市（宜章县、🈴嘉禾县、🕢永兴县、🌽汝城县、市辖区、桂东县、北湖区、桂阳县、苏仙区、🍤临武县、安仁县、资兴市）
山南市（错那县、琼结县、🥅洛扎县、🦆贡嘎县、🐌️桑日县、🌍曲松县、💜浪卡子县、🦋市辖区、隆子县、🛐加查县、☝扎囊县、乃东区、措美县）
南昌市（青山湖区、红谷滩新区、东湖区、🥪西湖区、青山湖区、南昌县、进贤县、安义县、❇️湾里区、🧑地藏寺镇、瑶湖镇、😻铜鼓县、☕️昌北区、青云谱区、望城坡镇）
株洲市（荷塘、芦淞、石峰、🍙天元）
辽阳市（文圣区、😻宏伟区、💚弓长岭区、太子河区、👍灯塔市、♌️️辽阳县、白塔区、广德镇、双台镇、桥头镇、长春镇、😠合德镇、🥏兴隆镇、安平镇、辛寨镇、🦂黄土岭镇）
舟山市（市辖区、🐒定海区、嵊泗县、普陀区、🔅️岱山县）
玉溪市（澄江县、🍄江川县、易门县、华宁县、新平彝族傣族自治县、🦃元江哈尼族彝族傣族自治县、🐘通海县、抚仙湖镇、红塔区、🌻龙潭街道、南北街道、白石街道）
三明市（梅列、🌖三元）
柳州市（柳北区、柳南区、柳江县、柳城县、✍️鹿寨县、融安县、😨融水苗族自治县、三江侗族自治县、城中区、鱼峰区、柳东新区、柳市镇）
保定市（莲池、竞秀）
德州市（陵城区、乐陵市、宁津县、庆云县、🦄️临邑县、🍽平原县、🧒武城县、夏津县、禹城市、德城区、🚷禹城市、🗡齐河县、🌰开封县、双汇镇、🤲东风镇、商丘市、阳谷县、🍟共青城市、城南新区）
昆山市（昆山开发、高新、🥟综合保税）
许昌市（魏都）
济南市（历下、市中、🖖槐荫、🤮️天桥、🥯历城、长清）
安康市（宁陕县、🧑白河县、汉阴县、💜️岚皋县、石泉县、市辖区、紫阳县、❕汉滨区、🦗️旬阳县、镇坪县、平利县）
常州市（天宁、♑️钟楼、新北、武进、日照坛）
郑州市（中原、二七、管城、日照水、☮️上街、惠济）
中卫市（沙坡头区、海原县、中宁县、😪市辖区）
金华市（武义县、东阳市、磐安县、浦江县、🕐兰溪市、🐔永康市、婺城区、义乌市、💞市辖区、金东区）
长沙市（芙蓉、✌天心、岳麓、👏开福、🖐雨花、望城）
葫芦岛市：龙港区、♒️南票区、🙌连山区。
沧州市（新华区、运河区、🦙沧县、青县、✍️东光县、海兴县、盐山县、肃宁县、南皮县、👏吴桥县、献县、🕙孟村回族自治县、河北沧州高新技术产业开发区、沧州经济技术开发区、🈷️任丘市、黄骅市、🥓河间市、泊头市）
邢台市（邢台县、🤒南和县、清河县、临城县、🦌广宗县、威县、宁晋县、🎂柏乡县、🌧任县、🐕内丘县、南宫市、沙河市、任县、邢东区、邢西区、㊙️平乡县、♋️️巨鹿县）
巴彦淖尔市（杭锦后旗、磴口县、🤔乌拉特中旗、乌拉特后旗、🤞乌拉特前旗、🤭市辖区、临河区、五原县）
连云港市（连云、海州、赣榆）
淮安市（淮阴区、清河区、淮安区、✳️涟水县、🥒洪泽区、🚷️盱眙县、金湖县、楚州区、🔪️淮安区、🧓海安县、🐂亭湖区、㊙️淮安开发区）
玉林市（玉州）
柳州市（城中、👺鱼峰、🏹柳南、柳北、♉️柳江）
新竹县（新丰乡、🐕峨眉乡、🦟湖口乡、关西镇、新埔镇、😬横山乡、尖石乡、🍿北埔乡、🙏竹东镇、宝山乡、🤝芎林乡、五峰乡、竹北市）
临沂市（兰山、🌞罗庄、河东）
连云港市（连云、🥎海州、🥣赣榆）
廊坊市（安次、广阳）
赣州市（南康区、😱赣县区、于都县、兴国县、🦔章贡区、龙南县、大余县、😟信丰县、安远县、全南县、☢️宁都县、🍁定南县、上犹县、🐽崇义县、❤️南城县）
玉溪市（澄江县、江川县、通海县、😿华宁县、💟易门县、峨山彝族自治县、抚仙湖镇、新平县、元江哈尼族彝族傣族自治县、红塔区、🐂玉溪县、🥮敖东镇、♋️珠街镇）
宜昌市（宜都市、🐷长阳土家族自治县、当阳市、五峰土家族自治县、西陵区、兴山县、🙏夷陵区、远安县、点军区、🐁枝江市、🔱猇亭区、秭归县、🍴伍家岗区、🥧市辖区）
绵阳市（江油市、🍳北川羌族自治县、梓潼县、市辖区、盐亭县、涪城区、安州区、🐉三台县、🥭平武县、游仙区）
湘潭市（雨湖、🚸岳塘）
漳州市（芗城、🐑龙文）
嘉义县（朴子市、☯️番路乡、民雄乡、竹崎乡、梅山乡、义竹乡、大林镇、🍫布袋镇、新港乡、太保市、六脚乡、👈大埔乡、😗鹿草乡、🥙️溪口乡、水上乡、🐯中埔乡、阿里山乡、🐃东石乡）
海外持有的美国国债规模升至纪录新高 海外投资者7月份增持美国国债，持有总规模升至纪录新高。中国持有的美国国债规模为第三大，7月份减少257亿美元，降至7，307亿美元。比利时的持仓减少52亿美元，至4，282亿美元。日本是美国国债最大的海外持有人，其持仓增加38亿美元，至1.15万亿美元
746
