顶部
首页

零开销, 消除图像幻觉, 基于零空间投影挖掘正常样本特征

零开销, 消除图像幻觉, 基于零空间投影挖掘正常样本特征

更新时间: 浏览次数: 258

【导读】当前大型视觉语言模型(LVLMs)存在物体幻觉问题,即会生成图像中不存在的物体描述。西安交通大学研究团队提出了一种名为Nullu的方法,通过提取「幻觉子空间」(HalluSpace)并进行零空间投影来编辑模型权重,从而有效消除幻觉,且不增加额外推理成本。

当前大型视觉语言模型(LVLMs)普遍存在「物体幻觉」问题:模型会凭空生成图像中不存在的物体描述。

为了高效地实现幻觉消除,西安交通大学研究团队提出了一种利用「幻觉子空间」(HalluSpace)进行零空间投影的高效模型权重编辑方法Nullu(Nullspace of HalluSpace)。

论文地址:https://arxiv.org/abs/2412.13817 代码地址:https://github.com/Ziwei-Zheng/Nullu

该方法的核心思路在于:从特征空间寻找到正常样本表征与幻觉样本特征的核心差异。

为了实现这一目标,研究人员在提取「真实描述+图像」与「幻觉描述+图像」的模型内部嵌入特征基础上,通过对二者嵌入特征的差进行主成分分析,定位导致幻觉的关键子空间,即HalluSpace

实验发现,HalluSpace内包含了LVLM所基于的大语言模型(LLMs)过强的偏好先验知识,而这在以往研究中已被证明是产生幻觉的主要原因之一。

因此,通过正交化模型权重,将输入样本的特征投影至HalluSpace的零空间,可以有效去除这种偏好先验,从而抑制幻觉生成。

Nullu实现简单,无需训练,便于部署,且不引入额外推理开销,在多个幻觉消除任务上取得了出色的效果,成果已发表于CVPR 2025

基于零空间投影的权重编辑

Nullu的权重编辑过程主要分为三个步骤:1)真实-幻觉数据对构建;2)HalluSpace抽取;3)基于零空间投影的模型权重编辑。

数据对构建

对于任意「视觉-文本」结构的输入数据,研究人员将构建数据对来实现幻觉子空间的抽取。每个数据对具有相同的图像和不同的文本信息:其中一个文本包含准确描述图像中物体的真实描述,作为负样本;另一个包含幻觉描述,作为正样本。

可以直接使用LURE[1]数据集作为数据对,其中每一对样本包含图像及其对应的真实描述(Ground Truth,GT)以及通过关键词替换得到的幻觉描述(Hallucination Description,HD)。

LURE数据构建的流程如下:图像从MSCOCO 2014数据集的训练集中随机选取5000 张图像,并获取与对应的描述作为GT

在此基础上,替换GT中最易引发幻觉的对象,如高频对象等,作为幻觉描述HD。

HalluSpace抽取

HalluSpace的抽取将主要在LVLM的语言模型部分的MLP层特征空间进行,整体流程如图所示。

语言大模型部分由LLM构成,各层包括一个自注意力层和一个MLP层。为抽取幻觉子空间HalluSpace,首先分别输入具有真实响应和幻觉响应的正负样本对,在LLM部分的每层分别计算并存储嵌入特征,随后在特征的长度维度上,对每个样本对应的特征求平均值,将这些嵌入特征堆叠成正负样本特征矩阵,并求出差异矩阵。

接着,通过SVD分解对差异矩阵进行主成分分析。

最后,选取具有对应于前𝑘个奇异值的右奇异向量,即特征向量V的前𝑘个列向量。

这些方向代表了真实特征和幻觉特征之间的主要差异,可以被视为模型特征空间中引发幻觉描述的方向,即HalluSpace

基于零空间投影的模型权重编辑

由于HalluSpace表示了真实数据和幻觉数据分布之间的主要差异方向,因此可以通过将模型特征投影到幻觉空间的零空间来去除特征中的潜在幻觉信息。

由于所有输入共享HalluSpace,因此直接将模型权重向HalluSpace的零空间进行投影,即可消除潜在幻觉风险。

经过编辑的新模型参数,可以直接重新加载到原始模型中,因此在推理时,不会引入任何额外计算开销。

如下图所示,当输入内容的内部特征存在处于HalluSpace的分量时,新的模型参数可以有效将该分量消除,从而减少幻觉的发生。

幻觉子空间的存在性与讨论

研究人员进一步利用实验,验证了HalluSpace的存在性;同时,论文通过解码对HalluSpace内部所包含的信息进行了分析讨论,揭示了Nullu与现有方法的相互关系;进一步,文章对Nullu的有效性进行了分析,并揭示了其与直接偏好优化(DPO)的潜在关系。

幻觉子空间的存在性分析

假设HalluSpace存在,在测试集上(非LURE数据集),真实样本和幻觉样本计算得到的特征差异向量在HalluSpace应具有较大分量。

为评估这一点,研究人员在CHAIR测试上,选择了100个LLaVA-1.5发生幻觉的描述性问题作为测试对象,计算每个样本幻觉发生和没有幻觉时嵌入特征的差异向量进行测试。

此外,实验中还随机选取了100个随机向量作为比较基线。

为了避免范数的影响,研究人员进一步对所有的向量都进行了归一化处理。

图中(a)展示了向量在归一化球面上的分布示意图。

对于随机向量,其将随意的分布在单位球内部,因此在幻觉子空间的投影分量将会较低;而所计算的差向量如果成功捕获了幻觉信息,则在幻觉子空间的投影分量将会很高。

因此研究人员进行了验证性的计算,结果显示,所计算差向量在幻觉子空间的投影分量比随机对照组高出了10倍以上。

这一证据表明,幻觉子空间捕捉到了LVLM特征中和幻觉有关的特征方向,从而证明了幻觉子空间的存在性。

其他讨论与分析

论文中通过对HalluSpace内部所包含的信息进行解码,发现其内部包含了众多语言模型的偏好先验。

因此,将模型参数向HalluSpace的正交零空间投影实现了去除模型内部语言偏好的功能,从而有效解决了物体幻觉问题。这一思路与现有的方法,如VCD[2]具有类似性。

另外,文章进一步揭示了Nullu与直接偏好优化(DPO)的潜在关系,进一步说明了方法的有效性,这里不再赘述。

实验与分析

研究人员将所提出方法部署于LLaVA-1.5、MiniGPT-4和mPLUG-Owl2,并在多个数据集对Nullu的有效性进行了验证:包括在CHAIR和POPE的幻觉性能验证,以及在MME和LLaVA-Bench的通用性能测试。

通过下图可以看出,由于Nullu可以通过模型编辑直接修改模型参数,因此在推理过程中,不会引入任何额外的推理开销,实现了零开销抑制物体幻觉。

相比现有其他解码增强方法,Nullu能以更快的速度,实现更好的物体幻觉解决性能。且这一性能提升并非通过减少模型输出长度来实现的。

为直观展示物体幻觉的缓解效果,研究人员进一步展示了Nullu在LLaVA-Bench开放式生成任务数据集上的测试案例。

如下图中所示,对于同一问题,使用经过Nullu进行权重编辑的模型成功消除了原始模型输出中存在的物体幻觉。

研究人员还进行了在线测试来对Nullu的有效性进行检测。在原始模型输出物体幻觉词「person」时,改用经过编辑的权重进行推理后,输出变更为「mountain」,进一步证明了所提出方法的有效性。

结语

研究人员提出了一种基于特征编辑的物体幻觉消除方法Nullu。

Nullu针对模型各层的多层感知机部分进行幻觉空间识别,通过提取真实特征与幻觉特征差异的低秩子空间,并进一步对LVLM的权重进行正交化投影,从而缓解物体幻觉问题。

实验结果表明,Nullu能够在不增加额外推理成本的情况下显著缓解物体幻觉,这使得该方法相较于当前的解码阶段方法和后处理方法,在推理速度上更具优势。

同时,经该方法编辑后的模型在通用大型视觉语言模型基准测试中仍能保持良好性能,证明其在提升真实性的同时,并未损害模型的整体能力。

理论分析表明,该方法与直接偏好优化在权重更新方式上存在内在一致性。通过与先前研究的对比分析进一步发现,该方法通过调整模型参数,有效减少了大语言模型中的语言偏差,而语言偏差已被证实是导致对象幻觉的关键因素之一。

作者介绍

论文作者来自西安交通大学人工智能安全实验室(AI-SEC)团队,其中第一作者杨乐为西安交通大学特聘研究员,共同第一作者为西安交通大学博士生郑子维,通讯作者为西安交通大学沈超教授。

参考资料:

[1] Zhou, Yiyang, et al. "Analyzing and mitigating object hallucination in large vision-language models." In ICLR 2024.

[2] Leng, Sicong, et al. "Mitigating object hallucinations in large vision-language models through visual contrastive decoding." In CVPR 2024.

零开销, 消除图像幻觉, 基于零空间投影挖掘正常样本特征24小时观看热线:122。零开销, 消除图像幻觉, 基于零空间投影挖掘正常样本特征全市各区点热线号码。☎:122


零开销, 消除图像幻觉, 基于零空间投影挖掘正常样本特征24小时观看热线拥有专业的观看技师,快速的上门,为你的生活排忧解难。如您有以下需要我们来解决的问题请尽快与我们联系。我们能为您排除各种故障,特别是疑难杂症。 

1.热情专业的团队




零开销, 消除图像幻觉, 基于零空间投影挖掘正常样本特征是您解决问题的最佳选择。我们拥有一支热情、专业的团队,竭诚为您提供优质的。无论您遇到哪些问题或疑虑,只需拨打122,我们的将会耐心倾听并提供您所需的帮助。您的满意是我们的追求。




2.红色字体,标志品质保障




当您拨打零开销, 消除图像幻觉, 基于零空间投影挖掘正常样本特征的电话热线122时,您会惊喜地发现号码是以鲜艳的红色字体显示。这不仅是为了吸引您的注意,更是对我们产品卓越品质的保证。红色代表着力量和热情,我们希望通过热情的为您提供最可靠的解决方案,确保您的使用体验无忧无虑。




3.您的需求是我们最大的动力




我们深知客户的需求是我们成长的源泉,因此,您的需求总是我们最关心的问题。无论您遇到什么问题,无论大小,我们都将以最快的速度和最专业的态度进行处理。您只需拨打我们的电话热线,详细描述问题,我们将竭尽全力为您解决。您的满意度是我们工作的最终目标。




4.全方位的解决方案




一旦您拨通了零开销, 消除图像幻觉, 基于零空间投影挖掘正常样本特征的电话热线122,我们将全面了解您的问题,并提供最合适的解决方案。无论是技术问题、、观看咨询还是其他相关问题,我们都将通过专业分析和经验丰富的团队来解决您的困扰。您的信赖是我们不懈努力的动力。




5.周到贴心的




我们追求卓越品质的同时,也注重周到贴心的。在您使用零开销, 消除图像幻觉, 基于零空间投影挖掘正常样本特征的过程中,如果遇到了任何问题或需要观看,您只需拨打122,我们将及时安排人员为您提供全程跟踪。我们将无微不至地为您解决问题,确保您的家居生活舒适温暖。




结语




无论是产品质量还是,零开销, 消除图像幻觉, 基于零空间投影挖掘正常样本特征都以高品质标准来追求客户的满意度。拨打我们的零开销, 消除图像幻觉, 基于零空间投影挖掘正常样本特征电话热线122,您将得到热情专业的团队的全方位支持。我们将竭诚为您提供最可靠、高效和周到的解决方案,为您带来舒适的家居体验。




5、全部在线支付,方便快捷,保障权益。支持支付宝,微信付款



清远市(清城、清新)




宜昌市(宜都市、长阳土家族自治县、🦐当阳市、🐇五峰土家族自治县、西陵区、兴山县、夷陵区、远安县、点军区、枝江市、猇亭区、秭归县、伍家岗区、😼市辖区)




淮安市(淮安、淮阴、🥫清江浦、👺洪泽)




巴彦淖尔市(杭锦后旗、磴口县、乌拉特中旗、🐞乌拉特后旗、乌拉特前旗、💞️市辖区、🥀临河区、🐏五原县)




焦作市(解放、中站、马村、山阳)




娄底市(娄星)




鞍山市:🍧铁东区、铁西区、🌪立山区、🌚千山区。




郴州市(北湖、苏仙)




牡丹江市:🍎东安区(部分区域未列出)、西安区和阳明区和爱民区和绥芬河市和海林市(部分区域未列出)。




唐山市(丰润区、👎丰南区、遵化市、🍵迁安市、🧑️开平区、唐海县、🌚滦南县、🍪乐亭县、滦州市、玉田县、🌤迁西县、遵化市、唐山市路南区)




南通市(崇川区,港闸区,开发区,🐼海门区,😌海安市。)




厦门市(思明、海沧、🍅湖里、🐕集美、同安、翔安)




湘西土家族苗族自治州(凤凰县、👍永顺县、💯泸溪县、⛎保靖县、🏏吉首市、花垣县、龙山县、古丈县)




白山市:浑江区、❕江源区。




江门市(蓬江、江海、新会)




常熟市(方塔管理区、😒虹桥管理区、🍞琴湖管理区、🍴兴福管理区、谢桥管理区、🍎大义管理区、👴莫城管理区。)宿迁(宿豫区、❤️宿城区、♈️湖滨新区、洋河新区。)




荆州市(沙市、😡荆州)




三亚市(淮北、🐾吉阳、天涯、崖州)




廊坊市(安次、广阳)




无锡市零开销, 消除图像幻觉, 基于零空间投影挖掘正常样本特征电话-400各市区电话(梁溪、滨湖、惠山、新吴、锡山)




宜春市(袁州)




六安市(日照安、🐥裕安、叶集)




锦州市(凌海市、🤚义县、☺️黑山县、🕙凌河区、🌝市辖区、古塔区、💢北镇市、🦓太和区)




银川市(永宁县、兴庆区、西夏区、金凤区、👆贺兰县、灵武市、市辖区)




安康市(宁陕县、👌白河县、😃汉阴县、岚皋县、☦️石泉县、🐳市辖区、紫阳县、🤢汉滨区、🍅旬阳县、镇坪县、🔱平利县)




宜昌市(伍家岗区、西陵区、点军区、😷猇亭区、🦠夷陵区、🌰远安县、🕎兴山县、秭归县、😔长阳土家族自治县、👏五峰土家族自治县、🙏宜都市、当阳市、👎枝江市、🕎虎亭区)




白山市:浑江区、☝江源区。




赣州市(南康区、🕎章贡区、👽赣县区、😬信丰县、大余县、上犹县、🉑崇义县、安远县、☣️龙南县、⛔️定南县、全南县、宁都县、🤲于都县、兴国县、🦍会昌县、寻乌县、石城县、长征镇、沙洲镇、黄冈镇)




绍兴市(越城、柯桥、上虞)




杭州市(临安、🙄上城、下城、🦏江干、拱野、🤘西湖、滨江、余杭)




揭阳市(榕城、♈️揭东)




鹰潭市(余江县、市辖区、㊗️贵溪市、🕦月湖区)




邯郸市(邯山、🐊丛台、🐳复兴、♈️峰峰矿、肥乡、永年)




巴彦淖尔市(杭锦后旗、磴口县、乌拉特中旗、🉐乌拉特后旗、乌拉特前旗、🍭市辖区、⚰️临河区、💪五原县)




宜昌市(伍家岗区、西陵区、点军区、猇亭区、夷陵区、🌦远安县、兴山县、秭归县、🆔长阳土家族自治县、🤲五峰土家族自治县、🌔宜都市、😑当阳市、枝江市、虎亭区)




襄阳市(樊城区、襄州区、老河口市、🥯‍宜城市、南漳县、谷城县、保康县、🍱‍枣阳市、定南县、🉐随州市、白浪镇、城关镇、😞赵家镇、东津镇、堰头镇)




湖州市(南湖、秀洲)




马鞍山市(花山、雨山)




邢台市(柏乡县、临西县、任县、🥗‍新河县、🐅宁晋县、南宫市、🤲内丘县、清河县、🙌‍巨鹿县、🏈临城县、😗隆尧县、♍️南和县、威县、桥东区、邢台县、🙀市辖区、平乡县、桥西区、😍广宗县、沙河市)




银川市(永宁县、🔯兴庆区、🌕西夏区、✊金凤区、贺兰县、🐁灵武市、市辖区)




遵义市(汇川区、红花岗区、遵义县、🍫桐梓县、绥阳县、正安县、道真仡佬族苗族自治县、⛎务川县、👺凤冈县、🥤湄潭县、余庆县、习水县、🍚‍赤水市、✋仁怀市、土家族苗族自治县、🍛铜仁市、🦘松桃苗族自治县、万山区、黔西县)




襄阳市(襄城、😞樊城、🏈‍襄州)




长春市(南关、宽城、🦎️朝阳、二道、🤝绿园、双阳)




桂林市(象山区、叠彩区、🅱️‍七星区、🐅️临桂区、阳朔县、🦗灵川县、全州县、兴安县、灌阳县、荔浦市、🥀资源县、平乐县、恭城瑶族自治县、龙胜各族自治县、永福县)




重庆市(绵阳、🔞涪陵、渝中、🍇大渡口、🍉️江北、🤐沙坪坝、🍦️九龙坡、南岸、北培、万盛、双桥、渝北、巴南)




鞍山市(铁西区、海城市、台安县、岫岩满族自治县、立山区、♉️铁东区、🍑‍市辖区、🐂千山区)




蚌埠市(五河县、🕊️固镇县、😊市辖区、淮上区、龙子湖区、蚌山区、怀远县、禹会区)




襄阳市(襄城、🌖樊城、襄州)




太原市(小店、❎迎泽、杏花岭、尖草坪、🚸万柏林、😩️晋源)




南昌市(青山湖区、💓️红谷滩新区、☕️东湖区、西湖区、🦜青山湖区、🕊‍南昌县、进贤县、🐬安义县、湾里区、✍️地藏寺镇、🍴瑶湖镇、铜鼓县、昌北区、🤕青云谱区、💫‍望城坡镇)




宁波市(海曙、🕜️江东、🛐江北、💢北仑、🐃镇海)




甘肃省兰州市(城关区、🕉七里河区、西固区、👐安宁区、红古区、永登县、皋兰县、榆中县、兰州新区、皋兰县、🤘雁滩区)




抚顺市:🐬顺城区、新抚区、🌖东洲区、望花区。




衡阳市(珠晖、雁峰、🌨石鼓、💫蒸湘、南岳)




咸宁市(通山县、😻咸安区、崇阳县、通城县、💮市辖区、赤壁市、嘉鱼县)




新竹县(新丰乡、☸️峨眉乡、湖口乡、😃关西镇、新埔镇、🤚横山乡、尖石乡、北埔乡、竹东镇、🍂宝山乡、芎林乡、🉑五峰乡、🍘竹北市)




太仓市(城厢镇、金浪镇、🤪沙溪镇、璜泾镇、浏河镇、浏家港镇;)




南通市(崇州、港闸、通州)




宜昌市(西陵、伍家岗、🍇‍点军、猇亭、🏹️夷陵)




铁岭市:💪银州区、🍣清河区。




贵州省安顺市(西秀区、🤔平坝区、普定县、镇宁布依族苗族自治县、☢️关岭布依族苗族自治县、🕡紫云苗族布依族自治县、🤙安顺市、开阳县)




抚顺市:顺城区、新抚区、🦈东洲区、😦望花区。




济南市(历下、市中、槐荫、天桥、🕚历城、长清)




珠海市(香洲区、斗门区、🐕金湾区、🐁横琴新区、万山区、🐺珠海高新区、🍟唐家湾镇、🌏三灶镇、白石镇、🍩前山镇、💀南屏镇、🦛珠海港镇、金鼎镇)




铁岭市:🍨银州区、清河区。




南昌市(东湖区、㊙️西湖区、🍊青山湖区、红谷滩新区、南昌县、新建区、👎安义县、进贤县、🏑️湾里区、♏️昌北区)




南投县(信义乡、🥣竹山镇、🥭中寮乡、😲水里乡、🐉‍草屯镇、😓仁爱乡、名间乡、🐅埔里镇、🍊鹿谷乡、国姓乡、鱼池乡、⚰️集集镇、南投市)




榆林市(榆阳区,横山区)朝阳市(双塔区、龙城区)




上饶市(信州、广丰、广信)




益阳市(南县、资阳区、🦅‍桃江县、🕔市辖区、⚱️‍沅江市、赫山区、安化县)




南昌市(东湖区、西湖区、🔅青山湖区、红谷滩新区、南昌县、💓安义县、进贤县、经开区、青山湖区、湾里区、😿赣江新区、青云谱区、⚾️浔阳区)




临沂市(兰山区、🕊️罗庄区、🌍️河东区、沂南县、郯城县、🔯苍山县、🌨‍费县、🦒蒙阴县、临沭县、🕢兰陵县、莒南县、平邑县、沂水县、🐆临沂高新技术产业开发区)




本溪市:平山区、明山区、🥨溪湖区、南芬区。




乐山市(市中、🕜沙湾、五通桥、日照口河)




鹤壁市(淇县、👲鹤山区、♋️浚县、山城区、市辖区、淇滨区)




白山市(靖宇县、⁉️浑江区、江源区、长白朝鲜族自治县、抚松县、🥍临江市、✊市辖区)




贵州省安顺市(西秀区、平坝区、普定县、镇宁布依族苗族自治县、🌰关岭布依族苗族自治县、🕔紫云苗族布依族自治县、安顺市、😣开阳县)




九江市(莲溪、🏺浔阳)




牡丹江市:东安区(部分区域未列出)、🗡西安区和阳明区和爱民区和绥芬河市和海林市(部分区域未列出)。




东莞市(莞城、🐍南城、🥅万江、东城,石碣、🕐石龙、🌰‍茶山、😾石排、🍳企石、横沥、桥头、谢岗、🥧东坑、👇常平、🦍寮步、🐁大朗、黄江、清溪、塘厦、凤岗、☣️长安、🎾惠东、🐂厚街、🈯️沙田、道窖、洪梅、🍹麻涌、🍀中堂、🤝高步、🥮樟木头、🎋大岭山、♍️望牛墩)




通辽市(科尔沁区、🥟扎鲁特旗、🦕开鲁县、霍林郭勒市、市辖区、👇科尔沁左翼中旗、♎️库伦旗、科尔沁左翼后旗、🙏奈曼旗)




桂林市(秀峰区、🦃️象山区、七星区、雁山区、😭临桂区、🤪阳朔县、资源县、平乐县、灌阳县、😬荔浦市、灵川县、全州县、🥒永福县、♏️龙胜各族自治县、😽恭城瑶族自治县):😧




嘉兴市(海宁市、⚜️市辖区、🐑秀洲区、😈平湖市、🥭桐乡市、南湖区、♨️嘉善县、海盐县)




常熟市(方塔管理区、😬虹桥管理区、琴湖管理区、🤜兴福管理区、谢桥管理区、大义管理区、莫城管理区。)宿迁(宿豫区、✅宿城区、💙湖滨新区、洋河新区。)




台州市(椒江、☮️黄岩、🍠️路桥)




泰州市(海陵区、👏高港区、姜堰区、兴化市、♒️泰兴市、😨靖江市、🍬扬中市、丹阳市、泰州市区、姜堰区、🥧️海安镇、周庄镇、🥛东进镇、世伦镇、🦄‍青龙镇、杨湾镇、❣️️马桥镇)




牡丹江市:东安区(部分区域未列出)、🍛️西安区和阳明区和爱民区和绥芬河市和海林市(部分区域未列出)。




雅安市(汉源县、市辖区、🥧名山区、🖤石棉县、🎱荥经县、宝兴县、天全县、👩芦山县、🕝雨城区)




南充市(顺庆区、☁️高坪区、🌍‍嘉陵区、🉐‍南部县、🍄营山县、蓬安县、‼️仪陇县、🍳西充县、🖐阆中市、抚顺县、阆中市、♏️‍南充高新区)




郴州市(宜章县、😂嘉禾县、🐉永兴县、🧂汝城县、市辖区、桂东县、北湖区、桂阳县、苏仙区、✋临武县、安仁县、资兴市)




山南市(错那县、琼结县、🌯洛扎县、❇️贡嘎县、🌩️桑日县、🍤曲松县、♈️浪卡子县、💪市辖区、隆子县、🍁加查县、🐅扎囊县、乃东区、措美县)




南昌市(青山湖区、红谷滩新区、东湖区、🖐西湖区、青山湖区、南昌县、进贤县、安义县、🥢湾里区、🕚地藏寺镇、瑶湖镇、🤢铜鼓县、😼昌北区、青云谱区、望城坡镇)




株洲市(荷塘、芦淞、石峰、♊️天元)




辽阳市(文圣区、😛宏伟区、👇弓长岭区、太子河区、✊灯塔市、🌵️辽阳县、白塔区、广德镇、双台镇、桥头镇、长春镇、🖕合德镇、🍲兴隆镇、安平镇、辛寨镇、🕑黄土岭镇)




舟山市(市辖区、😥定海区、嵊泗县、普陀区、🔱️岱山县)




玉溪市(澄江县、🤒江川县、易门县、华宁县、新平彝族傣族自治县、🤖元江哈尼族彝族傣族自治县、♍️通海县、抚仙湖镇、红塔区、♋️龙潭街道、南北街道、白石街道)




三明市(梅列、🌸三元)




柳州市(柳北区、柳南区、柳江县、柳城县、🦇️鹿寨县、融安县、🥍融水苗族自治县、三江侗族自治县、城中区、鱼峰区、柳东新区、柳市镇)




保定市(莲池、竞秀)




德州市(陵城区、乐陵市、宁津县、庆云县、🐘️临邑县、👆平原县、😔武城县、夏津县、禹城市、德城区、🥡禹城市、🌮齐河县、⭕️开封县、双汇镇、🕑东风镇、商丘市、阳谷县、😕共青城市、城南新区)




昆山市(昆山开发、高新、🐓综合保税)




许昌市(魏都)




济南市(历下、市中、🙏槐荫、💞️天桥、🐘历城、长清)




安康市(宁陕县、🤜白河县、汉阴县、😊️岚皋县、石泉县、市辖区、紫阳县、☦️汉滨区、🕓️旬阳县、镇坪县、平利县)




常州市(天宁、🙌钟楼、新北、武进、日照坛)




郑州市(中原、二七、管城、日照水、⛎上街、惠济)




中卫市(沙坡头区、海原县、中宁县、🍤市辖区)




金华市(武义县、东阳市、磐安县、浦江县、♻️‍兰溪市、🖕永康市、婺城区、义乌市、😑市辖区、金东区)




长沙市(芙蓉、✌天心、岳麓、🍀开福、😋雨花、望城)




葫芦岛市:龙港区、⁉️南票区、🐉连山区。




沧州市(新华区、运河区、🤤沧县、青县、🉑东光县、海兴县、盐山县、肃宁县、南皮县、🤚吴桥县、献县、😲‍孟村回族自治县、河北沧州高新技术产业开发区、沧州经济技术开发区、😩任丘市、黄骅市、🕔河间市、泊头市)




邢台市(邢台县、🐖南和县、清河县、临城县、🥤广宗县、威县、宁晋县、♉️柏乡县、🦅任县、🥧内丘县、南宫市、沙河市、任县、邢东区、邢西区、🐅平乡县、🐯️巨鹿县)




巴彦淖尔市(杭锦后旗、磴口县、❗️乌拉特中旗、乌拉特后旗、☁️乌拉特前旗、🍭市辖区、临河区、五原县)




连云港市(连云、海州、赣榆)




淮安市(淮阴区、清河区、淮安区、🥝涟水县、🦒洪泽区、🍢️盱眙县、金湖县、楚州区、😮️淮安区、📴海安县、🥂亭湖区、⚰️淮安开发区)




玉林市(玉州)




柳州市(城中、💫鱼峰、✊柳南、柳北、😝柳江)




新竹县(新丰乡、🍷峨眉乡、🤘湖口乡、关西镇、新埔镇、👏横山乡、尖石乡、🍨北埔乡、🕎竹东镇、宝山乡、🍰芎林乡、五峰乡、竹北市)




临沂市(兰山、😱罗庄、河东)




连云港市(连云、🌼海州、🤤赣榆)




廊坊市(安次、广阳)




赣州市(南康区、🤛‍赣县区、于都县、兴国县、🍕章贡区、龙南县、大余县、🌙信丰县、安远县、全南县、😟宁都县、🧂定南县、上犹县、🍩崇义县、🎂南城县)




玉溪市(澄江县、江川县、通海县、👈华宁县、🤧易门县、峨山彝族自治县、抚仙湖镇、新平县、元江哈尼族彝族傣族自治县、红塔区、🍜玉溪县、🌵敖东镇、🥡珠街镇)




宜昌市(宜都市、🙈长阳土家族自治县、当阳市、五峰土家族自治县、西陵区、兴山县、😨夷陵区、远安县、点军区、🕉枝江市、👈猇亭区、秭归县、👊伍家岗区、🐓市辖区)




绵阳市(江油市、🍏北川羌族自治县、梓潼县、市辖区、盐亭县、涪城区、安州区、🐦三台县、🍹平武县、游仙区)




湘潭市(雨湖、🤙岳塘)




漳州市(芗城、🆎龙文)




嘉义县(朴子市、⚔️‍番路乡、民雄乡、竹崎乡、梅山乡、义竹乡、大林镇、⛎布袋镇、新港乡、太保市、六脚乡、🐀大埔乡、⛸鹿草乡、🤟️溪口乡、水上乡、✝️中埔乡、阿里山乡、🥐东石乡)



人民日报钟声:着眼中美经贸大局 坚持平等互惠原则经双方商定,中美将在西班牙马德里举行会谈。双方将讨论美单边关税措施、滥用出口管制及TikTok等经贸问题。中方将一如既往坚定维护自身正当权益和多边贸易体制,希望美方同中方相向而行,以平等对话协商增进互信、减少误解、加强合作,为构建开放型世界经济承担应尽之责

发布于:北京市
评论
全部
还没有人评论过,快来抢首评
抢首评