总体国家安全观视域下AIGC介入科学传播的新型风险与安全治理

作者：林晨卉

摘要：本研究从总体国家安全观视角，系统剖析AIGC在科学传播领域应用引发的新型安全风险及其治理机制。研究表明，AIGC 介入科学传播已超越技术应用范畴，成为影响国家综合安全的重要变量，风险呈现多维度、传导性和复杂性特征。通过理论分析与案例研究，识别出四类相互关联的新型安全风险：价值导向风险表现为算法“价值对齐”缺失导致的隐性意识形态渗透；知识安全风险体现为模型幻觉、数据偏差和技术泄密对科学传播真实性的威胁；社会治理风险反映在科学权威弱化、公众认知退化及责任主体模糊带来的治理困境；国际竞争风险凸显为科学传播成为国际“认知战”新领域及技术标准博弈加剧的安全挑战。本文提出构建“审查-技术-责任-规则”四维协同治理框架，建议将AIGC科学传播风险治理纳入国家总体安全战略，坚持科技安全与意识形态安全双重保障。

关键词：生成式人工智能；科学传播；总体国家安全观；风险治理

一、引言

数字化时代，人工智能技术飞速发展，生成式人工智能（AIGC）异军突起，在科学传播领域的应用愈发广泛且深入。人工智能所具有的高度自主性和强大的学习能力，提升了操作效率及便捷性，不仅赋能科技传播模式向高效化与精准化变革，还通过赋权多元传播主体，重塑了科技传播的权力关系结构，推动了民主化与去中心化进程。[1]然而，AIGC在科学传播中的应用，虽潜力巨大，但其自身蕴含的海量性、隐蔽性、动态性也为科学传播带来了诸多潜藏风险。

党的二十大报告指出，要坚持创新在我国现代化建设全局中的核心地位。其中，科学技术是推动创新发展的第一生产力，科学普及更是实现创新发展的重要基础性工作。[2]因此，科学传播事关科技发展方向、公众理性认知和社会稳定，是国家安全体系的重要维度。总体国家安全观作为一个系统完整的理论体系，将科技安全、意识形态安全等置于关键位置的同时强调各安全维度的协同保障。[3]故而，在科学传播领域引入具有“黑箱”特性的AIGC，其潜在风险必须从总体国家安全观的高度进行审视。

当前，学界对AIGC相关风险的研究已取得一定成果。有研究立足总体国家安全观视角，对人工智能安全风险治理展开探讨，剖析了风险识别逻辑与治理框架的缺陷，提出完善路径[3]；也有基于算法审计方法，实证分析了AIGC科普内容生产的话语策略偏向，为识别潜在风险提供线索[4]。然而，针对AIGC介入科学传播所带来的新型风险研究仍存在明显不足。多数研究聚焦于AIGC一般性风险，未能紧密围绕科学传播场景，尤其是AIGC生成的与科学相关内容所特有的风险。同时，大量研究呈现出“问题-对策”的简单线性结构，缺乏对风险问题进行深度剖析的理论框架，难以全面、系统地理解和把握风险的特性、危害及其与国家安全各维度的深层关联。

本研究正是基于这样的背景和现有研究的不足而展开。具体聚焦于以下关键问题：首先，探究AIGC在科学传播中的风险性质与表现有何独特性，深入挖掘其区别于其他领域风险的内在特征；其次，分析这些风险如何与总体国家安全观中的科技安全、意识形态安全、社会信任安全和国际安全等维度紧密关联，明确新型安全风险的具体作用机制和传导路径；最后，致力于在制度设计层面探寻构建有效的安全治理路径，为应对AIGC介入科学传播的风险提供切实可行的方案，以期为国家在科技传播领域的安全治理提供科学依据和决策参考。

二、风险识别：AIGC时代下科学传播面临的安全风险独特性

（一）信息污染风险：科学知识场域的“杂质混入”

不同于一般的内容风险，AIGC的科学传播内容依赖于输入的数据质量和规模，若在输入或抓取的训练数据中含有一定片面的、错误的科学信息，以其对数据的敏感性，便会批量生成“带毒的科普内容”，哪怕是微小的数据偏差都容易引发传播效果的链式错误。同时，基于出众的自动化处理能力与海量语料生成特性，AIGC的科普信息哪怕是内容带有不少错误，也会通过自主生成的、实际并不存在的图文视频、参考文献等进行包装佐证，带有高度的伪真实性。[5]在一项兰德公司与卡内基梅隆大学的研究者联合进行的调查中，曾发现27%-50%的人是无法区分真实视频和深度伪造视频的。[6]因此，当这些高伪真的科普杂质大量混入科学知识场域，便会导致传播的科学知识质量良莠不齐，破坏科学知识的纯净性和可信度。

（二）传播偏向风险：多元视角表达的“失衡倾斜”

AIGC的算法往往是基于特定的数据样本和模型架构进行训练的。作为AIGC的运行基石，其投入的数据库并非全领域平均覆盖，而可能更倾向于传播某些特定领域、特定观点的科学知识，而忽视其他同样重要的科学领域或不同的学术观点。因此，虽然算法本身并无偏见,但由于其训练数据可能因来源的单一性或选择性收集而包含偏见[7],其输出很可能继承这些偏见，导致其在科学传播中出现传播偏向。在美国人工智能公司Anthropic今年发布的《An-thropic经济指数》报告中，研究者基于数百万次匿名对话，深入剖析了各行业的AI使用情况，发现AI在软件开发、技术写作和业务分析等领域已被广泛应用，但在医疗保健、交通运输和农业等体力劳动密集型领域中的使用率却较低。[8]而AI技术应用在不同领域间的不均衡分布，也可能进一步加剧科学传播领域的知识鸿沟和视角单一化问题。

（三）跨文化冲突风险：全球科学传播的“价值对抗”

AIGC系统的训练数据往往内嵌特定文化语境下的认知框架与价值取向，这种技术特性使其生成的科学内容不可避免地带有文化编码的痕迹。[9]当此类内容跨越文化边界进行传播时，极易引发认知偏差、文化误读乃至价值冲突，形成潜在的跨文化风险传导机制。HuggingFace的SHADES项目研究证实，主流AI语言模型存在显著跨文化偏见。[10]该研究通过16种语言测试300余条刻板印象，发现模型不仅再现“金发女郎不聪明”等英语地区偏见，在阿拉伯语、西班牙语等环境中也表现出“女性喜爱粉色”“南亚人保守”等特定文化偏见，存在将局部偏见普遍化的“文化漂移”现象。

（四）法理失范风险：法律与伦理的“双重危机”

在AIGC技术快速发展的背景下，科学传播领域正面临法律规制与伦理约束的双重挑战，形成法理失范的系统性风险。[3]从法律层面看，现行法律框架难以有效应对AIGC带来的新型法律纠纷。2025年6月，北京市海淀区市场监管局查处某公司利用AI技术冒用央视知名主持人名义发布虚假广告案，成为运用《广告法》规制AI换脸技术的首次实践。[11]而从伦理维度看，AIGC技术的滥用也正在突破科学传播的伦理底线。2025年上半年曝光的苏黎世大学AI说服研究事件中，研究人员在Reddit平台秘密部署AI机器人伪装成性侵受害者、创伤咨询师等角色进行观点操纵实验，被批评为“不正当且极不道德的实验”。[12]与此同时，当下也有多起学术论文因AI生成内容存在严重错误被撤稿。这些行为不仅违背科学伦理，更对学术诚信造成严重冲击。

三、风险解构：总体国家安全观下AIGC对科学传播的风险冲击

（一）意识形态与价值风险：AI“价值对齐”缺失下的隐患

在总体国家安全观中，意识形态安全是维护国家稳定和文化独立性的关键。但作为维护国家稳定和文化主体性的核心要素，意识形态安全正面临AIGC技术带来的结构性挑战。[13]AIGC系统的“价值对齐”机制缺失，使其在科学传播过程中成为意识形态渗透的潜在载体，AIGC通过对海量数据的学习形成特定的价值取向，在科学知识生产与传播中以隐性方式输出这些价值偏好。

从国际传播的视角分析，AIGC在处理具有全球争议性的科学议题时，可能成为特定国家或利益集团推行价值理念的工具。在全球气候治理、基因编辑技术伦理等涉及发展权与价值观冲突的科学传播领域，AIGC生成的科普内容可能暗含特定的意识形态倾向，从而影响公众对科学议题的客观认知。[13]这种价值输出的隐蔽性，使得传统的意识形态防御机制难以有效应对，构成对国家意识形态安全的新型挑战。

更深层次的风险在于，AIGC技术可能削弱国家在科学传播领域的话语主导权。通过算法推荐机制和内容生成能力，境外势力可以利用AIGC技术传播符合其战略利益的科学叙事，侵蚀本土的科学文化传统和价值观念。[13]这种技术介导的意识形态渗透，不仅影响公众对科学知识的获取与理解，更可能动摇国家意识形态安全的根基，对国家文化安全构成长期威胁。

（二）科技安全风险：AIGC传播失序对科研根基的冲击

科技安全作为国家综合安全体系的重要组成部分，在AIGC技术深度介入科学传播的背景下面临多重挑战。从技术本质看，AIGC的传播失序可能对国家科研体系的根基产生系统性冲击，这种风险具有技术内生性和传导放大性的双重特征。

AIGC是基于概率统计的生成机制，在缺乏有效事实核查的情况下，可能产生看似合理实则错误的科学内容。[7]这种模型幻觉现象是对科学知识真实性的直接威胁，“算法制造的知识”一旦进入科学传播渠道，可能误导科研方向，浪费国家科研资源，甚至在关键科技领域造成决策失误。更为严峻的是，AIGC生成的虚假科学信息具有高度仿真性，传统的信息甄别机制难以有效识别，形成科技安全的认知漏洞。

数据依赖特性导致的知识偏差问题同样不容忽视。AIGC系统的输出质量高度依赖训练数据的完整性和代表性，在科学传播中可能将数据偏差放大为知识偏差。当训练数据存在地域局限性、时间滞后性或样本偏差时，生成的科学内容会呈现相应的知识扭曲，影响科学知识的客观性和普适性。这种技术介导的知识生产模式，可能导致国家在特定科学领域的认知偏差，削弱科技创新的基础能力。

此外，最为直接的科技安全风险来自AIGC系统可能引发的技术泄密。在科学传播过程中，AIGC系统若处理不当，可能泄露国家未公开的科研成果、关键技术参数或敏感科技信息。[14]这种技术泄密具有隐蔽性强、传播速度快、影响范围广的特点，可能使国家在关键科技领域的竞争优势丧失，对国家科技安全利益造成严重损害。

（三）社会信任与治理风险：AIGC搅乱科学传播秩序

社会信任与治理安全是国家稳定运行的基石。AIGC在科学传播中的表现给社会信任和治理带来诸多风险。

科学权威体系的弱化直接冲击社会信任基础。传统的科学权威建立在专业训练、同行评议和学术规范的基础之上，而AIGC技术的普及使得科学内容的生产与传播主体多元化，专业边界模糊化。[7]这种去中心化的传播格局，在缺乏有效质量控制机制的情况下，可能导致科学传播领域的“权威稀释”，降低公众对科学知识的信任度。长期来看，这可能动摇科学作为社会共识基础的地位，影响国家治理的科学决策基础。

科学素养异化现象反映出更深层次的治理挑战。AIGC技术提供的便捷化、个性化科学内容获取方式，可能导致公众过度依赖技术工具，丧失独立思考和批判性思维能力。这种“工具化依赖”不仅影响公众科学素养的提升，更可能导致认知能力的退化，为反科学思潮和伪科学观念提供传播空间。

内容生成主体模糊导致的责任真空问题，也将给科学传播治理带来制度性挑战。AIGC生成内容的复杂性和匿名性，使得传统的责任认定机制难以适用，形成治理盲区。[15]当出现科学传播失序、知识产权纠纷或虚假信息传播等问题时，责任主体难以明确，监管措施难以落实，治理效果大打折扣。这种治理困境可能导致科学传播领域的失序状态长期存在，影响国家治理体系的有效运行。

（四）国际竞争与安全风险：AIGC下的国际科学传播博弈

在全球化背景下，国际竞争与安全风险在AIGC技术重塑国际科学传播格局的过程中日益凸显。科学传播不再仅仅是知识共享的渠道，更成为国家间科技竞争和软实力较量的重要场域。[16]

科学传播正演变为国际“认知战”的新战场。各国越来越重视利用AIGC技术塑造有利于自身的国际科学形象，争夺国际科技话语权。通过算法优化、内容定制和精准推送，AIGC技术可以高效传播特定的科学叙事，影响国际社会对各国科技实力和发展模式的认知。[17]这种技术介导的国际传播竞争，不仅关乎国家形象塑造，更直接影响国际科技合作的格局和走向，对国家外部安全环境产生重要影响。

技术标准与规则制定的国际博弈加剧了国家科技安全挑战。在AIGC领域，技术领先国家凭借其先发优势，试图主导国际标准和规则的制定，将自身技术体系和价值理念转化为国际规范。这种“技术霸权”可能导致技术标准的不公平性和排他性，使发展中国家在国际科学传播中处于不利地位。[17]更为严峻的是，某些技术标准可能隐含安全后门或技术陷阱，对国家科技安全构成潜在威胁。

国际科学传播秩序的重构过程中，国家间的科技竞争日趋激烈。AIGC技术为科学知识的跨境传播提供了新的工具和渠道，但同时也加剧了科技信息的不对称性和依赖性。在这种新的传播格局下，如何维护国家在国际科学传播中的话语权，保障科学信息的安全流动，成为各国面临的共同挑战。这种国际竞争态势，不仅影响国家的科技发展环境，更关系到国家在全球科技治理体系中的地位和影响力。

四、结语

本文基于总体国家安全观的理论框架，系统探讨了AIGC技术介入科学传播领域所引发的新型安全风险及其治理路径。研究表明，AIGC在科学传播中的应用已从单纯的技术工具升级为影响国家综合安全的重要变量，其风险呈现出复杂性、隐蔽性和传导性的显著特征。

从风险类型来看，AIGC介入科学传播主要产生四大类新型安全风险：意识形态与价值风险体现为AI“价值对齐”缺失导致的隐性价值输出和意识形态渗透；科技安全风险表现为模型幻觉引发的虚假信息传播、数据依赖导致的知识偏差放大以及敏感信息泄露；社会信任与治理风险反映在科学权威削弱、公众信任下降、科学素养异化以及责任主体模糊导致的治理困境；国际竞争与安全风险则凸显为科学传播成为“认知战”新战场以及技术标准博弈加剧的国家科技安全挑战。这四类风险相互交织、彼此强化，共同构成了AIGC时代科学传播领域的安全风险图谱。

在治理路径构建方面，本文提出应将AIGC科学传播风险治理纳入总体国家安全战略体系，坚持“科技安全+意识形态安全”双维度统筹的治理逻辑。通过借鉴欧盟的立法刚性、美国的标准引领、韩国的“产业-监管”协同、日本的责任细化以及巴西的主权导向等国际经验，结合中国制度优势，构建“审查-技术-责任-规则”四位一体的治理体系。

但本研究也存在一定局限与不足。首先，作为一项理论探索性研究，本文主要基于现有文献和理论框架进行分析推演，缺乏大规模实证数据的充分支撑；其次，由于AIGC技术发展迅速，相关政策实践也在不断演进，本文提出的风险分析和治理建议需要在实践中持续检验和完善；再次，国际比较部分对非西方国家和地区的治理经验关注相对不足，未来需要进一步拓展研究视野；最后，治理路径的具体实施机制和效果评估还需要更深入的实证研究。

未来研究可在以下方向进一步深化：一是开展基于大规模样本的实证研究，验证本文提出的风险分析框架和治理路径的有效性；二是深化国际比较研究，关注发展中国家在AIGC科学传播治理方面的经验和挑战；三是探索技术手段在风险防控中的应用，如开发基于AI的科学信息真伪识别系统；四是针对不同科学领域（如医学、环境科学、人工智能等）的AIGC应用开展专门研究，制定差异化的治理策略。

在智能革命深入发展的时代背景下，科学传播的安全治理不仅关乎国家科技安全和意识形态安全，更关系到人类知识生产体系的健康发展。本文的研究仅仅是一个起点，未来还需要学术界、产业界和政策制定者共同努力，持续探索AIGC时代科学传播安全治理的新路径、新方法和新模式。

参考文献

[1] 科学传播模式演变与科技创新交互机制的探析和思考_董纪昌[Z].

[2] 基础研究与科学传播相互作用探析_任福君.pdf[Z].

[3] 总体国家安全观视域下人工智能安全风险治理研究_皮勇[Z].

[4] 生成式人工智能科普内容生产的话语策略偏向研究——基于算法审计的方法_于舰[Z].

[5] DOSSC,MONDSCHEINJ,SHUD,等.Deepfakesandscientificknowledgedissemination[J/OL].ScientificReports,2023,13(1):13429.DOI:10.1038/s41598-023-39944-3.

[6] Doss等-2023-Deepfakesandscientificknowledgedissemination.pdf[Z].

[7] 生成式人工智能时代下科技传播的机遇与挑战——基于科技传播体系的分析_王硕2[Z].

[8] Economic-Index.pdf[Z].

[9] 总体国家安全观视域下大语言模型的语言安全风险逻辑_刘佳妮[Z].

[10] Mitchell等-SHADESTowardsaMultilingualAssessmentofStere.pdf[Z].

[11] 北京查处首例滥用AI技术发布虚假广告案[EB/OL].[2025-11-10].https://www.samr.gov.cn:7280/ggjgs/tpxw/art/2025/art_4b6f8322fe664db7818374ac5896ac68.html?lang=zh-CN&open_in_browser=true.

[12] AI“隐身”参与公共讨论引发伦理争议-中国社会科学网[EB/OL].[2025-11-10].https://www.cssn.cn/skgz/bwyc/202509/t20250918_5916193.shtml.

[13] 总体国家安全观视域下的算法安全及其风险治理_张龙辉[Z].

[14] 总体国家安全观下科技安全领域国家竞争情报研究_徐宗煌[Z].

[15] 参与式伦理规约：人工智能时代的风险挑战及其治理逻辑构建_张成岗[Z].

[16] 人工智能的国际安全挑战及其治理_朱荣生[Z].

[17] 研析国家科技安全机理积极维护国家科技安全_游光荣[Z].

[18] PDF.pdf[Z/OL].[2025-11-10].https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689.

[19] TheGeneral-PurposeAICodeofPractice.pdf[Z/OL].[2025-11-10].https://digital-strategy.ec.europa.eu/en/node/13953/printable/pdf.

[20] HOUSETW.FACTSHEET:PresidentBidenIssuesExecutiveOrderonSafe,Secure,andTrustworthyArtificialIntelligence[EB/OL].(2023-10-30)[2025-11-10].https://bidenwhitehouse.archives.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/.

[21] 国际人工智能技术预见多案例比较分析：科学公共参与的视角_杨恒[Z].

[22]Przybocki-ResponsetoRequestforInformation(RFI).pdf[Z/OL].[2025-11-10].https://www.nist.gov/system/files/documents/2021/09/16/ai-rmf-rfi-0091.pdf?lang=zh-CN&open_in_browser=true.

[23] 中央社訊息平台.韓國通過全球第二部「人工智慧基本法」，提高國家人工智慧競爭力|中央社訊息平台[EB/OL].[2025-11-10].http://www.cna.com.tw/postwrite/chi/391831.

[24] 论设计监管：数字时代科技治理的新范式_郭小东[Z].

[25] 总体国家安全观视域下数据安全治理的路径选择_李晓东[Z].

[26] 人工知能関連技術の研究開発及び活用の推進に関する法律|e-Gov法令検索[EB/OL].[2025-11-10].https://laws.e-gov.go.jp/law/507AC0000000053#Mp-Ch_4-At_20.

[27] 生成式人工智能服务管理暂行办法_中央网络安全和信息化委员会办公室[EB/OL].[2025-11-10].https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm.

[28] IA_para_o_Bem_de_Todos.pdf[Z].

[29] 国家人工智能产业综合标准化体系建设指南.pdf[Z].