生成式人工智能的意识形态安全挑战与应对

生成式人工智能是人工智能领域的重要分支，是一种基于算法和模型进行信息加工、处理，并根据用户输入资料生成具有内在逻辑性和连贯性新内容的创新技术。生成式人工智能的迅猛发展正在深刻重塑信息生产与传播范式，在赋能社会创新的同时，也因其强大的内容生成与精准推送能力，给意识形态安全带来了前所未有的系统性挑战。习近平总书记强调指出，“面对生成式人工智能等新技术的涌现，要统筹好发展和安全”。深刻分析生成式人工智能的双重属性，积极应对生成式人工智能带来的意识形态安全挑战，在规避风险中积极探索生成式人工智能赋能意识形态建设路径，是提升智能时代意识形态引领力的迫切需要。

理性认知：

生成式人工智能的意识形态双重属性

生成式人工智能的产生，实现了人工智能从“分析式”向“生成式”的更新迭代，使人工智能呈现了时代创新的技术图景。就意识形态建设而言，生成式人工智能在知识生产和信息传播过程中具有助力传播与风险并存的双重属性。

赋能主流意识形态建设的属性

当前生成式人工智能正以前所未有的速度重塑着全球范围内的技术生态。以ChatGPT、DeepSeek这类大语言模型为典型代表，在它们与多模态生成技术不断融合并实现突破的背景下，人类第一次拥有了能以较高质量、自动化方式且无需过高成本就能生产出文本、图像、音视频等多种形态内容的通用工具。这种工具的应用场景延伸到意识形态建设领域，对社会主义主流意识形态的内容创作、知识传播、现状分析、路径探索等，具有十分重要的现实意义，可以为社会主义主流意识形态建设提供强大的技术支撑，进而为社会主义主流意识形态建设效率提升及创新体系建设提供强大的推动力量。

危及主流意识形态建设的属性

在技术实现快速突破的过程中，信息治理的结构性难题亦日益凸显。从马克思主义政治经济学的批判角度分析发现，生成式人工智能的运行机制内嵌着算法霸权与数据垄断的逻辑，具备系统性重构集体记忆与历史叙事的潜在能力。深度伪造等技术作为这种潜在能力的具体体现，不仅反映出资本主义“技术拜物教”的延续，还常常在人们没有察觉的情况下，承载并传播着西方中心主义的认知框架与话语体系。生成式人工智能依靠“指令—输出”这种高效交互的模式，确实让人们获取和处理信息的效率有了明显提升，但其底层的算法通常会根据用户之前已经形成的偏好进行持续的内容推送。这种推送机制很容易造成同类信息不断积累，形成阻碍人们接触多元观点的认知“壁垒”，让用户慢慢被困在不断强化自身既有认知的“信息茧房”里。长此以往，不仅损害公共讨论的共识基础，还可能对主流意识形态在传播过程中发挥的作用以及社会的安全稳定，产生深层次且较为隐蔽的威胁。

风险生成：

生成式人工智能对意识形态安全的挑战

生成式人工智能存在的AIGC幻觉、算法殖民、选择性欺骗和不稳定等应用风险，给社会主义主流意识形态信息传播、价值认同和范式重构带来巨大挑战。

信息失真：消解主流意识形态信任根基

信任是主流意识形态认同得以确立的基石，并且这份信任深深植根于社会成员对共同事实以及真相的认知与接纳之中。生成式人工智能的兴起，恰好在这一根本环节上对主流意识形态信任构成了深层挑战。生成式人工智能的显著特征，除了能以高度拟人化的方式实现实时交互外，更通过渐进式且带有引导性的对话策略，并在与用户的持续互动中逐步让用户产生心理上的亲近感和认知层面的依赖。在这个过程中，用户常常会不自觉地放松对意识形态信息的警惕，同时降低对所接触内容真实性和价值导向的批判性审视，最终在没有明显察觉的情况下接纳那些嵌入对话框架的观点与立场。这种交互模式的影响远不止于个体认知层面，更延伸至意识形态塑造的核心机制。以前制作一段足以乱真的虚假视频或一篇逻辑严密的谣言文章，需要专业团队和各环节的成本付出，而如今借助生成式人工智能，单一用户可以批量化生成高质量的政治谣言，甚至捏造“历史档案”。生成式人工智能通过看似中立、自然的交流，可持续输出具有特定倾向的叙事框架与价值判断，长期渗透将潜移默化地影响用户的价值观念、历史认知与政治认同。若该技术被有意识地运用于意识形态引导，它能够以个性化、隐蔽化的方式，解构既有共识，动摇共同信念，进而侵蚀社会主流意识形态的情感基础与认同根基。因此，生成式人工智能不仅是一种信息工具，更是一种作用于意识形态建构与变迁的“软性”技术力量，其潜在影响深远而复杂。

定向推送：冲击社会主义主流价值观念

生成式人工智能拥有精准把握社会动态并对其进行定向干预的能力，这也使其存在对意识形态安全构成深层威胁的可能。正是这种能力使得人工智能不再只是被动提供信息的工具，而且转变为能够主动感知社会态势分析相关情况并且参与到社会意识塑造过程中的“智能体”。一方面，生成式人工智能通过持续的人机交互过程收集大量包含用户观点、情感倾向以及价值判断的文本数据，并借助这些数据构建起实时的社会心态监测系统。这些数据并不是孤立存在的，它们会与社会事件、舆论热点以及群体矛盾形成动态关联。在此基础上，通过对数据的处理与分析，识别并挖掘出民意变化的早期信号、社会矛盾的积聚点、不同群体对特定议题的态度分化，以及潜在的思想倾向与价值偏好。另一方面，基于对社会动向的精准洞察，生成式人工智能可实施高度靶向的价值观干预。一旦识别出特定群体在某一社会议题或思想领域存在的认知差异、情感脆弱点或信息盲区，人工智能便能够自动生成与之相对应的定制化内容。这种干预并非泛泛的“宣传”，而是建立在数据分析基础上的“精准解构”，有选择地削弱主流叙事中的关键逻辑链，放大非主流观点中的情感共鸣点，从而在特定人群中制造认知摇摆、稀释共识基础。

范式重构：挑战主流意识形态建设能力

社会主义主流意识形态是系统反映社会经济形态、政治制度与文化模式的思想体系，直接决定党、国家和民族举什么旗、走什么路的政治方向与价值追求。生成式人工智能背景下，主流意识形态范式重构直接关乎领导权、管理权和话语权。以大模型和多模态系统为代表的生成式人工智能，将深刻重塑当代社会的精神生产方式和舆论生成机制，其对意识形态安全的影响已从一般技术变量演变为关乎国家主权、安全与发展的战略性问题，挑战主流意识形态建设能力。增强社会主义主流意识形态建设主体、活动、过程、规律、特点、方法与管理等领域特定事物或现象的学理认识，包括创新理论、主流价值观念、建设主体、创新路径等，进行范式重构，需要充分运用以ChatGPT与DeepSeek为代表的大语言模型，促进实现人机协同的知识创生，充分体现“归纳”与“演绎”两种知识生产模式的思维逻辑，为社会主义主流意识形态范式重构提供技术支撑。党的二十届三中全会指出，要“加快适应信息技术迅猛发展新形势”与“完善生成式人工智能发展和管理机制”，进一步彰显了应对主流意识形态建设范式重构的重要性和紧迫性。生成式人工智能驱动下，我们既要充分运用生成式人工智能推动变革的力量，也需要研究、规避、防范与化解新技术应用带来的现实挑战。

体系构建：

生成式人工智能意识形态挑战的应对之策

坚持技术赋能与规范引领相结合，积极创新社会主义主流意识形态思想引领与信息传播模式，在增强社会协同与建设能力中，构建应对生成式人工智能意识形态挑战的对策体系。

强化技术赋能与法治保障

坚持“以技术管技术”，通过生成式人工智能推动良性互动关系的形成必须坚持发展自主技术，通过加大对深度合成内容检测、人工智能生成内容溯源、数字水印与可信标识等关键监管技术的研发投入和政策支持，做到“可追溯、可识别”。同时，在技术源头层面，鼓励平台企业将最先进的检测技术嵌入内容审核流程，建立人机协同审核机制，提升对违法违规内容的发现和处置效率，确保网络意识形态的安全与掌握工作的主动权。在技术赋能的同时，不能脱离法治保障。必须加快构建更加细化的法律规范体系，推动生成式人工智能治理入法入规，明确生成式人工智能服务提供者、模型训练者、内容生成使用者等各方的主体责任，特别是平台的前端治理责任，建立全链条监管规则，对用于意识形态渗透的恶意行为设定明确的法律红线与严厉的惩戒措施，使监管治理于法有据。

创新主流意识形态传播与引领模式

主流意识形态作为引领社会发展的核心支柱，在信息传播范式深刻变革、内容生成日趋复杂的背景下，其传播工作决不能停留于被动应对，而必须主动依托新技术实现自我迭代与创新。面对传播效率与信息秩序的双重挑战，各相关责任主体应凝聚共识、强化创新驱动，积极利用人工智能技术为思想文化阵地赋能，着力构建具有时代适应力的思想政治工作话语体系。具体而言，需系统建设富含主流价值内涵的优质语料库，深化对生成式人工智能技术逻辑与传播机制的研究，持续提升思想政治工作队伍运用新技术、驾驭新场域的能力。应积极探索契合人工智能时代特征的思想政治工作新路径、新表达、新机制与新形态，在赓续中华文脉的基础上书写当代精神篇章，不断丰富人民群众的精神文化生活，切实增强国家文化软实力与中华文化的国际影响力。在此基础上，应着力建设智能化、主导型的主流舆论平台，支持主流媒体凭借其内容优势、品牌公信力与传播基础，打造技术自主、算法向善的新型传播平台。通过优化内容推荐机制，赋予主流价值内容更高的算法权重，有效打破“信息茧房”与“回声室”效应，实现主流声音的精准分发与高效触达。最终，推动构建以主流平台为中枢、各类商业平台协同共治的网络传播新生态，牢牢掌握在算法驱动时代下的舆论引导权与意识形态主动权。

深化社会协同与能力建设

意识形态安全的最终防线在于社会与人心，需要在加强党的全面领导的前提下，构建多元共治格局并提升全民抵御能力。努力发挥多主体治理优势，建立党委领导、部门履责、行业自律、社会监督的协同治理机制。在具体分工上予以进一步的细分与明确，由党委、政府负责制定规则与监管，相关思想文化及人工智能管理部门做好责任履行义务，同时鼓励用户和民间组织参与监督，形成各方数据共享、风险共研、行动协同的治理网络。与此同时，须注重在全社会范围内提高数字媒介意识形态宣传的力度，全面提升全民数字素养与媒介素养。通过公共宣传、学校教育、社区活动等多种渠道，普及生成式人工智能的基本原理与潜在风险，重点培养公众对网络信息，特别是人工智能生成内容的批判性思维、辨识能力和免疫能力，筑牢抵御意识形态渗透的社会心理防线。

（作者潘道广为常州大学瞿秋白政府管理学院副研究员，万婕为中共盐城市委党校教师；本文为江苏省高校哲学社会科学研究重大项目《新形势下我国防范化解意识形态风险研究》2021SJZDA087的阶段性成果）

 

（《人民周刊》2025年第23期）

（责编：张若涵）