《学校党建与思想教育》刊发了我院教授蓝波涛、博士生杨渐雨的理论文章《生成式人工智能赋能新质生产力的机理、风险及其防范》
现将文章转载分享。
https://mp.weixin.qq.com/s/1eLN_6WCg-lENcJcUHpGTQ?scene=25&sessionid=618690563#wechat_redirect
摘要
生成式人工智能通过推动技术革命性突破、生产要素创新性配置、产业深度转型升级等方式赋能新质生产力发展。同时，生成式人工智能赋能新质生产力也存在人机协同下主客异位消弭人类的能动性、智能技术被恶意操控威胁数据的安全性、弱人工智能数字技术影响产业的稳定性及扁平化全场域式嵌入削弱治理的有效性等风险隐忧。对此，应从实现人的主体地位复归、加强数据隐私安全保护、统筹现代化产业体系建设及规范新质生产力发展过程等方面来防范规制。
2023年9月，习近平总书记在黑龙江考察时提出，“整合科技创新资源，引领发展战略性新兴产业和未来产业，加快形成新质生产力”[1]。2024年7月，习近平总书记在党的二十届三中全会上提出，“要健全因地制宜发展新质生产力体制机制”[2]。习近平总书记对加快新质生产力发展作出了明确部署。新质生产力突破劳动者、劳动资料及劳动对象的固有局限，通过引入创新要素，力图实现三者的优化重组，重塑现行的生产力范式，构建新的生产力与生产关系系统。基于复杂的算法、模型及规则，生成式人工智能通过大规模数据的集中学习，并根据用户的个性化需求，精准生成原创内容。生成式人工智能体现出数据巨量化、多场域嵌入、跨界融合、认知交互等鲜明特征，实现了从量变到质变的飞跃发展，成为数智环境下驱动经济发展的重要引擎，引发了诸多行业领域的颠覆性变革。新质生产力的驱动力源自科技创新，通过科技创新促进经济增长，以实现生产力的跨越式提升。
一、生成式人工智能赋能新质生产力的内在机理
生成式人工智能深度嵌入生产力系统，推动技术革命性突破、生产要素创新性配置及产业深度转型升级，进而实现新质生产力的跃升发展。
1. 生成式人工智能推动技术革命性突破。生成式人工智能是技术革命性突破的体现，能进一步推进技术的革命性发展。技术革命性突破是催生新质生产力的要素之一，它使新质生产力成为当代先进生产力。首先，生成式人工智能拓展产业空间，实现科技的跨越式发展。具备协同性、延展性与渗透性特征的生成式人工智能为推动数字技术与传统产业的深度融合提供强大技术支持。在数字技术的强大赋能下，生成式人工智能跨越产业边界并延伸产业内涵，拓宽产业的空间维度，进而推动科学技术的持续性发展进步。其次，生成式人工智能快速迭代升级，加快科技创新速度。生成式人工智能不断推进生产资料的优化与革新，引领科技创新领域迈向范式转换与场景重构的崭新阶段。生成式人工智能不仅在人类科研能力提升过程中起到了相应辅助作用，更能助力人类推进前沿研究领域的开拓，实现知识要素的高效配置，加速推进科技创新进程，变革传统科技创新模式，正在向“人类智能+人工智能”协同创新模式转化。最后，生成式人工智能开启全场域应用，助力科技纵深推进。作为一种强大的信息技术工具，生成式人工智能以低成本优势渗透进生产端、流通端及消费端，全方位融入人类多元生产生活场景，深刻改变了人类的生产生活方式。
2. 生成式人工智能推动生产要素创新性配置。生成式人工智能通过推动生产要素的创新性配置，不断融入各产业与社会的再生产各环节，增进劳动者综合能力、智能升级劳动资料、拓展劳动对象形态，实现劳动者、劳动资料与劳动对象三者的优化组合，驱动传统产业转型升级，构建新型生产模式，加速新质生产力的发展。首先，快速匹配生产要素。生成式人工智能技术的广泛应用是推动生产要素优化配置的关键。在传统生产模式下，生产要素的配置主要以人工经验和既定规则为主，传统生产要素的配置方法较为缓慢，无法充分满足高效率、高质量的生产要求。生成式人工智能可以快速匹配生产要素，极大地提高了生产效率。其次，精准匹配生产要素。相较于传统的人工生产要素配置方法，生成式人工智能通过机器自主学习与大量数据分析，进行自主决策，从而提升资源配置的效率。与此同时，生成式人工智能通过实时监测生产过程中的数据变化动态，并根据实时数据优化生产要素配置。最后，有效利用生产要素。生成式人工智能具有强大的数据处理能力，能够处理海量、多样化数据，并从中提取有价值的信息，为生产要素的有效利用提供科学依据和决策支持。此外，生成式人工智能还能实现不同生产环节之间的自动协同合作，将生产资料配置和生产运营进行有机结合，以提高整体生产效益。
3. 生成式人工智能推动产业深度转型升级。随着生成式人工智能技术的不断提升及应用领域的不断扩展，它已深入到各行各业，成为改变生产方式、提升效率和创造附加值的重要利器。首先，生成式人工智能助推战略性新兴产业与未来产业发展。战略性新兴产业与未来产业为新质生产力提供新动能。一方面，生成式人工智能推动战略性新兴产业快速增长。战略性新兴产业是孕育新的增长动能、夺取未来竞争优势的核心领域，指引着新一轮科技革命与产业变革的方向。生成式人工智能正逐步渗透至其他产业中，与各专业领域高度契合。生成式人工智能的海量数据的存储积累和算力规模的指数级增长，推动其他产业组织模式发生深刻变革。生成式人工智能通过跨越时空的方式，促进要素资源的高效流转与优化配置，持续提升产业组织运营效率，有效降低成本。另一方面，生成式人工智能活化驱动未来产业。活化驱动是指将人工智能技术更多地纳入原有的生产和运行模式，使人工智能产品和服务成为关联产业生产链的上游要素，使下游产品在生产、输出、分配、运输和销售等环节得到创新和活化，提升各环节附加值，从而带来新一轮高质量增长。[3]生成式人工智能的活化驱动效应深刻重塑生产与消费模式，使整个过程变得更加绿色、集约与智能。同时，生成式人工智能也将推动新模式、新业态及新产业的不断涌现。其次，生成式人工智能助推传统产业升级。生成式人工智能广泛链接到各类终端设备和平台，与以大数据、物联网等为代表的数字技术协同发展，推动数字技术与传统产业紧密融合，实现传统产业的网络化、数字化及智能化转型。一是生成式人工智能的应用极大地提升生产效率，智能化处理繁琐、重复的生产过程，大幅减少人工操作。二是生成式人工智能全面监测与优化生产环节，提高产品质量。三是生成式人工智能助推传统产业开辟新兴市场，带来新的发展机遇。最后，生成式人工智能助推产业生态转型。生成式人工智能与新质生产力之间的互嵌协同关系得以深刻体现。生成式人工智能通过产业技术突破、技术要素融合及高深知识创造等有效手段，在新质生产力的劳动者维度孕育出智能生产力主体，在劳动资料维度引入数字化劳动工具，在劳动对象维度构建产业生态化生产体系。
二、生成式人工智能赋能新质生产力的风险审思
马克思指出：“在我们这个时代，每一种事物好像都包含有自己的反面。”[4]（P776）在推动生产技术进步及产业升级的进程中，生成式人工智能可能对新质生产力发展带来人机协同下主客异位消弭人类的能动性、智能技术被恶意操控威胁数据的安全性、弱人工智能数字技术影响产业的稳定性及扁平化全场域式嵌入削弱治理的有效性等风险隐忧。
1. 人机协同下主客异位消弭人类的能动性。在人机协同条件下，人工智能秉持工具理性与技术理性至上，缺乏情感叙事，忽视人文关怀，无疑加剧了人的物化和异化。马克思提出：“由于推广机器和分工，无产者的劳动已经失去了任何独立的性质，因而对工人也失去了任何吸引力。工人变成了机器的单纯的附属品，要求他做的只是极其简单、极其单调和极容易学会的操作。”[5]（P407）人机协同下主客异位导致人类能动性消弭与新质生产力发展之间矛盾凸显。首先，人类能动性削弱难以适应新质生产力发展需要。人类需要具备一定专业知识及技能才能操作生成式人工智能系统，而那些缺乏专业背景和相关经验的普通大众则会被边缘化。黑格尔指出：“生产的抽象化使劳动越来越机械化，到了最后人就可以走开，而让机器来代替他。”[6]（P210）人的各种能动性因长期脱离实践在一定程度上被削弱，人的生存技能正逐步退化，难以适应新质生产力发展需要。其次，人类深陷智能拜物教泥淖导致价值理性丧失。当智能技术“俘获”人类后，便会将智能系统展示的理性视为理所当然的规律，将被智能化塑造的社会架构、社会治理体系视为理所当然的社会选择。人类在规训下让渡出自身的主体地位与自由意志，期盼智能机器能代替人类完成大部分事物，享受生成式人工智能技术带来的便利。生成式人工智能将能指符号理性地灌输到人脑中，使人类对现实问题的既有答案予以默认，任由“超越”个人理性的技术理性压倒自己的想象与意志，深陷智能拜物教的泥淖而丧失价值理性，受制于工具理性。
2. 智能技术被恶意操控威胁数据的安全性。数据作为发展新质生产力的关键要素，是基础性和战略性资源，能迅速渗透到社会再生产各环节，推动数据驱动创新发展模式的形成。与此同时，数据安全风险在生成式人工智能处理新型数据资源时也逐渐显现。从内部分析，数据的安全隐患来自训练数据本身可能存在的问题或被篡改的风险。从外部分析，由于技术缺陷、人为失误或恶意操控等原因，数据在收集、存储、处理和使用等环节中可能导致数据泄露、被篡改或滥用。在生成式人工智能驱动新型劳动对象的技术框架下，系统对原始数据呈现强依赖性特征，其核心路径在于依托大规模预训练模型进行算法迭代，以实现数据的深度挖掘与广泛聚合。由于受到多种因素的限制，尤其受到数据采集设备性能差异、数据可及性程度不一以及网络环境稳定性波动等因素的影响，导致所汇聚的数据资源在不同群体间呈现出显著的分布不均特征。训练过程并非尽善尽美。在整个训练过程中，数据的质量显得极为重要。生成式人工智能输出内容的质量很大程度上由训练数据决定。只有符合伦理标准的数据资源才能达到安全可信赖的要求，而那些涉及偏见言论、恶意信息或隐私泄露等违反伦理规范的训练数据可能诱发一系列安全隐患，甚至可能对生成式人工智能模型的输出结果带来不良影响，进而阻碍新质生产力的发展进程。
3. 弱人工智能数字技术影响产业的稳定性。人工智能将历经从弱人工智能到强人工智能再到超级人工智能的发展阶段，不同阶段的人工智能都在一定程度上推动了产业的发展进步。基于人工智能的深度学习和低复合能力特征，当前人工智能技术发展仍然处于弱人工智能阶段。生成式人工智能对产业发展构成潜在的安全风险可能源自其可靠性和稳定性问题。就可靠性层面而言，生成式人工智能新内容的生成来源于以文本、图像或音频等为代表的海量训练数据及复杂算法，其生成的结果在复杂数据及不完美算法的影响下未必能与预期完全相符。生成式人工智能在某些情境下可能会产生出乎意料的结果，甚至错误的结果，对新质生产力生产过程的正常运行产生一定干扰，也可能产生严重的业务运营中断及客户信任度降低等负面效应，特别是当其被运用于诸如产品推荐或自动化决策等核心业务流程。就稳定性层面而言，在输入条件一致的情况下，部分生成式人工智能模型可能输出不同的结果，特定场景下甚至存在无法生成有效输出的技术局限。
4. 扁平化全场域式嵌入削弱治理的有效性。各类基础技术在生成式人工智能技术飞速发展的助力下得到进一步升级，正以扁平化全场域方式嵌入新质生产力发展的各个环节，一定程度削弱了治理的有效性。首先，生成式人工智能的敏捷性加剧行政部门过度依赖。当前，数字政府对技术资本有着或多或少的技术依赖、信息依赖以及决策依赖，且依赖程度越深，相应的资本侵蚀也就越明显。生成式人工智能是技术资本的产物，其信息处理系统能扁平化处理各类文本信息，特别是过于重视数字技术的智能政府治理模式，过于依赖各类数据。其次，生成式人工智能的避责性诱发责任认定争议问题。在按照市场统一规则运行的前提下，生成式人工智能作为商业竞争产品，会在各种利益的非法驱动下随意获取数据资源。从法律意义上而言，生成式人工智能并没有被赋予责任主体地位，仅仅作为一种工具。生成式人工智能广泛应用于新质生产力生产实践中，但无法作为法律主体承担责任，其弊端得以充分显现。最后，生成式人工智能的资本性导致治理关系矛盾冲突。一旦民众遭受由于生成式人工智能数据泄露带来的意外损害，政府部门将承担起由此产生的风险责任。加之不透明政策数据的影响，民众对于政府的信任感将会降低。
三、生成式人工智能赋能新质生产力的风险防范
马克思强调，“只有采用同生产力的现在的发展程度相适应的新的生产方式，新的生产力本身才能保存并进一步发展”[7]（P654）。生成式人工智能赋能新质生产力过程中引发的诸多风险，可以从实现人的主体地位复归、加强数据隐私安全保护、统筹现代化产业体系建设及规范新质生产力发展过程等维度加以防范。
1. 坚持以人为本，实现人的主体地位复归。马克思指出，“任何解放都是使人的世界即各种关系回归于人自身”[8]（P46）。这是马克思主义哲学的依归，为实现人的主体地位复归提供了基本价值遵循。生成式人工智能的发展要以人为根本是坚持马克思主义以人为本技术观的具体体现，要在人与机器的博弈关系中彰显人的主体地位与权利，明晰人是智能机器的主导者与控制者，而非让智能机器驾驭人类。一方面，适度调整生产关系。资本逻辑下的生产方式无法满足人的自由发展需求，导致人的主体地位缺失甚至消弭。因此，需要及时调整不适宜智能技术发展过程中生产关系的部分要素，深刻调整生产方式中的资本逻辑，从重视效率转变为注重质量，在追求高质量发展过程中始终坚持以人为本的理念，逐步实现人的主体地位复归。另一方面，加强培育科研精神。坚持马克思主义以人为本的科技观有利于坚持以人为本的科技伦理准则，帮助科技从业者树立正确的世界观和职业道德，践行以人为本的核心理念。
2. 深化协作联动，加强数据隐私安全保护。从技术手段、标准研制及国际合作等方面深化协作联动，为生成式人工智能技术赋能新质生产力发展保驾护航。首先，创新技术手段，提升安全监控能力。建立从设计研发到数据采集再到场景应用等全生命周期的数据监管体系，引导不同专业领域开展生成式人工智能赋能新质生产力发展过程中的数据隐私安全风险防御研究工作，推动实现数据隐私安全保护的技术突破。其次，加快标准研制，建立标准化运行机制。加快制定保护数据隐私安全的执行标准，提升安全标准的实用性，探索解决安全风险的有效路径，开展安全标准的实施效果评估，推动建立数据隐私安全保护的标准化运行机制。最后，深化国际合作，增强国际影响力。实质性地参与国际规则标准的制定环节，及时了解掌握国际网络安全标准规则，充分借鉴国际上已有相关研究成果，不断提升我国在人工智能数据安全领域的国际影响力。
3. 树立系统思维，统筹现代化产业体系建设。新一轮科技革命与产业变革不断向纵深演进，推动传统产业转型升级，也推动战略性新兴产业的发展壮大及未来产业的积极培育。首先，进一步推动传统产业转型升级。将新兴科学技术引进传统产业发展过程，促进生成式人工智能与传统产业紧密相融，带动传统产业的技术含量与技术密集度提升。借力生成式人工智能对市场需求进行精准化预测，通过智慧化引领打造高效集成的供应链管理模式，优化资源利用，提升质量控制体系，推动传统产业的优化升级并逐步智能化，夯实建设现代化产业体系根基。其次，发展壮大战略性新兴产业。战略性新兴产业植根于重大发展需求与前沿技术突破，展现出较大经济增长潜力。一要加强战略性新兴产业集群建设，推动产学研聚合协同发展，探索产业集聚发展规律；二要加快面向科技自立自强的国家创新体系建构，全力推动关键核心技术“卡脖子”问题的解决；三要在资源禀赋基础上实现差异化发展，完善建立战略性新兴产业发展统筹协调机制。最后，积极引导培育未来产业。未来产业较之于战略性新兴产业具有不确定性，亟需增强关键技术创新能力，带动科技研发投入，为加快新质生产力发展提供强劲动力。
4. 完善制度建构，规范新质生产力发展过程。新质生产力体现在各要素相互作用、协同发展，是渗透整个经济体系的大系统，需要完善相关制度建构，规范新质生产力的整体发展过程。首先，要强化市场体系基础制度建设。在生产发展过程中不断提升市场的经营主体活力与科技创新动力，推动建设生成式人工智能与新质生产力协同一致的运作体系，建立并完善与之相适应的产权保护、公平竞争等市场体系基础制度。其次，要推动建立行之有效监管机制。加强生成式人工智能的顶层设计工作，在保障数据安全的前提下，进一步规范化使用数据，制定与生成式人工智能赋能新质生产力发展过程相适应的行业标准规范，建立健全相匹配的法律法规，并建立健全配套的问责、纠偏及反馈机制。最后，要跟进覆盖全领域的制度协同服务工作。推进生成式人工智能相应制度与金融、科技、教育等领域制度的协同共进，助力生成式人工智能赋能新质生产力发展。
（蓝波涛，广西大学马克思主义学院教授、博士生导师；杨渐雨，广西大学马克思主义学院博士研究生）
