重磅策划！人工智能的四大时代之问｜理论周刊·第1落点

编者按：

“当机器开始思考，人类如何与之相处？当算法参与决策，安全如何保障？当技术挑战伦理，治理如何跟上？当鸿沟不断拉大，普惠如何实现？”

7月17日，2026世界人工智能大会暨人工智能全球治理高级别会议开幕，国家主席习近平在主旨讲话中提出四大时代之问，振聋发聩。

当前，人工智能等前沿技术加速发展，技术的“双刃剑”效应日益显现。人工智能的发展会将人类引向何方？这四大时代之问为我们提供了思路与警醒。

本期大众日报理论版邀请四位专家学者分享他们的思考，敬请关注。

■在厘清人与人工智能的本体差异、警惕技术异化之后，我们可以找到人与“会思考的机器”共处的核心是构建人为主导、人机协同共生的关系模式。

当机器开始思考，人类如何与之相处？

□ 傅建平（雄安新区未来城市公共服务研究院院长）

“当机器开始思考，人类如何与之相处？”——这一问直击人机博弈关系的根本，是其他问题的逻辑起点。

当下，人工智能在推理、写作、分析等方面，表现出近似人类思考的能力，由此滋生两种截然不同的思潮：一部分人陷入技术悲观主义，担忧人工智能不断进化最终取代、支配人类；另一部分人持技术至上论，无限拔高人工智能地位，并习惯于将思考与判断交付人工智能，不自觉地弱化了自身的独立思考能力，容易引发算法滥用、伦理失守等风险。

正确看待人类与机器的关系，需从以下三方面着眼。

首先，要保持人的本体性。必须明确，人工智能只是模拟“思考”，而人拥有真正的主体性。从马克思主义哲学本体论出发，人工智能的功能性模拟不等于人的真正思考，人作为实践主体，拥有自我意识、感性体验、自由意志；人的思考根植于现实实践、生命体验、社会交往，在思考之中承载情感、价值、体验，理解喜怒哀乐，追问生存意义。

当前，人工智能发展尚处于弱人工智能阶段。以大模型为代表的生成式人工智能所谓“思考”，是基于海量数据的概率匹配、模式拟合。它虽然能生成语句通顺、富有逻辑的文字，却无法理解文字背后的意义，人工智能没有内在精神世界，不具备自主目的。所谓人工智能威胁人类，并不是它主动产生统治人类的欲望，而是人类不当开发、不加约束地运用技术带来的风险。因此，面对人工智能这类“会思考的机器”，矛盾焦点从来不是机器，而是人类如何认识自我、如何定位人与工具的关系。

人类发展史就是一部不断创造工具、延伸自身能力的历史，石器、蒸汽机、计算机都是人类肢体与大脑的延伸。人类发展进入数字时代，人工智能作为先进生产工具的重要标志，逐渐成为重塑经济社会发展的系统性核心力量。工具的本质是服务于人，而非与人平起平坐。倘若人类混淆客体工具与主体自我，把人工智能视作平等甚至更高的决策者，就是从根本上颠倒主客关系。

其次，要重塑认知与角色。看待人机关系，应从“替代”走向“协同”，从“对立”迈向“共生”。

人机共处难题根源在于人能否坚持主动思考、保持精神独立、把握使用工具的尺度。人们在享受人工智能推理带来高效率的同时，容易将更多决策任务交由人工智能，导致自主思考和决策能力发生结构性退化。这是因为技术容易塑造单一的功利思维，使人把一切事物简化为可利用、可计算的资源。因此，人类与会思考的机器相处，最大挑战并非人工智能主动挑战人类，而是人主动依附会思考的机器，导致技术异化。

因此，必须重建人机共生的认知生态平衡，维护人类特有的认知方式，并对认知主权保有清醒的边界意识。一要重塑人机协同认知。人工智能是“思维共振者”，而非“替代者”。以DeepSeek、OpenAI为代表的生成式人工智能的思维链技术证明，人工智能能够通过展示推理过程，激活用户的思维能力，形成“思维共振”。人工智能不再是思考的替代者，而是富有启发的认知引导者，激发和拓展人类的思维边界。二是明确人机角色定位。人类主导价值判断，人工智能提供知识支持。人类的核心优势在于创造力、情感共鸣、跨域思维整合以及伦理判断，而人工智能擅长执行任务，但不承担责任、不产生内疚。

最后，要探索确立新模式，坚守人主导、人机协同共生的底层秩序。

在厘清人与人工智能的本体差异、警惕技术异化之后，人与“会思考的机器”共处的核心变得越发明确，即构建人为主导、人机协同共生的关系模式。这条路径落地的关键，依靠技术无法自动实现，必须依靠人的自觉、社会制度的调整、个体持续的自我提升。

第一，清晰划分人机边界。一方面，将重复性、标准化、海量数据整理、基础逻辑运算交给人工智能；另一方面，人类则聚焦价值判断、创新创造、情感沟通、复杂实践抉择。

第二，建立对人工智能的批判性思维。人工智能存在幻觉、偏见、信息滞后等固有缺陷，使用者不能不加验证地全盘接纳AI结论，要保持质疑、核对、思辨的习惯。能否理性辨别AI内容，考验使用者自身的认知素养。

第三，树立理性技术观，摒弃两种极端。保持理性平衡，依靠人类自身建立稳定、健康的技术认知。一方面拒绝技术恐惧，不能盲目抵制人工智能，拒绝享受技术带来的生产力解放；另一方面抵制技术崇拜，杜绝唯算法论，不把机器输出当作终极真理。

第四，塑造适应智能时代的完整的人。培育人的独有特质，使人拥有人工智能无法复刻的核心素养。面对智能浪潮，教育不能仅仅传授知识，更要培育共情能力、批判性思维、创新能力，能否调整教育体系、培育新型人才，同样是人类需要主动完成的课题。

综上所述，守住人的主体性，是人工智能向善发展的第一道防线。处理好人与会思考的机器的关系，关键在于人类认清自我主体地位，主动构建人机协同共生格局，让具备强大“思考能力”的人工智能持续服务于人的发展。

■明确权责、验证真伪、约束诱导、守护人心，四者环环相扣，才能让算法真正成为增进人类福祉的力量。

当算法参与决策，安全如何保障？

□ 曹逸轩（中国科学院计算技术研究所副研究员）

时下，算法在人们生活中的角色，正从“参谋”走向“操盘手”。从今年春节面向消费者的AI“红包大战”，到近期面向企业的办公智能体浪潮，算法生成的结果正越来越深地嵌入决策链条的各个环节。

几年前，我们谈论算法，多半是指个性化推荐，它影响着我们刷到的新闻、听到的歌曲、看到的商品。这些算法把现有的选项进行排序供人选择，扮演的是“信息中介”的角色。今天的情况已经悄然改变，得益于语言能力和推理能力的跃升，算法可以直接汇总各处的信息，形成新的结果，甚至直接触发下一步动作。其角色从提供信息转向提供决策。

以就医为例。过去，用户用搜索引擎查症状，得到的是一堆链接，用户自己甄别、自己决定去哪家医院——如果搜索结果里夹带了医院广告，法律要求必须显著标注“广告”字样。但当我们与大模型对话式地交流症状时，它给出的回答浑然一体、逻辑通畅，其中可能会掺杂某些医院的推荐倾向，甚至只给出一个推荐选项，这种情况下，用户往往难以察觉，也更容易全盘采信。算法结果的呈现方式变了，对决策的影响力也随之改变。

伴随这种角色转变，算法参与决策带来的风险大致可以归纳为三类。

其一，作为“分析员”为决策提供信息时，存在信息错误风险。传统搜索和推荐算法是把用户引导至某个既有网页，内容是静态的，责任主体明确，虚假错误信息源头可查。但大模型生成的内容，往往是对多个信息源的分析、加工乃至再创造，其结果连开发者都难以完全预判。当这样的新内容被用于投资决策、医疗判断乃至公共政策制定时，存在信息错误的风险。

其二，作为“推销员”为决策提供建议时，存在引导性风险。现实中很多决策并不存在唯一正确答案，而是需要权衡取舍、见仁见智。例如买哪款手机、选哪家医院、投哪只股票，本质上都是偏好选择而非事实判断。既然没有绝对正确，算法的表达方式、呈现顺序、措辞倾向，就都可能构成隐性的诱导。这种诱导可能是设计的结果，也可能是训练数据、商业合作或优化目标带来的副作用，但都有恶意诱导的风险。

其三，作为“辅导员”为决策提供情绪时，存在价值观风险。人与算法的对话正变得空前频繁，写邮件要问它，做决定要问它，甚至情绪低落时也会找它倾诉。这种高频次、拟人化的交互，会潜移默化地影响人的思维习惯、价值判断乃至情绪状态。算法不再只是回答问题的工具，它某种程度上也在扮演一个日夜陪伴、随时可问的“辅导员”角色，从心理上、价值观上影响我们的决策过程。如何确保这一过程整体上是正向的、安全的，是一个紧迫的课题。

面对上述三重风险，需要建立一套系统性的应对框架，从四个维度统筹施策。

明责任——厘清谁为决策负责。安全保障的起点，是分清楚权责关系。无论算法多么智能，最终决策权和责任主体都应当落在人（或机构）身上，算法提供的是信息与建议，决策需由人来制定。这意味着，在医疗、金融、司法、公共政策等高风险领域，应当明确要求人的责任：算法给出的结论，必须经过具备资质的人工复核才能付诸执行；对涉及重大利益的决策，应建立强制性的复核和留痕机制，一旦出现问题，能够清晰追溯到具体环节和责任人。同时，也要给用户畅通的申诉与纠错渠道，当算法的建议造成损失时，应投诉有门。厘清权责，既是对使用者的保护，也是对技术发展的保护。责任清晰，创新才能获得社会的长期信任。

验真伪——让正确性可验证、可追溯。针对“分析员”式的正确性风险，治理的关键是可验证。应当推动算法在给出结论时，同步提供可查证的信息来源，让用户能够方便追溯到支撑结论的原始依据，而不是把一个“黑箱式”的整合结论直接抛给用户。此外，还应当建立独立的第三方评测和“红队测试”机制，定期对高风险场景下的算法输出进行抽查、压力测试，并将结果纳入监管评估体系。

控导向——把隐性引导变为显性告知。针对“推销员”式的引导性风险，须扩展现有的透明度规则，让隐性广告显性化。参考传统媒介中的商业推广必须显著标注的做法，在对话式交互中，只要存在商业合作、利益关联或倾向性推荐，同样应当以用户能够感知的方式加以提示。与此同时，应当给用户提供“为什么推荐这个”的知情权，以及查看更多选项的便利入口。对医疗、金融、教育、法律等直接影响重大利益的场景，还可以考虑设立更高的透明度门槛，例如强制披露算法的信息来源结构、利益相关方，乃至引入准入与备案要求。

护人心——守护公众的认知与心理安全。针对“辅导员”式的舆论风险，要防止认知的单一化和依赖化。算法在设计上应当有意识地引入多元观点，避免用户陷入“回音室”，尤其是在公共议题、价值判断等场景中，更应鼓励呈现不同角度。同时，应当关注长期高频交互可能带来的心理影响，对未成年人、老年人等群体给予更审慎的保护，例如限制拟人化程度、避免利用情感依赖设计吸引用户停留。归根结底，技术应当增强人的判断力，而不是替代甚至弱化人的判断力。

发展和安全，如车之两轮不可偏废。技术越是深入决策的核心，治理的精细化程度就越要跟上；能力越是接近人类，透明度和可问责性的要求就越要提高。明确权责、验证真伪、约束诱导、守护人心，四者环环相扣，才能让算法真正成为增进人类福祉的力量。

■历史反复证明，每一次科技革命都会伴随风险，但真正阻碍进步的，往往不是技术的不成熟，而是治理的错位与制度的惯性。

当技术挑战伦理，治理如何跟上？

□ 冀翠萍【山东省委党校（山东行政学院）公共管理教研部副主任、教授】

人工智能正以前所未有的广度和深度融入人类生产生活的各环节，带来前所未有的发展机遇，也带来前所未遇的风险挑战。AI强大的内容生成能力催生信息真实性危机，深度伪造技术被不法分子用于电信诈骗，算法自主决策使得人类主体性面临被侵蚀风险，情感陪伴类智能体诱导未成年人过度情感依赖等，多重伦理风险交织叠加。

面对这些风险与挑战，一种焦虑恐慌反应正在蔓延：既然技术如此危险，不如让它慢下来、停下来。

这种情绪可以理解，却经不起历史的检验。19世纪60年代的英国，汽车刚刚问世，公众对汽车的恐慌催生了著名的“红旗法案”，法案规定每辆机动车须有3名驾驶人，其中1人须在车前50余米步行，手持红旗不断摇动为车辆开道，时速不得超过4英里。这部法律当时被视为稳妥之举，实际却严重束缚了蒸汽汽车的发展，英国由此错失了汽车工业崛起的先机，被德国、美国等后来者超越。

历史反复证明，每一次科技革命都会伴随风险，但真正阻碍进步的，往往不是技术的不成熟，而是治理的错位与制度的惯性。每一次科技革命带来的不只是技术工具的升级，更是人类心智模式的调整。当前，面对新一轮科技革命，抗拒技术、固守传统于事无补，正确的态度是坚持以人为本、向上向善，强化风险意识，积极适应、主动驾驭、跟进治理，确保人工智能安全、可靠、可控。

驾驭风险需要看清风险的来路，人工智能的风险大体有三类来源。

内生性风险，来自技术系统自身的不确定性与局限性。比如算法黑箱导致的不可解释性。这类风险属于技术的伴生物，治理之道也须深入技术内部，靠技术迭代和能力提升逐步化解。

应用性风险，来自技术交付的应用场景与人为使用过程。比如利用AI输出有害内容、加剧信息茧房、发起自动化网络攻击等。这类风险是社会应用的外部性表现，治理之道在于技管结合，建立安全护栏。

衍生性风险，即人工智能持续性大规模应用后对社会结构外溢的风险。比如冲击就业结构、扩大数字鸿沟等。这类风险更为长远和隐蔽，治理之道重在制度建设，构建科技伦理准则等。

看清了风险，还须看到治理本身面临的时代难题，即过去那套治理逻辑正在失灵。失灵的背后是两个重要变化：

一是责任主体变了。过去的责任主体是人类，责任划分是在人与人、人与社会之间。当前，智能体成为能够自主下单、自动洽谈、执行交易的行为主体，人机之间的责任归属变得复杂模糊，超越了传统人类主体的范畴。二是治理对象变了。过去的治理对象是作为工具的技术，工具出了问题可以改造甚至弃用。当前，人工智能正从单一工具变成嵌入生产生活和社会治理的基础设施，基础设施是社会运行须臾不可离的底层条件。

这两个变化叠加在一起，使过去的治理逻辑捉襟见肘，外部的原则指引管不住技术运行的内部逻辑，事后的纠偏追不回已经扩散的损害，“一对一”的追责模式面对模型研发者、应用开发者、部署企业、最终使用者等多方交织的责任链条，只会陷入“多头都管、出事都不管”的困局。

由此，人工智能治理理念与范式的转型势在必行。从事后应对转向全程嵌入，让伦理贯穿研发、部署、应用、评估的全生命周期；从外部规约转向内外兼修，既要有制度的硬约束，也要有价值的软引导；从后果责任转向前瞻责任，在风险发生之前就作出预判和约束。

更深一层看，许多伦理问题的产生，根源不在技术能力不足，而在价值判断缺失。单纯的技术治理力有不逮，必须转向以价值导向为核心的伦理治理。

理念和范式的转型，最终要落在具体的治理实践中。

首先是确立人机关系底线。无论技术多强，无论超级智能多接近甚至超越人类的能力，人类的主体性不能被削弱，人类掌握最终决策权，确保人工智能始终处于人类的控制之下。

其次是推进分级分类治理。分级分类的精细化精准化治理，是破解“一放就乱、一管就死”困境的重要手段。医疗诊断、自动驾驶、工业智能控制等高风险领域，须落实严格的审查与监测制度，重要决策不允许人工智能独立完成，需要经过人工复核确认；文案辅助、日常推荐等低风险场景，简化准入、备案即可，激发创新发展活力。对象也应有区分，同样是情感陪伴类智能体，对成年人和对未成年人的影响有差别，针对未成年人的准入门槛和保护措施理应更加严格。

再次是明晰责任链条体系，这是当前最为关键的一环。要在模型研发者、领域适配者、部署者、使用者之间建立各担其责的清晰链条，事故发生后能够分清是底层模型的缺陷还是部署调试的不当，把责任压实到对应主体身上。由人工智能造成的损害，还可探索过错推定原则，由技术提供方举证证明自身产品合规、不存在缺陷，无法自证则依法担责，以此改变受害者举证难的困境。

最后是探索敏捷治理模式。人工智能发展高度不确定，新风险不时显现，且牵扯多环节、多主体，需要以灵活策略、开放思路和动态过程应对突发状况。我国近年来以“小步快走”的治理思路，采用“小快灵”立法机制，对迫切性基础性问题予以回应，通过边发展、边治理、边完善规则，提高治理的适应性与韧性。

面对人工智能带来的伦理挑战，恐慌无济于事，放任亦不可取，关键在于治理要跟得上技术创新的步伐。治理不是技术创新的“刹车片”，而是确保人工智能在正确道路发展的“方向盘”。把稳了方向，人工智能才能既跑得快、又跑得稳，才能始终行驶在服务人类、造福人类的轨道上。

■推动人工智能技术红利向所有群体普惠覆盖，逐步填平横亘在不同地域、不同阶层、不同能力群体之间的“数智鸿沟”，是重构公平秩序、守护人类发展权益的共同责任。

当鸿沟不断拉大，普惠如何实现？

□ 段光鹏（山东大学马克思主义学院院长助理、副研究员）

当前，新一轮科技革命和产业变革深入发展，以人工智能为代表的新一代信息技术正以前所未有的广度和深度重塑人类社会。散落在地球各个角落的人们，致力于通过国际合作、能力建设和素养提升，让“地球村”里的每个人都能伸手接住数字时代递来的果实。

然而，现实远比预设的理想框架冷峻。随着AI技术加速迭代，全球范围内的数字鸿沟仍在持续拉大，在智能技术背景下演变出“数智鸿沟”，发展的缺口愈发醒目，不仅直接压缩了发展中国家的追赶空间，更对全人类共同赖以生存的公平秩序与稳定格局构成了持续性挑战。

原本就存在的传统数字鸿沟，再叠加当下的新型“智能鸿沟”，衍生出了诸多新的表现形式——

一是接入鸿沟。接入鸿沟以能否接入互联网、拥有上网设备为判断标准，即不同群体因数字技术接入权限差异，形成的信息可及性层面的不平等。据国际电信联盟发布的《衡量数字化发展：2025年事实和数据》报告指出，当前仍有22亿人处于“完全离线”状态，主要分布在低收入、低发展国家和农村地区。即便在已实现基础网络覆盖的区域，不同群体之间的接入质量也存在显著落差，高收入群体普遍享有千兆光纤、5G等高速低时延网络服务，而大量低收入群体、农村居民仅能通过低速移动网络实现基础联网，甚至部分偏远区域仍存在大面积的网络信号盲区。人工智能时代，“接入鸿沟”在此基础上新增能否调用大模型接口等维度，把边缘群体进一步隔绝于智能经济门槛之外。

二是使用鸿沟。使用鸿沟与公民受教育水平、数字技术培训服务等软件条件密切相关，具体表现为是否掌握使用数字技术的知识、数字技术的使用广度、数字技术的使用深度等。人工智能技术的发展和应用进一步加深了鸿沟，即便在已实现互联网接入的群体内部，不同主体对数字工具和AI工具的使用深度、应用场景存在天壤之别，优势群体能够依托AI充分挖掘潜力，而大量普通群体仅停留于问答式互动等浅层次应用，无法转化为实际的经济收益。使用层面的结构性失衡，使得技术的增长红利天然向资本与技术优势方倾斜，进一步加剧了全球范围内的收入分配不平等。

三是能力鸿沟。能力鸿沟体现为不同群体在获取数字资源、处理数字资源、创造数字资源等方面的差异，本质上是个体数字素养、数字技能储备的系统性差距。高收入国家已构建起覆盖全年龄段的数字技能培育体系，其劳动力群体普遍掌握数据分析、智能工具操作等中高阶能力；而多数发展中国家的公共数字素养供给严重不足，大量成年劳动力、老年群体、偏远地区居民甚至缺乏基础的操作能力，更无法适配数字经济下的新就业形态要求。人工智能则在此基础上延伸出AI素养等全新维度，考验能否正确认识AI生成内容、能否用AI解决复杂问题、能否理解算法的偏见与局限等。能力层面的代际传递与区域失衡，使得优势群体的能力持续迭代升级，而弱势群体则不断被时代发展的列车甩在身后。

人工智能普惠的目标，是让更多人能够利用技术改善生活、促进发展。政府、企业、国际组织等主体需要形成合力，围绕硬件设施升级、软件服务优化、数字素养培育等方向，以普惠包容的发展理念共同应对技术变革带来的挑战，探索合作共赢的可行路径。

硬件设施升级是弥合鸿沟的底层物理支撑。一是针对偏远农村地区、欠发达经济体等传统数字覆盖盲区，通过加大5G基站、光纤宽带、低轨卫星互联网等新型信息基础设施的定向投入，补齐高速网络的覆盖短板；二是面向低收入群体、老年群体等弱势主体，通过推出普惠性流量套餐、适老化智能终端补贴等公共政策，降低数字接入的经济门槛；三是同步推进人工智能基础设施的均衡布局，在数字资源匮乏区域建设边缘数据中心，通过架构简化与算法优化提升人工智能系统部署效率，研发适配性强、成本可控的智能技术，避免在人工智能时代催生新一轮的“高级接入鸿沟”。硬件设施升级的治理实践，是从基础设施层面消除鸿沟的底层根源。

软件服务优化是弥合鸿沟的中层运行保障。一是推进数字公共服务的普惠化改造，针对老年群体、残障群体的使用习惯，开发界面简洁、操作门槛低的适老化App与无障碍数字服务，避免复杂的操作逻辑将弱势用户挡在数字服务门外；二是面向欠发达地区的本土需求，开发适配当地产业场景的垂直数字应用，比如为农业县域定制智慧农业溯源系统；三是构建分层分类的数字服务供给体系，针对不同主体对数字工具和AI工具的使用深度、应用场景的不同，提供从基础社交娱乐到高附加值生产应用的梯度化服务引导，将AI接入有效转化为实际的经济收益。

数字素养培育是弥合鸿沟的深层内生动力。一是将数字素养纳入国民教育体系，从中小学阶段开始开设数字技能、网络安全、AI工具应用等相关课程，从年轻一代入手筑牢全民数字能力的基础；二是面向农村劳动力、中老年群体等重点人群，开展下沉式的免费数字技能培训，补齐成年群体的数字能力短板；三是同步推进数字安全素养的普及，帮助弱势群体建立对网络谣言、电信诈骗的识别能力，消除对AI技术进步的恐惧心理，建立安全、理性的数字使用思维。

推动人工智能技术红利向所有群体普惠覆盖，逐步填平横亘在不同地域、不同阶层、不同能力群体之间的“数智鸿沟”，是重构公平秩序、守护人类发展权益的共同责任。这是一场需要长期攻坚、充满挑战的漫长征程，离不开人工智能硬件的迭代升级，更离不开以人文为底色的技术普惠坚持。唯有如此，我们才能在汹涌的技术浪潮中实现对技术的良性驾驭，让技术的普惠之光穿透隔阂，推动全人类共同迈向一个更加包容繁荣的数字文明新形态。