导语
“科普中国智库•魏公村讲坛”是中国科普研究所依托“科普中国智库”专家资源，面向科协魏公村办公区搭建的常态化学术交流平台，以“开拓视野、夯实基础、促进协作、提升能力”为目标，邀请智库专家解读前沿科技动态，分享科研学术进展，促进科研创新，营造学术氛围，助力干部科学素质和能力提升。本文整理自讲坛第三期《智能革命与文明重置》。
随着智能革命不断深入展开，向当代社会各个层面渗透，有关“智能社会未来将去向何方、又应该去往何方”的问题，不仅为越来越多的人所困惑、思考，亦成为试图把握时代精神的当代学者不可能绕开的关注点。
一、人工智能对社会的冲击
众多学者认为，AI的颠覆性远超我们的想象。有人提出AI的出现相当于地球上诞生了一种新的生命形式，形成了碳基文明与硅基文明的对比。库兹韦尔的观点颇具代表性，他认为地球的进化历程从无机物到有机物到生命，再到生命发展至出现智能，其中智能的第一个阶段是人类的碳基智能，接下来则是机器人的硅基智能。对于这种观点，人们的态度呈现出两极分化。一部分人持积极关注的态度，甚至被称为“机器人带路党”，例如一些医学专家认为机器人的发展对人类有益；然而，也有许多人对此深感担忧，不少人都在思考AI可能带来的种种危机。
生成式人工智能的出现和普及应用，标志着当代社会已步入“AI辅助智能”阶段。我们的工作、学习和劳动等活动，都在AI的辅助下完成。很多人相信在一个世纪之内，我们将进入“AI替代劳动社会”。理论上，机器人完全可以百分之百替代人类的体力劳动以及绝大多数的脑力劳动。但在现实层面，机器人能否真正实现替代，还涉及到技术与制度之间复杂的互动关系。
智能革命对社会的影响将分两个阶段逐步呈现。
第一个阶段是增长极限问题。人类的发展会受到物理资源的约束，地球资源最终限定经济增长的“天花板”。人工智能和机器人的发展可能大幅压缩资源耗尽周期，这对建立在稀缺性假设上的经济学体系构成根本挑战。
第二个阶段是富裕社会问题。从物质层面理解，富裕社会是指通过计算每个人消耗物质和能源的量，结合人口总数，再加上安全余量，能够算出人类实现简单舒适生活所需的生产力条件。然而“富裕社会”问题的关键不在于生产能力不足，而在于技术进步成果无法实现公平共享。在AI时代，当机器人高效生产却导致大量人类失业时，生产与分配的矛盾将变得更加尖锐。
二、人工智能对人类的影响：智人的机器化
从哲学角度，尤其是从人性和主体的层面深入剖析，人工智能对人类的冲击更为关键。智人的肉身和观念开始发生前所未有的巨变。
在人的身体方面，当前主流观点认为人的身体变化主要有两条路径。其一，是赛博格模式，即人的肉身与智能机器相融合。例如安装带有智能的机械手，它能实现抓握等动作，与以往单纯的假肢有着本质区别。其二，在元宇宙概念流行时提出的设想。通过记忆接口将人的意识上传到虚拟世界，成为一种数字存在。这些可能性表明，人类身体的基本状态正在发生转变。
在人的精神层面也发生了巨变。以当下对“agent”的讨论为例，机器人是否是主体，以及机器人是否具有道德等问题，重点不在于具体结论，而是我们产生了这样的想法本身就反映出我们对自身的理解和认知正发生着重大转变。将AI拟人化同时意味着人将自己视为机器。
现在，我们不再主要从哲学、宗教和文学中去探寻对人的理解，而是越来越依赖自然科学的解释。这种科学对人类观念的影响，体现为“科学人”的崛起，其实质是所有人都应被测量、控制和改造。而由于新科技的发展，人类的力量变得非常强大，我们是否会在未来一两个世纪中灭亡，这是所谓的“文明危崖”。一是可能会出现人类种族的灭绝，二是人类的衰退。虽然目前AI仍比不上气候变化、核大战和新发未知病毒等带来的威胁，但其可能加剧已有的生存性风险。
三、对AI的治理需要长期主义
第一，“人机共生”不等同于“人机共赢”。第二，拟人论的agent概念意味深长，即前述给AI赋予人的地位，也意味着人被拉平至AI同等水平。第三，AI治理要坚持长期主义。
很多人对当前AI发展产生夸张臆想，进而促发社会范围内的AI焦虑甚至AI恐慌。这与大众传媒的科幻式宣传有关，结果是各种敏捷治理的想法出现。就目前AI发展的实际状况而言，治理AI要将长期主义与敏捷治理结合起来。在总体规划之下制定治理制度，同时倡导AI发展遵循有限主义的原则。
四、AI时代的文科危机
在教育领域，人工智能的出现对文科和理工科都产生了全面的冲击。以文科为例，主要体现在学生培养和学术发展两个根基性问题上。在学生培养方面，文科注重能力，以前看写作和外语能力，现在学生用AI写东西，难以区分能力，且学生觉得AI写得比自己好，这让我们对学生的培养体系产生困惑；在学术发展方面，文科成果主要靠论文发表，现在学术杂志难以分辨文章是AI写的、人写的还是人在AI帮助下写的，如果认可只要文章好就行，那么作为学术发表基础的学术杂志将面临被颠覆，无法正常运转。
相比之下，理工科虽然还有可重复性检验和实验环节，但同样面临着诸多挑战。对于文科的应对，一方面在AI擅长的写作等能力上，我们要超越它；另一方面要发展AI没有的能力，如批判性思维、提问能力以及情感交流能力。