3月17日，未来学通识课暨萃英大讲坛系列讲座第六讲“科技风险治理的“Al大爆发与未来科技：致善创新的崛起”于榆中校区顺利开展。本次讲座由中国未来研究会副理事长、中科院自然科学史研究所研究员、博士生导师刘益东教授主讲，兰州大学哲学社会学院邱德钧教授主持，我校师生百余人参加，并在城关校区设有平行课堂。本系列讲座由中国未来研究会、兰州大学教务处、兰州大学哲学社会学院与兰州大学萃英学院联合主办。

讲座开始前，邱德钧首先对刘益东的到来表示热烈的欢迎。邱德钧表达了对讲座主题的认同，他认为Al革命不同于工业革命，Al自诞生起就已经在工具性之外多了一种脱离人类的自主运行功能，而这种自主运行有可能会违背人的意愿，这就要求Al发展要致善创新。

讲座伊始，刘益东首先表达了对在座学生的期望。他希望在听完本次讲座后，大家能明白世界与未来并非众所周知的样子，从而改变自己的观念与心态，在探索未来时把握新机遇。

目前的发展是趋势外推还是改弦易辙?在大多数情况下，既得利益集团为了维护既得利益获利方式，希望维持发展现状，这就是趋势外推。在刘益东看来，目前战略规划中最常用的方法SWOT分析法，缺少了对发展方向的考虑，因此刘益东提出了COAI方向分析法。基于该分析法，刘益东对现状进行了考察与分析。目前Al已经开始超越人类，Al发展导致末日概率(probability of doom)正在增大，人类在应对Al大爆发时却应变无方、刹车失灵。刘益东认为，大多数人都低估了Al大爆发的危险性，Al大爆发可能会带来不可估量的后果，如：人类大规模失业，信息大规模造假，出现大规模杀伤。如今Al的图灵测试已经通过，自主意识已经开始出现，人工智能的三道禁区门槛已经通过近两个门槛，目前的人工智能，以提升智能水平为动力、以实现比人类聪明的通用人工智能(AGI)为目标，显然是错误的，人工智能应该辅助人而非替代人，只有停止对Al的升级换代，人们才能享受AI带来的便利。

目前，科技风险愈演愈烈，人类安全防线还存在着诸多漏洞，如：认知失灵，科技伦理失灵，致毁知识不可逆增长。加速主义与拜技主义魔咒蒙蔽了部分人的双眼，明知AGI超过人类，但仍以尽快实现AGI为目标，甚至认为人机共存、硅基生命替代碳基生命是必然趋势。在刘益东看来，以往关于信息技术发展的趋势外推预测成功并不是真的成功，因为没有考虑科技风险因素，改弦易辙才更有意义。

刘益东提到，尽管西方科技发展迅速，但从人类安全的角度评价，西方科技存在着巨大缺陷。在目前西方主流科技发展的体制机制与观念文化下，西方科技发展与科技创新存在大量不考虑或不优先考虑科技风险的粗放式创新，这使得人类进入高风险社会。高风险社会有着五大特征：认知失灵，资本暴政，拜技主义，战争经济，趁人类之危牟取暴利，而这些特征正是当前西方社会所具有的。而我国与西方不同，我国具有西方所不具有的后发优势。我国强调安全是发展的前提，追求行稳致远，如果我国及时换道超车，率先发动新科技革命与新产业革命，那么我国就可以走上可持续创新与发展的新型发展道路。

在讲座的最后，刘益东大胆预测，科学的重心可能发生转移，人文社会科学将崛起。正如韩启德院士指出的“既然科学存在方向和价值问题，那就提醒人们要重视人文的作用，因为人文是科学发展的方向盘和刹车器。在发展科学技术的同时，必须大力发展科学文化。”假如我国率先成功应对日益严峻的AI等科技风险挑战，创建可持续安全的新型科技发展模式，让人文社会科学崛起，实现Al发展从致富创新到致善创新的转变。

在现场提问环节，24级管理专业学生黄凡提出了一个问题：个人的研究能否在创新与改良中达到平衡?针对这一问题，刘益东认为，我们要重视社会的复杂性，利益集团在追求利益时会更倾向于满足眼前利益，而非考虑人类整体的利益。需要发动新分配革命，让为人类整体利益与长远利益做出贡献者得到应有的激励与资源配置。

讲座最后，由邱德钧为刘益东颁发“萃英大讲坛”纪念牌，体现出我校对此学术交流的认可与支持。

本次讲座紧扣“Al大爆发与未来科技：致善创新的崛起”这一主题，帮助同学们了解了人工智能发展现状与趋势，并立足未来学的思考方式，为同学们提供了科技风险治理与科技伦理等问题的研究思路，拓展了同学们思考问题的视角，为师生们搭建了专业的知识框架，增强了兰大人对未来学的认识。

文字 | 乔世敏

图片 | 唐佳琦