2022年之前科学家用50年时间测明20多万种蛋白质结构，而现在用人工智能模型不到一年时间就能解析出地球上几乎所有2.2亿个未解的蛋白质结构，“一年内完成50亿年博士研究”。近年来，人工智能广泛地向科研、医疗、教育、养老、环保、交通、司法等各领域拓展渗透，正在对人类生产生活方式和经济社会形态产生全方位、颠覆性变革。人们身边持续涌现的各种场景化创新的背后，是人工智能对人类脑力劳动的替代和对人的智力的极大拓展。人工智能时代已悄然来临。
人工智能技术加速迭代、爆发式发展的同时，也提出了新的问题：人工智能究竟能否造福人类？近期，有关“人工智能是否安全”的讨论热度越来越高，映射着整个社会对这一技术发展的隐隐不安。消费者常常被平台算法“设计”“套路”，外卖骑手一度被算法困在“数字泰勒制”配送系统中，这样的问题如何破解？世界经济论坛一项调查显示，人工智能替代的就业将远超其创造的就业，“机器换人”会不会带来大规模结构性失业？随着人机之间界限逐渐模糊，人与人衍生出全新的权利义务关系，无人驾驶、医疗机器人等是不是面临更深刻的“电车难题”？作为复杂系统，人工智能每一项“颠覆性创新”技术，每一次与量子技术、物联网等耦合形成“风险共振”，有没有伴随不可预料的漏洞和盲点？2025年，人工智能应用大规模落地的元年，OpenAI首次违抗人类关机指令，引发对“AI觉醒”“AI对齐”以及“超级人工智能将毁灭人类”的强烈关注。美国兰德智库发表《论人工智能导致的生存危机》，全面审视人工智能在核武器使用、生物病原体释放以及恶意地球工程导致气候变暖三种情境下的根本性威胁。总体来看，人工智能技术的发展和应用在经济、社会、技术、伦理、安全层面给人类社会带来了全新的问题和风险，如何有效防范化解这些问题和风险，是人类社会面临的新挑战。
公众、学者、科学家、企业家、政府官员，围绕人工智能究竟“是福还是祸”，基于不同的元理论假设、不同的证据选取、不同的利益立场进行着激烈辩论。有人强调“智能爆炸”的潜在威胁，人类终将沦为附属品，必须锁死AI发展；有人提出“阻碍AI进步才是最大风险”，解决医疗、气候等问题正需要AI出手。开源社区要求公开代码让全民监督安全漏洞；人工智能企业则反问：“如果恐怖分子得到代码，还安全吗？”。有的国家明确监管先行，引入预防性原则，人脸识别都要写保证书；有的国家以维护技术霸权为前提，监管上没有国家级法律而主要靠行业自律。各种针锋相对的立场、观点、假说充斥舆论场：在人工智能眼中，“人类是蝼蚁”还是“人类是‘新神’”？在人类眼中，“AI的尽头仍然是工具”还是“人间只是AI的训练场”？在“上帝”眼中，“人类只是过渡阶段”还是“我们才是宇宙的意义”？
如何有效解决人工智能带来的一系列新问题，人类仍在努力探索，目前还没有确定的答案。但可以确定的是，技术的列车一旦启动，便驶上了不可逆的单行道，在“棘轮效应”驱使下，只会越开越快、越开越远。天真的乐观或者消极的抵抗，从来不是最佳选项，将方向盘牢牢掌握在自己手中，才能回答好智能时代“人类文明向何处去”的终极命题。面对人工智能全球性风险与潜在系统性危机，中国提出《全球人工智能治理倡议》，发布《人工智能全球治理上海宣言》，习近平总书记明确要求，确保人工智能安全、可靠、可控。我们动态跟踪人工智能技术发展前沿，将监管同步植入产业运行的底层逻辑，摸索出一条“边发展、边治理”的路径。比如，在平台经济监管中，创新性地建立“算法劳动权益保障体系”，出台算法推荐管理规定，要求外卖配送系统必须设置连续工作强制下线机制，配送路线规划必须保留10%的弹性时间。比如，在自动驾驶领域，强制推行预碰撞决策模型，通过行人识别精度的特殊加权、弱势道路使用者保护参数的强制设置、决策末端人工确认节点的保留等方式，将“生命权优先”伦理准则转化为算法架构的核心约束。人工智能正朝着技术应用与民生需求精准对接的方向蓬勃发展，为全球人工智能发展治理提供了蓝本、积累了经验。
如果人类无力拒绝一个人工智能参与塑造的未来，我们需要关心的问题是：未来世界如何才能成为一个安全、公平、更有意义的世界？人工智能的困境，与其说是代码自主衍生的灾难，不如说是人类文明痼疾在数字时代的自我投射。只有从维护全人类共同利益和共同安全的立场出发，跳出国与国在“技术主导权”与“规则制定权”上的博弈，旗帜鲜明反对科技创新成为富国和富人的游戏，推动各方形成发展战略、治理规则、技术标准对接的协同，才能“让人工智能真正成为造福人类的国际公共产品”。
科技向善，以人为本。人工智能是人创造的，能否造福于人，终究要取决于人类自身。我们相信，只要本着对人类社会高度负责的态度，集结科学家的预见、工程师的代码、哲学家的思辨以及每个普通人的警惕，在给人工智能启智升级的同时套上安全“缰绳”，就一定能造福人类。
（编辑：郭斐然）
