用未来眼光与理性约束去开发人工智能

　　【光明时评】

　　前不久，一段热舞视频引发不少人的围观和讨论。跳舞的不是人类，而是著名机器人公司旗下的几款机器人，继后空翻、户外奔跑后，它们挑战起了更高难度的舞蹈动作。没有四肢僵硬感，动作与音乐节奏之和谐让人惊呼，以至于有人误以为是计算机生成图像（CGI）。而就在这之前，谷歌旗下的人工智能公司开发的程序Alpha Fold在一个蛋白质结构预测大赛中打败100多个参赛团队、夺得冠军，并“有史以来将蛋白质结构预测这项任务做到基本接近实用的水平”。人工智能取得每一次新进展和突破，在引来部分人欢呼的同时，警惕之声也几乎随之而起。在影视领域，近年来的流行作品，如《星球大战》《终结者》《黑镜》《西部世界》也都是以人工智能为主题，是人们对该话题的关注及情绪的另一种投射。

　　对于人工智能，大众估计都不那么陌生。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法及应用系统的一门新的技术科学。简单来说，人工智能目的就是让机器能够像人一样思考，让机器拥有智能，可以做出模糊的判断，而非用于计算有确切答案的问题，例如一加一等于几。机器学习是实现人工智能的方法，也是人工智能的核心领域，其原理是使用算法对大量的数据进行解析，模拟或实现人类的学习行为，从而获取新的技能来完成任务。传统的机器学习算法已经应用于指纹、人脸识别等领域。深度学习是机器学习的一个子集，用于建立、模拟人脑进行分析学习的神经网络，并模仿人脑的机制来解释数据的一种技术。

　　社会科学中将人类的心理活动划分为三种基本形式：知、情、意，对应于人工智能的三个层次，运算智能、感知智能、认知智能。目前，人工智能仍处于感知智能，即弱人工智能的发展阶段，也是人类对AI应用最广泛的阶段。例如语言识别、自动驾驶、图像识别、移动医疗等，给人类社会带来了便捷与福利，将AI应用到金融及教育行业，创造了极大的社会价值。而在科幻电影中，涉及的人工智能自主意识的觉醒则属于强人工智能，如今的研究技术尚达不到。不过，就像人类生命的进化一样，AI不会只停留在感知智能的基础阶段，当各方面条件完善后，它会迈向智慧阶段，拥有认知能力与更高级的技能。而从弱到强的跨越，也是人类和AI逐渐交汇的过程。

　　那么，我们该为人工智能的崛起而感到畏惧吗？一直以来，“人工智能威胁论”的声音从未停止。霍金就曾指出，人工智能的崛起很有可能导致人类文明最终走向终结。试想，机器在几乎所有领域都比人类大脑聪明很多，包括科学创新、通识和社交技能，这是一件多么可怕的事情。神经学家大卫·伊格尔曼称：“人工智能在理解道德和法律上存在先天缺陷。”具有深度学习能力的AI，功能越来越强大，其自主决策建立在庞大的数据驱动下，是成千上万次机器学习的结果，但是缺乏真实性和可问责性。人类一旦想要改变这种决策，需要更多的数据与之博弈，其难度可想而知。因此，要加强对人工智能系统伦理道德和法律的约束，确保其发展对人类和环境有利。

　　在现实生活中，人工智能已经显示出其极大的优越性与替代性。AI可以替代人类更好地完成工作，从服务业到制造业，这些工作几乎覆盖人类生产生活的各个方面。工厂的自动化使很多传统制造业工人面临失业，如今AI的迅速崛起将会使失业范围扩大，留给人类的岗位进一步被局限，由此导致的社会发展不平衡引起整个社会的焦虑。另外，人工智能的运转建立在大量数据的基础上，很多情况下我们的个人隐私数据得不到保障。平台根据用户的浏览历史等，通过机器算法自动判断并向用户推荐符合需求和喜好的内容，机器对我们的了解越多，就越能够影响人的决策和行为，反而使人类的行为越来越机械化。

　　如何合理应用人工智能从而更好地造福社会，应该是当前最主要和重要的话题。大数据时代，对人工智能的监管和督促也必不可少。有互联网从业者指出，人工智能只是一个新技术和工具，它会结合所有领域，通过大数据，提升各个行业发展。诚然，人工智能应该是作为一种工具的存在，将它与各行各业的发展相结合，使其促进社会的协同发展。

　　以核物理为基础的原子弹对生命的伤害难以估量，然而将其应用到能源与医疗方面，却对人类的生产生活产生了极大的推动作用。与核物理的发展相似，人工智能不断拓宽人类对能力的认知边界，并具有巨大的两面性，属于超前的研究，很可能会触及伦理道德底线，因此需要用未来的眼光和理性的约束去开发其能力极限。

　　（作者：王永锋，系北京大学信息科学技术学院研究员）