手机看中经经济日报微信中经网微信

人工智能:引出诸多可期可虑的社会课题

2017年09月25日 07:17   来源:北京日报   刘奇

  学者·语粹

  ●如果说IT时代是信息爆炸的时代,DT时代是知识爆炸的时代,那么AI时代就是智能爆炸的时代。

  ●如微积分、金融市场策略、翻译等我们觉得困难的事情,对于电脑来说都十分简单;如视觉、动态、移动、直觉等我们觉得容易的事情,对电脑来说却太难了。

  ●从理论上看,在所有能够被规则化、系统化的领域,人工智能都有可能取代人类,甚至在一些人类以前认为无法规则化的领域也能大展身手,已经很难说还有什么领域是人工智能的禁区。

  ●创造更平等未来的关键之一是数据,人工智能的进步,依赖于对大量人类活动的在线和离线数据的获取与分析。人类必须完全掌控自己创造的这些大数据,才能占据对人工智能的主动权。

  ●要解决人工智能带来的问题就需要一大批有知识、有技术、有良知的社会学家、自然科学家、工程技术人员和政治家进行世界性的协作、协调和协商,用一套共用的语汇体系和一个共同的概念框架,从科学的视角找到平衡点,制订出一系列能处理技术、治理和伦理之间相互关系的政策。

  2016年被称为人工智能元年,阿尔法狗(AlphaGo)横空出世,一声划时代的“狗叫”,有可能颠覆人类主宰世界的现实。人们突然发现,一个新的物种诞生了,把我们带进了AI(人工智能)时代。人类从IT(信息技术)时代进入DT(大数据云计算)时代只用了十几年时间,然而当我们还在讨论DT浪潮时,AI(人工智能)时代已经扑面而来。如果说IT时代是信息爆炸的时代,DT时代是知识爆炸的时代,那么AI时代就是智能爆炸的时代。人工智能不是互联网的一部分或一个阶段,而是堪比工业革命的一个新的技术革命,而且会持续很长时间。目前,AI已经应用到人类生活的各个领域,像防火、看病,农业上的病虫害测报、天气预报、无人机植保、播种等,尤其在计算、检索、记录、下棋、记忆等方面,AI已经大大超越人类。人工智能是一个崭新的技术前沿,它具有急剧性、颠覆性和不可知性;它正在打破世界秩序,并缔造一个新的秩序;它将带来的是一轮我们还不能完全理解的经济、政治、社会、文化的变革,会渗透和改变现有的所有行业;它或许会改变人的生命,让人生永恒;它更有可能改变人作为人的界限和意义。

  人工智能的发展现状

  AI的概念最早于1956年由美国的一批科学家提出,上世纪60年代人工智能进入研究阶段。先要说清楚,不能一提到人工智能就想到机器人。机器人只是人工智能的容器,机器人有时候是人形,有时候不是,人工智能是机器人体内的电脑。如果说人工智能是大脑的话,机器人就是身体——而且这个身体不是必需的,比如人脸识别、无人驾驶,这些都是人工智能范畴,但不一定有机器人的外壳。从目前全世界研发现状看,人工智能有如下几个特征。

  特征之一:从类型上看,人工智能按能力可分为三类。

  第一类是弱人工智能,即擅长于单个方面的人工智能。比如我们手机的语音助手、导航系统、智能翻译、汽车上控制防抱死系统的电脑,甚至包括AlphaGo都是弱人工智能。AlphaGo虽然能战胜李世石,但你若问它跟李世石交手后是什么感觉,它就答不上来了。

  第二类是强人工智能,即是人类级别的人工智能,在各方面都能和人类比肩,能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等操作。达到这一阶段还有很多技术难题要攻克。首当其冲的就是人类对自身大脑运作方式还不是很清楚。这里我举两个例子比较一下:造一个能在瞬间算出十位数乘法的计算机非常简单,但造一个能分辨出一个动物是猫还是狗的计算机就极端困难了;人类早就造出能战胜国际象棋冠军的电脑,但要造一个能够读懂六岁小朋友的图片书含义的电脑很难。简而言之,如微积分、金融市场策略、翻译等我们觉得困难的事情,对于电脑来说都十分简单;如视觉、动态、移动、直觉等我们觉得容易的事情,对电脑来说却太难了。

  第三类是超人工智能,知名人工智能思想家尼克·博斯特罗姆把超人工智能定义为“在几乎所有领域都比最聪明的人类大脑要聪明很多,包括科学创新、通识和社交技能”。人工智能革命是从弱人工智能,通过强人工智能,最终到达超人工智能的旅途。这个阶段也被称为人类智能(HI),这是改变人类文明进程的“奇点”,未来学家雷·库兹韦尔认为将出现在2045年前后,这个学派被称为“奇点说”派。特斯拉CEO埃隆·马斯克已成立一个团队致力于这方面的实践,试图把一个叫神经织网的东西嵌入人脑,实现人与机器的结合,实现思想的任意上传或下载。这项颇有争议的“脑机接口”技术目前遇到的问题有两个:一是要发明出一种新型电子材料,它要足够小,足够软,可以用注射器注射到人的大脑中,然后在大脑中展开成为一个电极网络,成为记录神经元活动的多个电极;二是要破解神经元的语言。

  特征之二:从研发阶段看,人工智能的发展有三个阶段。

  第一个阶段是拥有自主意识,目前各国研发的机器人只能根据人类下达的指令去工作,下一步的研发方向就是让它们拥有自主意识。

  第二个阶段是拥有情感意识,未来人和物的交流方式、人和工具的交流方式,不再是人学习工具怎么使用,而是机器、工具学习人的意图,让人和机器人的对话变成一种自然语言的对话。这就提出了三个问题,第一个是伦理问题,就是有情感意识的仿生机器人到底有没有“人权”?第二个是生物人会不会与仿生人产生情感?第三个是人工智能觉醒了怎么办?

  第三个阶段是拥有自觉学习意识。如果机器人有了自觉学习的意识,就会彻底觉醒。有人预测,那时再强大的人类社会也无法对抗觉醒后的机器人社会,人类将被毁灭或者奴役,《人类简史》可能成为《机器人简史》的几页序章。

  特征之三:从重点领域看,当前人工智能研发着重主攻四个领域。

  第一个是人脸识别和语音识别。目前,人脸识别已经做到跨代和跨年龄识别,即在海量的人脸中识别出父子等血缘关系和通过测试一个人儿时的相片就能准确找到测试人的现照。2017年“五一”期间已经有上百家旅游景点应用人脸识别技术检票,购票时只需让机器识别人脸,进入景区时就可以不用排队检票直接入场。语音识别方面,机器语音识别的正确率只比人类速记差0.1%,人的速记正确率是95.5%,机器已经达到了95.4%。

  第二个是仿生人。2013年2月,英国制造出了世界上第一个仿生人,名为“雷克斯”。外表上看,雷克斯有血有肉,会说笑话,与人类相似;内部构造上,它也有胰腺、肺、脾脏、耳蜗、视网膜等人造器官,甚至还有人工血液循环系统,几乎达到以假乱真的地步。专家预测,再过十年左右,拥有自主意识和情感交流能力的仿生机器人就将诞生。仿生人技术还有一个特点,它可以对人体衰竭的心脏、肾脏、胰腺和脾脏等进行替换,从而解决世界范围内捐赠器官不足的问题。当然,这涉及伦理问题,仿生人有没有“人权”?

  第三个是无人驾驶汽车。这个领域现在主要的技术难题都已经解决,量产的难点主要在三个方面。其一,探测器价格太高,目前售价几万美元,需要降到几百美元才能进入量产阶段。其二,当人机同时操作时,如果人类驾驶员违反交通法规行驶,会影响机器的判断,引发交通事故。其三,一辆无人驾驶汽车就是一台装了4个轮子的电脑,如果遭遇黑客攻击,也会危及人身安全。这些问题预计一两年内即可解决,由此可能引发多元的社会震荡:一是全世界将有几千万职业驾驶员失业;二是全世界所有的汽车生产厂家都将推倒重来;三是无人驾驶技术将使共享汽车产业爆发式增长,最终家庭都不再购车;四是便利的共享交通使人们出行量大大增加,导致城市消费大量外溢,乡村成为生活的热点。

  第四个是医疗。“沃森先生”是美国IBM公司研发的超级计算机,主要应用在肿瘤诊断领域,它存储了200多部肿瘤专业领域的教科书,超过300种医学期刊以及1500多万条肿瘤文献的关键信息和临床试验中的60多万条医疗证据。它可以根据患者的病症、病史和诊查数据,自动搜索海量的病例和医学图书、论文数据库,进行对比匹配,得出诊断结果,并给出治疗方案。

  人工智能的五大优势

  一是经验丰富。人只有自己的经验积累和从其他人及书籍中学习到的一些经验,而机器则可以储存人类的所有经验,AlphaGo、Master等战胜李世石、柯洁等围棋大师就是典型的例子。人工智能可以跨越时空,在纵横两个层面掌握人类的经验积累。在纵向上,掌握古往今来全人类的历史经验。比如在医疗领域,硅谷已经研发出超出人类顶尖水平的看病机器人,它掌握了人类所有的病例,通过综合归纳就可以判定患者病情,一个医生一生中最多看上万张X光片,但是机器人可以一次看几百万张。在横向上,人工智能可以模仿具体人的风格进行创作,如琴棋书画、诗词歌赋、小说散文、学术研究等。有一首题为《画松》的诗:“孤奈凌节护,根枝木落无,寒花影里月,独照一灯枯。”它就是由人工智能创作出来的。人工智能不仅可以学会句式结构,还可以掌握不同风格,如果把鲁迅的著作给机器人“喂”一遍,它写出来的文字一定是鲁迅风格的。从理论上看,在所有能够被规则化、系统化的领域,人工智能都有可能取代人类,甚至在一些人类以前认为无法规则化的领域也能大展身手,已经很难说还有什么领域是人工智能的禁区。

  二是反应敏捷。人工智能计算的数字都是天文数字,反应的速度超乎人类想象, 而且更新迭代的速度特别快。今天的一部普通智能手机都比上世纪80年代的超级计算机计算速度要快不知多少倍,我国的天河二号超级计算机的运算速度是每秒3.4亿亿次,而中科大潘建伟团队研究的光量子计算机又快了不知多少倍。以前科学家穷尽一生都难以做到的事情,交给人工智能瞬间就能解决。以制抗癌药为例,过去生物科学家预测一种化学结构可能有效,便逐个试错;现在则把大量已成功开发的药的结构输入到机器,机器通过海量学习、反复试错,药品研发速度便可提升很多倍。

  三是默会技能。人类绝大多数技能都只能意会,难以言传,比如开汽车、骑自行车、绘画、书法、写书、料理等,都只有从实际训练中掌握。这种默会技能机器人可以用机器语言去学习理解,而且还善于掌握这类技能。英国的一家公司已经发明了一个“厨房+厨师”的机器人,冰箱、灶台、烤炉等各种厨房设备都合并到机器人中,不管是做面包还是做西餐、中餐,都可以交给机器人完成。现在,很多人工智能都体现了这种默会学习能力,给某个人工智能机器编程的人可以完全不懂这件事,只要有这个行业的数据,剩下的交给机器自己去学习。

  四是群体学习能力。一台机器学会一种知识,马上可以通过网络不走样地传递给其他机器,无数机器人照单全收。Google做了一个实验,让机械手学习去抓不同形状的东西,有圆的方的长的短的,机械手一开始抓空了,下一个动作就换一个姿势,这就是机器学习的过程。如果是20台机械手一起学,时间就是原来的1/20。也就是说,学习一个超级复杂的东西,人类可能要学很多年,而把10万台机器放在一起,只要一分钟甚至一秒钟就学会了。

  五是永不疲劳。人脑在稳定性和可靠性上跟电脑没法比。人吃五谷杂粮会生病,工作时间长会累,要吃喝拉撒、要睡觉休息。可是,从一般意义上说,电脑完全不存在这些问题,可以全天24小时、一年365天处于峰值水平运行。

  人工智能的福与祸

  人工智能是福是祸,现在众说纷纭。乐观派认为,人工智能将人类从辛勤的劳动中解放出来,人类终于可以把生命消费在美好的事物上了。从这个角度来看,人工智能可以给人类带来以下几个方面的福利。

  一是把大多数人从劳动中彻底解放出来。有人预测,占社会1%的精英将成为“神人”,所有的事情都由这些“神人”所设计的机器人完成。另外99%的人将成为“闲人”,他们由人工智能创造的社会财富保障其生活,只做自己感兴趣的事情,不再需要为了生计再去劳作。

  二是“数字劳动力”可以提高服务质量,降低服务成本,使服务个性化。

  三是改变“不劳动者不得食”的人类社会基石。不劳动者照样可以丰衣足食,由1%的“神人”创造出极丰富的社会财富,用一个合适的社会分配制度让99%的“闲人”尽享生活的乐趣,只要不违法、不侵犯他人,可以尽意而为。

  四是人类想象中的“乌托邦”因为AI技术成为现实,这是一个崭新的社会课题。

  在人工智能带来的诱惑面前,有一批人始终保持着对人工智能的高度警惕。包括比尔·盖茨、史蒂芬·霍金、马斯克在内的很多人都对人工智能的发展提出了担忧。未来,机器很可能将人类从劳动中解放,但也很可能出现人类的生存反过来遭到机器这个人类创造物的威胁,人类将面临前所未有的变革,需要主动做出改变去迎接AI时代带来的问题和挑战。具体而言,主要有以下三个方面问题。

  第一个问题就是精英结盟。具体而言就是资本精英和知识精英结盟,变成了“神人”,“二八定律”将被打破,世界将只有1%的“神人”和剩下99%的“闲人”,如果制度变革滞后,很可能造成富者巨富、贫者赤贫的严重两极分化,带来许多社会问题。

  第二个问题是大量失业。过去的技术革命都有新的技术替代,比如英国的工业革命虽然被形容为“羊吃人”,但新的技术也造就了新的就业机会,失去土地的农民至少还能到城里当纺织工人。而人工智能革命就不存在职业转换了,所有工作都可以由机器人代替,人类彻底没事可做。牛津大学的一份报告称,到2033年,很多行业会彻底消失。

  第三个问题是伦理问题。1956年,人工智能之父马文·明斯基就提出了一个著名观点:“人不过是肉做的机器,而钢铁做的机器有一天也会思考,人与机器的边界将不复存在,未来世界将人机共存。”这个观点一旦成为现实,一系列的伦理问题就会接踵而至。有自主意识的机器人完全符合生命的一切特征,它算不算一个新的生命物种?它能否被人格化?它有没有隐私权等人权所对应的“机器人权”?人类可不可以伤害人格化的机器人?机器人犯罪怎么处罚?比如无人驾驶汽车撞人了,应该由谁来承担责任?由车主承担?由安装自驾系统的汽车制造商承担?还是由编写软件的程序员承担?又该如何实施惩罚?

  以色列作家尤瓦尔·赫拉利在《人类简史》中提出了一种生命的概念,即以能够自行独立演化的计算机程序为代表的无机生命。如果这一概念成真,那么程序算是一个人吗?如果我们删除了这个程序,算是谋杀吗?我们还可以进一步假想,如果我们将自己的大脑整个备份到硬盘上,再用计算机来读取运作,让计算机像我们一样去思考和感受,那样的计算机是我们吗?或者算是别人?如果备份了我们的大脑记忆的计算机控制了我们,到底算是我们的永生还是人类的灭亡呢?著名科技作家凯文·凯利写过一本书叫《科技想要什么》,提出一个观点说科技其实是一种生命形态,它符合生命的一切特征,人类只不过是科技的父母,是它生命第一个阶段的保育员,紧接着它会踏上自己的生命演化的进程,人类就再也控制不住科技了。

  第四个问题是价值观问题。人工智能时代,人都不一定再是真人了,还要不要追求真善美?真善美的外延和内涵是什么?新的标准又是什么?比如利用技术可以把人类大脑中痛苦的记忆删除,留下的都是美好的记忆,这是不是人类的自我欺骗?失去痛苦记忆的人又如何分得清好坏真假?

  第五个问题是哲学问题。新陈代谢是自然规律,高度智能化的机器人提供服务,使人类不再需要靠结婚来繁衍后代,人类的正常延续将会中断。同时,高度发达的医学可以让人长生不老,人若不死,生有何意义?总之,从哪儿来、到哪儿去的人类终极哲学命题将面临挑战,人们的思维方式需要重新调整。推演到地球生命的进化,人类是从原始的有机物到单细胞,再逐步到灵长类动物,并且发展出超越其他一切生物的智慧,这条进化路径是唯一的吗?AI告诉我们,如果有合适的条件,极有可能还会有其他生命的进化,并且产生不一样的进化结果。这也说明人类离最顶级的生命形态和智慧还有很远的距离,也很可能不是唯一可以进化到顶级形态的生命。

  如何应对人工智能的崛起

  著名科学家霍金曾表达对AI崛起的警惕和担忧,他认为,各国应该共同采取行动,甚至组建“世界性政府”,监管和控制AI技术的无序而快速的扩张。2017年2月,欧洲议会就一项提案进行投票,提出要设计一套全面法律,界定人工智能带来的责任和道德问题。关于机器人的定位问题,提案提出要把机器人定义为“电子人”,也就是说把这些机器当成某种特殊的人,而且建议新机器人要登记注册。欧盟基本权利宪章里的“人权、尊严、平等、知情权和隐私”等原则也将被考虑赋予机器人。在设计层面,提案提出两点建议:一是设计者应该确保机器人有一个紧急切断装置,在必要的时候可以将其关闭。二是要确保机器人在使用时没有风险,使用者不必担心受到身体或心理上的伤害。在伦理层面,提案提出机器人不得用于武器和军事用途,既要防止机器人伤害人类,也要防止机器人为它们主人的利益最大化而行事。提案还提到涉及人工智能破坏行为的保险问题,未来机器人的生产者和所有者需要为机器人可能造成的破坏性行为缴纳保险。

  牛津大学公共政策学者马切伊·库辛斯基认为,必须从制度设计上回应一个根本性的问题,是什么让人之所以为人?是对超高效率的追求,还是非理性、不完美和怀疑等等任何非生物实体的特质?只有回答了这些问题,才能在AI时代确定必须保护和维护哪些价值,从而确保更大的安全和公平。而创造更平等未来的关键之一是数据,人工智能的进步,依赖于对大量人类活动的在线和离线数据的获取与分析。人类必须完全掌控自己创造的这些大数据,才能占据对人工智能的主动权。

  AI技术是一把双刃剑,人工智能可能在几十年内超越人类,如果不为此做好准备,人类控制自己创造物的能力将受到挑战,进而危及人类掌控自己的命运,甚至生存权利。我们看到了AI技术的风险,但不能就此因噎废食,搁置这项技术的研究,更何况AI技术迅猛发展的趋势已经是不可逆的,挡也挡不住的。AI时代,基因工程、再生医学和纳米科技等领域的科学技术将会进展飞快,除了医治疾病,也能让衰老的组织再生,人的寿命会趋向于无限延长。届时我们对于生物人种的死亡,需要重新思考。

  要解决这些诸多领域的问题就需要一大批有知识、有技术、有良知的社会学家、自然科学家、工程技术人员和政治家进行世界性的协作、协调和协商,用一套共用的语汇体系和一个共同的概念框架,从科学的视角找到平衡点,制订出一系列能处理技术、治理和伦理之间相互关系的政策,如已经出现的“AI伙伴计划”“AI道德规范与治理基金”等,都是可供参考的应对思路。在这一轮人工智能的变革中,中国和世界第一次站在同一个起点上,第一次平等地拥有了资本、公司、技术、人才等要素。人工智能的争夺是未来世界最主要的争夺,中国没有任何的空间犹豫和后退,需要政府、企业、个人都参与到这个巨大的变化中,携手引领人工智能革命。

  (作者为国务院参事室特约研究员、中国农业经济学会副会长)

  阅读延伸

  人工智能将提供90%以上的工作

  中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任王飞跃在“人工智能与未来社会:趋势、风险与挑战”学术研讨会上发言指出:很多人担心AI时代的到来,再加上“技术奇点”“人类将变成机器人的奴隶”“人工智能毁灭人类”等许多观点,特别是“人工智能很快将使50%甚至70%的工人失业”等看法更使大家心慌不安。对此,我的看法恰恰相反。

  二百年前,我们的问题就是担心机器夺去我们的工作进而毁灭人类,甚至把机器都烧了,这就是英国著名的“卢德运动”。今天的机器已非二百年前的机器,强大多了,但夺走我们的工作没有?我们离开机器还能工作吗?很大程度上,我们今天的工作是机器给的,计算机为我们创造了大量新工种。我坚信,未来不是人工智能使50%至70%的工人失业,未来是人工智能为我们提供90%以上的工作。

  老子《道德经》开头是“道可道,非常道”。有人解读为:“道,可道,非常道”。对我而言,“道”就是算法智能,“可道”就是语言智能,“非常道”就是人类大脑里的想象智能。所以,我相信车比人跑得快,飞机比人飞得高,计算机比人存得多、算得快、判得准,但我不相信它们比人类更“聪明”,如果不是用语言智能重新定义聪明的话!其实,语言智能根本就说不清什么是“聪明”,什么是“智能”,那完全是想象智能的事。

  前段时间,《人类简史》《未来简史》的作者尤瓦尔·赫拉利称人工智能将使我们变成“无用阶级”,引起人们一阵担心。无用了?那怎么行!其实,这是人类的进步,一个稳定和成规模的“无用阶级”的产生,是走向智能社会的必要保障。我们不应忘了四百年前徐光启翻译《几何原本》时的感言:无用之用,众用之基!

  每个人都不应被别人的语言智能所“忽悠”,要立足自己的算法智能,发挥自己的想象智能,以合适的语言智能表达出来。我想象的人工智能技术,就是能让我们实现知识的自动化、智能的自动化,是从工业社会走向智能社会的时代科技。而且我希望国家的《新一代人工智能发展纲要》,能让我们“直道超车”,实现智能全球化的规划,成为保障“中国梦”实现的“智能梦”。

  (高楼 摘编)

(责任编辑:佟胜良)