查看原文
其他

专访洪小文:人工智能可怕吗?

说到人工智能(Artificial Intelligence,A.I.),有的人眼中总是闪着期待的光,有的人眼中却满是谨慎与忧虑。

但几乎所有的人都兴致勃勃——没有人不喜欢谈论这个话题。人工智能是什么,人类需要怎样的人工智能,强人工智能能实现吗,它会不会威胁人类本身……自1956年人工智能成为独立学科起,围绕人工智能的思考和争论就从未止息。

2014年,特斯拉和SpaceX的创始人伊隆·马斯克(Elon Musk)就曾公开表示:“我需要盯着人工智能的一举一动,因为我认为它有潜在的危险。”同年,英国著名物理学家史蒂芬·霍金(Stephen Hawking)用彷如机器的声音指出:“开发全面的人工智能可能会致使人类灭亡。

而相比于忧心忡忡的马斯克和霍金,微软亚太研发集团主席洪小文对人工智能的未来表现得相当淡定:“过度的担心是没有必要的。”从微软自然交互服务部门的架构师,到微软亚太地区研发创新的领航者,洪小文在过去20年里,一直在微软把控着人工智能关键能力的发展方向。


微软亚太研发集团主席、微软亚洲研究院院长洪小文。图片来源:msra.cn

他曾在卡内基梅隆大学深造,师从1994年图灵奖获得者、人工智能先驱拉吉·瑞迪(Dabbala Rajagopal Reddy)研究语音辨识技术。“卡内基梅隆大学的整个校园都充满了计算机的浓浓味道。不管你做哪一个领域,你都要写程序,做系统,最后把你的想法和算法实现出来。”在这样的学习氛围中,洪小文逐渐走到了语音识别领域的最前沿。

身处人工智能研究的关键领域,洪小文对人工智能的定位有着清晰的理解:“人与机器的关系,在于构建这样的智能去配合人类,做出人自己做不了,机器自己也做不了的成就。”在一次对谈中,洪小文与科学人从科幻电影说到技术研发,分享了他关于人工智能的种种思考。

1人工智能可怕吗?


科学人:人们对人工智能的很多印象都来自科幻电影。你喜欢看科幻电影吗?

洪小文:我其实蛮喜欢科幻电影。《星球大战》我就蛮期待的,因为我的年龄刚好是看星战的那一代。前一阵子还一个电影叫《Her》的我也喜欢。

科学人:啊,云端情人?

洪小文:你们有听说过啊,这部在国内没那么红。但我们做小冰、小娜这样的语音助手,当然也看这个。还有一个叫《机器姬》的,姬十三那个“姬”。那个也还不错,也是跟图灵设计有关。《火星救援》、《地心引力》等等也是我很喜欢的科幻电影。
电影《机器姬》讨论了人工智能与图灵测试的话题。图片来源:Ex Machina

科学人:不少影视作品里人工智能都是危险的角色,你觉得人工智能会是危险的吗?

洪小文:可能很多人会觉得人工智能很危险,甚至比核武器还危险,我认为这个完全是由于不了解人工智能而造成的。任何东西,“危险”其实就意味着强大。飞机被大部分人认为是好的,但飞机也可能撞出个911。我想说的是,任何强大的东西都可以被用来做坏事。但是你不会去怪飞机,你会怪的是那个开飞机去撞大楼的人。

科学人:所以是否危险取决于人怎么用?

洪小文:我举一个例子,比如无人驾驶汽车,大家都在研究它看到人要怎么避开对不对?但你可以相信,和做一个不撞人的无人驾驶汽车相比,我们如果要做一个见人就撞的无人驾驶汽车,应该说是至少一样简单。但为什么没人做,因为人的良知在后面。如果有人做一个机器专门来对抗人类,那冤有头债有主他就是坏人。归根结底,计算机还是全部在执行人的算法。所以我觉得说人工智能危险那完全是无的放矢。

当然,计算机会有bug,可能对人造成伤害。但bug大部分是无心的,故意的那就叫攻击了。要bug到专门就找人撞,跟人捣蛋,把人给毁掉的地步,几率更是奇低的。要是发生了,肯定是因为有人这样去编码。因为计算机不是生物,为了保护自己,生物可能会做出残忍的事情。但计算机没有这个意识,它绝对不会说因为有人来拔我的电了所以我要跟你对抗——除非有人将算法编成这样。

2人+人工智能=超人


科学人:微软当初为什么做小冰这样的人工智能?

洪小文:开发小冰是出于多层次的考虑。一层是我们想在人工智能的情感意识方面做些测试,像真的不回答或故意不回答等等,也给用户一些新体验。其次我们可以通过小冰和用户的交流来获取、提供有用的信息。比如有用户跟小冰聊天的时候说自己对相机有兴趣,小冰就推荐了相机方面的内容,最后他真的购买了同样的相机。这促进了我们和京东的合作。这不是广告,这就是用户的需要。

当然,也有好玩的成分。作为一个对人工智能感兴趣的科学家,我也鼓励大家做这方面的事。我觉得小冰很有趣,而且真的是有些“情感”。我们可以在现在的基础上再加一些类似个人助手的功能,让它既有趣又兼具实用和研究价值。


微软亚洲研究院的人工智能聊天机器人“小冰”。图片来源:futuristech.info

科学人:你刚刚说到小冰的“情感”。那你认为计算机有朝一日会拥有自己的意识吗?

洪小文:我不认为机器会有任何的意识。意识是人之所以为人的理由。一些生物学家的研究发现人有自我意识,能知道镜子中的人是我自己,很少有动物能做到这样。你当然可以尝试把这种“意识”编程输入计算机,但这种输入就有些自欺欺人的意味了。机器根本不知道自己为何被称为机器,是我们在控制它。

科学人:我们有没有必要向编程“意识”这个方向努力呢?你会希望给小冰输入“自我意识”吗?

洪小文:我会希望它们是我的助手,我说一就是一。我们研究人工智能就是希望它能够随时帮我们做事。我们需要它有自我意识吗?可能不需要。作为科学家,我当然有兴趣知道能不能做到那样。但是我觉得,大部分的人只是希望它们是有用并且可控的。

比如,我想让机器人给我倒咖啡,我要求它十次它就给我倒十次。但如果我是让我太太给我倒咖啡,可能要求十次有九次她都会说你自己有手干嘛不自己倒(笑)。你不会希望人工智能这样的。

科学人:有意识反而不好?

洪小文:我觉得对大多数人而言是这样的。人工智能在情感意识方面还是做得很少。人对每件事情都有意识,但人工智能做的基本都只是在匹配。微软的小冰已经开始在情感方面做努力,比如在某个状态故意不回答你的问题,但仍有限。而且即便是小冰故意不回答,也不能说这是它的意识。

科学人:这么说,即便人工智能发展到最高程度,也只能是为人类服务的一个工具?

洪小文:计算机都是在执行来自于人的算法。但是时至今天,没有一个人可以写出一个能自动想出新算法解决新问题的程序,几乎没有证据可以证明有计算机可以针对新的问题产生相应的算法。

我觉得把人工智能(Artificial Intelligence)的“Artificial”改成“Augmented”,变成“增强智能”,可能更贴切。比如今天我有一个假设,我可以让人工智能去尝试,让它将结果反馈给我,我再去优化我的算法。既然人能够为计算机设计算法,补足它们的不足,计算机可以实现我们的算法,补足我们的不足,那么两者结合起来,不得了。人加上机器,真的会变成superman


在2015年“二十一世纪的计算大会”上,洪小文将人工智能的“AI”扩充为Agglomerative Intelligence(聚合的智能),Adaptive Intelligence(自适应的智能),Ambient Intelligence(隐形的智能)以及Augmented Intelligence(增强的智能)四个含义。图片来源:微软亚洲研究院

3学生代表未来


科学人:在人工智能的研发方面,你怎么看待微软和谷歌、苹果这些公司的竞争?

洪小文:竞争通常是讲市场氛围、用户等,它是一个生意上的表现。当然报道会喜欢说到底谁的人工智能强,那又是另外一个比较了。我们目前做的这种人工智能、机器学习、大数据等等,在方法上可以说是相同的,而竞争是在应用上。从科学角度来看,这种竞争是好的,大家都希望用最好的方法研发。所以这样的竞争也是在促使大家一起把一个东西做得更好。

科学人:目前微软研究院所做的技术研发,人工智能也好其他领域也好,大概会有多大的比例最终转化为产品?

洪小文:这个很难说,转化的时间有些可能时间长一点,有些时间短一点。微软研究院做东西和别的地方不一样,很愿意做很长期的研究。比如我们在美国有做量子计算机的。这个是非常前瞻的,没有人知道会多久,但做出来的话就不得了了。

这个过程中,你不断地做实验,最后哪一个版本会转化为产品都是不可控的。有时候你会假设错误,会走冤枉路,要回到上一次的内容,这常常发生。不是有句话说,科学是99次的失败换来1次的成功么。但这失败也很重要,因为你在做产品的时候就不会走冤枉路。应该说,技术转化为产品,最终转化率应当是很高的。

科学人:除了人工智能方面的研发,微软也在学术搜索方面有投入,为什么要做这方面的研发?

洪小文:学术搜索很重要。一来我们做搜索,要做下一代的搜索。不是说只搜索关键字,你要搜索有语义的,对话式的等等的整合,这也是智能。二来与学校的合作对我们非常重要。我们和学校做学术研究、做人才的培养、做学术交流和课程共建。为什么学校对我们来说非常重要?因为学生代表未来。

对微软来说,有两种客户最重要。一种我们叫企业级的用户,另外一个就是学校学生,而且学校学生不只是指大学学生,还有中小学学生。因为他们真的代表未来——从产品上讲,他们一旦习惯了用某个东西,以后出了社会到哪里他们就会说我还要用这个东西;从人才的角度来看,我们也希望更多的人加入这个行业,不只是说为了我们公司,也是为了整个行业的人才。

另外一点在于,科技进步太快,仅仅靠一个公司是不可能(实现)的,我们人类的科技进步都是因为站在巨人的肩膀上,所以看得更远。论文发表的重要性就在这里。这也是为什么我们要更无私地把我们这些技术分享出来。

(编辑:wuou;排版:Calo)


本文来自果壳网,谢绝转载如有需要请联系sns@guokr.com



科学人
科研最新进展,学术最新动态,顶级学者的思考和见解。长按二维码关注科学人(微信号:scientific_guokr)。


人们眼中的人工智能各有不同

人工智能眼中的我们又是怎样的?

点击“阅读原文”一探究竟



您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存