AI大牛称人工智能对现实世界构成冲击,快10年内超过人类智能

出品:放牛班的秘密花园 来源:卫报 编译:Sail2008 责任编辑:Sunnisky 电影《终结者》 人工智能的领军人物斯图尔特罗素表示,多数专家认为比人类更聪明的机器智能将于本世纪问世,最乐观的情况下,人工智能将在10年内超过人类智能。他认为这将对现实世界带...

出品:放牛班的秘密花园

来源:卫报

编译:Sail2008

责任编辑:Sunnisky

AI大牛称人工智能对现实世界构成冲击,快10年内超过人类智能

电影《终结者》

人工智能的领军人物斯图尔特罗素表示,多数专家认为比人类更聪明的机器智能将于本世纪问世,乐观的情况下,人工智能将在10年内超过人类智能。他认为这将对现实世界带来巨大的冲击,呼吁采取措施来监管该技术的研发。

加州大学伯克利分校的计算机科学教授斯图尔特罗素(Stuart Russell)是人工智能领域的领军人物,“可与人类共存的人工智能中心”(Center for Human-Compatible Artificial Intelligence)创始人。

1995年他与 Google 研究总监 Peter Norvig合著的《人工智能:一种现代方法》(Artificial Intelligence: A Modern Approach)是全球超千所大学选择的标准教科书。2019年他出版了新书《与人类共存:人工智能及其控制问题》(Human Compatible:Artificial intelligence and The problem of control),再次引发全球关注。

罗素教授将人工智能的进展与原子弹的研发相提并论,称专家们被自己在该领域取得的成就“吓坏了”。他表示,多数专家认为比人类更聪明的机器智能将于本世纪问世,他呼吁制定国际条约来监管该技术的研发。

他对《卫报》说:“人工智能社区尚未适应这一事实,即我们正在开始对现实世界带来巨大的冲击。在该领域的大部分时间里并不是这样的我们只是待在实验室里,搞搞研发,试图让研发的东西运行起来,但大多数都失败了。所以对现实世界的冲击这个问题根本不重要,因为我们必须迅速成长以便迎头赶上。”

从搜索引擎到银行,人工智能支撑着现代生活的方方面面,而图像识别和机器翻译的技术进步是近年来的关键进展之一。

AI大牛称人工智能对现实世界构成冲击,快10年内超过人类智能

斯图尔特罗素教授

罗素将在本周一主讲今年的BBC“里斯讲座”(Reith lectures),题目为“与人工智能共存”。他认为,随着拥有超级智能的超级AI被开发出来,需要采取紧急措施来确保人类能保持控制权。

“人工智能的设计采用了一种特殊方法和某种通用方法。我们在复杂的真实环境中使用这种系统时还不够谨慎。”

举例来说,要求人工智能尽快治愈癌症或许很危险。

“它可能会设法在整个人群中诱发肿瘤,目的是以我们所有人为小白鼠来并行进行数百万个实验,”罗素说。

“这是因为这是我们为其设定的目标的解决方案。我们只是忘了具体说明,你不能把人类当作小白鼠,你不能耗尽全世界的GDP来运行你的实验,你不能这样做,也不能那样做。”

罗素表示,今天的人工智能与《机械姬》影中描述的人工智能仍有很大差距,但机器智能超过人类智能的未来有可能成为现实。

AI大牛称人工智能对现实世界构成冲击,快10年内超过人类智能

电影《机械姬》

罗素说:“我认为在乐观的情况下这需要10年,也可能需要几百年,但几乎所有的人工智能研究者都认为这将在本世纪发生。”

不过人们对此有个担忧,那就是机器无需在所有方面都比人类更聪明就能构成极大的风险。

“这类事情正在上演,”他说。“看看那些决定人们阅读什么和观看什么的社交媒体和算法,它们对我们的认知输入有极大的控制力。”

他认为,终结局就是算法操纵用户,给他们洗脑,这样一来,在选择接触什么内容方面,他们的行为就变得更具可预测性,从而提高基于点击的收入。

人工智能研究者被自己的成功吓到了吗?“是的,我认为我们越来越害怕了,”罗素说。

他说:“这让我想起物理学中发生的一些事情:物理学家知道原子能的存在,他们能测量不同原子的质量,能计算出在不同类型的原子之间进行转换可以释放多少能量。”他指出,专家总是强调该想法只是理论上的,“而当结果出现时,他们却没有为此做好准备。”

他说将人工智能用在军事应用(比如小型杀伤性武器)上尤其令人担忧。“它们极易扩展,一辆卡车上能安装一百万个,打开车后部,一开火,它们就能摧毁整个城市,”罗素说。

AI大牛称人工智能对现实世界构成冲击,快10年内超过人类智能

波士顿动力机器狗等自主机器人引起罗素教授的担忧

罗素认为,人工智能的未来在于开发出一种机器,它知道真正的目标并不确定,人们的偏好也不确定,这意味着它们在做任何决定时,都必须像个管家一样与人类保持沟通。但想法很复杂,尤其是因为不同的人有不同的偏好,它们有时是相互冲突的,又并非一成不变。

罗素呼吁采取包括制定研究人员行为准则、立法和条约在内的措施,以确保人工智能系统的使用安全,对研究人员进行培训,以确保人工智能不容易受到种族偏见等问题的影响。他认为欧盟禁止机器模仿人类的立法应该在世界范围内被采纳。

罗素表示,他希望通过“里斯讲座”强调一点,未来会怎样是有选择的,让公众参与这些选择非常重要,因为这决定了他们能否从中受益。”

他认为人工智能取得下一步重大进展尚有待时日,但它不会仅仅停留在科幻作品上。

声明:著作权所有,转载需授权

Come on,给你的灵魂充充电

给TA打赏
共{{data.count}}人
人已打赏
新鲜事

深度解析|从五方面细说人工智能芯片!

2021-12-12 14:31:00

新鲜事

品牌大家谈|泛在的人工智能如何赋能生产生活?

2021-12-12 14:33:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
搜索