新加坡联合早报中文网即时报道亚洲和国际的评论、商业、体育、生活、科技与多媒体新闻,从世界各个维度报道世界经济新闻,时政新闻,突发新闻等。

当前位置:主页 > 新闻 > Facebook关闭“失控”AI系统 因其发展出人类无法理解的语言

Facebook关闭“失控”AI系统 因其发展出人类无法理解的语言

来源:联合早报中文网作者:邵湖心更新时间:2020-09-07 12:32:02阅读:

本篇文章1063字,读完约3分钟

据国外媒体报道,特斯拉首席执行官埃隆马斯克(elon musk)曾表示,人工智能(ai)是最大的风险。几天后,facebook关闭了一个失控的人工智能系统,因为聊天机器人开始用他们自己的语言说话,使用英语单词,但是人类听不懂。

脸书创始人马克·卢·扎克伯格

根据外国媒体报道,facebook不得不拔掉其研究人员正在研究的人工智能系统的插头,因为事情已经失控。

问题是,当这些机器人因为相互谈判而获得奖励时,他们不会因为用英语谈判而获得奖励,这导致机器人发展自己的语言。

该报告指出,人工智能没有在世界各地关闭计算机或类似的东西,但它停止使用英语,并开始使用它创造的语言。

起初,人工智能的代理人用英语互相交谈,但后来他们创造了一种只有人工智能系统才能理解的新语言,这违背了他们的目的。这导致facebook的研究人员关闭了人工智能系统,迫使他们只能用英语交谈。

今年6月,facebook人工智能研究实验室的研究人员发现,当他们忙于改进聊天机器人时,对话代理正在创造他们自己的语言。

据媒体报道,很快,这些机器人开始脱离脚本规范,开始用一种没有人类输入的语言交流。对话代理使用机器学习算法,可以自由交谈,提高对话技巧。

研究人员还发现,这些机器人是非常狡猾的谈判者。

报告称:在学会谈判之后,机器人依靠机器学习和先进的策略来试图改善这些谈判的结果。随着时间的推移,这些机器人变得相当熟练,甚至开始假装对某个项目感兴趣,以便在谈判的后期做出牺牲,作为一种虚假的妥协。

尽管这对人工智能来说似乎是一个巨大的飞跃,但包括斯蒂芬·路·霍金教授在内的几位专家已经提出了对人类的关注,即人类将被人工智能所取代。

特斯拉的埃隆·马斯克(Elon Musk)、慈善家比尔·盖茨(bill gates)和前苹果创始人史蒂夫·沃兹尼亚克(steve wozniak)也表达了他们对人工智能技术发展方向的担忧。

有趣的是,就在这一事件发生的前几天,脸书首席执行官和马斯克就人工智能的未来展开了激烈的辩论。

扎克伯格本月早些时候在脸书上说:我已经和马斯克谈过了。他对这个问题的理解是有限的。如果人工智能成为主流,需要谨慎和监督来保护未来。我认为反对者试图鼓励这些世界末日的场景。这是非常消极的。在某些方面,我实际上认为这是非常不负责任的。

Facebook关闭“失控”AI系统 因其发展出人类无法理解的语言

马斯克经常在人工智能领域发表演讲,称其进步是我们作为一个文明面临的最大风险。他说:人工智能是一种罕见的情况,我们需要主动的监督而不是被动的反应,因为如果我们在人工智能监督中是被动的,那就太晚了。(小狐狸)

标题:Facebook关闭“失控”AI系统 因其发展出人类无法理解的语言

地址:http://www.6st8.com/zbxw/6608.html

免责声明:联合早报中文网从世界各个维度报道世界经济新闻,时政新闻,突发新闻等,本篇的部分内容来自于网络,不为其真实性负责,只为传播网络信息为目的,非商业用途,如有异议请及时联系btr2018@163.com,联合早报中文网的小编将予以删除。

返回顶部