谷歌正在开发“大红色”DeepMind AI杀戮开关,以阻止机器人大灾难

时间:2019-08-03  author:云禀削  来源:九卅娱乐客户端  浏览:70次  评论:145条

为了应对未来AI收购的担忧,谷歌的DeepMind正在为其人工智能开发一个杀戮开关按钮。

就在上周,特斯拉和SpaceX首席执行官埃隆马斯克透露,他只担心的工作,其中很多人认为是谷歌。

马斯克和他的同伴们应该感到更放心,因为他们知道谷歌和DeepMind正在考虑如何确保完全控制人类。

在一篇学术论文中,DeepMind的牛津大学人类未来研究所的Laurent Orseau和Stuart Armstrong建立了一个打断AI行动方案的框架。

“现在,人类操作员可能需要按下大红色按钮,以防止代理人继续采取有害的一系列行动,”报纸上写道。

相关:

当然,如果巧妙的堵塞AI(我们只是称之为天网?),这并没有多大用处。它会弄清楚如何覆盖这个“大红色按钮”。

该论文建议关键是调整AI的奖励功能,以防止它分解人类交互点并制定绕过它们的不良捷径。 因此,当出于安全原因在工厂中按下一个非常字面的大红色按钮时,AI并不知道这对生产力有害(因此无法实现其“奖励”),无论如何都要犁。

为什么我们不同

与其他网站不同,我们会彻底审核我们推荐的所 我们使用行业标准测试来评估产品,以便对其进行适当评估。 我们总能告诉你我们找到了什么。 如果您通过我们的链接购买,可信评论可能会获得佣金。 告诉我们你的想法。