谷歌AI团队制作了关闭开关以防AI变得疯狂
落雪倾城
精选回答
真正的人工智能的想法让很多人感到害怕,因为能够思考的人工智能可能与大多数人的目标和保护生命的愿望不同。我们可以看看像“终结者”这样的电影,看看人工智能在最坏的情况下会发生什么。虽然终结者场景可能不会发生,但类似于电视节目“感兴趣的人”中发生的事情可能是人工智能失控的结果。谷歌的人工智能团队认为他们有一个解决方案可以防止人工智能变得流氓。
Google DeepMind 团队表示,该解决方案只是一个名为“大红色按钮”的关闭开关。研究人员 Laurent Orseau 和 Stuart Armstrong 博士在一篇论文中写道,AI 代理“不太可能一直表现最佳”。该论文指出,“人类操作员有时可能需要按下红色大按钮,以防止代理继续进行一系列有害的行动——无论是对代理还是对环境都有害——并引导代理进入更安全的情况。”
该团队希望在系统中构建一种称为“安全可中断性”的东西。研究人员写道,“安全的可中断性对于控制一个行为不端并可能导致不可逆转后果的机器人,或将其从微妙的情况中解救出来,甚至暂时使用它来完成它没有学习过的任务是很有用的。执行或通常不会因此获得奖励。” 科学家承认,这个红色的大按钮可能并非在所有情况下都有效,“目前还不清楚是否所有算法都可以轻松安全地中断。”
阿姆斯特朗博士认为,在机器人能够智胜其创造者并意外或故意对人类操作员造成伤害之前,对人工智能采取保护措施至关重要。他相信机器可能能够以人类无法理解的速度接管金融市场、交通、医疗保健和其他系统,并且能够做的不仅仅是一组特定和有限的任务。
匆匆 2023-08-20 11:27:43
相关推荐
电脑如何添加域
先点击计算机,然后单击右键,选择属性项,更改设置选择更改。计算机名字更改为使用者名字,这样是为了区分域中的计算机,域填写需要加进去的域名,点击确定,弹出对话框,填写域管理员的账号密码。点击计算机,然后单击右键,...
展开详情显卡的6P供电怎么接
1、首先需要准备显卡电源线,保证质量完好无损,方可进行接下来的操作;2、接着观察电脑的插口有哪些具体样式,是否与自身的电源线接口相匹配;3、接着准备连接,首先找到电源插口上六加二中的六插口,随后插在显卡上,此时...
展开详情表示队伍整齐的四字词语
1、堂堂之阵:形容阵容盛壮整齐,也用来形容光明正大;2、鳞次栉比:形容房屋或船只等排列得很密很整齐;3、正正之旗:排列整齐的军旗。借喻强盛整肃的军队;4、匪匪翼翼:形容车马行走时阵容整齐、威武;5、井然有序:整...
展开详情形容高考的成语有哪些
形容高考的成语有:寒窗苦读:在寒冷的窗下苦读:形容读书的艰辛。倒背如流:背:背诵。把书或文章倒过来背,背得像流水一样流畅。形容背得非常熟练,记得非常牢。成语出处:郭沫若《苏联纪行日记六月廿七日》。她把说明小册子...
展开详情儿子欠债父母有义务还吗
成年子女自己欠下的钱,债权人只能让这个成年子女还,法律上成年子女和父母的财产分的很清楚,不存在连带责任。父母对于成年子女的债务不负偿还义务,除非父母作为继承人,在成年子女死亡后继承死者遗产,就需要承担遗产价值以...
展开详情