使AI模型对对抗样本具有鲁棒性的方法是随机防御
梦中飞翔
精选回答
随机防御背后的想法是为神经网络的行为引入随机性。向神经网络添加随机性是一种强大的防御方法,因为它增加了攻击者对 AI 模型进行成功攻击的成本。
“在所有已提出的技术中,随机防御是一个很有前途的分支,”麻省理工学院-IBM 沃森人工智能实验室的研究员、分层随机切换 (HRS) 论文的合著者陈品宇说。“在确定性 AI 模型中,攻击者搜索直到他们找到一个可以欺骗特定神经网络的对抗样本。但如果你有一个随机模型,攻击者将需要找到一种更好的攻击方式,可以对模型的所有随机变化起作用。”
随机防御的另一个好处是,与对抗训练不同,它独立于对抗攻击的方法。“对于对抗性训练,您需要指定要训练的攻击类型,以提高 AI 模型的稳健性,”Chen 说。“对于随机方法,你不需要这样做。你只需为 AI 模型添加一定程度的随机性,它就会变得更强大,而不是针对特定类型的对抗性攻击。”
然而,传统随机防御方法提供的鲁棒性并不是免费的。“因为你在权重和激活函数以及神经网络的输入和输出中添加了噪声,你会失去一些准确性,”Chen 说。
HRS 方法的目标是从随机防御方法的优势中受益,同时最小化权衡。“我们希望确保我们的防御方法足够通用,因为它们与当前的机器学习训练管道兼容,因此开发人员只需添加几行代码即可使他们的模型更加健壮,”Chen 说,同时补充说,目的是实现更好的准确性-鲁棒性权衡。“如果你允许你的准确性下降百分之一,你会希望鲁棒性尽可能高。”
久经风霜 2023-08-18 13:27:38
相关推荐
投档会参考学考成绩吗 学考成绩有什么用
将成绩符合的学生的档案投给招生院校。这就是投档,投档不参考于学生的其他条件,只参考他的总成绩和志愿。而根据学校的调档比例省教育考试院确定他的投档比例,只要学生的档案被投档,决定他是否被录取的因素就会包含他的学考...
展开详情艺考生集训注意事项 有什么要了解知道的
艺术生集训不要忽略了文化课,作为艺术生必须要做到文化课和专业课双赢,才能被心中理想大学录取,在这期间需要付出很大的努力。文化课也是非常重要的,不要忽略文化课,要一直学习专业课。艺考生集训注意什么学会针对性强化技...
展开详情艺术生什么时候集训好 有必要去集训吗
艺术生集训指的是艺术类学生在完成学业水平测试之后,由学校或自己向学校申请,暂时停掉学校的文化课,到专业的艺术培训学校进行封闭式训练,直到校考结束。美术生集训时间美术生集训,通常从高二下学期开始,5月份开始报名,...
展开详情艺术生集训注意事项有哪些 需要注意什么
艺术生在集训的时候也要同步文化课学习,夯实文化基础。考生在专业课集训期间,文化课千万不要丢,专业课和文化课的学习一定要兼顾。艺术生集训的注意事项一定要选择一个靠谱的培训学校。因为一个好的培训学校,懂得怎么以最快...
展开详情提高生物成绩的方法是什么 窍门有哪些
即通过分析教材,找出要点,将知识简化成有规律的几个字来帮助生物知识记忆。例如DNA的分子结构可简化为“五四三二一”,即五种基本元素、四种基本单位、每种基本单位有三种基本物质、很多基本单位形成两条脱氧核酸链、成为...
展开详情