2月25日算法偏差是当代人工智能技术众所周知的争议之一
小成熟
精选回答
长期以来,我们认为人工智能不会基于偏见做出主观决定。但是机器学习算法从训练数据中发展出它们的行为,它们反映并放大了这些数据集中包含的任何偏差。
有很多算法偏差的例子,比如本文开头列出的例子。其他案例包括一项研究,该研究表明流行的基于人工智能的面部分析服务对浅色皮肤的男性更准确,而对深色皮肤的女性错误更多。
为了防止对某些群体的不公平偏见,EC 的指导方针建议 AI 开发人员确保其 AI 系统的数据集具有包容性。
问题是,AI 模型通常在公开可用的数据上进行训练,而这些数据通常包含社会中已经存在的隐藏偏见。
例如,波士顿大学的一组研究人员发现,对在线文章进行训练的词嵌入算法(用于机器翻译和在线文本搜索等任务的 AI 模型)产生了隐藏的偏见,例如将编程与男性联系起来,将家庭主妇与女性联系起来。同样,如果一家公司使用其当前员工的个人资料来训练其基于人工智能的招聘工具,它可能会无意中推动其人工智能复制其当前招聘人员的隐藏偏见和偏好。
为了解决隐藏的偏见,EC 建议开发人工智能系统的公司雇用来自不同背景、文化和学科的人员。
然而,需要注意的一个考虑因素是公平和歧视通常取决于领域。例如,在招聘时,组织必须确保他们的人工智能系统不会做出决定。但在医疗保健等另一个领域,在诊断患者时必须考虑性别和种族等参数。
办事稳 2023-08-20 11:27:39
相关推荐
艺考生集训注意事项 有什么要了解知道的
艺术生集训不要忽略了文化课,作为艺术生必须要做到文化课和专业课双赢,才能被心中理想大学录取,在这期间需要付出很大的努力。文化课也是非常重要的,不要忽略文化课,要一直学习专业课。艺考生集训注意什么学会针对性强化技...
展开详情投档会参考学考成绩吗 学考成绩有什么用
将成绩符合的学生的档案投给招生院校。这就是投档,投档不参考于学生的其他条件,只参考他的总成绩和志愿。而根据学校的调档比例省教育考试院确定他的投档比例,只要学生的档案被投档,决定他是否被录取的因素就会包含他的学考...
展开详情提高生物成绩的方法是什么 窍门有哪些
即通过分析教材,找出要点,将知识简化成有规律的几个字来帮助生物知识记忆。例如DNA的分子结构可简化为“五四三二一”,即五种基本元素、四种基本单位、每种基本单位有三种基本物质、很多基本单位形成两条脱氧核酸链、成为...
展开详情艺术生集训注意事项有哪些 需要注意什么
艺术生在集训的时候也要同步文化课学习,夯实文化基础。考生在专业课集训期间,文化课千万不要丢,专业课和文化课的学习一定要兼顾。艺术生集训的注意事项一定要选择一个靠谱的培训学校。因为一个好的培训学校,懂得怎么以最快...
展开详情艺术生什么时候集训好 有必要去集训吗
艺术生集训指的是艺术类学生在完成学业水平测试之后,由学校或自己向学校申请,暂时停掉学校的文化课,到专业的艺术培训学校进行封闭式训练,直到校考结束。美术生集训时间美术生集训,通常从高二下学期开始,5月份开始报名,...
展开详情