AI可能带有性别偏见？Salesforce提出了减轻AI性别偏见的方法
通过与弗吉尼亚大学的研究人员合作，salesforce 提出了有助于减轻 ai 性别偏见的新方法。 通常情况下，研究人员需要为 ai 模型投喂许多单次来展开训练，但其中不可避免地会掺杂一些或隐性、或显性的性别偏见。 然后在执行语言翻译或其它预测任务的时候，这些 ai 也会沾染上一些不良习性。
双硬去偏器示意
有鉴于此，研究团队尝试纠正某些规律性，比如大数据集中的单词频率，以使 ai 在推理前对嵌入的内容进行“纯化”，抛弃那些带有性别歧视的词汇。
这套方案可以捕获单词的语义、句法、以及同其它单词的关系，此前已被许多自然语言处理（nlp）方案所采用，但因不可避免的性别偏见而遭到批评。
先前补救方案是在后处理过程中引入几个步骤，以剔除与性别歧视相关的成分，但有效性受到了较大的限制，比如在去偏见操作后又被复原了。
双硬去偏器基准测试成绩
为此，salesforce 提出了名叫“双硬去偏”（double-hard debias）的新方案，以将嵌入空间转换为表面上无性别的子空间。
然后在执行另一次消除偏见的操作之前，它会沿着这个维度去“投射”性别成分，以获取修改后的嵌入内容。为评估效果，研究人员针对 winobias 数据集开展了测试。
该数据集由赞成性别定型和反对性别定型的句子组成，性能差距反映了算法系统是如何在两个句子组上执行、并导致“性别偏见”的得分。
tsne 嵌入投影
结果显示，在保留语义信息的同时，双硬去偏方案将使用 glove 算法获得的嵌入偏差得分，从 15 分砍半到了 7.7 分。此外在对嵌入进行建模的可视化（tsne 投影）上，它也较其它方案的混合更加均匀。
即便如此，一些专家仍认为无法从词嵌入中完全消除偏见。比如慕尼黑工业大学的最近一项研究，就表明“没有天然中性的文本”。因为单词的语义内容，是始终与社会环境联系在一起的。
航空5G通信基建加速：5G通信技术迎来高速发展
ch32和gd32哪个好用？
市场竞争激烈，电力电缆的主要优点是什么
城市防控体系新力量，AR科技守护城市安全
电动自行车蓄电池的充电及使用技巧
AI可能带有性别偏见？Salesforce提出了减轻AI性别偏见的方法
SAP SuccessFactors一体化人才管理解决方案
第29届智能交通世界大会将于2022年11月在苏州召开
RedCap与5G有何不同？RedCap典型应用场景
索尼这个让人跪舔大半年的黑科技，现在终于出世了！
全自动电池套膜机都有哪些功能
五角继电器接线方法，需要避免哪些常见误区？
迈凯伦将推新超跑：灵感来自F1赛车但可以坐三个人
工业母机千亿大赛道，有望诞生核心资产
锁相环(PLL)电路的组成和参数
再创潮流颜色，红色iphone发售引领潮流
AVR单片机语音识别电路模块设计
U盘维修方法大全
国内客车制造企业市场集中度较高,公路客运位于运输主力地位
智能化妆镜可通过语音来与镜面进行简单的交互
双硬去偏器示意
有鉴于此，研究团队尝试纠正某些规律性，比如大数据集中的单词频率，以使 ai 在推理前对嵌入的内容进行“纯化”，抛弃那些带有性别歧视的词汇。
这套方案可以捕获单词的语义、句法、以及同其它单词的关系，此前已被许多自然语言处理（nlp）方案所采用，但因不可避免的性别偏见而遭到批评。
先前补救方案是在后处理过程中引入几个步骤，以剔除与性别歧视相关的成分，但有效性受到了较大的限制，比如在去偏见操作后又被复原了。
双硬去偏器基准测试成绩
为此，salesforce 提出了名叫“双硬去偏”（double-hard debias）的新方案，以将嵌入空间转换为表面上无性别的子空间。
然后在执行另一次消除偏见的操作之前，它会沿着这个维度去“投射”性别成分，以获取修改后的嵌入内容。为评估效果，研究人员针对 winobias 数据集开展了测试。
该数据集由赞成性别定型和反对性别定型的句子组成，性能差距反映了算法系统是如何在两个句子组上执行、并导致“性别偏见”的得分。
tsne 嵌入投影
结果显示，在保留语义信息的同时，双硬去偏方案将使用 glove 算法获得的嵌入偏差得分，从 15 分砍半到了 7.7 分。此外在对嵌入进行建模的可视化（tsne 投影）上，它也较其它方案的混合更加均匀。
即便如此，一些专家仍认为无法从词嵌入中完全消除偏见。比如慕尼黑工业大学的最近一项研究，就表明“没有天然中性的文本”。因为单词的语义内容，是始终与社会环境联系在一起的。
航空5G通信基建加速：5G通信技术迎来高速发展
ch32和gd32哪个好用？
市场竞争激烈，电力电缆的主要优点是什么
城市防控体系新力量，AR科技守护城市安全
电动自行车蓄电池的充电及使用技巧
AI可能带有性别偏见？Salesforce提出了减轻AI性别偏见的方法
SAP SuccessFactors一体化人才管理解决方案
第29届智能交通世界大会将于2022年11月在苏州召开
RedCap与5G有何不同？RedCap典型应用场景
索尼这个让人跪舔大半年的黑科技，现在终于出世了！
全自动电池套膜机都有哪些功能
五角继电器接线方法，需要避免哪些常见误区？
迈凯伦将推新超跑：灵感来自F1赛车但可以坐三个人
工业母机千亿大赛道，有望诞生核心资产
锁相环(PLL)电路的组成和参数
再创潮流颜色，红色iphone发售引领潮流
AVR单片机语音识别电路模块设计
U盘维修方法大全
国内客车制造企业市场集中度较高,公路客运位于运输主力地位
智能化妆镜可通过语音来与镜面进行简单的交互