新训练可减少AI系统社会偏见

来自美国俄勒冈州立大学工程学院和Adobe公司的新训系统科学家携手，开发出一种用于训练人工智能（AI）的减少新技术FairDeDup。该技术不仅能降低训练成本，新训系统而且有望减少AI系统的减少社会偏见。研究团队已经在近期于美国西雅图举行的新训系统IEEE/CVF计算机视觉和模式识别会议大会上介绍了FairDeDup算法。该会议是减少由电子电气工程师学会（IEEE）计算机协会和计算机视觉基金会（CVF）共同主办的全球顶级学术会议。

FairDeDup是新训系统“公平重复数据消除”的缩写，指从用于训练AI系统的减少数据中删除冗余信息，从而大幅降低训练成本。新训系统研究人员表示，减少之所以将新方法命名为FairDeDup，新训系统也是减少因为它基于此前一种具有成本效益的方法SemDeDup。SemDeDup可以用更少的新训系统资源对AI进行训练。但这一过程会强化AI的减少社会偏见。在最新研究中，新训系统他们通过引入公平机制，对SemDeDup进行了改进，FairDeDup因此面世。

FairDeDup的工作原理是：通过一种名为“修剪”的过程，细化从网络上收集的图像字幕数据集。“修剪”指选择能代表整个数据集的数据子集。该工具可以感知内容，并决定保留或删除哪些数据。结果显示，FairDeDup删除了冗余数据，同时结合了可控的、人为定义的多样性维度，从而减少偏见。