创新与应用案例

NIST发起“公平排序”研究以测量数据偏差

日期:2019-12-02

|  来源:【字号:

据美国国家标准技术研究院(NIST)官网20191114日报道,其新研究解决了数据驱动社会中普遍存在的“信息检索软件可能导致搜索结果缺乏公平性”问题。NIST可测量的“公平排序”在重复进行每次相同搜索后,结果列表却并不完全相同。因为,信息检索软件在搜索运行时会考虑答案的相对相关性,从而使不同的、可能有趣的答案有时在列表中排序更靠前。

排序软件通常结合人工智能,帮助其学会随着时间的推移做出更好的决策。但是,这些决策基于接收到的数据,如果数据以某种方式存在偏差,则该软件还将学会做出具有偏差的决策。为解决上述问题,NIST发起“公平排”研究,它本质上是一个新的研究领域的孵化器,旨在围绕公平观念来协调研究。通过寻找适当的方法来衡量数据和搜索技术中的偏差量,研究者希望找到消除该偏差的策略。

  来源:美NIST官网 


附件: