2017年10月17日，来自美国康奈尔大学的博士研究生萨拉 谭（Sarah Tan）等人在arXiv发表的论文中提出了一种解决“黑箱”算法验证问题的方法。在这篇论文中，研究人员测试了两种“黑箱”风险评估模型，分别是借贷平台LendingClub的贷款风险和违约率评估模型以及Northpointe公司的被告犯罪率评估模型，该模型被很多法院用在罪犯量刑过程中作为参考。研究人员采用双管齐下的方法来弄清算法运行原理。首先，他们采用与LendingClub及Northpointe公司的算法工作原理一致的方法模拟了这两类“黑箱”模型，并得到他们在初始数据集上的风险评估输出值。然后他们建立第二个模型来模拟现实世界中的真实输出值，并通过分别控制原始数据集中不同变量的变化来判断哪些变量对最终输出结果影响最大。 

　　来源：技术评论网站