更好的透明度为自动决策系统引入上下文透明度

LinkedInRecruiter是专业职位招聘人员用来寻找空缺职位候选人的搜索工具，如果招聘人员确切知道LinkedIn如何生成其搜索查询响应(可能通过称为“上下文透明度”的框架)，则效果会更好。

这就是由纽约大学Tandon工程学院的MonaSloane领导的研究小组，纽约大学负责人工智能中心的高级研究科学家和技术、文化和社会系的研究助理教授，在一项发表于自然机器智能。

这项研究是与纽约大学计算机科学与工程学院副教授、数据科学副教授、负责任人工智能中心主任JuliaStoyanovich以及IanRenéSolano-Kamaiko博士合作完成的。康奈尔科技大学学生;新泽西理工学院数据科学助理教授AritraDasgupta;和JunYuan博士新泽西理工学院的候选人。

它引入了上下文透明度的概念，本质上是一个“营养标签”，伴随着任何自动决策系统(ADS)交付的结果，ADS是一种计算机系统或机器，使用算法、数据和规则在没有人为干预的情况下做出决策。该标签将在ADS在特定情况下使用的算法或其他技术过程中揭示明确和隐藏的标准——成分和配方。

LinkedInRecruiter是一个真实的ADS示例——它“决定”哪些候选人最符合招聘人员想要的标准——但不同的职业以不同的方式使用ADS工具。研究人员提出了一种建立上下文透明度的灵活模型——营养标签——因此它是高度特定于上下文的。为此，他们推荐了三个“上下文透明度原则”(CTP)作为构建上下文透明度的基础，每个原则都依赖于与学科相关的方法。

CTP1：利益相关者特异性的社会科学：旨在确定依赖特定ADS系统的专业人员，他们究竟如何使用它，以及他们需要了解有关系统的哪些信息才能更好地完成工作。这可以通过调查或访谈来完成。

CTP2：ADS特异性工程：旨在了解相关利益相关者使用的ADS的技术背景。不同类型的ADS以不同的假设、机制和技术限制运行。该原则需要了解输入(决策中使用的数据)和输出(决策如何返回)。

CTP3：针对透明度和结果特定性的设计：旨在了解流程透明度与ADS系统理想交付的特定结果之间的联系。例如，在招聘中，结果可能是通过可解释的排名模型促进了更多样化的候选人库

研究人员研究了上下文透明度如何与LinkedInRecruiter一起使用，其中招聘人员使用布尔搜索(AND，OR，NOT书面查询)来接收排名结果。研究人员发现，招聘人员不会盲目相信ADS得出的排名，并且通常会仔细检查排名输出的准确性，通常会回过头来调整关键字。招聘人员告诉研究人员，ADS透明度的缺乏挑战了招聘多元化的努力。

为了解决招聘人员的透明度需求，研究人员建议上下文透明度的营养标签包括被动因素和主动因素。被动因素包括与ADS的一般功能和一般招聘专业实践相关的信息，而主动因素包括特定于布尔搜索字符串并因此发生变化的信息。

营养标签将被插入到LinkedInRecruiter用户的典型工作流程中，为他们提供信息，使他们能够评估排名结果满足其原始搜索意图的程度，并相应地改进布尔搜索字符串以生成更好的结果。

为了评估这种ADS透明度干预是否确实实现了可以合理预期的变化，研究人员建议使用利益相关者访谈，了解ADS使用和感知的潜在变化，以及记录专业实践和A/B测试(如果可能)的参与者日记。

上下文透明度是一种可用于满足美国和欧洲新的和即将出台的AI法规(例如2021年第144号纽约地方法或欧盟AI法案)中强制要求的AI透明度要求的方法。