东方时讯网虽然人工智能(AI)和机器学习工具现在通常用于增强技术应用，但其中许多工具的基础难以破译。这是因为它们中的大多数都基于“黑盒”模型，这些模型分析数据并学习对其进行预测，但不与人类用户共享这些预测背后的过程。
MetaRealityLabs的研究人员最近创建了XAIR，这是一个可以帮助开发人员使支持AI预测的过程更容易理解的框架。该框架在作为2023年CHI计算系统人为因素会议论文集的一部分提交和发表的论文中引入，专门设计用于创建可解释的AI(XAI)系统，这些系统可应用于各种增强现实(AR)设置.
“随着黑盒模型越来越多地应用于日常生活，我们越来越担心人类滥用人工智能和失去控制，”进行这项研究的两位研究人员徐旭海和安娜于告诉TechXplore。“这导致需要让算法更容易理解，从而导致XAI的激增。现有研究发现，XAI可以帮助终端用户解决困惑，建立信任。因此，业界从业者尝试使用XAI来提高用户经历。”
AR技术允许用户查看他们周围环境的修改版本，其中集成了数字元素、声音和/或视觉增强。这些“数字增强”版本的现实可以通过头戴式显示器、护目镜、其他可穿戴设备甚至简单地通过智能手机屏幕查看。
最近，一些研究人员一直在探索使用AI来增强AR应用程序，例如使它们对用户环境的变化更敏感，或者允许它们分析和预测特定对象。Xu、Yu和他们的同事着手创建一个框架，使这些用于AR应用程序的AI工具的结果更容易理解，从而增加用户对它们的信任。
Xu和Yu说：“由于上下文感知、日常AR需要AI模型，XAI也将是必不可少的，因为最终用户将与各种AI结果进行交互。”“XAI可以在许多方面发挥作用，例如使智能AR行为可解释、解决对意外AI结果的困惑或意外、提高隐私意识以及建立信任。鉴于XAI对于AR的重要性，我们的目标是回答有关研究的问题在日常场景中为AR创建有效的XAI体验的正确方法。”
Meta的团队创建了XAIR框架，希望它能促进AR应用程序的XAI设计。他们的框架基本上解决了三个悬而未决的问题：什么时候、什么以及如何?这些问题的答案可以用来为AR场景中的AI预测提供更有效的解释。除了帮助开发人员创建能够回答这三个问题的AI之外，XAIR还为研究人员和开发人员为AR应用程序的XAI工作概述了一系列关键指南。
“我们根据大规模文献回顾确定了五个关键因素，”Xu和Yu解释道。“这些因素决定了‘何时、什么、如何’方面的设计，包括两个AR特定因素——用户状态和上下文信息，以及三个非AR特定因素——系统目标、用户目标和用户配置文件。”
从本质上讲，要使用团队的框架，开发人员首先需要解决这五个因素，确定有关用户的上下文信息、用户状态、整个系统的目标以及潜在用户的目标和概况。一旦他们这样做了，他们就可以简单地参考XAIR框架来调整和完善他们的XAI系统以用于AR应用程序。
“随着人工智能变得越来越强大，在可预见的未来，我们可以预期人工智能将帮助自动识别这五个因素中的至少一个子集，”Xu和Yu说。“这样框架就可以变成一个自动化或自自动化的工具，帮助设计师改进他们在AR中的XAI设计。”
作为研究的一部分，Xu、Yu和他们的同事总结了100多项扎根于不同领域的研究的结果，以确定在开发用于AR用途的XAI时应该考虑的重要维度，回答时间、内容和方式问题。随后，研究人员进行了一项涉及500多名用户的大规模调查，并与12名该领域的专家举行了研讨会。专家们在研讨会期间分享的调查回复和观点提供了宝贵的见解，指导他们开发XAIR。
“XAIR是第一个用于AR场景中XAI设计的框架，还包括支持设计师进行设计思维过程的指南，”Xu和Yu说。“10名设计师的设计研讨会结果表明，XAIR可以为设计师提供有意义和有洞察力的创造力支持。我们进一步实施了基于一个设计的实时AR系统，并与12名最终用户进行了测试。”
为了评估他们框架的价值，研究人员用它创建了一个真正的XAI系统，并在一系列AR场景中对其进行了实时测试。他们发现用户认为该系统既透明又值得信赖，这表明他们的框架有效地指导了其开发。未来，XAIR框架可用于创建各种AI系统以增强AR应用程序，这些AR应用程序可以解释他们的预测，因此被用户认为更值得信赖。
“在我们接下来的研究中，我们计划探索设计框架的自动化，随着时间的推移在AR中创建个性化的XAI体验，以及使用户能够提供反馈以进一步改进系统等，”Xu和Yu补充道.“XAIR框架为我们探索未来AR系统中的XAI交互奠定了基础和指导方针。最近生成人工智能的爆炸式增长也非常令人兴奋，我们有兴趣探索这种趋势如何影响未来AR中的XAI设计。”