本文介绍了在设计好的人工智能用户体验时要记住的三个基本原则——期望、错误和信任。

在前面的文章中，我谈到了AI开发指南:什么是机器学习产品？“，AI和ML产品需要更多的测试和反复调整，带来更多的不确定性。关于什么是AI和ML产品，在《如何设计和管理AI产品》中？这篇文章有更详细的解释。

因此，我们需要为ML工程师和数据科学家提供足够的空灵活性来探索可能的解决方案。同时要明确目标函数，鼓励团队尽快测试，避免迷失方向。

因为在设计用户体验时，人工智能产品也面临着这样的挑战(UX)。在过去的几个月里，我和UX团队一起收集客户意见，改善ML产品的用户体验。以下是我们学到的三件最重要的事情:

三个基本原则:期望、错误和信任

为用户设定正确的期望

机器学习模型的性能会随着数据的增多而提升，也就是说ML模型会不断的自我提升，这就是使用AI & ML最大的好处之一。但也意味着他们最初的表现不会完美。

因此，用户有必要了解ML产品持续改进的本质。更重要的是，我们需要和用户一起提前确定一套接受标准。只有ML模型符合验收标准，我们才会推出这个产品。

在设定验收标准时，您可以比较系统的基线性能、替代方案或现有解决方案的性能，甚至可以比较基本事实。

比如比较人工翻译和机器翻译的准确性。或者将机器预测的天气数据与真实的天气数据进行比较。或者对比机器包装和人工操作的速度和精度，客户可以设定只有ML型号精度达到人工操作的90%才能上线。

有时候，制定接受标准可能比想象的要复杂:你可能有很多不同的用户类型，他们需要不同的接受标准。或者，您的用例要求特定的项目必须完全没有错误。

另外需要注意的是，模型本身的准确性通常不是最好的衡量标准，一般需要考虑精度和召回率之间的权衡。这在上一篇文章中有更详细的解释。

如果用户需要ML模型从第一天起就表现良好，那么预处理的模型是首先收集数据，并确保模型满足接受标准。

然而，应该注意的是，即使使用预先训练的模型，边缘情况仍然可能发生。你需要与用户合作，制定降低风险的计划。比如模型不工作，记录是什么？如果用户想要添加一个新的用例，需要多长时间来重新训练模型？需要多少额外数据？当不允许更新模型时，用户可以设置更新中断期吗？这些问题需要提前回答。

通过建立正确的用户期望，你不仅可以避免用户的挫败感，甚至可以给他们惊喜。亚马逊配备Alexa语音助手的智能音箱就是一个很好的例子。我们对人形机器人有很高的期望:我们希望它们能像人类一样自然地说话和移动。

因此，当智能机器人Pepper(如下图)无法与我们顺畅对话时，我们会感到沮丧，不想再使用它。相比之下，Alexa定位为智能音箱，降低了客户的期望。当我们了解到它不仅可以播放音乐，还具有许多其他功能时，我们可以让用户感受到意想不到的惊喜。

保持信息披露的透明度是加强沟通和信任的另一个重要部分。ML比软件工程更不确定。因此，显示每个预测的置信水平也是建立正确预期的一种方法。这样做也可以让用户更好地理解算法的工作原理，从而与用户建立信任。

建立信任(建立信任)

ML算法通常缺乏透明度，就像一个黑盒。我们知道输入(比如图像)和输出预测(比如图像中的物体/人是什么)是什么，但是不知道盒子是怎么工作的。因此，向用户解释ML模型是如何工作的非常重要，这可以帮助我们建立信任，获得用户支持。

如果不多讲解算法，可能会让用户产生疏离感，或者觉得产品不人性化。例如，优步司机抱怨优步算法让人感觉不人道，他们质疑算法的公正性，因为算法做出的决定没有给他们一个明确的解释。这些司机也认为算法收集了他们很多数据，对他们非常了解，但对算法的工作原理和决策却知之甚少。

相反，亚马逊的网页明确告诉用户为什么推荐这些书。这只是简单的一行解释。告诉用户其他看过这个产品的用户浏览过什么其他产品，但是可以让用户大致了解算法的原理，让用户更信任推荐系统。

同一个优步司机研究还发现，司机觉得他们经常被监控，但他们不知道这些数据将用于什么。除了遵守GDPR或其他数据保护法规之外，用户还应该尝试了解他们的数据是如何管理的。

优雅地处理错误(优雅地处理错误)

"…还有未知——那些我们不知道我们不知道的& # 8230；这一类往往是最难的。”

-唐纳德·拉姆斯菲尔德

"…但是也有未知的未知——那些我们不知道我们不知道的。后一类往往是最困难的”

——唐纳德·拉姆斯菲尔德

在设计一个系统时，通常很难预测系统将如何出错。这就是为什么用户测试和质量保证对于识别故障状态和边缘情况极其重要。通过在实验室或实际现场进行更多的测试，有助于将这些误差降至最低。

您还需要根据错误的严重性和频率对其进行分类和处理。有一个致命错误需要通知用户并立即处理。但是有一些小错误，并没有真正影响系统的整体运行。如果每一个小错误都通知用户，那会很烦，干扰用户的产品体验。相反，如果致命的错误不立即解决，可能是灾难性的。

您可以将错误视为用户期望和系统假设之间的意外交互:

用户错误User Error：当用户”误用”系统时，导致的错误。系统错误System Error：当系统无法提供用户期望的正确答案时，就会发生系统错误。 它们通常是由于系统固有的局限性造成的。情境错误Context Error：当系统按预期运作，但用户确察觉到错误时，这就是情境错误。 这通常是因为我们设计系统的假设是错误的。

例如，如果用户一直拒绝应用程序的建议，产品团队可能需要检查并了解原因。例如，用户可能已经从日本搬到美国，但是应用程序基于用户的日本信用卡信息错误地假设用户生活在亚洲。在这种情况下，用户的实际位置数据可能是做出这种建议的更好的数据基础。

最棘手的错误类型是未知的未知:系统无法检测到的错误。像上面这样的例子属于这种错误类型，需要分析数据或异常模式才能检测到。

另一种方法是允许用户提供反馈反馈:这样用户可以随时随地方便地提供反馈。让用户帮助您发现未知、未知或其他类型的错误。

您也可以使用用户反馈来改进您的系统。比如。YouTube允许用户告诉系统一些他们不想看到的建议。它还利用这一点收集更多的数据，并使其建议更加个性化和准确。

把ML模型预测作为建议，而不是强迫用户执行，也是一种管理用户期望的方式。您可以为用户提供多个选项，而无需指定他们应该执行什么操作。但是，请注意，如果用户没有足够的信息来做出正确的决策，则此方法不适用。

我们之前讲过的很多一般原理在这里仍然适用。你可以在我的上一篇文章中找到更多细节。

AI产品如何设计和管理？

定义好问题并尽早测试：如果听到有人提议”让我们先构建ML模型，看看它能做什么。 ”通常要很小心，没有定义好问题前就试图开发产品，通常会浪费团队大量时间。知道何时应该或不应该使用ML。从第一天就开始计划数据策略。构建ML产品是跨领域的，牵涉到的职能并不只是机器学习而已