虚拟助手：从设计到实现的全面探索

### 虚拟助手：从设计到实现的全面探索 #### 1. 良好协助的评估与设计启示 在探讨如何设计能提供“良好”协助的智能体之前，我们需要先明确评估协助质量的维度以及这些维度对设计的启示。 ##### 1.1 胜任的助手并非足够 良好的协助不仅仅是为他人完成一项任务。例如，当两个子任务需要按特定顺序完成时，随意完成其中一个任务的助手可能并无帮助；或者两个子任务难度差异很大，需要帮助的是较难的那个，此时完成较易任务的助手可能不如在较难任务上取得部分进展的助手有用。而且，完成任务可能会给用户带来乐趣，由助手完成任务可能会剥夺用户的这种满足感。这表明，能力、预判和坚持这些特征对于提供有帮助的协助来说并非足够。 ##### 1.2 不胜任的助手也可能有帮助 学徒制的悠久传统表明，技能尚未达到精通水平的助手在发展专业知识的过程中也能提供有用的服务。比如孩子帮助父母做家务，通过拿工具或零件就能提供实际帮助。结合前面的假设，这说明能力既不是良好协助的必要特征，也不是充分特征。 我们认为，没有一组必要且充分的特征可以定义“良好”的协助。如果要仔细全面地评估智能助手提供的服务质量，就需要考虑所有这些维度。这些维度不仅为评估助手提供了策略，还暗示了助手应展现的行为或倾向，有助于回答如何设计能提供“良好”协助的智能体这一问题。 #### 2. 虚拟管家的先决条件 要实现像 Tina 的 James 那样的虚拟管家，需要考虑多种先决条件，可分为技术先决条件和社会先决条件。 ##### 2.1 技术先决条件 技术先决条件可分为感知、分析和执行器三个类别。 - **感知**：仆人需要有对环境的感官访问能力。服务的多个维度直接依赖于监测情况的能力，如注意力意味着对环境的持续采样，坚持需要仆人能确定任务何时完成或不再相关，预判需要一些线索来触发预期需求，顺从依赖于对客户当前目标的识别，甚至能力也往往需要来自环境的反馈。更具体地说，服务智能体需要感知和识别环境中的一系列特征，最重要的是要能够感知客户的目标，这意味着要从客户的行为中推断其目标。此外，客户的情绪状态可能也是同样重要的信息来源，虽然目前不清楚感知情绪的能力是可选功能还是必要功能，但我们怀疑它将是不可或缺的。 - **分析**：智能体的感知能力提供了行动的信息基础。为了在特定情况下确定适当的行动，有效的仆人必须能够进行推理，这不仅要考虑当前环境的信息，还要考虑关于客户和世界运行方式的存储信息。虚拟仆人需要获取和利用习惯模型，包括客户及其亲密朋友的习惯模型，还需要获取行动模型，了解客户和仆人采取特定行动的后果，以及这些后果如何随条件（如情绪）变化。 - **执行器**：仆人最终需要采取行动来使我们受益，这要求它能够以某种方式操纵世界。这可能包括通过自然语言进行交流、操作各种设备（如咖啡机、浇水系统和门锁）、查询网络、进行购买和移动电子资源等。目前，许多这些功能对于自动化或自主系统来说已经可行，但与人类客户进行交流这一最关键的能力仍然是最困难和最遥远的。 以下是技术先决条件的总结表格： | 类别 | 具体要求 | | ---- | ---- | | 感知 | 感官访问环境，感知客户目标和情绪状态，理解语言和语音 | | 分析 | 推理能力，获取和利用习惯与行动模型 | | 执行器 | 操纵世界的能力，包括交流、操作设备、查询网络等 | ##### 2.2 社会先决条件 除了技术先决条件，还存在一些社会和政治层面的要求，这里主要考虑责任、隐私和普遍接受度。 - **责任**：如果个人实现自己的虚拟管家，若其做出对自身不利甚至对他人有害的事情，责任显然在于开发者。而当公司提供“出租仆人”服务时，它们将对其“智能体”的不当行为负责，这与雇佣人类的清洁服务类似。 - **隐私**：提供服务必然会导致隐私的减少，这是一个更严重和棘手的问题。在提供服务时，客户的参与是实现优质服务的一个重要但尚未充分探讨的问题。社会必须在一定程度上接受隐私的损失，以换取虚拟管家提供的服务。 - **普遍接受度**：想要这些服务的人需要适应并接受虚拟仆人的监督。虽然我们可能认为人们会欣然欢迎这些智能体提供的帮助，但这种调整并不像看起来那么简单。有些人可能会欢迎这种互动并心怀感激，但许多人需要有显著的成长才能充分利用虚拟仆人带来的好处。 - **伦理问题**：如果实现像 James 那样复杂的虚拟管家，我们将面临一些标准的伦理问题，如什么是“人”、权利是属于人还是人类、这