可解释注意力神经推荐与图进化算法

### 可解释注意力神经推荐与图进化算法 #### 可解释注意力神经推荐 在推荐系统领域，采用注意力机制的模型表现出色。与其他标准模型的比较表明，运用注意力机制的模型能提供更优的结果。以往，注意力机制多用于自然语言处理领域的推理，而现在我们将其用于用户评价的推理。 有研究提出了动态可解释推荐器（DER）模型，旨在使解释与用户偏好相匹配。该模型不仅具有高可解释性，而且在可解释性和性能之间没有明显的权衡，既保证了推荐与用户偏好的对应，又提升了模型的透明度，进而提高了用户的满意度和信任度，同时数值结果保持稳定甚至有所提升。 这表明注意力机制能够在系统准确性和推荐可解释性之间找到一个恰当的平衡点。这对于涉及领域专家作为评估者的评价方法研究具有重要意义，例如通过问卷等方式评估系统的可解释性水平。 目前，我们正在为“WhoTeach”设计一个可解释推荐系统，以增强其帮助教师或专家创建高质量课程的能力。现阶段，我们提出了一个基于注意力机制的模型，该模型能够通过注意力权重来解释推荐的原因。此模型专注于利用教育服务的社交信息，扩展“WhoTeach”教育平台的社交引擎，强化人工智能引擎。 为了明确未来的工作方向，我们从三个维度来定位当前工作在可解释人工智能（XAI）领域的位置： - **显示风格**：为了优化用户体验，我们正在研究解释的呈现方式。参考相关文献，存在多种可能性，包括文本和视觉融合的方式。我们将利用注意力权重捕获的信息，从语义和显式两个方面设计如何有效地呈现完整模型提供的可解释推荐。 - **XRS模型**：当前的注意力模型显示出将可解释性融入推荐系统的潜力。在项目的后续阶段，我们将改进现有模型，并对其他可能的模型进行实证评估，以将它们集成到推荐系统中，实现有效的可解释性。具体而言，我们正在开发一个插件，以促进语义提取过程；使用来自现实场景（如教师评估教学资源）的特定实证数据来训练和验证模型；探索将当前注意力模型与符号方法（如决策树）相结合的可能性；利用工具（如显著性热图）来表示和理解注意力分数；优化注意力权重计算的计算复杂度；通过与选定的基线进行比较，努力提高数值结果及其评估。 - **社交维度**：利用平台上用户（如教师、学生、专家）的社交数据，我们将进行进一步的实验，以评估当前情况，并了解如何对其他模型进行实证评估。 #### 图进化算法GraphEA 许多实际的计算工件，如神经网络、数学表达式和有限自动机，都可以表示为图。因此，开发一种通用的图优化技术具有重要意义，该技术应能够在不考虑图的形式和应用的情况下，有效地搜索图空间。 我们提出了GraphEA，这是一种用于进化图的模块化进化算法。GraphEA具有模块化的特点，通过提供指定如何改变边和节点以及如何检查图有效性的组件，可以适应任何图优化任务。它基于处理特定类型图的先前进化算法设计，并包含了用于保留结构创新的物种形成机制和用于逐步复杂化解决方案结构的机制。 为了验证GraphEA的通用性，我们将其应用于三个截然不同的任务：两种类型的回归、从示例中提取文本以及软机器人控制器的进化，并将其效果与针对性更强的方法进行了比较。结果显示，GraphEA在其中两个任务中具有竞争力，而在神经进化任务中表现欠佳。进一步分析发现，当GraphEA与其他优化技术存在差距时，它生成的解决方案通常更为简单，表达能力较弱。这为进一步改进GraphEA提供了方向，例如调整复杂化机制或模板变异算子。 ##### GraphEA的基本概念 我们考虑在由节点集N和边标签集E定义的有向装饰图集合GN ,E中进行优化任务。图g ∈ G是由节点集N ⊆ N和函数e: N × N → E ∪ ∅组成的对。边连接n1和n2存在的条件是e(n1, n2) ≠ ∅，且其标签为e(n1, n2) ∈ E。 为了进行优化，我们假设存在一个有效性谓词v: GN ,E → {True, False}，用于界定搜索的子集G′N ,E ⊆ GN ,E