可解释注意力神经推荐助力个性化社交学习

### 可解释注意力神经推荐助力个性化社交学习 #### 1. 引言 如今，人工智能（AI）技术和方法的普及正逐渐影响着学习和培训过程。然而，为了切实且显著地提升教育质量，研究人员、教师和专家需要充分挖掘其潜力。在教育领域，理解模型输出背后的原因尤为重要，特别是在涉及课程或教学资源的创建、管理和评估建议时。可解释人工智能（XAI）旨在创建一系列新的AI技术，使决策更加透明和可解释，这在教育及其他众多领域都可能起到关键作用。 在推荐系统领域，可解释AI（XRS）致力于为算法给出的建议和推荐提供直观解释。同时，深度学习领域也在尝试将深度技术拓展到处理社交数据、推荐和解释方面。例如，有基于递归神经网络（RNN）的方法可动态分析用户偏好，同时学习图像和文本表示，提升解释的质量；也有通过门控循环单元（GRU）结合卷积神经网络（CNN），基于用户评论生成动态解释的方法。此外，可解释推荐方法可聚焦于用户评论或属性信息的利用，甚至将二者结合以提供高质量解释。 “注意力机制”首次被引入深度学习社区，旨在让模型根据注意力权重检测最相关的信息，近年来在诸多目标的解决上取得了成功。可解释注意力模型已在医疗保健、电子商务和在线购物等领域得到应用，但在教育领域，尤其是支持教师方面的应用仍有待探索。注意力权重有助于促进可解释性，它能捕捉并衡量与用户对特定资源评估相关的最关键信息，还可与资源的关键词和元数据关联，以捕捉资源间的语义和相似性。 本文介绍了一项正在进行的研究项目的初步阶段，旨在通过可解释注意力模型（XAM）显著增强教育平台“WhoTeach”的推荐系统，帮助教师和专家创建和管理高质量的个性化学习课程。 #### 2. WhoTeach平台 WhoTeach（WT）是一个完整的数字学习平台，支持异质学习生态系统的各类活动。它是一个社交智能学习管理系统（SILMS），由以下三个部分组成： 1. **推荐系统（RS）**：通过对可用材料的智能分析，根据教师的需求和要求，为教师建议最适合纳入课程的资源，无论资源格式如何。 2. **知识共创社交平台**：基于集成且高度互动的社交网络的技术基础设施，具备分享信息、主题群组和讨论论坛等功能。 3. **内容存储库**：可上传任何课程或培训材料，无论是专有资源还是开放资源，为推荐系统处理材料和用户创建个性化课程提供基础。 该平台能够表示用户及其个人资料，以及教师提供的教学资源。用户通过相关元数据表示，注册时需提供个人信息，如邮件、家庭地址和教育水平；资源则通过精确特征表示，并且可以获取用户与之交互的特定资源，从而全面了解用户和资源信息，以及检测用户最关注的主题。 #### 3. 主要概念和定义 图（用G = (V, E)表示）是一种广泛用于建模复杂网络关系的理论对象，由一组“实体”（顶点或节点）V和它们之间的关系（边）E组成。本文使用属性图，即每个顶点v∈V都带有一组属性值标签。对于顶点v∈V，其邻域N(v) = {u : {v, u} ∈E}。 给定图G，使用相应的邻接矩阵A来表示两个顶点vi, vj是否通过边连接，即若{vi, vj} ∈E，则(A)i,j = 1。 为了总结顶点之间的关系并捕捉图中的相关信息，通常会应用嵌入（将对象转换到低维空间）方法。嵌入可以在不同层次进行，如节点级、图级，或通过不同的数学策略实现。通常，嵌入是通过使用标准基于梯度的优化方法拟合（深度）网络的参数来实现的。以下是一些有用的定义： - **定义1**：给定图G = (V, E)，节点嵌入的目标是学习一个函数f : V →Rk，使每个顶点i∈V映射到一个k维向量⃗h。 - **定义2**：给定一组图G，图嵌入的目标是学习一个函数f : G →Rk，将输入图G∈G映射到一个低维嵌入向量⃗h。 #### 4. GAT模型 在本文的应用中，使用了基于注意力的节点嵌入方法。以下是相关定义： - **定义3**：设A为用户/项目关系矩阵，G[A] = (V, E)为相应的加权图，V = {U, R}分别为用户U和项目R的集合。对于一对顶点(u, r)，u∈U，r∈R，图G的注意力机制是一个函数a : Rn × Rn →R，它根据顶点u和r在第l层的特征表示⃗h(l)u和⃗h(l)r，计算顶点对(u, r)之间的系数eu,r。 系数eu,r表示顶点r的特征对用户u的重要性。我们将a定义为一个具有可学习参数向量⃗a和非线性LeakyReLU激活函数的前馈神经网络，如下所示： \[e^{(l)}_{u,r} = LeakyReLU(\vec{a}^{(l)T}[W^{(l)}\vec{h}^{(l)}_{u} || W^{(l)}\vec{h}^{(l)}_{r}])\] 其中W是可学习的参数矩阵，W(l)⃗h(l)u || W