可解释与合乎伦理的人工智能及肺炎分类研究

### 可解释与合乎伦理的人工智能及肺炎分类研究 #### 可解释与合乎伦理的人工智能 在当今人工智能领域，可解释性和伦理行为正成为越来越受关注的话题。通过论证标注可以提供解释，它能将被认为合理的论证（和陈述）与攻击、优势和不可推翻规则的图相关联，详细阐述系统的推理过程。 如果考虑通过可溯因和反事实来丰富场景，实现不同场景的假设分析，系统的可解释性将大大增强。此外，概率概念使得对假设、规则和论证进行加权成为可能。例如，可以根据每个主体的社会可信度对其信念进行加权，这种可信度可以用制裁次数等方式来衡量。伦理行为也可以以人类可读的方式进行计算，比如在事故中优先考虑最小化死亡人数。利用假设分析，可以引入并比较关于系统道德选择的有趣讨论。 随着人工智能子符号技术的兴起，基于逻辑方法的符号技术也越来越受到关注，这主要是因为符号方法更易于满足智能系统在伦理考量、可解释性和可理解性方面的要求。虽然已经有很多努力致力于在可解释人工智能（XAI）视角下整合符号和子符号技术，但大多数工作都集中在单一类型的逻辑上，以有效解决当前应用的特定需求，而较少关注设计一个全面的集成框架。 逻辑编程正从伦理角度进行重新诠释，但目前文献中既没有全面的架构，也没有将子符号人工智能技术与逻辑编程集成的通用方法。我们的工作旨在引发关于整合不同逻辑方法和人工智能技术以实现XAI目标的讨论。然而，所提出的架构仅仅是设计和实现预期符号引擎并将其与其他现有人工智能技术集成的起点，仍有许多问题和研究挑战有待解决。 首先，模型形式化值得关注。论证本身被视为促进决策和决策支持系统多个方面的有效手段，特别是当这些系统推荐的决策需要解释时。许多工作都展示了其有效性，尤其是在为机器学习黑箱找到的解决方案生成解释方面。最近的文献中也有一些工作强调了不同逻辑方法集成的可能协同作用，特别是与统计机器学习算法结合时。例如，有人讨论了溯因和论证作为两种有原则的推理形式，并阐述了它们在机器学习中的基本作用。 一般来说，溯因和论证在文献中以不同方式结合。溯因和论证都可以被视为生成解释的过程，溯因是针对给定观察，而论证是针对结论（主张或决策）。溯因下的解释基于潜在的（理论或不可观察的）假设，而论证下的解释基于为结论提供合理理由的论证。然而，目前仍然缺乏一个参考模型，并且理论形式化往往没有转化为实际可用的技术。 虽然有关于溯因和概率逻辑编程（PLP）集成的模型，以及处理溯因和归纳集成的工作，但大多数方法分散且针对特定应用需求，目前仍然缺乏一个通用的、有充分依据的框架来集成这些模型。因此，要将其转化为强大的技术或集成多种技术以在智能系统中有效应用，还有很长的路要走。 此外，为了实现所有提到的方法的合理集成，需要探索知识提取和注入技术。虽然已有对主要现有技术的概述，但仍存在一些挑战，特别是在处理神经网络时，知识注入和提取本身就是一个巨大的问题，目前还不清楚如何以及在何处将符号知识注入网络。 最后，在XAI和伦理人工智能领域，选择令人满意的解释是一个主要问题。在解释选择方面，认知限制会起作用。例如，如果解释是提供给人类的，由于人类的认知限制，不能呈现解释算法决策的整个因果链，用户更需要直达因果链核心的综合解释。因此，根据解释的接收者不同，应用的技术可能不同，并且可能需要后续改进以使其在认知上易于理解。然而，确定这种选择背后的机制远非易事，需要考虑许多认知技术。 总的来说，逻辑和符