迈向社会公益的伦理人工智能：设计与验证的革新之路

### 迈向社会公益的伦理人工智能：设计与验证的革新之路 #### 1. AI适应性与用户友好性 在过去十年里，尽管在创建用于自动日志分析和故障排除的数据驱动技术方面做了大量工作，但研究主要集中在算法和方法上，对这些算法和技术性能的关注仍然较少。而在MLOps和AIOps领域的新进展，则更侧重于管理数据、模型以及底层基础设施和平台。要有效整合产品、应用和工作方法，需要考虑许多组件和细节，但总体前景是积极的，其影响远远超出了单纯的算法和平台。 以下特性有助于实现有效的AI适应性： - **软件复用最大化**：大型科技公司希望尽可能提高软件复用率以提升利润。例如，Linnaeus软件包无需代码修改即可操作和控制，无需理解底层信息技术架构。它注重小内存占用，可用于电信领域常见的资源受限系统，还能间接解决特定安全问题。它仅使用必要模块，并提供非常通用的REST接口，能适应不同爱立信设计团队的各种工作风格。此外，在特征表示和模型选择上实现足够的灵活性，可确保无论底层日志格式和语义如何，Linnaeus的分类性能都达到最佳。由于它使用字符n - 元组，可同时处理Syslog和JSON日志格式，若两种日志类型在同一日志中，也无需特定预处理。 - **高质量标注数据**：对于监督学习而言，高质量的标注数据至关重要。 - **可观测性方法开发**：由于电信系统被视为关键基础设施，因此在开发可观测性方法上投入了大量精力，这些方法有助于跟踪和理解系统行为。 - **可解释性模块**：可解释性模块可以帮助故障排除人员和数据科学家更好地理解分类结果背后的原理。 下面通过表格总结这些特性： | 特性 | 描述 | | --- | --- | | 软件复用最大化 | Linnaeus软件包无需代码修改，小内存占用，通用REST接口，灵活特征表示和模型选择 | | 高质量标注数据 | 监督学习的关键 | | 可观测性方法开发 | 用于跟踪和理解电信系统行为 | | 可解释性模块 | 帮助理解分类结果原理 | #### 2. 验证与确认 验证和确认是至关重要的考虑因素。对于一般技术，尤其是AI4SG应用，要被接受并对人类生活和环境福利产生重大有益影响，可信度是关键。然而，虽然没有日常经验或指南能确保完整性，但主观性是提高技术应用（尤其是AI4SG应用）可信度时需要考虑的关键方面。 可证伪性意味着明确一个或多个紧急需求，并对这些需求进行实证测试的可能性。安全无疑是至关重要的需求，因此，一个可靠的AI4SG系统，其安全性必须是可验证的。如果无法证明可证伪性，就不可能验证基本需求，该技术也就不应被视为可信的。 在一个不可预测且模糊的环境中，有许多意外情况，我们有可能知道某个基本需求何时未得到满足或可能无法正常运行。如果基本标准是可证伪的，我们可以确定AI4SG应用是否不可靠，但无法确定其是否可信。 在迭代部署周期中，验证最关键