清华大学第五弹：DeepSeek与AI幻觉.pptx

清华大学第五弹：DeepSeek与AI幻觉 随着人工智能的飞速发展，AI技术已经渗透到人们生活的方方面面。然而，伴随着技术的快速应用，AI幻觉问题也日益凸显，成为了业界关注的重点之一。AI幻觉指的是模型生成的内容与事实不符、逻辑断裂或脱离上下文的现象。清华大学第五弹PPT文件，主要探讨了DeepSeek技术如何产生AI幻觉、AI幻觉的评测方法、如何减缓AI幻觉的生成以及AI幻觉在创造力价值中的体现。 DeepSeek与AI幻觉的产生密切相关。AI幻觉的产生主要有以下几个原因：数据偏差、泛化困境、知识固化以及意图误解。数据偏差是指训练数据中的错误或片面性被模型放大，导致模型输出错误的结论。泛化困境则是指模型难以处理训练集外的复杂场景，从而产生不合理的输出。知识固化表现模型过度依赖参数化记忆，缺乏动态更新能力。意图误解发生在用户提问模糊时，模型会“自由发挥”，产生与用户需求不相符的回答。 在金融行业，DeepSeek技术有实际应用案例。例如，某头部银行利用DeepSeek构建因果归因网络，帮助识别小微企业违约的隐性因素，进而设计针对性的金融产品。还有国信证券在“金太阳APP”中部署DeepSeek模型，为客户生成个性化投资组合建议，同时降低数据泄露风险。 然而，AI幻觉在应用中也带来了一系列问题。例如，OpenAI的自动语音识别系统Whisper，在医疗系统中转写对话时产生了大量内容不准确的病例文档。这显示了AI幻觉在事实性和忠实性方面都可能导致错误或与用户意图不一致的回答。 针对AI幻觉，相关评测工作也在积极开展。例如，通过随机生成通用提示语，模仿用户的真实使用场景，对大模型的回答进行人工判断与标注，并进行交叉验证。这有助于准确评估不同模型的幻觉率，并找出问题所在。 为了减缓AI幻觉的产生，需要从多个层面进行努力。需要使用更全面、准确的数据集进行模型训练。需要增强模型的泛化能力，使其能够更好地适应未见过的复杂场景。同时，还需要加强模型的知识更新能力，避免知识固化。此外，提高用户提问的明确性也有助于减少AI模型在理解上的误解。 在创造力价值方面，AI幻觉有着双重影响。一方面，AI幻觉可以激发人的想象力，产生新的创意和思考方式。另一方面，AI幻觉如果不加以控制，可能会产生误导性的内容，导致错误决策和不良后果。 AI幻觉是一个复杂且值得深入研究的问题。清华大学第五弹PPT文件从多个角度对DeepSeek技术和AI幻觉进行了详尽分析，探讨了其产生原因、应用场景、评测方法以及如何管理和控制AI幻觉。未来随着技术的不断进步，我们有理由相信AI幻觉将得到更好的理解和应用。