大模型安全管理及应用评估能力体系建设-CSDN博客

本文链接：https://blog.csdn.net/qq_41432686/article/details/150498825

文章目录

前言
一、项目创新点
二、主要研究内容
总结

前言

当前人工智能技术正在引领数字化发展新浪潮，其中大模型被视为人工智能的一项重大突破。金融业是数智化的先行者，有望成为大模型技术落地的最佳领域之一。但大模型技术在快速发展的过程中也面临数据泄露、虚假信息、有害内容等安全风险与挑战，使大模型安全问题成为行业的关注重点。

中国人民银行《金融科技发展规划(2022—2025年)》中明确提出要抓住全球人工智能发展新机遇，以人为本全面推进智能技术在金融领域深化应用，强化科技伦理治理。国家网信办、网安标委发布的《生成式人工智能服务管理暂行办法》《生成式人工智能服务安全基本要求》等政策制度中明确指出将大模型安全作为AI应用的必要条件。在行业监管、国家标准的指引下，银行开展了“大模型安全风险管理及应用评估能力体系建设”项目研究，旨在加强金融行业大模型应用的安全性和合规性保障，提升大模型安全风险应对能力。