人工智能专题：人工智能应用系统内生安全蓝皮书（2024年）

今天分享的是：人工智能专题：人工智能应用系统内生安全蓝皮书（2024年）

报告共计：88页

《人工智能应用系统内生安全蓝皮书（2024年）》由中国通信学会内生安全专业技术委员会编制。人工智能发展迅速，与多行业深度融合，但应用系统存在安全威胁，现有防护模式有局限，蓝皮书旨在解决内生安全难题。全球人工智能发展态势上，技术迭代快，大模型受关注，多模态模型兴起，投资增长显著，不过大模型也面临安全风险，各国纷纷加强研究与治理，相关产业蓬勃发展，在立法、治理体系构建、联盟成立等方面积极行动，我国也积极参与全球治理，发布相关图谱。我国人工智能产业发展迅速，政策法规和标准体系不断完善，在人工智能安全问题研究方面取得诸多成果，包括多种攻击方法和防御手段，但生成式模型安全性研究仍有不足。人工智能应用系统面临数据、算法、模型、软硬件运行环境、恶意使用、法律伦理、系统同质化等安全风险，成因包括算法理论局限、结果难解释、要素缺乏安全性、社会因素等。内生安全问题有共性、个性和广义功能安全问题之分，可通过内生安全构造赋能，其框架包括机理、特殊性、可行性和构建思路，同时构建安全应用系统还面临提高模型算法鲁棒性、构建安全监测体系、提升价值观对齐能力、建强安全环境等工程难题，为此蓝皮书提出加快立法保护、加强供给侧安全治理、解决关键技术短板、建立安全试验场、转变教育范式、提高国际影响力、建立风险等级划分制度等政策建议。

展开剩余77%

以下为报告节选内容

发布于：广东省