当前位置:首页 > 系统it > 网络资讯
网络资讯

由18个国家支持的AI安全指南发布

时间:2023-11-28 20:13:50   作者:Admin辉辉   来源:51CTO网络   阅读:532   评论:0
内容摘要:英国国家网络安全中心(NCSC)发布了新的指导方针,可以帮助AI系统的开发者和提供商“建立按预期运行的AI系统,在需要时可用,并且在不向未经授权的各方泄露敏感数据的情况下工作。”如何将网络安全置于AI系统的核心安全AI系统开发指南涵盖了ML应用程序开发生命周期的四个关键阶段。安全设计取决于所有相关人员-系统所有者、开发...

由18个国家支持的AI安全指南发布 图1

英国国家网络安全中心(NCSC)发布了新的指导方针,可以帮助AI系统的开发者和提供商“建立按预期运行的AI系统,在需要时可用,并且在不向未经授权的各方泄露敏感数据的情况下工作。”

如何将网络安全置于AI系统的核心

安全AI系统开发指南涵盖了ML应用程序开发生命周期的四个关键阶段。

安全设计取决于所有相关人员 - 系统所有者、开发人员和用户 - 意识到AI系统面临的独特安全风险,并被教导如何避免这些风险。

指导方针指出:“对系统的威胁进行建模,并从安全、功能和性能的角度设计系统。”此外,开发人员在选择他们的AI模型时应该考虑安全好处和权衡(越复杂并不总是更好)。

安全发展的前提是确保供应链安全;保护资产(模型、数据、提示、软件、日志等);记录模型、数据集和元或系统提示;以及管理技术债务。

安全部署需要安全的基础设施(在系统生命周期的每个部分),并持续保护模式和数据不受直接和间接访问。为了应对(不可避免的)安全事件,必须制定全面的事件响应、升级和补救计划。

AI应该负责任地发布,即只有在其安全性经过彻底评估(并且用户已经评估了限制或潜在故障模式)之后才能发布。

理想情况下,最安全的设置将作为唯一选项集成到系统中。当需要进行配置时,默认选项应该针对常见威胁大体上是安全的(即默认情况下是安全的)。你应用控制措施以防止以恶意方式使用或部署你的系统。

最后,为了确保安全运行和维护,敦促运营商监控其系统的行为和输入,在默认情况下开启自动更新,并保持透明和响应能力,特别是在出现故障(例如漏洞)时。

AI网络安全指南是面向谁的?

这些指导方针是在美国网络安全和基础设施安全局(CISA)和来自世界各地的类似机构和CERT以及行业专家的帮助下起草的。

“由英国牵头的新准则是第一个在全球范围内达成一致的准则,他们将帮助使用AI的任何系统的开发人员在开发过程的每个阶段做出知情的网络安全决策——无论这些系统是从头开始创建的,还是建立在其他人提供的工具和服务之上的,“英国国家网络安全中心指出。

“[指导方针]主要面向AI系统的提供商,无论是基于组织托管的模型还是使用外部应用程序编程接口。然而,我们敦促所有利益攸关方(包括数据科学家、开发人员、经理、决策者和风险所有者)阅读这些指南,以帮助他们就其机器学习AI系统的设计、部署和运营做出明智的决定。

在发布这些指导方针之前,美国总统拜登发布了一项行政命令,旨在启动旨在保护美国人免受AI系统潜在风险(欺诈、隐私威胁、歧视和其他滥用)的行动。

责任编辑:姜华来源: 企业网D1Net
#免责声明#

【声明】:辉辉网络登载此文出于传递更多信息之目的,并不代表本站赞同其观点和对其真实性负责,仅适于网络安全技术爱好者学习研究使用,学习中请遵循国家相关法律法规。如有问题请联系我们,联系邮箱1665545192@qq.com,我们会在最短的时间内进行处理。

【声明】 本站提供的一切软件、教程和内容文章信息仅限用于学习和研究目的;不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负。本站信息来自网络收集整理,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑或手机中彻底删除上述内容。如果您喜欢该程序和内容,请支持正版,购买注册,得到更好的正版服务。我们非常重视版权问题,如有侵权请邮件与我们联系处理。敬请谅解!


网站不盈利不挣钱,若有侵犯你的利益请联系删除,给你带来的不便,我们非常重视版权问题  邮箱:3653767872@qq.com




标签:国家  发布  安全  指南  支持的  
相关评论
免责声明! - 版权声明
Admin邮箱:3653767872@qq.com
  粤ICP备2023090474号