引言:随着生成式AI的采用、使用和应用程序开发的增长,新的风险也随之而来,影响着企业或组织的战略规划和投资。随着这些风险的演变,风险缓解解决方案、技术、框架和分类法也在不断发展。AI安全解决方案需要被适当定义,以帮助安全领导者进行预算规划。
软件开发模式在从传统的瀑布模式演进到DevOps,再到DevSecOps,目前正在向LLMSecOps转变,安全一直是不缺少的环节。
OWASP于近期发布了《大语言模型和生成式人工智能安全解决方案参考指南2025》,旨在解决LLM和生成式AI应用程序在开发、部署和使用过程中面临的安全挑战。
《大语言模型和生成式人工智能安全解决方案参考指南2025》(以下简称“指南”)专为开发者、应用安全从业人员、DevSecOps 和 MLSecOps 团队、数据工程师、数据科学家、CISO 和安全领导者等多元化的受众群体量身定制。
这些人员专注于制定策略,以保护大型语言模型(LLM)和生成式人工智能(GenAI)应用程序的安全。
该指南旨在提供一个参考指南,涵盖从开发到部署和使用的LLM和生成式AI生命周期的安全性,即LLMSecOps。