2024年7月19日，在昨日举办的阿斯彭安全论坛（Aspen Security Forum）上，安全人工智能联盟（CoSAI）首次亮相，创始主要赞助商包括谷歌、IBM、英特尔、微软、英伟达和PayPal，其他创始赞助商包括亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI和Wiz。

CoSAI由OASIS全球标准机构主办，是一项开源计划，旨在为所有AI从业人员和开发人员提供创建设计安全的人工智能系统所需的指导和工具。CoSAI将建立一个合作生态系统，共享开源方法、标准化框架和工具等等，以解决人工智能安全领域的分散局面。

CoSAI 是一个开源社区，由项目理事会和技术指导委员会领导，前者负责推进和管理其总体技术议程，后者由学术界和产业界的人工智能专家组成，负责监督其工作流。范围涵盖安全构建、集成、部署和操作人工智能系统，专注于减轻模型盗窃、数据投毒、提示注入、规模化滥用和推理攻击等风险。

目前，CoSAI将专注于三个方向的工作：

· 人工智能系统的软件供应链安全：增强组合和来源跟踪，以确保人工智能应用程序的安全。

· 为不断变化的网络安全环境准备防御者：解决人工智能和传统系统中的投资与集成挑战。

· 人工智能安全治理：为人工智能安全开发最佳实践和风险评估框架。