谷歌、OpenAI、微软等 14 家科技公司宣布联合成立安全人工智能联盟 (CoSAI) 。该倡议旨在通过提供开源方法、框架和工具来解决“AI 安全碎片化的问题”。

其他创始成员还包括亚马逊、英特尔、英伟达、IBM、思科、Paypal、Anthropic、Cohere、Chainguard、WIZ、GenLab。

CoSAI 被定义为一个开源社区，由项目管理委员会领导，负责推进和管理其整体技术议程，并由来自学术界和工业界的人工智能专家组成的技术指导委员会负责监督其工作流程。

CoSAI 的工作范围包括安全地构建、集成、部署和操作 AI 系统，重点是减轻模型盗窃、数据中毒、提示注入、规模化滥用和推理攻击等风险。该项目旨在制定全面的安全措施，解决 AI 系统中典型和独有的风险。

CoSAI 最初将形成三个工作流：

AI 系统的软件供应链安全：增强组成和来源追踪以保护 AI 应用的安全。

为不断变化的网络安全形势做好防御者的准备：解决 AI 和传统系统中的投资和集成挑战。

AI 安全治理：为 AI 安全制定最佳实践和风险评估框架。

后续还计划随着时间的推移增加更多工作流。

更多详情可查看官方公告。

本站新闻禁止未经授权转载，违者依法追究相关法律责任。授权请联系：oscbianji#oschina.cn

本文标题：谷歌、微软等 14 家公司成立“安全人工智能联盟”

本文地址：https://www.oschina.net/news/302858/google-microsoft-ai-cosai

文档整体看了，也深入细节看了，从规格上来看算是一个非常优秀的语言融合实践案例，但设计者仍稍显矫揉造作之嫌，搞了一些“创新”之举，比如func/foreign/->/prop/mut/Rune/<:/...，除赋值操作符外，任何复合操作符都是不可接受的，宜尽量避免；在某些方面显得一致性不严谨，比如函数作为参数和返回类型时就与标准定义不一致，比如匿名函数（Lambda）定义也不一致，增加了代码阅读理解难度；C语言取址符号(&)作为接口继承用间隔符是个坏主意，因为这个符号在键盘上输入不方便，需要双键才能输入；Nothing/Option/Any 貌似取自TypeScript，其终归是某种类似于 Null 的检测机制，要不合成一个？类型在后并用冒号(:)分隔的语法风格上属于 Pascal/Go 风格，这种风格感觉是更方便实现词法分析器并生成语法树，利于后续的处理； 个人期望出现一门新语言，它应该以C语言风格为基础，大胆吸收新生代语言的优秀实践（语法糖），语言规格尽可能的保持精简和一致性，但语义和扩展性保持开放；仓颉语言为新语言开发做了非常伟大的探索和实践，实现后的预期也非常好，开了个好头；有了榜样的力量，相信中文社区有更大可能性诞生这样一门语言；