全球首个标准 AI系统应遵循“安全设计”原则lg...

据报道，11月28日，美国和英国的网络安全机构共同发布了一份名为《安全AI系统开发指引》的白皮书。这份指南旨在从设计阶段开始提高AI系统的安全性，以预防可能出现的安全风险。据悉，这份指南是由包括美国、英国、德国、法国、日本、韩国、新加坡在内的18个国家以及微软、谷歌、OpenAI、Anthropic、Scale AI等23个网络安全组织参与制定。

点评：这份指南强调了将客户安全、透明度与责任以及建立“安全设计”的组织结构列为优先事项。它适用于所有类型的AI系统，不仅涵盖行业内的“尖端模型”，还包括其他使用外部托管模型或API系统的案例。这个指南被视为全球首个AI安全标准，并为AI系统开发提供了必要的建议。它表明AI系统应该遵循“安全设计”的原则。

国信证券表示，AI在安全运维里为甲乙双方节省的时间和人员成本是显而易见的，且拓展了传统安全的能力边界，不管是利用AI检测未知威胁，还是处理海量事件，均是AI带来的崭新价值，因此我们持续看好网络安全产业，维持“超配”评级。重点关注在AI大模型积极投入的厂商，奇安信、深信服、安恒信息、绿盟科技、启明星辰、天融信等。