美国白宫：英伟达等八家公司自愿承诺管理AI风险，包括展开安全测试、添加数字水印等lg...

Adobe、Cohere、IBM、英伟达、Palantir、Salesforce、Scale AI和 Stability八家公司承诺采取自愿监管措施管理AI技术开发风险，包括在推出前展开安全测试、构建将安全放在首位的系统、为AI生成内容添加数字水印等。

“安全和负责”已成为AI发展中至关重要的话题，美国政府继续“督促”AI巨头们管控AI或为人类社会带来的风险。

9月12日，美国白宫发布声明称，当日，美国商务部长雷蒙多等政府高官将在白宫召集AI行业高管，宣布Adobe、Cohere、IBM、英伟达、Palantir、Salesforce、Scale AI和 Stability八家公司承诺，采取自愿监管措施管理AI技术开发风险，包括在推出前展开安全测试、构建将安全放在首位的系统、为AI生成内容添加数字水印等。

声明指出，这8家公司选择做出承诺，来强调人工智能未来的三个基本原则——安全、保障和信任，标志着他们朝开发负责任的人工智能系统迈出了关键一步。

白宫称，承诺仅为政府制定AI风险管理办法的一部分，政府将采取行政行动，并同国会合作出台针对AI的法规。帮助引导AI负责任的发展。

具体来看，白宫在声明中指出，如今，这八家领先的人工智能公司承诺：

• 确保AI产品在发布之前是安全的

公司承诺在发布AI系统前进行内部和外部的安全测试。测试部分由独立专家进行，以防范存在的重大AI风险，如生物安全和网络安全，以及其更广泛的社会影响。

公司承诺与行业内外以及政府、社会和学术界分享管理AI风险的信息，包括：保障安全的最佳实践方法、试图规避保障措施的信息以及技术合作。

• 构建把安全放在首位的系统

公司承诺投资于网络安全和内部威胁保障措施，以保护专有和未发布的模型权重。这些模型的权重是AI系统最重要的部分。公司一致认为，只有在认真考虑到安全风险的情况下，才能发布模型权重，这一点至关重要。

公司承诺推进第三方发现和报告其AI系统存在的漏洞。有些问题可能在AI系统发布后仍然存在，而一个强大的报告机制能使这些问题被迅速发现并修复。

• 赢得公众的信任

公司承诺开发出强大的技术，确保用户知道内容是人工智能生成的，例如添加数字水印。这一行动既能充分发挥人工智能的创造力和生产力，又能减少网络诈骗的危险。

公司承诺公开报告其AI系统的能力、限制以及适用和不适用的领域。报告将涵盖AI系统的安全风险和社会风险，如公平公正性以及偏见的影响。

公司承诺优先研究AI系统可能带来的社会风险，包括避免极端的偏见和歧视，并保护用户隐私。AI的历史记录可以看出这些危险的潜在规模和普及程度，这些公司承诺推出可以减轻这些危险的AI。

公司承诺开发和部署先进的AI系统，以帮助解决社会面临的最大挑战。从癌症到减缓气候变化，以及许多其他领域，如果AI风险得到管理，AI可以为所有人做出巨大贡献。

今年4月，在呼吁暂停开发AI模型的公开信引发轩然大波后，美国AI领先企业将齐聚，共同商议并制定AI相关安全协议。

今年5月，白宫与OpenAI、谷歌、微软等公司的首席执行官会面，探讨相关技术的风险。白宫还表示，七家最大的AI公司已经同意在8月份的年度Def Con极客大会上开放模型，接受一定程度的公众监督。

7月，在白宫“指示”下，美国人工智能（AI）巨头 “自我管控”的条例浮出水面。白宫宣布，拜登政府得到了亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家公司自愿的承诺，管控AI带来的风险。他们承诺，将帮助推动AI技术安全且透明地发展。

拜登曾指出，这些企业的承诺将立即实行，体现了安全、保障和信任这三个基本原则，但他们的承诺只是第一步，“我们必须对（AI的）威胁保持清醒和警惕。”

拜登承诺，要采取行政行动，同时与国会合作，出台针对AI的法规。他说，新兴的技术需要一些新的法律、监管法规和监督。