全球数字财富领导者

Microsoft AI工程师警告FTC注意Copilot Designer安全问题

2024-03-07 13:52:19
金融界
金融界
关注
0
0
获赞
粉丝
喜欢 0 0收藏举报
— 分享 —

据CNBC报道,一名Microsoft工程师正在向联邦贸易委员会提出有关该公司AI图像生成器的安全问题。在Microsoft工作了六年的Shane Jones给FTC写了一封信,称Microsoft“拒绝”删除Copilot Designer,尽管一再警告该工具能够生成有害图像。

据CNBC报道,在测试Copilot Designer的安全问题和缺陷时,琼斯发现该工具生成了“恶魔和怪物以及与堕胎权相关的术语,使用突击步枪的青少年,暴力场景中女性的性感图像以及未成年人饮酒和吸毒”。

此外,据报道,Copilot Designer在加沙地带的场景中生成了迪士尼角色的图像,例如《冰雪奇缘》中的艾尔莎,在“被毁坏的建筑物和'自由加沙'标志前”。它还创造了艾尔莎穿着以色列国防军制服,同时拿着带有以色列国旗的盾牌的图像。The Verge能够使用该工具生成类似的图像。

敬告读者:本文为转载发布,不代表本网站赞同其观点和对其真实性负责。FX168财经仅提供信息发布平台,文章或有细微删改。
go