据CNBC报道,一名Microsoft工程师正在向联邦贸易委员会提出有关该公司AI图像生成器的安全问题。在Microsoft工作了六年的Shane Jones给FTC写了一封信,称Microsoft“拒绝”删除Copilot Designer,尽管一再警告该工具能够生成有害图像。
据CNBC报道,在测试Copilot Designer的安全问题和缺陷时,琼斯发现该工具生成了“恶魔和怪物以及与堕胎权相关的术语,使用突击步枪的青少年,暴力场景中女性的性感图像以及未成年人饮酒和吸毒”。
此外,据报道,Copilot Designer在加沙地带的场景中生成了迪士尼角色的图像,例如《冰雪奇缘》中的艾尔莎,在“被毁坏的建筑物和'自由加沙'标志前”。它还创造了艾尔莎穿着以色列国防军制服,同时拿着带有以色列国旗的盾牌的图像。The Verge能够使用该工具生成类似的图像。