近日,美国全国广播公司财经频道独家报道了一则令人震惊的消息:微软人工智能部门的一名员工谢恩·琼斯揭露,该公司的副驾驶设计器(Copilot Designer)图像生成器产生了涉及暴力和性的不良图像,而公司却未采取适当措施予以处理。
琼斯指出,这个之前被称为必应图像创造者的工具,在涉及堕胎权、青少年持枪、未成年人饮酒和吸毒以及女性性感图像等敏感话题的查询中,生成了恶魔、怪物等令人不适的图像。美国全国广播公司财经频道也亲自验证了琼斯的指控,并成功重现了这些不良图像。
在接受新闻媒体采访时,琼斯表示:“这是一个令人大开眼界的时刻。那是我第一次意识到,这真的不是一个安全的模式。”他坦言,自己在去年12月就已在内部报告中向微软反映了这一问题,但公司却让他求助于OpenAI——副驾驶设计器图像生成器所使用的人工智能工具DALL-E 3的创造者。然而,当琼斯未能得到OpenAI的回复时,他选择了在领英上公开呼吁下架DALL-E 3。
然而,琼斯的勇敢行为并未得到微软的支持。相反,公司法律部门要求他立即撤回在领英上的发帖。尽管琼斯照做了,但他并未放弃揭露这一问题的努力。随后,他致信美国参议员,并会见了参议院商业、科学和运输委员会的工作人员,以期引起监管机构的关注。
目前,琼斯已将此事告知美国联邦贸易委员会(Federal Trade Commission)主席莉娜·汗,并向微软董事会发出了正式信函。他的勇敢行为引发了广泛的社会关注和讨论,人们对于人工智能技术的道德和伦理问题再次产生了深刻的思考。
作为计算机科学的一个分支,人工智能旨在了解和探索智能的实质,并以人类智能相似的方式做出反应。然而,当这项技术被用于生成涉及暴力和性的不良图像时,我们不禁要问:这是人工智能技术的初衷吗?我们应该如何确保这项技术的健康发展,并防止其被滥用?
这些问题不仅仅关乎微软和OpenAI等公司的商业利益,更关乎整个社会的道德和伦理底线。我们期待监管机构、科技企业和公众能够共同努力,为人工智能技术的发展划定清晰的边界和规则,确保其能够真正造福人类,而不是成为毁灭我们的工具。