为什么人工智能需要暂停？lg...

　　作者:Louis Rosenberg，是Unanimous AI的CEO，负责任的元宇宙联盟的首席科学家，XR安全倡议（XR Safety Initiative）的全球技术顾问。

　　今天，未来生命研究所发表了一封公开信，呼吁所有人工智能实验室暂停所有大规模人工智能系统的培训，至少六个月，这些系统比目前最先进的技术GPT-4更强大。我和其他一些业内知名人士一起签署了这封“暂停信”，包括埃隆·马斯克和史蒂夫·沃兹尼亚克。我不知道是否会暂停，但我相信前方确实有危险。这就是为什么。

　　一段时间以来，我一直担心人工智能对社会的影响。我说的不是超级智能人工智能突然接管世界的长期生存风险，而是人工智能被用来操纵社会的短期风险，它通过战略性地影响我们接收的信息，并调解这些信息如何在人群中传播。这种风险在过去12个月里迅速增加，原因是两种重叠技术的重大性能提升，这两种技术通常被称为“生成式AI”和“对话式AI”。

　　让我谈谈我对每一个问题的关注。

　　生成式人工智能指的是大型语言模型（llm）根据人类请求创建原创内容的能力。现在，人工智能生成的内容包括图像、艺术作品、视频、散文、诗歌、计算机软件、音乐和科学文章。在过去，生成式内容令人印象深刻，但没有人会把它误认为是人类的创造。这一切在过去的12个月里都改变了。人工智能系统突然能够创造出可以轻易欺骗我们的人工制品，让我们相信它们要么是真实的人类创造，要么是真实的视频或在现实世界中捕捉到的照片。这些能力目前正在大规模部署，并给社会带来了许多重大风险。

　　最明显的风险是就业市场。由于LLM系统创造的产品令人印象深刻，专业人士现在将其称为“人类竞争情报”，可以取代原本创造内容的工作人员。这种发展影响了广泛的职业，从艺术家和作家到计算机程序员和金融分析师。事实上，Open AI、OpenResearch和宾夕法尼亚大学的一项新研究通过比较GPT-4能力和工作要求，探索了人工智能对美国劳动力市场的影响。该研究的作者估计，20％的美国劳动力至少有50％的任务将受到GPT-4的影响，高收入的工作将面临更大的影响。

　　迫在眉睫的对就业的影响令人担忧，但这不是我签署暂停信的原因。我对劳动力的担忧是，人工智能生成的内容看起来和感觉起来都是真实的，而且经常给人权威的印象，但它很容易出现事实错误。没有准确的标准或管理机构来帮助确保这些将成为劳动力的主要组成部分的系统不会将错误从细微的错误传播到疯狂的捏造。我们需要时间来落实保护措施，并加强监管机构，以确保保护措施得到落实。

　　下一个最明显的风险是，不良行为者可能会故意创建带有事实错误的内容，作为战略影响力活动的一部分，传播错误信息、虚假信息和彻头彻尾的谎言。这种风险并不新鲜，但生成式人工智能所实现的规模却是新的。看起来很权威但完全是捏造的内容充斥着这个世界，这是非常容易的。这种风险也延伸到了深度造假上，在深度造假中，公众人物可以在看起来逼真的视频中做任何事或说任何话。随着人工智能技术越来越熟练，公众将无法区分真假。我们需要水印系统和其他技术来区分人工智能生成的内容和真实内容。我们需要时间来建立和使用这些保护措施。

　　对话式人工智能系统带来了一系列独特的风险。这种形式的生成式人工智能可以通过文本聊天和语音聊天与用户进行实时对话。这些系统最近已经发展到人工智能可以与人类进行连贯的对话，并随着时间的推移跟踪对话流程和上下文。这些技术是我最担心的，因为它们引入了一种监管机构没有准备好的全新影响力运动形式——对话影响力。

　　每个销售人员都知道，说服别人买东西或相信东西的最好方法是与他们交谈，这样你就可以阐述你的观点，观察他们的反应，然后调整你的策略来解决他们的阻力或担忧。随着GPT-4的发布，现在很明显，人工智能系统将能够让用户参与真实的实时对话，作为一种有针对性的影响形式。我担心的是，第三方使用api或插件将促销目标传递到看似自然的对话中，毫无疑虑的用户将被操纵购买他们不想要的产品，注册他们不需要的服务，或者相信不真实的信息。

　　我称之为“人工智能操纵问题”。在很长一段时间里，这只是一个理论上的风险，但现在的技术可以部署个性化的对话影响力活动，根据用户的价值观、兴趣和背景来定位用户，以推动销售、宣传或误导信息。事实上，我担心人工智能驱动的对话影响力将成为人类有史以来最强大的有针对性的说服形式。我们需要时间来落实保护措施。就我个人而言，我认为这些保护措施可能需要制定法规，禁止或严格限制使用人工智能介导的对话影响力。

　　所以是的，我在信上签了名。毕竟，我很清楚，由人工智能系统引起的新的快速发展的风险发展得太快，以至于人工智能社区，从研究人员和行业专业人士到监管机构和政策制定者，都无法进行调整。

　　这封信会起作用吗？我不清楚该行业是否会同意暂停六个月，但这封信已经引起了人们对这个问题的关注。就我个人而言，我认为我们需要尽可能多地敲响警钟，以唤醒监管机构、政策制定者和行业领导者。他们需要采取行动。在其他时候，更细微的警告就足够了，但这项技术进入市场的速度比我经历过的任何事情都要快。这就是为什么我们需要暂停一下，迎头赶上。我们需要时间。