抖音治理AI不当使用 安全监管已成为行业发展前提lg...

3月27日，抖音发布关于不当利用A生成虚拟人物的治理公告。针对违规使用AI生成虚拟人物的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。同时，平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击

人工智能技术的快速发展，丰富了互联网内容生态，但也带来技术滥用的挑战。方正证券认为，从源头上对于数据安全、隐私和知识产权的保护、对于AI内容的监管等，已经成为生成式人工智能发展的重要前提。在政府充分发挥监管职能的同时，安全厂商积极布局，发挥技术能力守住安全底线。

国投证券此前分析称，伴随人工智能在大模型等技术的带动下向通用化迈进，相应的AI安全和监管问题将会愈发凸显。因此，无论从产业技术角度，还是从政策法规角度，对于AI的安全监管必将进一步发展，从而带来新的产业需求，带动AI安全监管产业的发展。建议关注AI安全监管的核心标的美亚柏科，以及相关的网络和数据安全公司如启明星辰、奇安信、安恒信息、深信服、三未信安、信安世纪、格尔软件、永信至诚、中新赛克等。