近日,海外国家纷纷探讨AI相关的监管问题。3月31日,意大利个人数据保护局宣布,即日起暂时禁止使用聊天机器人ChatGPT,并表示已对ChatGPT背后的OpenAI公司展开调查。4月3日,德国联邦数据保护专员发言人称,出于数据保护方面的考虑,可能会暂时禁止在德国使用ChatGPT。此外,欧盟表示希望对AI生成的内容进行强制性的规定,或要求所有生成式AI内容必须注明来源。
目前,AIGC作为生产力工具,已在内容生成领域释放了价值,而针对AI生成内容的痛点短板仍亟需解决,比如文本生成类应用存在生成内容准确率低、可控性低等问题;图片生成类应用则存在作品版权争议较大、生成内容细节不足等问题。教育领域中,全球多国大学、科研机构发布明确的人工智能禁令,禁止使用ChatGPT和其他所有基于人工智能的工具完成学习与考试任务;多家期刊、出版机构也禁止将ChatGPT列为论文合著者。国内厂商看,包括阿里、腾讯、百度、华为、360等均在加码布局大模型产品。分析师认为,随着生成式AI技术的快速迭代和普及,AI内容广泛流通于行业和市场中,为了区分AI内容和非AI内容,对内容识别技术的需求或将衍生。此外,对于AI内容中充斥着的虚假和不实信息,也需要内容甄别技术进行判定和标识。AI快速发展带来的革命性机会,但新技术发展过程中伴随的合规性、版权、数据隐私等方面问题也亟待行业和监管共同规范,因此AI环境下版权识别、内容甄别的细分应用主线值得关注。
天风证券建议关注:
【人民网】设置建立“AI编辑部”,其中事实核查技术融合人脸识别、语音识别等多项人工智能技术,实现对文字、图片、音频、视频等多种形态信息的审核;人民日报社传播内容认知全国重点实验室、中国科学技术大学、合肥综合性国家科学中心人工智能研究院联合推出国内首个AI生成内容检测工具AIGC-X;
【新华网】旗下新华智云的事实核查机器人,是基于新华智云自主研发的AI算法能实现对视频、音频、图片、文本等内容的统一审核,确保新闻内容的真实准确;
【博汇科技】公司运用人工智能深度学习算法,通过海量专项素材的机器学习,不断优化人脸识别、场景识别、语音识别、文字识别等智能化识别引擎,对各类媒体内容进行多维度分析,精准识别敏感、违规内容,实现对各类传播媒介播放的视听内容进行监管,对媒体中敏感、有害、违规内容的自动化、智能化分析研判。