全球数字财富领导者
CoNET
|
客户端
|
旧版
|
北美站
|
FX168 全球视野 中文财经
首页
资讯
速递
行情
日历
数据
社区
视频
直播
点评旗舰店
商品
财富汇
登录 / 注册
搜 索
综合
行情
速递
日历
话题
168人气号
文章
这些山寨币可以在未来一周内突破 这是交易者应该注意的水平LUNC XTZ AGIX
go
lg
...
GIX) 价格分析 随着 AI 平台
ChatGPT
的人气不断上升,像 AGIX 这样的 AI 山寨币已经获得了足够的关注,将在下周突破即将到来的阻力位。AGIX 目前的交易价格为 0.42 美元,过去 24 小时内上涨了 6.5% 在 4 小时价格图表上,AGIX 代币已形成三角形形态,有可能突破其 31.8% 斐波那契水平。如果 AGIX 突破 0.45 美元,它可能会见证其布林带上限 0.66 美元的指数飙升。 Terra Luna Classic (LUNC) 价格分析 Luna Classic 的价格走势目前处于一个有趣的位置,表明在不久的将来可能会出现上升趋势。然而,这个预测并不像看起来那么简单。要启动这种看涨浪潮,LUNC 必须首先克服阻力汇合。 LUNC 价格目前交易价格为 0.00016 美元,有小幅向下回撤。2022 年 11 月下旬,Luna Classic 的价格在 0.000145 美元和 0.000194 美元之间形成了 31% 的盘整。截至目前,山寨币仍在该范围内交易,没有任何重大变动。突破 EMA-100 和 0.0002 美元将使 LUNC 代币到下周突破 0.00027 美元。 来源:金色财经
lg
...
金色财经
2023-02-26
神州泰岳:公司专注于垂直领域的行业应用,经过多年积累语料库方面内容丰富
go
lg
...
详尽的数据。 投资者:请问贵公司有哪些
ChatGPT
的技术已经应用?未来还计划哪些方面的应用? 神州泰岳董秘:尊敬的投资者,您好,
ChatGPT
是OpenAI推出的自然语言处理(NLP)领域的模型,其基础结构Transformer在神州泰岳子公司鼎富智能语言理解、语音合成、语音识别等方向有应用;公司关注相关前沿技术的发展走势,不断的对产品更新迭代。 投资者:公司虽然较早进入NLP领域,但是目前对比百度阿里腾讯这些企业,公司优势还有么? 神州泰岳董秘:尊敬的投资者,您好,公司自2016年布局NLP,至今已逾6年,公司人工智能业务专注于自然语言处理(NLP)及大数据技术等的融合应用,面向公安、政府、金融等垂直行业提供人工智能及大数据解决方案,形成智慧政企、智慧金融、智慧园区三条核心业务线。 投资者:公司目前在语料库方面是否依然是业界第一呢? 神州泰岳董秘:尊敬的投资者,您好,公司专注于垂直领域的行业应用,经过多年积累语料库方面内容丰富。 投资者:董秘你好!公司既已掌握
CHATGPT
技术,有没有打算推出类似复旦大学MOSS的产品?为何不模仿网易把游戏植入
CHATGPT
从而增强竞争力? 神州泰岳董秘:尊敬的投资者,您好,
ChatGPT
是OpenAI推出的自然语言处理(NLP)领域的模型,公司人工智能业务专注于自然语言处理(NLP)及大数据技术等的融合应用,形成智慧政企、智慧金融、智慧园区三条核心业务线,公司关注相关前沿技术的发展走势,包括相关技术在游戏产品中的应用空间。 神州泰岳2022三季报显示,公司主营收入32.35亿元,同比上升9.04%;归母净利润3.83亿元,同比上升80.6%;扣非净利润3.33亿元,同比上升94.54%;其中2022年第三季度,公司单季度主营收入11.55亿元,同比上升16.1%;单季度归母净利润1.61亿元,同比上升175.88%;单季度扣非净利润1.24亿元,同比上升120.73%;负债率16.23%,投资收益1842.7万元,财务费用-6050.61万元,毛利率61.0%。 该股最近90天内共有1家机构给出评级,增持评级1家;过去90天内机构目标均价为5.46。近3个月融资净流出8229.74万,融资余额减少;融券净流入93.71万,融券余额增加。根据近五年财报数据,证券之星估值分析工具显示,神州泰岳(300002)行业内竞争力的护城河一般,盈利能力较差,营收成长性较差。财务相对健康,须关注的财务指标包括:应收账款/利润率。该股好公司指标2.5星,好价格指标1.5星,综合指标2星。(指标仅供参考,指标范围:0 ~ 5星,最高5星) 神州泰岳(300002)主营业务:向国内电信、金融、能源等行业的大中型企业和政府部门提供IT运维管理的整体解决方案,以及以“飞信”、“农信通”为代表的移动互联网开发及运维支撑服务业务。 以上内容由证券之星根据公开信息整理,与本站立场无关。证券之星力求但不保证该信息(包括但不限于文字、视频、音频、数据及图表)全部或者部分内容的的准确性、完整性、有效性、及时性等,如存在问题请联系我们。本文为数据整理,不对您构成任何投资建议,投资有风险,请谨慎决策。
lg
...
证券之星
2023-02-26
国海策略:全年主线通常在何时形成?
go
lg
...
方面,人工智能应用领域打开新局面。近期
ChatGPT
的火爆出圈,其背后反映了人工智能大模型正在加速技术落地,AI应用商业化潜能逐步彰显。近期百度、阿里、字节、腾讯等国内互联网巨头相继宣布涉足类似
ChatGPT
的AIGC项目,国内AIGC产业生态迎来新浪潮,未来信创、芯片、人工智能、消费电子等细分赛道仍将持续发展,TMT板块景气趋势向好,大概率成为2023年全年主线。 2、三因素关键变化跟踪及首选行业 从最新的经济高频数据来看,生产端延续恢复,需求端修复较为平稳,地产销售有走强的迹象,外需方面领先指标韩国出口下行程度有所收窄。国内市场利率小幅上行,短端利率维持在政策利率上方,美债利率和美元指数双双上行,外资转向流出。本周市场呈现小幅分化态势,周期领涨,风险偏好不高。 2.1、经济、流动性、风险偏好三因素跟踪的关键变化 从最新的经济高频数据来看,生产端延续恢复,需求端修复较为平稳,地产销售有走强的迹象,外需方面领先指标韩国出口下行程度有所收窄。春节后生产端的各项开工率延续恢复,2月第四周唐山高炉开工率持平,产能利用率继续上行,轮胎开工率则是延续上行。需求端方面,截至2月24日,2023年1-2月30大中城市商品房成交面积同比下滑约18%,近一周地产销售环比明显上行。从汽车销售来看,2月1-19日,乘用车市场零售73万辆,同比去年增长16%,但今年以来累计零售同比去年下降26%,整体呈现平稳恢复的状态。从出行的情况来看,四大一线城市地铁客运量维持高位。从外需来看,韩国2月前20日出口额同比减少2.3%,下行幅度较1月有所缩窄。 国内市场利率小幅上行,短端利率维持在政策利率上方,美债利率和美元指数双双上行,外资转向流出。从国内市场利率来看,近期国内十债利率小幅上行,站上2.9%,短端利率维持在2%的逆回购政策利率上方。海外方面,美债收益率明显上行,逼近4%。汇率方面,美元指数显著上行,人民币汇率延续贬值,逼近7的关口。从市场流动性来看,外资在本周转向流出,近3个交易日全部呈现流出的状态。 本周市场呈现小幅分化态势,周期领涨,风险偏好不高。过去一周A股呈现小幅分化的态势,各风格中,仅消费微跌,周期、成长和金融上涨,其中周期风格涨幅最大。风险偏好依然不高,成交金额大部分交易日保持在8000亿元左右。 2.2、2 月行业配置:非银金融、计算机、电力设备 行业配置的主要思路:春季躁动布局成长,建议关注弹性品种。一季度常为A股市场的敏感期,由于年初业绩与经济数据的缺失,风险偏好对于市场的影响易被放大,2月行业风格建议关注具备弹性的成长板块。配置上建议关注弹性品种,包括1)非银金融,为估值较低的进攻板块,近两年非银板块持续调整,2023年春节前市盈率TTM十年分位数已降至30%附近,估值修复空间充足,全面注册制等政策催化下有望迎来估值业绩双修复;2)安全资产领域,二十大报告提出显著提升科技自立自强的目标任务,在政策扶持下,国内信息尖端技术迎来发展机遇,如计算机、通信等板块,特别是信创题材产业趋势逐渐明晰;3)高景气延续的高端制造领域,如部分新能源链条相关的有色金属、化工新材料领域,以及To G属性的光伏、储能等赛道。2月首选行业为非银金融、计算机、电力设备。 非银金融 支撑因素之一:首部券商经纪业务规章落地。2023 年 1 月 13 日证监会发布《证券经纪业务管理办法》,自 2023 年 2 月 28 日期执行,《办法》从经纪业务内涵、客户行为管理、具体业务流程、客户权益保护、内控合规管控、行政监管问责等六方面作出了具体规定,进一步规范证券经纪业务,引导行业高质量发展。 支撑因素之二:关注券商、保险估值修复机会。近两年非银板块持续调整,2023年春节前市盈率 TTM 十年分位数已降至 30%附近,估值修复空间充足。 支撑因素之三:全面注册制改革预期提振市场情绪。2022 年 12 月 21 日证监会在学习传达中央经济工作会议精神时指出要“深入推进股票发行注册制改革”,注册制改革的全面落地将带动券商投行、投资、做市等业务条线发展。 标的:中信建投、东方财富、国联证券、广发证券等。 计算机 支撑因素之一:政务信息化建设推动国产化软硬件产业加速发展。2022 年 10 月28 日,国务院办公厅印发全国一体化政务大数据体系建设指南。目标在 2023 年底前,初步形成全国一体化政务大数据体系,数据共享和开放能力显著增强,政务数据管理服务水平明显提升。政策驱动刺激国产数据库、中间件产品需求,为信创行业赢得新的发展空间,长期来看技术迭代创新前景广阔。 支撑因素之二:中国电子信创体系产业链完整,替换空间广阔,生态建设加速。国产信创产品已初步具备大规模应用基础,从 CPU、操作系统、数据库、中间件,到 PC 终端、服务器、存储、外设等都呈现出技术、产品、市场紧密衔接的产业生态,从重构、融合,正在迈向逐渐成熟发展的进程。麒麟软件等国产操作系统厂商,拥有从芯片到系统集成的全产业链生态,国产替代优势明显。 支撑因素之三:二十大强调国家信息安全,信创行业迎来较大发展机遇。二十大报告提出显著提升科技自立自强的目标任务,在政策扶持下,国内信息尖端技术迎来发展机遇。前期信创需求主要集中在党政机关和国企,随着国家安全体系的建立健全,信创将扩展推进到行业企业,越来越多的厂商加入促进信创生态系统的构建,行业将延续高景气发展,是未来几年计算机行业投资主线。 标的:纳思达、中科曙光、金山办公、中国软件等。 电力设备 支撑因素之一:政策加码支撑能源电子产业迎多重利好。1 月 17 日,工信部等六部门发布《关于推动能源电子产业发展的指导意见》。《意见》提出要加快智能光伏创新突破,发展高纯硅料、大尺寸硅片技术;加强新型储能电池产业化技术攻关;发展面向新能源的关键信息技术产品。电力系统的智能化建设进程进入加速通道,能源 IT 产业持续收益。 支撑因素之二:硅料价格下行推动光伏需求回升。硅料价格自 2022 年 11 月份以来持续下行,根据 Wind 数据,光伏级多晶硅现货价 2022 年 11 月 16 日至 2023年 1 月 25 日降幅约 45.3%。随着上游硅料和硅片价格回调,产业链成本下降,近期组件环节排产积极性提升明显,全球光伏需求有望延续增长态势。 支撑因素之三:新能源汽车销量持续保持高增长,有望维持高景气。根据中国汽车工业协会统计数据,2022 年我国新能源汽车产销分别完成 705.8 万辆和688.7 万辆,分别增长 96.9%和 93.4%,连续 8 年全球第一,市场占有率已经达到 25.6%,增长强劲。随着海外市场逐渐恢复、自主品牌竞争力提升,以及配套环境的日益优化,新能源汽车行业预期将保持较快增长态势。 标的:宁德时代、海优新材、隆基绿能、晶盛机电等。 4、风险提示 全球疫情反复、海外通胀超预期、美联储继续鹰派、地缘政治扰动加剧、产业政策推进速度不及预期、比较研究的局限性、历史数据仅供参考、重点关注公司业绩不达预期风险等。
lg
...
金融界
2023-02-26
ChatGPT:OpenAI
的技术「执拗」与「豪赌」
go
lg
...
版图AI工具生成 本文全方位地介绍了
ChatGPT
的能力特征、发展历程以及 OpenAI 一路走来所坚守的技术路线,并对
ChatGPT
出现之后 NLP 领域的范式转换进行了展望,即
ChatGPT
开启「文本生成 + 指令」的范式。 1、
ChatGPT
,不再「愚蠢」的人工智能
ChatGPT
的相关话题应该算是继 AlphaGo 以来,最出圈的人工智能热点了。简单来说,它是一个可以用自然语言对话的机器人,你可以问它任何问题(当然它有可能会答错,但你可以引导并纠正它),它都会以非常流畅、标准的自然语言回答你。不仅如此,它还能回答代码问题、数学问题等等,你可以和它在关于任何问题上聊得不亦乐乎。 我们可以用一个经典的鸡兔同笼问题来感性地认识一下
ChatGPT
的能力: 从这个回答可以观察到几个特点。首先是对自然语言的理解和转换为数学问题的能力,其次它通过将一个较为复杂的推理问题分步拆解,一步步获得最后的答案。这个能力被业内称作「思维链」(Chain of thought)。接下来换一下问法,看看它会怎么回答。 从这个图中可以发现,
ChatGPT
对自己所说的内容是有感知的,并且可以给出这么说的原因。另外也可以发现,它确实也会出错(第一次计算耳朵数量错了。此处有个冷知识,鸡是有类似于「耳朵」一样的功能器官),但可以通过引导的方式让它给出正确的答案,并且会告诉你自己为什么错了。 如果不事先告诉你这是一个人工智能模型,
ChatGPT
给人的感觉确实像一个真正有逻辑思维和语言交流能力的真人。它的出现第一次让大家觉得,人工智能似乎终于能够和人正常交流了,虽然有时候会出错,但在交流的过程中至少没有语言和逻辑上的障碍,它能「懂」你在说什么,并且按照人类的思维模式和语言规范给你反馈。这种非常智能的体验感,是它突破业界小圈子,给大众带来冲击感的原因。 这里还希望再次强调这种体验感的问题,因为也许过去业界由于技术的限制,为了完成场景中的特定任务而忽略了这一点。如今
ChatGPT
的出现代表了人工智能不再是过去那种「有用,但是也挺蠢」的形态了。 为了更好地理解
ChatGPT
这种非常智能的感觉是怎么产生的,难免要从过去那种「很蠢」的人工智能说起。准确地说,
ChatGPT
背后使用的依然是自然语言处理(NLP)技术,但却打破了原有的范式。 要理解这一点,可以先看看目前的主流做法是怎样的。人类交流依托的是语言,甚至也有很多人认为人类的思维也是建立在语言上的。因此,理解运用自然语言一直是人工智能的重要课题。但语言实在太复杂,因此为了让计算机理解运用语言,通常会将这个过程拆分为很多的细分项,这就是在技术领域中常说的「任务」。举几个例子: 情感分析任务,针对的是理解语言所蕴含的情感倾向; 句法分析任务,针对的是分析文本的语言学结构; 实体识别任务,针对的是从文本中定位出实体片段,例如地址、名字等等; 实体连接任务,针对的是从文本中抽取出实体间的关系; 这样的任务还有很多,都是从某个细分的侧面去对自然语言进行分析、处理。这样做有很多好处,比如有了这些拆分,就可以从不同的维度来考察一个自然语言处理系统的细分能力;也可以针对某一个细分的项专门做系统或者模型的设计等。从技术的角度来说,将一个复杂的任务(理解并运用自然语言)拆分为很多的简单任务(各种各样的 NLP 任务)确实是一种比较典型的解决复杂问题的路径,这也是目前的主流做法。然而在
ChatGPT
出现之后,以马后炮视角去看,也许在让计算机理解并运用自然语言这条路上,这种拆分并不是最有效的途径。 因为在单个任务上的优秀表现,并不能代表系统就掌握了自然语言。人对于人工智能体的「智能感」,是基于对它应用自然语言的整体能力而产生的,这一点在
ChatGPT
上有明显的体现。虽然 OpenAI 没有开放
ChatGPT
的 API 服务,外界还无法测评它在各个细分 NLP 任务上的具体效果,但以过往外界对它的前身 GPT-3、InstructGPT 等模型的测试情况表明,对于某些特定的任务,一个用专门数据精调过的小模型,确实可以获得更好的效果(详细分析请参考《深入理解语言模型的突现能力》)。但这些在单个任务上有更好表现的小模型,并没有引起很大的出圈效应。归根结底,是因为它们只有单一的能力。单个的能力出众并不能代表它们具有了理解和运用自然语言的能力,从而也无法独自在实际应用场景中发挥作用。正因如此,通常在一个真实的应用场景中,都是多个具有单点能力的模块经过人为的设计拼凑而成,这种人为的拼凑方式是过去的人工智能系统让人感觉并不智能的原因之一。 从人类理解和运用自然语言的视角去看,这个现象其实很好理解。普通人在理解、运用自然语言的时候,并不会在脑内将它拆分为很多步不同的任务,逐个任务进行分析,然后再汇总,这不是人类使用自然语言的方式。就好比一个人,在听到一句话的时候,并不会对它的句法结构、实体内容与关系、情感倾向等这些内容逐一分析,然后拼凑出这句话的含义,人对语言的理解过程是一个整体过程。再进一步,人对这句话的整体理解,会以自然语言的形式,通过回复的方式整体地表现出来。这个过程并不是像人工智能系统那样,拆分单个任务,然后逐一输出情感分析的标签、实体信息的片段、或是别的某个单个任务的结果,然后用这些东西拼凑出回复。 而以
ChatGPT
为代表,GPT 系列模型所做的事情才真正接近了人类理解和运用语言的能力 —— 直接接收自然语言,然后直接回复自然语言,并保证了语言的流畅性与逻辑性。这是人与人的交流方式,所以大家对它抱以「很智能」的体验感。也许很多人会认为,如果能做到
ChatGPT
这样当然很好,过去那种对任务的拆分是因为技术的限制不得已而为之。从技术应用的视角来看,这样迂回的方式当然是需要的,这种方法也在很长的一段时间内被采用,并且确实也能够解决很多实际场景中的问题。但如果回顾 GPT 系列模型的发展过程,就会发现 OpenAI「赌」了另一条路,并且他们「赌」赢了。 2、OpenAI 的「赌局」 GPT 初代,一切开始的地方 早在 2018 年,OpenAI 就发布了最初版本的 GPT 模型,从 OpenAI 公开的论文(Improving Language Understanding by Generative Pre-Training)可以了解到,这个模型采用了 12 层的 Transformer Decoder 结构,用了大约 5GB 的无监督文本数据进行语言模型任务的训练。虽然初代 GPT 模型采用的就已经是生成式的预训练(这也是 GPT 名字的由来,Generative Pre-Training,即生成式预训练),但使用的是无监督预训练 + 下游任务微调的范式。这一范式其实并不是什么新的发明,它在 CV(计算机视觉)领域已经有比较广泛的应用,只是由于当年 ELMo 模型的出色表现,把它重新「介绍」到了 NLP 领域。 GPT 模型的出现在那一年确实引来了一些业内的关注,但它并不是那一年的 C 位主角。因为就在同年,Google 的 BERT 模型横空出世,以优异的效果吸引了几乎全部的目光(这个景象有点像现在的
ChatGPT
,不禁感叹 Google 和 OpenAI 之间的「恩恩怨怨」真是天道好轮回)。 图片来自 BERT 论文,从图示中可以一窥当年 BERT 对标的就是 GPT,并引以为傲地指出双向编码能力。 BERT 模型虽然也是采用和 GPT 一样的 Transformer 模型结构,但它几乎就是为「无监督预训练 + 下游任务微调」的范式量身定制的模型。和 GPT 相比,BERT 所使用的掩码语言模型任务(Masked Language Model)虽然让它失去了直接生成文本的能力,但换来的是双向编码的能力,这让模型拥有了更强的文本编码性能,直接的体现则是下游任务效果的大幅提升。而 GPT 为了保留生成文本的能力,只能采用单向编码。 以当年的眼光来看,BERT 绝对是一个更加优秀的模型。因为既然 BERT 和 GPT 两者都是采用「预训练 + 微调」的范式,并且下游任务依然是分类、匹配、序列标注等等「经典」的 NLP 任务形式,那么像 BERT 模型这种更注重特征编码的质量,下游任务选一个合适的损失函数去配合任务做微调,显然比 GPT 这种以文本生成方式去「迂回地」完成这些任务更加直接。 从 BERT 模型出来以后,「无监督训练 + 下游任务微调」的范式便奠定了它的霸主地位,各类沿着 BERT 的思路,琢磨「如何获得更好的文本特征编码」的方法大量涌现,以至于 GPT 这个以生成式任务为目标的模型显得像一个「异类」。马后炮地说,如果当时 OpenAI「顺应大势」,放弃生成式预训练这条路,也许我们要等更长的时间才能见到
ChatGPT
这样的模型。 GPT-2 带来的希望 当然,我们现在见到了
ChatGPT
,所以 OpenAI 没有放弃生成式预训练的路线。实际上坚持的「回报」隐约出现在了第二年,也就是 2019 年。OpenAI 发布了有 48 层 Transformer 结构的 GPT-2 模型。在发布的论文(Language Models are Unsupervised Multitask Learners)中,他们发现通过无监督数据配合生成式训练后,GPT 展示出了零样本(zero-shot)的多任务能力。而奇妙的是,这些多任务的能力并不是显式地、人为地加入到训练数据中的。用通俗的话来举个例子,GPT-2 其中一个展示出来的能力是做翻译,但令人吃惊的是,通常专门用来做翻译的模型是需要大量的平行语料(即两种不同语种之间配对的数据)进行监督训练,但 GPT-2 并没有使用这种数据,而仅仅是在大量的语料上进行生成式的训练,然后它就「突然」会做翻译了。这个发现或多或少地带有点颠覆性的意味,它向人们展示了三个重要的现象: 想让模型去完成一种 NLP 任务,也许并不需要和任务匹配的标注数据。例如 GPT-2 训练时没有用标注的翻译数据,但它会做翻译; 想让模型去完成一种 NLP 任务,也许并不需要和任务匹配的训练目标。例如 GPT-2 训练的时候并没有设计翻译任务和相关的损失函数,它只是在做语言模型任务。 仅仅用语言模型任务(即生成式任务)训练的模型,也可以具有多任务的能力。例如 GPT-2 展现出了翻译、问答、阅读理解等等的能力。 虽然以现在的眼光来看,当时的 GPT-2 所展示出来的各种能力还比较初级,效果距离使用监督数据微调后的一些其它模型还有明显的差距,但这并没有妨碍 OpenAI 对它所蕴含的潜在能力充满期待,以至于在论文摘要中的最后一句话中,他们提出了对 GPT 系列模型未来的期望: “These findings suggest a promising path towards building language processing systems which learn to perform tasks from their naturally occurring demonstrations.” 后来一系列事情的发展也证明了他们确实是一直朝着这个 promising path 的方向在前进。如果说在 2018 年,GPT 初代模型出来的时候,GPT 的生成式预训练还面临着被 BERT 这类以「提取特征」为目地的预训练模型在各方面碾压,那么在 GPT-2 中的发现,给了生成式预训练一个 BERT 类模型无法替代的潜在优势,即语言模型任务所带来的多任务能力,且这种多任务能力是无需标注数据的。 当然,在那个时间点上,生成式的技术路径依然面临风险和挑战。毕竟当时的 GPT-2 在各任务上的表现还是差于经过微调的模型,这导致了 GPT-2 虽然有着翻译、摘要等等能力,但效果太差以至于无法实际使用。因此,如果在当时想要一个可用的翻译模型,最好的选择依然是老老实实用标注数据训练一个专门用来翻译的模型。 GPT-3,数据飞轮的开始 从
ChatGPT
时代往回看,也许 OpenAI 在 GPT-2 中的发现确实坚定了他们对 GPT 系列模型的信心,并决定加大研发投入力度。因为在随后的 2020 年他们发布了 1750 亿参数量的 GPT-3,一个即便以现在的眼光去看也大得让人惊叹的模型。虽然 OpenAI 没有明确公开训练这个模型的费用,但大家的估算是当时花了 1200 万美元。同时公开的还有一篇长达 60 多页的论文(Language Models are Few-Shot Learners),其中详细阐述了这个新的庞然巨物所展示出来的新能力。最重要的发现莫过于论文标题中所说的,语言模型具有小样本(few-shot)学习的能力。 小样本学习是一个机器学习领域的专业术语,但它有着很朴素的理念,即「人类是可以通过少量的几个例子就学会一个新的语言任务」。想象一下在语文课上学习怎么掌握「把」字句换成「被」字句样(雨把衣服淋湿了 —— 衣服被雨淋湿了)的情形,老师会给出几个例子,同学们就能够掌握这项能力。 但对于深度学习模型来说,它通常需要学习(训练)成千上万的例子才能掌握一项新的能力,但大家发现 GPT-3 却像人类一样具有类似的能力。而且重点在于,只需要给它展示几个例子,它就会「有样学样」地完成例子给出的任务,而不需要进行额外的训练(即不需要进行常规训练中的梯度反传和参数更新)。后来的研究表明,这种能力是巨型模型所特有的,被业内叫做「在上下文中学习」(in context learning)的能力。 GPT-3 论文中所展示的英语翻译法语的 In context learning 能力。 实际上,小样本学习能力本身并不是很惊人的发现。毕竟业内一直都在对小样本学习进行研究,很多专攻小样本学习的模型都有出色的小样本学习能力。但 GPT-3 展示出来的这种「在上下文中学习」的小样本能力却非常出人意料,其原因也和 GPT-2 所展示的多任务能力一样: GPT-3 并没有为了获得小样本的能力而在训练数据、训练方式上做特别的设计,它依然只是一个用语言模型任务训练的生成式模型; GPT-3 的小样本能力是以「在上下文中学习」的方式展现出来的。换句话说,想让它获得新的能力,不需要对它再训练,而只需要给它看几个示范的例子。 除了这个能力以外,GPT-3 还展示出了优秀的文本生成能力,相比 GPT-2,它生成的内容更加流畅,而且可以生成很长的内容。这些能力综合体现在一个模型上,让 GPT-3 在当时成为了大家的关注焦点,它也成为 OpenAI 正式对外提供服务的模型。 但随着这个模型服务的开放,越来越多的人尝试使用这个模型。从这时起,OpenAI 通过开放给公众的方式,同时也在收集着更具有多样性的数据(用户使用时输入的内容可能会被用于模型的训练,这一点是写在用户条款中的),这些数据在后来的模型迭代中也发挥着重要的作用。自此 GPT 系列模型的数据飞轮便转动了起来,越多优质的用户数据,迭代出效果越好的模型。 与
ChatGPT
不同的是,GTP-3 并不是采用对话的形式交互的模型,而是一个文本的续写模型(也就是在你输入的文字后面接着往下写),因此它并不具备如今的
ChatGPT
所拥有的多轮对话能力。但它已经能够干很多的事情,例如编写故事、给邮件做自动补全等等。但同时,大家也慢慢发现了一些问题,例如它会一本正经地输出不符合事实的内容,并且会输出一些有害的言论等等。这是这种文本生成模型最突出的弊端,虽然经过多次迭代,但
ChatGPT
如今也依然面临类似的问题。 CodeX,让计算机自己写代码 OpenAI 在对 GPT-3 的研究中还有一个意外的发现,它能够根据一些注释生成很简单的代码。因此在随后的 2021 年,他们对生成代码这件事情进行了专门的研究投入,并发布了 CodeX 模型。它可以看作是一个有着代码专精能力的 GPT 模型,能够根据自然语言输入生成比较复杂的代码。 从外部视角来看,我们无法判断代码生成的研究与 GPT 系列模型的研发是否在同时进行。但放在当时,让模型具有生成代码的能力,从实用化的角度来说确实更加具有意义,毕竟 GPT-3 还未拥有如今
ChatGPT
这般强悍的能力。另一方面,让模型去生成代码也能规避它生成有危害文本内容带来的风险。 在 CodeX 论文中提及了几个要点,首先是让经过文本数据预训练的 GPT 模型在专门的代码数据(数据来自 github 的开源代码,一共 159G)上训练确实能够明显提升模型对代码的理解和输出能力。其次是论文中用的是一个 120 亿参数的「小」模型,这个信息从侧面反映出 OpenAI 内部除了对外开放接口的 1750 亿参数的 GPT-3 模型外,还有别的不同大小的模型版本。 而加入代码训练,让模型获得理解和生成代码的决定,原本的初衷也许只是希望 GPT 能够多一种应用场景。它看似与 GPT 系列模型在理解和运用自然语言的能力没有太大的联系,但根据后续的研究(详细的分析请参考文章《拆解追溯 GPT-3.5 各项能力的起源》),增加对代码数据的训练很有可能触发了后来的 GPT 模型在自然语言上的复杂推理和思维链的能力。 也许在 OpenAI 做 CodeX 之初并没有预料到会有这样的结果,但就像他们一直使用文本生成任务来做 GPT 模型,然后在 GPT-2 和 GPT-3 中「解锁」了「多任务的能力」和「在上下文中学习的能力」那样,代码数据的引入又一次让他们获得了意料之外的收获。虽然看上去似乎有一些偶然,但对技术路线的前瞻性认知,加上坚持与持续的投入显然是一个至关重要的因素。 InstructGPT,让 GPT 好好说话 在前面我们提到了 GPT-3 虽然已经有很强的能力,但上线以后随着使用的人越来越多,也发现了很多问题,最严重的应该要数「一本正经地胡说八道」和「输出带有危害性的内容」这两点了。虽然在 2021 年 OpenAI 似乎暂时将重点放在了让模型理解和生成代码这件事情上,但他们应该一直在尝试解决 GPT-3 的这些问题。 在 2022 年初,OpenAI 发表了 InstructGPT 的论文(Training language models to follow instructions with human feedback),从中我们可以一窥解决这些问题的方法。论文的核心理念是让模型接受人类的教导(反馈),这一点在标题中就已经开宗明义了。 GPT-3 之所以会出现「一本正经地胡说八道」和「输出有害的内容」这样的问题,其根源来自于它所使用的训练数据。像 GPT-3 这样的庞然大物,对数据的需求量是海量的。我们从 GPT-3 的论文中可以找到它的数据来源,大致可以划分为三类:网页内容、百科内容以及书籍。虽然网页内容的量非常大,但也非常「脏、乱、差」,自然会包含很多非真实性和有害的内容。GPT-3 在这些数据上进行训练,自然也就学到了这些东西。 但作为一款对外提供服务的产品,GPT-3 的回答应该更小心一些。要解决这个问题,其中的一难点在于怎么去定义模型应该怎么说话。因为生成模型的输出内容是自然语言本身,而不是一个分类的标签或一个实体名词这种有明确的、客观对错的内容。没有明确的对错,就导致无法像训练经典的 NLP 模型那样直接针对目标设计训练任务。 而 InstructGPT 给出的解决思路是非常直接的,既然对于「好的回答」这个评价指标有很多不同的影响因素,这些因素又相互交织在一起,那就让人来教它怎么写回答。因为人类是比较善于处理这种「既有明确的要求,又有模糊的范围」的问题的,让真人写一些「优秀范例」,让模型去学习这些「优秀范例」,这正是 InstructGPT 提出的总体思路。 具体而言,InstructGPT 提出了两个阶段的路径来让 GPT 学习人类给出的「优秀范例」,第一阶段是监督学习,第二阶段是强化学习。在第一阶段中(对应下图中最左边的 Step 1),让真人根据不同的 Prompt(粗浅可以认为是我们使用
ChatGPT
时,在对话框里输入的那条文本,在业界这个东西叫做指令)写真实的、无害的、有用的回答。实际操作过程中,为了保证这些内容的质量,会给写回答的标注人员一些规范性的指引,然后让已经经过预训练的 GPT 模型在这些人类编辑的数据上继续训练。这一阶段可以看作是对模型的一种「规训」,用一个不严谨的类比来说,就像语文老师让你默写优秀范文那样。 图片来自 InstructGPT 论文,提出通过监督式的指令微调 + 人类反馈的强化学习来让模型的输出变得合理。 第二阶段是强化学习,技术上分为两步。第一步(对应上图中间的 Step 2)是让被「规训」后的模型根据不同的 Prompt 生成多个不同的回答,并由人来给这些回答按照好与差的标准来排序。然后用这些标注了优劣之分的数据训练一个打分模型,让它可以自动给更多的数据进行排序打分。强化学习阶段的第二步(对应上图中右边的 Step 3)就是利用这个打分模型作为强化学习中的环境反馈,以策略梯度(Policy Gradient,准确地说是 PPO 算法)的方式对已经「规训」后的 GPT 模型进行训练。整个第二阶段的过程可以看作是对模型的一种「强化」,再用一个不严谨的类比来说,就像语文老师给你写的作文打分,让你从分数中分辨什么是好与不好,然后不断进步。 因此,用一种非常不严谨,但普通人或许也能够理解的方式来说,InstructGPT 先是让一个「口无遮拦」的 GPT 通过「默写人类的优秀范文」的方式初步学会「好好说话」,然后再「给它独自写出来的东西打个分,让它回去好好领悟,继续进步」。当然,在技术上牵涉事情会更复杂一些,比如「优秀范文」的具体规范和数量等数据上的问题,以及强化学习中打分模型的选择,算法参数的设置等算法上的问题,都会对最后的效果产生影响。但最终的结果表明,这种方式是非常有效的,论文中也指出一个通过上述方式训练出来的 13 亿的小模型,效果就能够超过没有经过这种训练的更大的模型。 另外论文中还有一些非常值得一提的内容。首先是关于 Prompt 的一些发现。InstructGPT 训练时所使用的 Prompt 主要由两部分构成,一部分是专门的 AI 训练师编写的,另一部分自来 OpenAI 的模型在线服务期间,由用户使用中编写的内容,这时数据飞轮的作用就体现了。可以发现,无论是哪种,这些 Prompt 都是由真人写出来的,虽然文章中没有对这些 Prompt 的具体涵盖范围、分布情况以及提问的方式展开详细的分析,但可以合理地猜测这些 Prompt 具有一定的多样性和较高的质量。其实文章中对比了使用这些真人编写的 Prompt 训练的模型和使用一些开源 NLP 任务数据集中构建的 Prompt(例如 T0 数据集、FLAN 数据集)训练出来的模型,结论是由真人编写 Prompt 训练出来的模型,给出的答案更加能被评测的人接受。 另外一点是关于训练好的模型对新的 Prompt 的泛化能力的问题,可想而知的是,如果训练完成的模型无法产生 Prompt 的泛化能力,那么现在
ChatGPT
所表现出来的,几乎百问百答的能力是不太可能产生的。因为在模型做微调的阶段,即便是再多的数据,也不可能把人们有可能会输入的内容都覆盖完整。而 InstrctGPT 论文中点明了文中所采用的方法是可以产生 Prompt 的泛化能力的。 之所以花了更多的文字对 InstructGPT 做介绍,因为根据
ChatGPT
官方页面的介绍,InstructGPT 中的方法正是用来训练
ChatGPT
的方法,不同的只是
ChatGPT
使用了对话式的数据组织方式。 GPT-3.5 时代和
ChatGPT
的诞生 在随后的时间内,OpenAI 发布了多个被称为 GPT-3.5 系列的模型,虽然这些模型并未有相关的论文跟随发表,但根据这篇文章的分析,GPT-3.5 系列应该是融合了 OpenAI 在 GPT-3 时代积累的技术、数据以及经验开发出来的。由于没有详细的官方公开信息参考,关于这些模型的具体资料,外界主要是通过分析使用的体验、相关的技术论文以及 OpenAI 的 API 文档介绍来进行推测。 根据分析,GPT-3.5 系列的模型有可能并不是在 GPT-3 上继续微调而来,而很可能是将代码和自然语言的数据融合在一起,重新从零开始训练了一个基础模型。这个模型可能比 GPT-3 的 1750 亿参数量更大,它在 OpenAI 的 API 中被命名为 codex-davinci-002。然后在这个基础模型上,通过指令微调和人类反馈得到了一系列后续的模型,包括
ChatGPT
。 GPT 系列模型的发展路径。 简要地说,从 code-davince-002 这个模型开始,经过有监督的指令微调得到 text-davinci-002。以及后续的 text-davinci-003 和
ChatGPT
,也是在 GPT-3.5 系列的某个模型上通过指令微调以及人类强化学习反馈得到的。并且 text-davinci-003 和
ChatGPT
都是在 2022 年 11 月发布的,不同的是 text-davinci-003 和 GPT-3 一样,是一个文本补全模型。而根据
ChatGPT
的官方介绍,它是通过将过往的数据处理成对话交互的形式,并增加了新的对话数据训练出来的。 至此,我们大致回顾了 OpenAI GPT 系列模型从 2018 年的初代 GPT 到现在的
ChatGPT
,一路发展迭代的过程。在这个过程中,OpenAI 一直保持着对生成式预训练模型这一技术路径的「执拗」,并且也一直从不断发展的 NLP 技术中吸纳新的方法,从最初的 Transformer 模型结构,到后来的指令微调(Prompt tuning)等技术的出现,这些因素共同促成了如今
ChatGPT
的成功。有了对 GPT 系列模型发展的了解,我们可以再回过头来看看如今的
ChatGPT
。 3、走近再看
ChatGPT
在第一章节中我们阐述了
ChatGPT
出圈的原因主要是:「它以流畅、符合逻辑的自然语言来反馈人类对它输入的自然语言」,从而给与它交流的人带来了很强的「智能感」。在第二章节中通过回顾 GPT 系列模型的发展历史来了解
ChatGPT
成功之路。而这一章节会尝试以尽可能让圈外人都能理解的方式,稍微深入一些技术的内容,并且探讨一下当前的一些大型文本生成式模型为什么未能做到相同的效果。这一部份的主要参考来自于《深入理解语言模型的突现能力》和《拆解追溯 GPT-3.5 各项能力的起源》这两篇文章以及相关的一些论文,建议希望详细了解细节的读者阅读原文。 虽然在第一章中指出,
ChatGPT
所带来的惊艳效果是由许多不同的 NLP 任务综合体现出来的,但在分析它背后的技术时,还是通过将它的能力进行拆解会更加清晰明了一些。总体而言,
ChatGPT
所体现出来的能力可以大致划分为以下几个维度: - 文本生成的能力:
ChatGPT
的所有输出都是即使生成出来的文本,所以文本生成的能力是它最基本的要求。 这一项能力实际上是来自于它的训练方式,
ChatGPT
在预训练时,是一个标准的自回归语言模型任务,这是 OpenAI 所有 GPT 系列模型的基底。所谓的自回归语言模型任务,通俗的理解是这样的:它可以根据已经输入的文本,预测下一个 token 应该是什么。这里所说的 token,所代表的是模型所使用的最小单位的字符片段,它可以是字(在中文里采用字是很常见的),也可以是词(英文的每个词天然地被空格隔开了,所以常采用词),甚至是字母。但现在的方法通常采用的是子词(subword,介于字母和词之间,主要的目的是减少词表数量)。但不论是哪种,自回归语言模型任务的基本思路都是根据已经输入的文本,预测下一个要输出的文本是什么,就像下图的例子中那样: 这个例子中,BOS 代表了输入的开头,而每个 token 是一个词,GPT 模型根据输入的「今天」和 「天气」两个词,预测下一个要输出的是「不错」。 在训练的时候,会准备很多文本数据,比如网页上的文章、各类书籍等等,只要是正常的文字内容,都可以用来训练。值得说明的是,这种数据不需要进行额外的人工标注,因为这类数据本来就是人写的,模型要做的事情就是根据这些人写出的文本,去学习「给定了前面的文字,接着这些文字后面这个地方应该是什么」的问题。这便是业内所称的「无监督训练」,实际上模型并不是真的没有监督(不然模型学什么呢?),只是它的数据不需要额外的人工标注。也正因为这个任务是不需要额外标注的,因此可以「免费」获得大量的数据,得益于互联网的普及,可以「轻松地」获得海量的由真人写出的文本内容用来训练。这一点也是 GPT 系列模型的特点之一,用海量的数据,去训练很大的模型。 那么在我们使用
ChatGPT
的时候,它是怎么工作的呢?其实也和它的训练方式一样,模型会根据我们在对话框里输入的内容,去预测接在这些内容的下一个 token 是什么,得到这个 token 后,会将它与前面的内容拼接成一个新的文本给模型,模型再预测下一个 token,如此反复,直到满足某个条件后停止。这个停止的条件有很多不同的设计方式,比如可以是输出的文本达到特定的长度,又或者是模型预测出某个用来代表停止的特殊 token。另外值得一提的是,模型预测下一个 token 时,其实背地里是一个采样的过程。换句话说,模型在预测 token 时,输出的其实是所有可能出现的 token 的概率,然后从这个概率分布里采样一个 token。因此,在使用
ChatGPT
时,会发现即便对于相同的输入,它的输出每次也会不一样,因为在背地里它采样了不一样的 token 作为输出。 了解这些之后,可以再回过头来思考一下模型在学什么。它在学习怎么回答问答吗?又或者说它在学习怎么理解自然语言所蕴含的信息、逻辑、情感?还是说它在学习海量的知识?从训练任务的设计来看,似乎都没有,它只是从海量的文本数据里,学习了「根据输入的这些文本,一个人类在后面会接着写什么」这件事。但正是这样的模型,在「进化」到
ChatGPT
时,它却掌握了丰富的知识、复杂的逻辑推理等等,它似乎掌握了一个人类运用语言所需要的几乎所有的能力。这是一件非常神奇的事情,它的「进化」历程将会在下一章节中做更加深入的介绍。 - 丰富的知识储备:
ChatGPT
能够正确回答非常多的问题,包括历史、文学、数学、物理、编程等等。因为目前版本的
ChatGPT
并没有利用外部知识,因此这些知识的内容是「储存」在模型内部的。
ChatGPT
所拥有的丰富知识储备,来自于它的训练数据,以及它足够大的体量,以便学会这些内容。虽然官方并没有公开
ChatGPT
所使用的训练数据的具体细节,但从它的前身 GPT-3 的论文可以推测,这些数据大致可以分为三个大的范畴:网页内容、书籍内容以及百科内容。可想而知的是,这些内容天然地蕴含了大量的知识,百科和书籍自然不必说,而网页内容也包含了许多新闻、评论、观点等,并且网页也包括了很多专门的问答垂直类网站,这些都是
ChatGPT
的知识来源。在官方的介绍里指出
ChatGPT
无法回答 2021 年以后发生的事情,因此合理的猜测是训练的数据收集截止到 2021 年。 但数据量只是其中一个方面,要让模型「掌握」这些数据,其自身的体量是不可能小的。以 GPT-3 为例,它有 1750 亿参数,可以粗浅地理解为,这些数据的内容以及模型的各项能力,都以这一个个参数的具体数值的形式,固定在了训练完成的模型中。感性的理解是,假设一个模型只有 1 个参数,那它什么也干不了。更严谨的分析和对比可以参考这篇论文《Holistic Evaluation of Language Models》的测评,方向性的结论是越大的模型,在需要知识来完成的任务上表现得越好。论文地址:https://arxiv.org/pdf/2211.09110.pdf - 逻辑推理与思维链的能力:从第一章图片中的鸡兔同笼的例子可以看出,
ChatGPT
具有很强的逻辑推理能力。并且它能够将复杂的内容,通过拆解,分成多个小的步骤,一步步地进行推理,获得最后的答案,这种能力被称为思维链。 从前面的介绍我们知道,模型在训练的时候并没有针对逻辑推理以及思维链做特定的设计。而当前的主流观点认为,逻辑推理和思维链很可能和两个因素相关,第一个是模型的体量,第二个是模型是否在代码数据上进行过训练。 关于模型体量与推理、思维链能力的关系,在《深入理解语言模型的突现能力》中有对应的介绍。下面这张图展示了思维链能力与模型体量的关系。 不同模型不同尺寸的思维链效果对比,图来自论文。GSM8K,SVAMP 和 MAWPS 是三个需要逻辑推理的数学应用题数据集,LaMDA,GPT 和 PaLM 分别是 3 个不同的模型。 简要地说,图表中给出了三个不同的模型,在三个数学应用题数据集上的答对率。而值得关注的是以下几个方面: 思维链的能力(蓝色实线)在模型体量够大的时候产生了效果上的突变; 思维链的能力在模型够大的前提下,效果超过了标准的指令(Standard prompting,黑色实线)方法; 思维链的能力在模型够大的情况下,可以接近甚至超过有监督的方法(橙色虚线)。 用通俗的话来说,就是在模型足够大的时候,思维链的能力突然展现了出来,能够达到、甚至超过那些在推理数据集上专门进行有监督训练的模型。这个图也许部分解释了现在我们看到的
ChatGPT
所具有的优异推理和思维链能力。 而另一个关于推理以及思维链能力的产生因素,与模型是否在代码数据上做过训练有关。目前这一点只是一个推论,《拆解追溯 GPT-3.5 各项能力的起源》中的分析表明体量类似的大型模型,没有在代码上做过训练的话,只有很弱或几乎没有思维链和推理能力。而
ChatGPT
确实是在代码数据上进行过训练的,这一点从它能够理解并生成代码也可以看出来。在第二章回顾发展历程中提到了,OpenAI 在 2021 年就发布了专门针对代码的 CodeX 模型,将代码数据加入 GPT 的训练数据应该就是从那时开始的。 - 按照人的提问或者指令给予回复的能力:
ChatGPT
除了可以用狭义的基于「问答」形式的交互以外,还能够按照输入的要求进行回复。例如,在应对「帮我写一封信」这类指令式的要求时,它同样也展现出了优秀的能力。这种能力让它不仅是一个提供答案的「高级搜索引擎」,更是一种可以用自然语言来交互的文字处理工具。 虽然目前大众普遍把目光聚焦在将
ChatGPT
作为一种类搜索引擎的工具,但查阅相关知识并给予回答并不是它的唯一能力。实际上,单就
ChatGPT
本身而言,回答知识性的问题并不是它的强项,毕竟它本身的训练数据被定格在了 2021 年。即便用更新的数据去训练,但它终究跟不上时事的变化,因此要将它用作知识性的问答工具,还是需要与搜索引擎等外部知识源做结合,就像现在 Bing 做的一样。 但换一个角度来看,
ChatGPT
像是一个「语言完备」的文本工具,也就是它能够按照你给它的要求,完成指定的、可以用文本形式表达出来的内容,就像下面这个例子。 按照给定的计划内容生成英文邮件进行汇报。 这里所说的「语言完备」,指的是运用语言的能力。可以看出上面这个例子里,其实不涉及知识性的内容,因为需要它写的内容已经提供给它了。但要写出这封邮件,涉及到的是运用语言的能力,比如遣词造句、语种切换、邮件格式等等。 现在我们回过头来,尝试分析它的这种「按照指令完成任务」的能力是怎么获得的。在学界中,这种指令被称为 prompt,实际上对话中的用户输入、问答中的问题也是一种 prompt,因此可以粗浅地理解为,在聊天框里输入的所有内容都是 prompt。如果了解我们在本章第一节介绍语言模型的内容,那么更严谨一些的说法应该是「输入给模型的上文」都是 prompt。
ChatGPT
根据输入的指令(prompt)进行回复的能力,是来自于一种被称为指令微调的模型训练方式(prompt tuning)。其实原理很简单,模型依然还是「根据输入的内容,预测下一个 token 是什么」,只是在指令微调的阶段,输入的内容被换成了这些事先写好的 prompt,而 prompt 后面需要生成的内容,则是事先写好的答案。因此在这一阶段和一开始所说的无监督自回归语言模型训练,最大的不同在于数据。这里的数据,也就是 prompt 以及对应的回复,都是人写的,换句话说,这一阶段用的是人工标注的数据进行的监督训练。 提到人工标注的数据,就自然牵涉到了所需要的数据量了,因为每一条标注数据都是需要成本的。如果是不需要标注(就像第一阶段的训练),那么自然有海量的文本数据可供训练,但如果要标注,那到底需要多少这种数据呢?要知道,让标注人员手写一个 prompt,然后再手写一个几百字的、真实详尽的回答,成本是很高的。根据论文《Training language models to follow instructions with human feedback》的介绍,所需要的数据其实不需要太多(相比于无监督阶段所使用的数据来说)。虽然具体到
ChatGPT
到底使用了多少没有确切的信息公开,但可以确定的是在数量级上一定远比用来进行无监督训练的网页、百科和书籍所构成的数据集要小非常多。 论文地址:https://arxiv.org/pdf/2203.02155.pdf 只需要相对少量的人工标注的 prompt 数据就能达到让模型按照指令做出回复的目的,这一点背后其实隐含了一个现象,在学界内被称为 prompt 的泛化能力。可以想象一下,如今全世界都在不停的向
ChatGPT
提问,所提的问题也必定是千奇百怪的,这些问题其实就是一个个的 prompt。但用来对
ChatGPT
进行指令微调的 prompt 肯定不会有这么多,这说明模型在学习到了一定量的 prompt 和相应的答案以后,它能够「举一反三」地对它没有见过的 prompt 进行回答,这就是 prompt 的泛化能力。文章《拆解追溯 GPT-3.5 各项能力的起源》分析指出,这种泛化能力与在指令微调阶段让模型学习的标注数据数量以及多样性相关。 此外,用少量的 prompt 数据就能微调出类似于
ChatGPT
这样拥有强大能力的模型,背后还隐含了另一个猜测,即模型所表现出来的各项能力,可能在无监督训练的阶段就已经存在于模型当中了。其实这也很好理解,毕竟相比于无监督的数据,这些人工标注的 prompt 数量太少了,很难想象模型是通过对这些仅有的标注数据学习而产生了各种各样的能力。从这个角度来说,指令微调的过程更多只是让模型学会按一定的规范来进行回复,而它的知识、逻辑等能力是早已存在的。 - 「客观公正」的能力:如果对
ChatGPT
询问一些有害或者有争议的问题,可以看到
ChatGPT
的回答都是非常「小心」的,很像是经过训练的新闻发言人般的回答。虽然它目前依然做得不够好,但这种能力是 OpenAI 敢将它公开作为一款产品使用的核心因素。 让模型的输出符合人类的价值观是 OpenAI 一直在做的事情。早在 2020 年 GPT-3 的时候,OpenAI 就发现这种通过网上的数据训练出来的模型,会生成带有歧视、危险、争议的内容。作为一个对外提供服务的产品,这些有害的内容显然是不合适的。而现在的
ChatGPT
在这一点上有着明显的改善,让模型做出这种「行为改变」的主要方法也来自于 InstructGPT 的论文,更确切地说,是通过有监督的指令微调加上人类反馈的强化学习共同完成的,这一点在第二章中也已经做过介绍了。 通过上述的分析可以发现,从技术方法的角度来说,
ChatGPT
相关的内容都是已知的,但为什么当前只有它拥有如此惊艳的表现呢。实际上从
ChatGPT
推出之后,NLP 社区就一直在分析这其中的原因,虽然很多结论是推测性的,但也为同类模型的国产化带来一些启示。 模型体量的因素 能力涌现出现的前提是模型体量达到一定的规模,虽然没有具体的指标指引,但从目前的事实情况来看,类似于思维链等比较「高级」的能力,需要在数百亿参数量以上的模型中才表现得足够优异。 数据量的因素 模型的大小不是唯一的因素。DeepMind 在这篇论文《Training Compute-Optimal Large Language Models》提供了一些分析性的结论,指出训练的数据量需要随着模型的体量相应地增加,更确切地说,是模型训练时「见过的 token」数量,需要随着模型体量增加。 论文地址:https://arxiv.org/pdf/2203.15556.pdf 数据质量的因素 对于无监督的数据,数据量相对而言并不是很大的障碍,但数据质量往往更加容易被忽视。实际上在 GPT-3 的论文中,就有专门的内容介绍数据的处理工作。为了清洗 GPT-3 的训练数据,OpenAI 专门训练了一个数据过滤模型,来从海量的网页数据中获取更高质量的数据。相比而言,与 GPT-3 体量相当的一些开源模型,例如 Meta 的 Opt 和 BigScience 的 Bloom,似乎没有进行这一步清洗。这也许是这两个开源模型效果劣于 GPT-3 的原因之一。 此外,数据质量的衡量维度不是单一的,诸如数据的多样性、内容重复度以及数据的分布情况都是需要考虑的因素。例如虽然 GPT-3 所使用的网页、百科、书籍这三大类数据中,网页数据的总量是最多的,但在训练时这三类数据的采样并不是按照实际数据的多寡进行的。 另外值得一提的是,在指令微调的阶段,采用人工编写指令也许是一个重要的影响因素。InstructGPT 的论文明确指出在测评过程中,采用人工编写的指令训练出来的模型,比采用现有的 NLP 数据集通过模版的方式构建指令训练出来的模型有更好的效果。这也许解释了在 T0、FLAN 等由 NLP 数据集构成的指令数据集训练出来的模型为什么效果会差一些。 训练过程的影响 这类巨型模型在训练时通过集群进行训练,同时采用数据并行、模型并行以及 ZeRO 优化器(一种降低训练过程显存占用的方法),这些方式为训练的稳定性引入了更多的变量。如下这篇分析指出甚至模型是否采用 bfloat16 精度都对结果有明显的影响。 分析链接:https://jingfengyang.github.io/gpt 相信了解了上面的这些内容,大家对复刻一个类
ChatGPT
的方式以及会面临的问题会有一个大致的了解。有幸的是 OpenAI 已经证明了这技术路径是能够走通的,
ChatGPT
的出现也确实正在改变 NLP 技术的发展走向。 4、未来的展望
ChatGPT
从 2022 年 11 月上线以来,引起了极大的关注。相信即便是非专业领域,甚至是与计算机也很少打交道的群体,或多或少地都知道它的存在,这个现象本身就已经反映出它的出现有些不同寻常。圈外的大众更多的是以好奇、惊讶或者惊叹的方式来感性地认识它的出现。而对从业者来说,它的出现更多的是对未来技术走向的思考。 从技术的角度来说,
ChatGPT
的出现标志着 NLP 领域的又一次范式切换。之所以说是「又」一次,是因为在 2018 年,也就是初代 GPT 发布的那一年,与之同年发布的 BERT 模型以自身优异的表现,开创了 NLP 的「预训练 + 微调」范式的时代,具体内容在第二章中已经做过介绍了。这里主要介绍由
ChatGPT
开启的「文本生成 + 指令」的范式。具体来说,就是利用训练好的
ChatGPT
或类似的文本生成模型,通过输入适当的指令(prompt)来完成某一项具体的场景。 这种范式与此前的 NLP 技术应用有很大的不同。不论是早期的利用 LDA、RNN 等统计模型或很小的深度学习模型的时代,还是后来利用 BERT 等预训练配合微调的时代,技术所提供的能力是相对原子化的,距离实际的应用场景有一定的距离。 就拿前面举的让
ChatGPT
根据要求写英文邮件的例子,按照此前的做法,可能需要先抽取实体、事件等内容(比如时间、地点、事件等),然后通过模版或是模型形成邮件的样式,再通过一个翻译模型转化为英文。当然如果数据量足够训练端到端模型的情况下,也可以跳过中间的若干步骤。但不论采用哪种方式,要么需要将最终的场景拆解成原子化的 NLP 任务,要么需要对应的标注数据。而对于
ChatGPT
来说,只需要一个合适的指令。 三个阶段的 NLP 技术范式。 这种生成式模型搭配 prompt 的方式,直接略过了中间的各项 NLP 能力组件,用最直接的方式解决应用场景的问题。在这种范式下,完成终端应用的技术路径将不再是用单点 NLP 能力模块通过搭积木的方式组合起来。 当然,这个过程不是一蹴而就的,也不意味着 NLP 的单点能力变得不重要。从测评的角度来说,每一个单点能力的好坏依然可作为评价模型效果的指标。并且,就某些场景来说单点能力依旧是一个强需求。例如在订票系统中本身就需要针对时间、地点进行提取。但与此前不同的是,
ChatGPT
本身也可以完成单点能力,而不需要使用额外的功能模块。
ChatGPT
进行信息提取。
ChatGPT
进行情感判断。 从这个角度来说,可以把
ChatGPT
看作是一个以自然语言作为交互媒介的 NLP 工具。如果说在过去,我们是通过模型 + 数据 + 设计训练任务的方式来完成某项 NLP 能力,那么
ChatGPT
则是通过设计指令来完成这些能力。 可想而知,
ChatGPT
的出现大大降低了 NLP 技术的应用门槛。但它目前还不是全能的。最重要的一点在于它缺乏准确可靠的垂直领域知识,为了让它的回答可靠,最直接的方式是为它提供外部的知识来源,就像微软将 Bing 的搜索结果作为它回答的信息来源那样。 因此,「传统」的 NLP 技术并不会就此完全消亡,而是会以「辅助」的角色,作为目前
ChatGPT
短板的补充,这也许会是未来 NLP 技术应用的新范式。 作者:追一科技 来源:机器之心、DeFi之道 来源:金色财经
lg
...
金色财经
2023-02-26
周末要闻集锦出炉!职工医保门诊共济保障机制改革详解,个人账户结余归属不变,“股神”巴菲特发出警告
go
lg
...
I推出的GPT3(175B),也即支持
ChatGPT
的GPT3.5的前身。 段永平也买了石油?回复网友:跟下老巴、纯属好玩或者跟踪一 有“中国巴菲特”之称的知名投资人段永平今日在雪球发帖称:“$西方石油(OXY)$买了一些,偶尔也抄下作业。随后他在评论区回复网友:“我对油不懂也没兴趣搞懂,只是跟下老巴而已。”“纯属好玩或者跟踪一下。不完全懂是不应该赌身家的,不敢赌身家的“投资’其实都很难算得上正经投资’。近期,美国证券交易委员会 (SEC) 披露了“股神”巴菲特旗下伯克希尔哈撒韦截至2022年12月31日的持仓报告(13F),其2022年第四季度十大持仓股分别为苹果、美国银行、雪佛龙、可口可乐、美国运通、卡夫享氏、西方石油、穆迪、动视暴雪和惠普。
lg
...
金融界
2023-02-26
资产配置:A股估值:估值水平处于历史中低位置
go
lg
...
料供应链及其供应商。 半导体行业,
ChatGPT
是一种聊天机器人软件,具备人类语言交互外复杂的语言工作,包括自动文本生成、自动问答、自动摘要等多重功能,应用场景广阔, AIGC的出世将产生革命性的影响,同时有望赋能千行百业,受益厂商分为三类,分别是AI处理器厂商,具备自研AI处理器的厂商可以为AIGC的神经网络提供算力支撑,AI处理器芯片可以支持深度神经网络的学习和加速计算,相比于GPU和CPU拥有成倍的性能提升和极低的耗电水平;AI商业算法商业落地的厂商,AI算法的龙头厂商在自然语言处理、机器视觉、数据标注方面都具有先发优势和技术领先性;AIGC相关技术储备的应用厂商,相关厂商有望在降本增效的同时实现创意激发、提升内容多样性并打开海量市场。(文章来源:山东国信研究院) 重要声明 1、本报告引用信息均来源于公众报道,不涉及且不作为判断、建议的目的与使用,同时对其准确性及完整性不作保证。 2、本公司力求报告内容和引用资料和数据的客观与公正,但对这些信息的准确性及完整性不做任何保证,不保证该信息未经任何更新,也不保证本公司作出的任何建议不会发生任何变更。在任何情况下,我公司不就本报告中的任何内容对任何投资做出任何形式的担保,据此投资,责任自负。 3、本报告版权归本公司所有,未获得本公司事先书面授权,任何机构和个人不得对本报告进行任何形式的复制、发表或传播。如需引用或获得本公司书面许可予以转载、刊发时,需注明出处为“山东国信”。任何机构、个人不得对本报告进行有悖原意的删节和修改。 4、本公司可发出其他与本报告所载资料不一致及有不同结论的报告。本报告及该等报告反应编写分析师的不同设想、见解及分析。
lg
...
金融界
2023-02-26
沪电股份:云计算、大数据人工智能、5G行业应用等领域基础设施是公司PCB产品主要应用领域之一
go
lg
...
! 投资者:董秘您好,请问公司目前有无
ChatGPT
相关业务? 沪电股份董秘:云计算、大数据人工智能、5G行业应用等领域基础设施是公司PCB产品主要应用领域之一,谢谢! 投资者:贵公司汽车板块主要有那些客户 沪电股份董秘:公司目前主要向Tier1类汽车电子厂商提供产品,亦有部分产品直接供给终端新能源汽车品牌厂商,谢谢! 投资者:公司是否有针对4D毫米波雷达相关的产品 沪电股份董秘:在汽车电子领域,公司与客户在新能源车三电系统,自动驾驶,智能座舱,车联网等方面深度合作,开展关键技术的研发,深度参与客户前期设计及验证。公司在高阶汽车用HDI产品开发,汽车用高频高速材料应用研究,高信赖性产品研发以及生产效率提升等方面加大资源投入,紧跟汽车行业的发展趋势,提升技术能力和适用性,增强与客户在技术上的准确支持以及在业务上的长期合作,夯实在ADAS(高级驾驶辅助系统)、动力系统电气化、汽车电子功能架构等领域高端PCB的竞争优势,逐步调整优化产品和产能结构。在具体产品方面,应用于4D车载雷达,自动驾驶域控制器,智能座舱域控制器,车载网关等领域的产品已实现量产。 沪电股份2022三季报显示,公司主营收入57.64亿元,同比上升6.5%;归母净利润9.22亿元,同比上升17.31%;扣非净利润8.74亿元,同比上升24.25%;其中2022年第三季度,公司单季度主营收入20.28亿元,同比上升8.48%;单季度归母净利润3.88亿元,同比上升26.98%;单季度扣非净利润3.68亿元,同比上升39.63%;负债率39.93%,投资收益-3826.99万元,财务费用-1.54亿元,毛利率29.92%。 该股最近90天内共有12家机构给出评级,买入评级9家,增持评级3家;过去90天内机构目标均价为17.66。近3个月融资净流出1.48亿,融资余额减少;融券净流出317.53万,融券余额减少。根据近五年财报数据,证券之星估值分析工具显示,沪电股份(002463)行业内竞争力的护城河良好,盈利能力良好,营收成长性一般。财务相对健康,须关注的财务指标包括:应收账款/利润率。该股好公司指标3.5星,好价格指标3星,综合指标3星。(指标仅供参考,指标范围:0 ~ 5星,最高5星) 沪电股份(002463)主营业务:印制电路板的研发、生产和销售 以上内容由证券之星根据公开信息整理,与本站立场无关。证券之星力求但不保证该信息(包括但不限于文字、视频、音频、数据及图表)全部或者部分内容的的准确性、完整性、有效性、及时性等,如存在问题请联系我们。本文为数据整理,不对您构成任何投资建议,投资有风险,请谨慎决策。
lg
...
证券之星
2023-02-26
25号CNTM与ADA在台湾举办线下会议圆满成功
go
lg
...
元宇宙,web3以来最大的长期叙事,在
chatgpt
这样现象级产品的问世下推向了高潮,从去年10月开始,变引得无数web2投资人竟折腰,在红杉资本,微软等巨头的推波助澜下,2023成为“thebigyear forAI”,1月10日,微软以290亿美元估值,向OpenAI投资100亿美元。 币圈不可避免的容易成为资本fomo情绪外溢的资金蓄水池。 AI已形成独立的板块,大背景是硅谷加速在AI布局,谷歌、微软、苹果等全部入场,提高了AI项目的估值,热度持续不减,市场将反复进行炒作,而这就是我们的机会。 本文将从币安AI板块代言币——AGIX和欧易AI板块代言币——CNTM对比进行分析! 什么是CNTM? Connectome是一个基于区块链核心技术开发的DeFi人工智能投顾平台,支持DeFi产品上链交易、理财产品去中心化AI测评、流动性挖矿、一键式智能投顾、智能客服等。通过大数据多维分析、AI模型演练,为用户提供接近一站式的、定制化人工智能投资顾问服务,为理财产品发行人、投资用户提供全方位的区块链解决方案。 CNTM的优点 基于
ChatGPT
的理论,创建CNTM的GPT平台:Jinn; 为Jinn加入双引擎结构:GPT引擎+传统搜索引擎,从而实现Web3的AI搜索功能; 将Jinn与CNTM1.0的板块结合,增强金融领域的AI搜索推荐功能。 Jinn的优势: Jinn=
ChatGPT
+Sparrow Jinn使用
ChatGPT
为核心框架,引入了Sparow的基于retrieval结果的生成结果证据展示,以及引入LaMDA系统的对于新知识采取retrieval模式。 所以Jinn既有高质量的人工标注,也可以完美解决新知识的引入问题,同时又有效的内容可信性验证功能,从而打造下一代为Web3服务的搜索引擎基础。 应用场景类: 内容推荐:根据用户行为和与Jinn的交互分析,为用户推荐适合他的Web3内容与产品。 个性化金融:根据用户行为和与Jinn的交互分析,为用户推荐适合他的DeFi产品或根据用户的模型来自动构建属于用户的科学家机器人,完成自动交易。 DAO推荐:为用户推荐合适的DAO组织,或直接将理念类似的人连接在一起自动生成新的DAO组织。 个性化内容生成:用户可以通过组建关键字,通过Jinn输出自己需要的内容。 CNTM 2月25日将与ADA在台湾举办线下会议。 CNTM 2月25日将与ADA在台湾举办线下会议,同时收到清华大学邀请参与AI人工智能技术会议;同时AGIX也是ADA和Ocean深度孵化的项目,预计CNTM将会是ADA和Ocean共同孵化的第二个AI项目。 本次台湾会议总结 CNTM的CEO石井敦围绕下一代搜索引擎Jinn来进行分享 Jinn是第一个基于生成人工智能的Web3搜索引擎,DALL-E 2和GPT-3.5背后的技术相同 Jinn是一个受过链接预测训练的搜索引擎。这意味着给定一些上下文,它试图预测最有可能跟随该文本的链接。您通过编写提示与Jinn搜索进行交互:这些是可以在链接之前出现的文本片段。 新的搜索引擎“Jinn”基于生成的文本到链接AI模型。替代搜索概念允许您以新的方式发现网络。 Jinn是一个人工智能驱动的链接自动完成 虽然谷歌主要使用人工智能模型来更好地理解用户的查询,从而提供更合适的搜索结果,但初创企业ConnectoMe的新搜索引擎“Jinn”采取了不同的方法。 要了解Jinn的工作原理,与OpenAI的GPT-3进行比较是有帮助的:例如,大型语言模型根据文本输入预测下一个可能的单词,从而完成短篇小说或翻译。 相比之下,Jinn搜索引擎依赖于基于文本输入预测可能链接的AI模型。 如果您经常使用Jinn进行搜索,Jinn还将提高她在此过程中的能力,并使她的搜索结果更准确。 Jinn搜索是一个更具创意的搜索 Jinn的优势在于发现新的网络内容:搜索查询的许多可能变化导致网络的深度。有时,Jinn基于提示的搜索感觉就像一个未来,智能助理甚至可以为最模糊的想法贡献主题适当的内容。 新的搜索引擎Jinn进入了alpha阶段。它使用基于生成文本到链接AI模型的不寻常搜索概念。Jinn完成搜索输入,这些输入可以以未完成的句子、项目符号列表甚至对话框的形式给出,例如,链接可能会在输入句子的下一个点跟随。使用相同的原则,仅使用单词而不是链接,大型语言模型编写连贯的文本。Jinn目前不太适合搜索可靠的信息。但新的搜索原则可用于重新发现网络。 来源:金色财经
lg
...
金色财经
2023-02-26
AI 赋予文字无限力量:“由文本生成一切”的一年
go
lg
...
频和生物/化学方面的应用还没有到来。
ChatGPT
和更多的“文字到文字” 即使是在“文本到文本”领域,也有海量的事情可以做:最近推出的
ChatGPT
在互联网上炸开了锅,基本上是因为该模型有能力以对话的形式全面回答问题。你可以要求它为你制定一个简单的锻炼计划,写一个课程大纲,建议你做什么,向你某位哲学家的作品,以及其他很多事情。 不够值得注意的是,
ChatGPT
的知识有严重的局限性。 事实上,如果你要求
ChatGPT
提供关于某个特定主题的更多细节(例如普鲁斯特关于时间性质的想法),它就会开始自己绕圈子——挺符合你对一篇高中生作文的期望。事实上,
ChatGPT
的存在可能会改变我们对写作技巧的某些方面的理解。 > 也许有理由感到乐观,如果你把这一切放在一边。也许每个学生现在都能立即进入更高的写作层次,每个学生都可以直接进入写作事业的更精细的方面,任何难以模仿的东西都将变得更明显。逗号连接、主谓不一致、冗长的修饰语等令人头痛的机械性问题都不复存在,写作的基础技能已经直接给定了。 正如我所提到的,
ChatGPT
似乎还只能对它所阐述的主题作比较浅层次的描述,无法太深入。它可以写得足够流畅,并给你一些所需要的细节,但如果你能提供它所缺乏的深入分析和深刻理解,它就还不能替代你的工作。 文本能超越自己吗? 通过在多模态数据集上训练模型,我们可以理解文字、语言中编码的信息如何映射到图像、三维图像和我们周围世界的其他表现形式。“文本到图像”表明,生成的图像可以反映精确的文字描述。但是生成式AI还不能做到尽善尽美,Stable Diffusion模型在其生成的图像中明显存在着赋予人类正确手指数量的问题。 但值得注意的是,在“文本到图像”系统中,仅仅通过扩大语言模型就能实现改进。Imagen使用仅在文本上训练的T5编码器(110亿个参数),产生的图像比DALL-E 2更逼真,后者的文本编码器已被训练为产生类似于匹配图像嵌入的文本嵌入。 也就是说,将文本转化为其他模态的可能性(我们可以做什么,以及我们用目前的方法能走多远)并不明显。对那些看到真正发展限制的观点,我感同身受:尽管“文本到图像”数据集可以告诉我们这个世界的很多景象,但它们不存在于物质世界中,缺乏像我们一样能够与物体、与其他人类互动的能力,并通过互动从周围世界中收集视觉和非视觉信息。 但是显然,有很多事情可以做。谷歌最近的RT-1(变形机器人)展示了如何利用自然语言来解决机器人任务。 “
ChatGPT
可以为你策划一场主题派对,但它能帮你在派对结束后打扫屋子吗?很可惜不能。我在谷歌机器人的朋友刚刚公布了RT-1,一款带有眼睛、手臂和轮子的变形机器人!” 正如François Chollet在一次采访中向我指出的那样,在“文本到图像”这个领域,神经网络的能力可以大放异彩。我也对潜在的二级应用场景感到兴奋,比如在文本指导下的分子设计和其他并不显而易见的创意。 然而,我认为要真正发掘“文本到X”模型的潜能,着实需要有更好的界面:我们需要以更好的方式,向模型表达我们的意思、概念和想法。提示工程作为一门学科出现,可以反映出我们目前与GPT-3等模型的交流方式是低效的。 展望未来,我认为在我们使“文本到一切”成为现实的过程中,我们需要解决两个驱动发展的问题: 1. 我们如何构建界面,使我们能够更好地将我们的意图传达给AI模型? 2. 这些模型能够为我们带来哪些有用的生成结果或行动? 但是在实际问题之外,我认为另一个问题更有意思:文本到{文本、图像、视频等}的模型并不完美,但非常好用。在将想法以图像或视频的形式呈现出来这一方面,这些模型远比普通人,甚至是本身颇有艺术造诣的人类要好得多。正如Daniel Herman关于
ChatGPT
提出的问题:对从事艺术、从事视频制作而言,文本到一切意味着什么?我们是否会进入这样一个时期:艺术的基础知识变得更加商品化,任何人都可以通过不同的媒介,以更精细的艺术手法传递自己的思想?在那里,水彩画的技巧被简化为提示中的文字,剩下的就是人类和AI系统之间的共舞互动? 一如既往,我们不应该夸大这些AI系统的能力——它们经常会出现显而易见的错误。但是,当遇到正确的问题时,AI可以表现得很出色,为人类提供更多空间去做更有趣的事情,并追寻写作、艺术的更高层次。 而且,除了这些直接的应用之外,“文本到X”模型及其基础技术还有哪些尚待探索的进一步应用?研究人员已经在考虑如何使用NLP模型来预测蛋白质的氨基酸序列,这是预测字母序列的一个明显的应用,离生成文本只有一步之遥。投资者和人工智能报告的作者Nathan Benaich,在我最近与他的谈话中提到,他对最先进的扩散模型如何应用于生物和化学领域感到兴奋。 今年是“从文本到一切”的一年,如果说从今年的惊人发展中可以学到什么的话,那就是文本作为一种“发出指令”的媒介,正变得更加强大。你不需要艺术培训,也不需要一套数字艺术软件或绘画工具,也能来把“漂浮的城市”这一想法变成视觉现实。你可以把它说出来或打出来,让它存在。 你将用你的文字创造什么? 来源:DeFi之道 作者:Daniel Bashir 来源:金色财经
lg
...
金色财经
2023-02-26
一周财闻:人民币汇率创年内新低、本轮疫情在全国范围已基本结束、奥联电子被立案调查
go
lg
...
万元/吨。 复旦团队发布国内首个类
ChatGPT
模型MOSS 复旦团队发布国内首个类
ChatGPT
模型MOSS,邀公众参与内测。MOSS可执行对话生成、编程、事实问答等一系列任务,打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。 奥联电子:因涉嫌信息披露违法违规遭证监会立案调查 围绕着公告中的相关信息披露“被打假”,奥联电子本周陷入舆论风暴。23日深夜,奥联电子公告称,因公司涉嫌信息披露违法违规,证监会决定对公司立案调查。立案调查期间,公司将积极配合中国证监会的调查工作,并严格按照规定履行信息披露义务。
lg
...
金融界
2023-02-26
上一页
1
•••
554
555
556
557
558
•••
676
下一页
24小时热点
PCE“大爆表”!美联储首选通胀指标10月份仍处于高位,金价急跌近10美元
lg
...
FX168日报:特朗普阵营传大消息!黄金突然变脸的原因在这 日元暴涨近200点
lg
...
2.8%!美国经济表现出令人惊讶的韧性,第三季度GDP修正值持平于初值
lg
...
战况升级、朝鲜高级将领在俄被袭受伤!金正恩的战略意图是?
lg
...
中国国防部长董军传涉嫌腐败遭到调查 中方最新回应来了!
lg
...
最新话题
更多
#SFFE2030--FX168“可持续发展金融企业”评选#
lg
...
14讨论
#链上风云#
lg
...
47讨论
#美国大选#
lg
...
1329讨论
#VIP会员尊享#
lg
...
1517讨论
#比特币最新消息#
lg
...
628讨论