对话阿里云 CTO 周靖人:“通义千问”不是起点也不是终点:快播报
2023-04-08 16:15:05来源:ZAKER科技
对话访谈人:王兆洋 骆轶航
对话受访人:周靖人
对话整理人:李晓贤
【资料图】
4 月 7 日,阿里巴巴旗下大语言模型—— " 通义千问 " 开启邀测。
开发 " 通义千问 " 的阿里巴巴达摩院如是解释这款大语言模型的命名:" 千问,千万次的问,千万的学问,能问出千问的一定是真爱,能回答千问的,也一定是真有学问,以及,AI 和我们一样,都有千万次交互的热情。"
而在使用邀请码对大模型产品测试了一天后,我们也有机会和它背后的负责人,阿里云智能 CTO 周靖人进行了一次独家对话,提出了我们的 " 千问 "。
以下为对话实录:
" 通义千问 " 不是起点也不是终点,而是既定路线上的一个节点
品玩:我们今天一直在使用通义千问,它的许多特点让我们印象深刻,网上也有了很多对产品的测试,我们很好奇你们会怎么测试它,如何判断它的表现?
周靖人:怎么去全面评测一个大模型本身是非常有挑战的。其实今天整个行业还没有一个标准。甚至每个人的评价其实也是很主观的,对吧?
有时候更多的是说,让模型能面对你的一些回复,揣测到你到底是喜欢哪一种说话的方式,然后会不断去调整,这本身就是模型在理解方面的一个能力。
我们会有一系列的评测,其中简单的测试包括一些创作,一些文案的续写,一些简单的推理,甚至一些简单的数学。包括今天跟一些多模态的延展,还有一些知识增强的测试。
现在我们内部是有一个测试集,而慢慢以后都会从让人去评价一个模型,变成用模型去评价一个模型本身,我们一定会走到这一步。
品玩:那么如果对标 ChatGPT,通义千问现在是什么水平?
周靖人:我们要承认 ChatGPT 尤其是 GPT4 目前还是非常领先的。我觉得这是一个正常的过程。
但直接对比的话,这也很难评价。我们关注的是如何能够让我们的模型弥补自己的不足,甚至在更多的一些场景里面有突出的一些能力的表现。今天所有的模型离我们真正去模拟人类的智慧体还有很远的距离。
品玩:阿里并不是因为 ChatGPT 的出现才开始密集投入大模型的,之前也展示过很多模型研究的进展,那 " 通义千问 " 在阿里的大模型研究历程里是什么位置?
周靖人:这个产品是我们的一个中间态。
今天我们在不断探索基于多模态的大模型的路径上,或者说接近于多模态真正的趋近人类智慧体的路径上的一个节点。它不是起点也不是终点,是个既定路线上的节点。我们这次是把过去积累的一部分工作向社会,向开发者开放,但我们在这方面还有长足的工作,需要进一步地去突破去创新。
品玩:尽管你强调多模态,但我们注意到这一次并没有提供文生图的功能。
周靖人:对,很多公司在做文生图,其实达摩院也有相关的一系列工作发表了,像我们的 Composer 模型等,不光能够做文生图,还可以根据你的一些详细指令去修改这个图。所以给通义千问接入文生图并不是最难的,它更多是一个工程上的问题。
我们其实认为,今天更难的是把各个模态的模型能力融入进一个模型,比如怎么把视觉的能力融入到语言模型里面。因为一个人获取知识的方式有视觉、语言、听觉等,不会把它们用独立的形态分割开来,在人脑里它都是一个可贯通的知识体,能够把不同形式的输入有机的联合在一起。今后的多模态必然能够做到,不管是任何一个模态来的信息,你的知识体系或者接受到的信号都能够在一个高维的空间里有机融合在一起。
我觉得这个是必然会发生的。这个也是接下来 GPT4 或 5 一定会有突破的地方,我们也在这方面有不少的投入,也是我们认准的一个重要方向。
品玩:也就是说阿里的大模型路线,是多模态的一张蓝图绘到底,而这些都是计划的一部分。
周靖人:我们从 2019 年就开始尝试各种各样的大模型,从 StructBERT 到 M6,再到 PLUG 再到最新的 Composer 等一系列视觉模型,其实本质都是在预训练大模型的整体思路上不断进行探索,不断创新。
我认为今天大模型其实在不断地逼近我们人的智慧。人的智慧很重要的一点就来自于语言,LLM(large language model )开始能根据自然语言理解有效地提取人类大量的知识体系,在这方面是非常独特的。
今天我们看到类似 ChatGPT,类似通义千问所表现出来的一些能力,其实都是在这条道路上。所以对我们行业内的人来讲,我们并不认为这条道路好像就是 2023 年突然出现。我们认为这是一个长期以来技术发展的演进过程。甚至我们认为今天看到的所谓大模型的能力也都是冰山一角,今后还会有整体更惊人的一系列表现。
我认为 ChatGPT 的推出,更重要的是教育了整个社会。上一次半年前我们聊到大模型的时候,可能连科技界部分工作者都还不看好这条路线。今天 ChatGPT 基于 Chat 这样一个产品的形态做得非常出色,把相关的能力有效地表达出来了,不光是对模型一线的工作者,更多是让大众和各行各业的人都突然有如梦惊醒的感觉。甚至,今天它给我们整个计算机科学领域都带来了一个惊讶的反应,或者说快速的教育过程,大家快速认识到基于一个智慧体的预训练大模型会有多么出色的表现。
在这个过程中间,我们对 ChatGPT 所采用的一些技术和各个方面能够达到的惊艳效果也是感到出乎意料。但阿里不是说今天有了 ChatGPT,我们才加入这样一个阵列,或者说我们才能凑热闹,也来做一把模型。其实我们在这方面一直在积累,应该说是国内最早探索大模型方向的公司之一。
ChatGPT 非常领先,但下次也许就是我们在引领技术的发展
品玩:所以对大模型而言,ChatGPT 究竟改变了什么?
周靖人:它基于 SFT(有监督精调),包括基于 reinforcement learning(强化学习) 的调优方式让人眼前一亮。
今天其实我们回过头去看,模型中融入知识的潜力是巨大的,但是在 InstructGPT 出来之前,其实缺乏一个有效的手段把这方面的能力释放出来。现在这些技术的使用能更有效地把模型作为知识体的能力释放出来,快速地去解决一些具体的问题。
品玩: 这对大模型研究路线有什么影响?
周靖人:首先,ChatGPT 包括InstructGPT 给我们很多启发,我相信 OpenAI 其实有长足的技术前瞻性,当他发布 GPT3. 0 或者 3. 5 版本的时候,实际上是各个方面都陆陆续续已经准备好了。
但最终我们认为类似人类智慧体的预训练大模型一定是多模态的。我们长期以来在这方面做投入,因此 ChatGPT 的诞生并没有让我们转变投入方向。后来 GPT4 的发布其实在无形之中验证了大家实看法比较一致—— AI 会朝着多模态的体系进一步发展。
所以今天我们方向是一致的,在实现路径上我们要取长补短,这是科技发展的必经之路。今天 ChatGPT 有一些很出色的工作,我们要把他们的一系列工作和一些进展融入到我们技术路线里面来。
品玩:如何看 AI 行业的议程正在被 ChatGPT 设置这个事实,就是说无论其它玩家做什么,都会被拿来跟 ChatGPT 做对标。
周靖人:我觉得这就是科技的魅力。
这种你追我赶是今天科技健康发展的必经之路。任何一个科技都是处于你追我赶中,今天可能我有一些新的想法,能把科技再往前推一步,那下一次有可能是由你来承担这方面的一些创新,大家都是在互相取长补短,不断的去推进科技前进。
在不断取长的过程里,我们也不能妄自菲薄,我们同样也希望能不断地去推进最先进的技术进步,下次也许就是我们在推动行业的发展。只有这样人类的整体科技才能不断地提升,不断的创新,不断地进行突破。
至于今天整个 OpenAI 已经在给我们设置议程,我觉得那是因为它是领先者,这必须承认,而接下来,如何能快速追赶上,如何能快速地去迭代模型将成为一个制胜的关键。
也就是说今天我们不乏有一些新的想法,那今天我如何能够去尝试?如果说每一次的尝试它需要花的时间是几个月甚至更长,那今天你整个的创新速度是跑不起来的。
品玩:它变成了一个系统效率的比拼。
周靖人:今天创新迭代的速度一方面需要我们有一些新的想法,但更重要的是需要今天云的基础设施。它能够让我们去快速地去尝试,去试错,能够快速拿到反馈,才能让科技创新不断加速。
我们讲它是一个全方位的竞争,不单单是说今天是模型本身的竞争,其实今天它既是研究又是工程,是从云的基础设施到 AI 算法,到今天数据处理,全方位的一个竞争,甚至涉及到了今天我们计算机科学的方方面面。有各种各样的分布式系统重启、底层的网络存储各个方面都会涉及到。那之所以 OpenAI 能够做出非常出色的工作,也来源于今天它跟微软 Azure 的有机结合,其实在无形之中也是强联合,能够不断通过云的基础设施,通过整个系统的一系列优化带动了今天 OpenAI 不断创新的速度。
我认为在这一场竞争里面,是一个公司全方位能力的一个表现,如果在任何一个环节稍微落后一点,都会在整个竞争上处于劣势。
" 通义千问 " 其实是一个 MaaS(模型即服务)的底座
品玩:也就是可能这个模型并没有完全成熟,但是它也需要先投入到一个真实甚至是一个商业的环境中去。今天模型的研发跟行业的应用已经在并行进行。
周靖人:对,人们逐渐认识到基于大模型本身强大的对知识理解和推理能力,找到一个如 SFT 和 Prompt 等方向后,就能够把小宇宙慢慢释放出来。那当然会激发基于大模型的一系列模型应用。
今天一定程度上人工智能业务算法的算法体系已经在改变,今后大家要慢慢学会怎么在大模型上去做二次的开发,去做相关的一系列算法和工作,包括把它适配到不同的场景。
去年我们在国内首次推出 model as a service 模型即服务(MaaS),甚至我们是在全球第一个提出来这样一个概念。那我们也比较欣慰的看到越来越多的行业、云计算厂商还有更多的互联网公司也开始认同这样的一个观点,甚至今天也开始按照这样一个观点去打造自己的产品服务体系。我们已经已经真正进入到了一个模型的世界。
品玩:那么 MaaS 会让我们和 OpenAI 走上不同的演进道路么?
周靖人:我们认为今后 AI 的开发门槛会越来越低,我们期待的是连小学生也能用各种模型进行开发。今后我们需要形成的是一个一个模型的不同层级的结构。
而且一个通用的模型其实也很难解决所有问题。从开发者的角度,它会更多的以模型为第一思考的角度和元素,也就是说今天围绕着模型作开发的范式会逐渐诞生。我们去年在 ChatGPT 出来之前就提出并一直在强调 MaaS,其实就是这样一个理念背后的一系列的思考。
我们在思考模型的生态如何快速发展,所以提出 MaaS,为了加速 MaaS,我们又创建了 " 魔搭 " 这样的社区。所以几乎这些工作都是相互强关联的,是在我们整个 AI 战略和模型战略的主线上。
品玩:通义千问其实也就是 MaaS 的成果之一,对吧。
周靖人:是的,今天通义千问是以对话作为一个能力的表现形式,但我们期待一些企业级的应用诞生在上面,也就是说今天真正把通义千问模型作为 MaaS 上面的一个底座,能够在上面进行额外的开发,能够真正应用到一些各行各业的场景里面去。那这样就是真正意义上形成了 MaaS。
达摩院支持别人在阿里云上开发大语言模型
品玩:也就是在阿里云上别人也可以开发自己的模型。
周靖人:我们是非常欢迎的。我们并不认为今天大模型是一家独大。
我们希望阿里云能够为大家提供一个高效的算力,不简简单单是一个算力的数字,而是能够把这部分的基础设施更好地提供给我们中国的创业公司,帮助他们在 AI 方面实现自己的创新,这样才能让中国整体的 AI 能力有一个全方位的提升。
品玩:其实我们对于初创公司做模型这件事情,整个达摩院包括整个阿里的态度其实是相当开放的?
周靖人:对。
品玩:那初创公司做大模型呢?你们怎么看?
周靖人:我觉得对待大模型,我们科技界一定是要保持开放的心态,对吧?因为很多的创新来自许多新的想法,其实这个我们很难说处于一个垄断的状态。
阿里应该说在这方面非常开放,我们愿意把我们的模型供大家使用,另外一方面我们也把我们模型所依赖的这样一个云的能力也对外进行服务。虽然我们也认识到今天小公司在训练大模型的经费和技术上有门槛,但我觉得这个是问题本身的特点所带来的。我们希望有更多的参与者不断地加入到这方面的科技创新。
卖个关子,还有下一款 " 通义 " 模型
品玩:今天很多人把大模型的突飞猛进归结于涌现(emergence)。您是否可以描述一下,通义千问的哪一个研发场景,让我们觉得这个它可能它是实现了一次非常成功的大规模的涌现?
周靖人:我觉得涌现可能是一个主观的定义。
品玩:不是一个科学的词汇,是吗?
周靖人:对,为什么这么说,因为它是对某一个个体认知体系的一个冲击,这个叫做一个涌现。那当然每个人的认知是不一样的,所以大家看到同样结果,也许对我是一个冲击,对你就不是一个冲击。
所以对于我们这些科技工作者来讲,今天所有的科技发展都是一步步来的。所以我刚才讲到,我们之所以从几年前国内最早就在做相关大模型的研究,如此笃定,其实我们每年都会有各种各样的一个涌现,我们每一份工作其实都有各种各样的一个涌现,当然这一次看起来是全社会的一个涌现,每个人都参与,但我还是认为科技的发展总是有一定的积累后,到了一定时刻有一个突破,其实中间有很多的技术细节,很多的 know-how。
品玩:所以这些 know-how 是什么?很多人说现在找不到,跟炼丹似的,您同意这个说法吗?
周靖人:我觉得应该说今天我们有点类似处于早期深度学习发展的那个阶段。那个时候大家对整个深度学习的理解,也觉得是 " 不知道为什么,反正管用 ",这点毫无疑问。坦诚地讲,今天的进步确实有很多工程以及经验的因素在里面,这中间的的确确还有很多方面值得研究,包括这个模型深层次的机理。今天我们大概知道这个模型为什么会有这么突发的一个表现,但真实的情况我们还是需要有一些理论的研究。
品玩:现在通义千问最希望或者最需要解决的问题是什么?
周靖人:这个模型可以优化的地方还有非常多。我刚才强调,它只是整体规划的一个部分,让大家体验到我们在工作上的一些进展,但是离我们的整体设计还有长足的工作需要去完成。
比如从模型本身和系统层来讲,如何能够更高效的去服务更大规模模型的训练,如何接入更多模态,提高在推理侧的代码能力,提升辅助人类日常工作生活方方面面的能力,结合行业知识的定制化能力等。
但是解决过程也是我们科技发展的一个必经之路,今天如果到一个时间点我们都觉得问题解决完了,这个领域也就不再令人兴奋了。正因为今天这个是一个刚刚发展起来的崭新的领域,我们认为想象的空间是巨大的。
品玩:最后一个问题,为什么叫通义千问,一定要这么文绉绉的吗?
周靖人:我们去年 9 月份的时候就发布了 " 通义 " 大模型系列,我们整体一系列的发布不是为了某一次发布而改变的策略,我们是有一个体系化的思考。今天我们发布千问是在我们既定的路线上面的一个节点。
所以通义是一个模型系列的名字,千问主要是指它目前一个主要的对话形态。千万次的追问是人类获取智慧的方式,我们希望千问也能够不断地学习逼近人类的智慧。
通义千问成为我们通义模型系列中重要的一员。我们接下来很快还会测试另外一款通义的模型,现在卖个关子。它也会叫通义什么,并且代表今天我们在相关领域的又一个重要进展。
责任编辑:hnmd003
相关阅读
-
【全球速看料】苹果计划拆建 Cupertino 园区办公大楼
品玩4月8日讯,据9to5mac报道,苹果计划在下周举办公开听证会,拆除苹果在Cupertino园区的办公大楼,之...
2023-04-08 -
全球关注:iPhone 15 Pro 更精准高清图曝光,该变的都变了!
前段时间,网上爆出了iPhone15系列CAD图,虽然大概模样都知道了,但那也只是处在数据图阶段,还那也只是...
2023-04-08 -
世界今热点:系统「暗埋」比特币白皮书,最「Web3」的竟然是苹果?
在硅谷,对于Web3最热情的科技大佬,排第一的是Twitter的创始人杰克·多西,后者不仅曾经尝试在Twitter...
2023-04-08 -
以 SingPass 应用为例分析 iOS RASP 应用自保护的实现以及绕过方法(上)-天天日报
通过在应用程序的安装目录中搜索一些关键字,我们实际上得到了两个结果,它们含有混淆器名称的信息:NuD...
2023-04-08 -
专访蔚来与杜比团队:音乐人可以有足够的信心,作品被原汁原味地传递到车厢 全球聚焦
《无间道》被喻为香港警匪电影的巅峰之作,影片当中刘建明(刘德华饰)与陈永仁(梁朝伟饰)在深水埗鸭...
2023-04-07
相关阅读
-
对话阿里云 CTO 周靖人:“通义千问”不是起点也不是终点:快播报
对话访谈人:王兆洋骆轶航对话受访人:周靖人对话整理人:李晓贤4月7日,阿里巴巴旗下大语言模型——通...
-
【全球速看料】苹果计划拆建 Cupertino 园区办公大楼
品玩4月8日讯,据9to5mac报道,苹果计划在下周举办公开听证会,拆除苹果在Cupertino园区的办公大楼,之...
-
全球关注:iPhone 15 Pro 更精准高清图曝光,该变的都变了!
前段时间,网上爆出了iPhone15系列CAD图,虽然大概模样都知道了,但那也只是处在数据图阶段,还那也只是...
-
减资至 1.05 亿,阿里巴巴频繁变动究竟为何?
大众网·海报新闻记者沈童报道近日,杭州阿里巴巴网络科技有限公司发生工商变更,引起市场广泛关注。天...
-
交了三年保险退保可以退多少?退保需要哪些资料?
交了三年保险退保退款金额一般是跟保单属性有关的: 1、如属于储蓄型产品,具备保单现金价值,直接退还...
-
人寿保险退保需要什么材料?退保能退多少?
人寿保险退保需要准备的材料,都包括了: 1、人寿保险的合同书原件,如果寿险合同遗失的话,还需要先补...
-
保险交了5年退保怎样可以退全款?手续怎么办?
保险交了5年退保,一般情况下退还的是保单的现金价值,或者是当期保费跟产品净风险保费、手续费的差额,...
-
天天微速讯:泰康200万养老靠谱吗?要注意什么?
泰康200万养老是泰康保险围绕养老社区设计的一种保险产品,需要缴纳的保费总计不少于200万元,退休时可...
-
万能险十年后领多少钱?有必要领钱吗?:焦点关注
万能险万能账户中的钱虽然可以随时取出来,但是,保险公司一般会规定领取数额,如果消费者想要全部取出...
-
今日热文:工商银行鑫如意9号怎么样?适合谁?
是一个相对灵活且具备较高保额复利。 工商银行鑫如意9号终身寿险在保险投保年龄范围广、缴费方式灵活、...
-
金满意足是哪家保险公司?可靠吗?
中国太平洋财产保险股份有限公司。 金满意足是中国太平洋财产保险股份有限公司推出的一款综合型健康保险...
-
天天资讯:金瑞人生3年交完了能退钱吗?有哪些优点?
可以,但不建议。 只要没有领取过保险金,就可以申请退保。但需要注意的是,退保金额会扣除相应的手续费...
-
天天即时:新华保险利率公布最新是多少?在哪里买?
2022年公司实现了总投资收益率4 3%和净投资收益率4 6%。 这意味着公司面对当前较为不利的投资环境,持...
-
哪种保险什么病都报销?报销需要哪些资料?
一般医疗保险报销都是不限病症种类的,不论是医保还是商业医疗保险,但是产品不同的话报销范围会不同,...
-
每日焦点!马斯克回应特斯拉降价:很多人有需求但买不起,只有降价才能满足需求
针对“特斯拉降价”一事,马斯克回应特斯拉降价时表示,降价的原因
-
百度发打假声明:目前文心一言无官方 App_天天即时
财联社4月8日电,百度AI微信公众号发布声明称:目前文心一言没有任何官方App,在公司官宣前,凡是在Apps...
-
当前资讯!恒盈满满年金保险收益大揭秘!真的高到离谱吗?
恒盈满满年金保险,支持出生满30天-65周岁的人群投保,保障期限可选15年或20年;缴费方式可选3年交或5年...
-
天天视点!百度:文心一言无官方App,已对苹果及相关开发者团队发起诉讼
“百度AI”微信公众号发布声明称:目前文心一言没有任何官方App,在
-
世界今热点:系统「暗埋」比特币白皮书,最「Web3」的竟然是苹果?
在硅谷,对于Web3最热情的科技大佬,排第一的是Twitter的创始人杰克·多西,后者不仅曾经尝试在Twitter...
-
以 SingPass 应用为例分析 iOS RASP 应用自保护的实现以及绕过方法(上)-天天日报
通过在应用程序的安装目录中搜索一些关键字,我们实际上得到了两个结果,它们含有混淆器名称的信息:NuD...
-
【世界新要闻】商业运营收入首破百亿 新城控股轻装上阵
村上春树在《海边的卡夫卡》中曾言:“当你穿越了暴风雨,你就不再是原来的那个人。”企业发展亦如是。...
-
每日观察!今年最火的,肯定是民宿:五一假期部分价格翻5倍,有老板称3月就订满
旅游业将期盼押注在五一假期。今年初,西安、长沙、洛阳的“人山人海”在朋友圈里刷屏,近段时间,泰山...
-
苏科大回应凌晨4点发考研录取通知:会逐一打电话确保通知到学生
4月7日,有网友称:凌晨4点半收到苏州科技大学材料科学与工程学院的
-
最资讯丨编程猫客服回应网传取消节假日3倍工资:这个情况不存在
今日,据博主王落北粉丝投稿:编程猫销售总监开500人大会,宣布取消
-
腾讯视频与抖音上演“世纪大和解”,但头腾大战不会结束:天天短讯
腾讯视频将向抖音授权长视频,并明确了二创发布方式和规则。自此,腾讯视频与抖音多年的版权大战落下帷...
-
环球快报:“因加班怼领导”系编造,借谣言发泄情绪终将反噬
面对真假难辨的网络爆料,舆论也要多一些警惕,不要动辄就被别有用心者牵着走,以为自己是在为正义发声...
-
造谣“加班怒怼领导”,煽动公众情绪当休矣
网络不是“法外之地”,如果僭越了守法敬畏心、缺失了言论责任感、淡薄了正确价值观,就必然会被自己制...
-
当前快讯:虎头局大败局:成本失控、资金链断裂,创始人胡亭梦碎上海滩
胡亭后悔了。3月31日上午,虎头局上海绿谷总部沉闷压抑,虎头局创始人胡亭在一众前来讨薪讨款的员工、供...
-
世界播报:2023年世界大健康博览会开幕,爱康携医疗“黑科技”酷炫登场
充满科技感的未来空间里脑海中刚一浮现“握拳”的想法机械手臂就迅速做出对应动作注意!这可不是科幻电...
-
常青科技完成发行工作,正式上市!为打破国际化工巨头垄断持续发力
4月10日,全面注册制下,第一批主板注册制企业将上市交易。早在3月26日晚间,常青科技便(603125 SH)发...
精彩推荐
阅读排行
精彩推送
- 新消息丨直播带岗“职”等你来
- 推动优质医疗资源扩容下沉,让人...
- 旅游市场持续回暖背后的创新与信心
- 紧抓关键期 加力促匹配——多地...
- 从绿色机遇透视中国经济活力 简讯
- 人民热评:陈某龙造谣被行拘,但...
- 每日头条!新能源车险保费大增背...
- 周鸿祎:360 全网数字安全大脑...
- 全球热推荐:“百万豪车”三折卖...
- 全国各地区最低工资标准出炉,你...
- 西藏工业经济、数字经济保持良好...
- 抢抓农时 春耕备耕 快看点
- 西藏第三次全国土壤普查工作全面...
- 天天视点!西藏自治区游泳馆将于...
- 历史性突破,IPv6流量首超IPv4,...
- 清华大学与蚂蚁集团携手攻坚下一...
- 草莓品鉴 比“美” 赛“甜”:今热点
- 优质医疗资源下沉基层
- 今日讯!严厉打击超量开药、重复...
- 看热讯:产业旺 村民富 乡村兴...
- 一个人的“通信班”_环球热消息
- 天天观点:传承“墨脱精神” 筑...
- 【世界新视野】西藏公漳浦“半牧...
- 世界新资讯:探访全国海拔最高的...
- 预订机票一分钟内三次变价,春秋...
- 世界即时看!交通部有关部门约谈...
- 天天报道:民族团结进步创建“进...
- 石拐区 民生项目绘就幸福画卷
- 全球球精选!评论:只有争“分”...
- 一季度高新区新增经营主体827户