每日播报!首个高稀疏率AI计算卡S100在浪潮内测 支持千亿级别大模型
2022-07-09 05:28:14来源:中国经济网
(相关资料图)
中国经济网北京7月8日讯(记者 王惠绵) 近日,墨芯人工智能首次发布SparseOne S100在浪潮服务器中的测试数据,S100是全球首个高稀疏率AI计算卡,运行多个AI主流模型,性能表现为国际大厂主流AI推理卡的6倍。
值得注意的是,这是墨芯首次披露S100运行能够实现单卡推理大模型,突破单卡难以满足高算力需求的瓶颈,有效解决业界对大模型,普遍采取多机多卡分布式的方式,完成推理所带来的时间长、功耗高、成本高等问题。
近年来新兴的NLP模型——T5,曾被称为“全新NLP SOTA预训练模型”,以其高参数量,让许多计算卡“望而却步”。但在本次测试中,S100在单机单卡环境下就能运行T5-8B模型,算力高达141.8 SPS。
除了高算力的优势,相较于当前国际大厂主流推理卡单卡只能支持百亿参数级别的模型,墨芯S100可以支持千亿参数级别的模型。
在单机单卡环境,不影响精度的前提下,S100运行BERT模型,SST-2数据集,性能达12176 SPS;S100运行ResNet-50模型,ImageNet数据集,性能达28260 FPS。在主频800 MHz的测试环境中,S100运行ResNet-50模型时算力达33197 FPS。浪潮内测主频为700 MHz。
所有测试均是在实际环境中,S100计算卡能够直接投入实际场景的使用,拥有较高的应用价值。同时还能满足高能效比、低功耗和高精度,为企业大幅降低部署成本和运维成本。
据了解,S100超高性能源于稀疏化计算。而稀疏化的原理是指,在AI矩阵运算中,将无效元素剔除,极大加快计算速度,降低计算成本。2021年8月,谷歌人工智能主管Jeff Dean在一次TED演讲中表示,稀疏化是下一代AI架构中最重要的趋势之一。
墨芯作为稀疏化产业实践者,其稀疏化计算解决方案具有广阔的生态前景。墨芯人工智能创始人兼CEO王维表示,“墨芯将构建涵盖软件、硬件、应用的AI计算平台,与研究人员、开发者、软件开发商等合作伙伴一起,为各行各业用户提供高性能AI计算服务,共同构筑场景丰富、生机勃勃的稀疏化生态。”
责任编辑:hnmd003
相关阅读
-
每日播报!首个高稀疏率AI计算卡S100在浪潮内测 支持千亿级别大模型
值得注意的是,这是墨芯首次披露S100运行能够实现单卡推理大模型,突破单卡难以满足高算力需求的瓶颈,...
2022-07-09 -
今日看点:安卓性能巅峰!一加10T核心参数曝光:骁龙8+、16GB超大内存
据此前消息,一加在7 8月份也会推出自家的骁龙8+旗舰机型,不出意外的话会被命名为“一加10T”。今天中...
2022-07-09 -
天天报道:曝一大爷带莱卡相机线下体验小米12S Ultra:最后买了顶配版
日前,一位大爷携带莱卡相机去小米之家体验小米12SUltra的照片在网络曝光,引起部分网友关注。小米12SUl...
2022-07-09 -
天天通讯!文明将会崩溃?马斯克疑回应生9子详细内容:应对人口危机
新浪科技讯北京时间7月8日早间消息,特斯拉CEO埃隆·马斯克(ElonMusk)在Twitter上发文称“尽我所能帮...
2022-07-08 -
全球视点!特斯拉2018年Model S致命车祸受害者父亲:马斯克承认错误取消限速
新浪科技讯北京时间7月8日上午消息,据报道,律师表示,特斯拉CEO埃隆·马斯克(ElonMusk)对一位在Mode...
2022-07-08
相关阅读
-
每日播报!首个高稀疏率AI计算卡S100在浪潮内测 支持千亿级别大模型
值得注意的是,这是墨芯首次披露S100运行能够实现单卡推理大模型,突破单卡难以满足高算力需求的瓶颈,...
-
快消息!IPO观察|龙铁纵横再谋A股上市 改由中信证券辅导已备案
7月8日,证监会网上办事服务平台(试运行)发布公告称,龙铁纵横(北京)轨道交通科技股份有限公司(以...
-
今日看点:安卓性能巅峰!一加10T核心参数曝光:骁龙8+、16GB超大内存
据此前消息,一加在7 8月份也会推出自家的骁龙8+旗舰机型,不出意外的话会被命名为“一加10T”。今天中...
-
每日快播:稀土双雄交易涨价46%争议大!北方稀土中小股东:坚决反对,建议两家合并
6月29日盘后,北方稀土(600111 SH)再发公告,拟与包钢股份(600010 SH)重新签订《稀土精矿供应合同...
-
天天报道:曝一大爷带莱卡相机线下体验小米12S Ultra:最后买了顶配版
日前,一位大爷携带莱卡相机去小米之家体验小米12SUltra的照片在网络曝光,引起部分网友关注。小米12SUl...
-
每日热讯!事关你的信用卡,监管进一步防范套现、盗刷!暴力催收会退出江湖?
为规范信用卡业务经营行为,落实银行业金融机构及其合作机构管理责任,银保监会、央行于7月7日制定《关...
-
世界速看:腾讯告掌门1对1侵权获赔25万
天眼查App显示,7月4日,腾讯科技(深圳)有限公司与上海掌小门教育
-
关注:郑州市大数据管理局:部分健康码异常,经紧急处置已恢复正常
郑州市大数据管理局公告称:7月7日晚,我们在对健康码系统数据接口
-
报道:2022福布斯中国最佳雇主出炉:唯品会、小米等企业上榜
鞭牛士报道 7月8日,福布斯中国联合全球领导力咨询公司——罗盛咨
-
【全球时快讯】vivo请求印度法院解除对4亿银行资产的冻结
据凤凰网科技消息,今日,智能机制造商vivo已请求新德里法院撤销印
-
天天观天下!大悦城:公司及项目公司遭起诉,涉案资金超21亿元
据界面消息,大悦城今日公告,公司及全资子公司深圳公司及项目公司
-
天天最新:大众集团首座欧洲电池工厂破土动工
大众集团首座欧洲电池工厂破土动工盖世汽车讯7月7日,大众集团德国萨尔茨基特(Salzgitter)新电池厂破...
-
环球热资讯!两起特斯拉车祸致三人死亡,引发美国NHTSA调查
两起特斯拉车祸致三人死亡,引发美国NHTSA调查盖世汽车讯据外媒报道,美国国家公路交通安全管理局(NHTS...
-
世界速讯:Stellantis和工会同意在意大利再裁员1,820人
Stellantis和工会同意在意大利再裁员1,820人盖世汽车讯据外媒报道,工人代表表示,汽车制造商Stellantis...
-
环球即时看!蔚来换电站总数突破1000座 计划2025年建成4000座换电站
蔚来换电站总数突破1000座计划2025年建成4000座换电站7月6日,蔚来汽车线上举办NIOPowerDay2022,并公布...
-
【播资讯】宝马i4 E-NCAP碰撞成绩仅获四星
宝马i4E-NCAP碰撞成绩仅获四星7月8日,据汽车之家消息,日前,宝马i4在欧洲E-NCAP碰撞测试中,仅获得了...
-
长城炮重新定义了皮卡长城皮卡6月全球销售21251台环比增长25%
近日,长城皮卡公布6月销售数据。长城皮卡6月全球销售21251台,同比增长18%,环比增长25%;其中海外销售...
-
万顺叫车差异化方向明确,朝向共创共赢发展
网约车行业进入存量市场之后,更加专注的细分和运营,成为各平台下一步的战略方向。万顺叫车作为网约车...
-
聚焦用户信息安全,万顺叫车特别成立数据安全委员会
当前,国家非常重视信息安全,工信部也屡次发文规范和指导企业的信息安全防护工作。为进一步筑牢网约车...
-
文件被磁盘保护怎么办?如何去掉磁盘被写保护?
在复制电脑上的资料到U盘的时候,显示出磁盘被写保护,不能对磁盘进行任何操作,那么,文件被磁盘保护怎...
-
集线器是什么?集线器怎么用?集线器能不能将信号放大?
集线器是什么?集线器(HUB)属于数据通信系统中的基础设备,它和双绞线等传输介质一样,是一种不需任何软...
-
电脑回收站清空了怎么恢复?回收站清空几天可找回?回收站清空找回方法
在日常的电脑使用中,我们常常为了使电脑运行速度更快,直接进行一键清理,将电脑回收站里的许多文件都...
-
发光二极管是什么?二极管上的颜色代表什么?蓝色发光二极管有什么用?
发光二极管简称为LED。由含镓(Ga)、砷(As)、磷(P)、氮(N)等的化合物制成。当电子与空穴复合时能辐射出可...
-
别被比亚迪DMi误导了,只有长城汽车柠檬混动才算是“超级混动”
相信大家在最初选择混动车型时,都是被官方宣传的低油耗所吸引。但有必要说一句,并不是所有混动系统都...
-
铲币是哪个国家的?刀币和铲币哪个出现早?铲形币图片及价格
铲形币,顾名思义其外形酷似我们日常使用的铲子,别名布币。这种货币主要是在先秦时期流传较长,商周时...
-
杠杆收购什么意思?杠杆收购的特点有哪些?杠杆收购的一般程序
杠杆收购(Leveraged Buyout,LBO)又称融资并购,举债经营收购(美)是一种企业金融手段。杠杆收购是指公...
-
比尔盖茨一秒能赚多少钱?比尔盖茨多少个亿人民币?比尔盖茨怎么赚到这么多钱的?
世界超级富豪,其中一个人就是微软的创始人比尔盖茨,比尔盖茨个人资产每一年都在发生变化,估计已经上...
-
基本养老保险是不是社保?买社保好还是养老保险好?交社保和养老保险的区别
现在有很多的人都为自己购买了社保和养老保险,但是很多人对这两个保险都不是很了解,不知道他们能为大...
-
银行自助存款怎么存?银行自助存款最低多少钱?银行卡自助存款流程
存钱看似很简单的事情,但要是新手第一次存钱的话,对于存钱这件事还是挺忐忑的,还记得小编第一次到银...
-
拥军卡是什么意思?拥军卡有什么作用?拥军卡和荣军卡有什么区别?
拥军卡是指面向在役军人、退役军人或军人军属发行的专属借记卡,是根据惠兵政策制定办理,让军人或军属...
精彩推荐
阅读排行
精彩推送
- 工薪族如何省钱理财?工资存款怎...
- 自己买养老保险多少钱?养老保险...
- 外汇买卖价格怎么看?怎么判断买...
- 外汇占款投放是什么意思?外汇占...
- 中国石化加油卡忘记密码怎么办?...
- 金穗惠农卡是什么级别?办惠农卡...
- 待摊费用什么意思?待摊费用和预...
- 什么是绩优股?绩优股的市盈率一...
- 苏伊士运河位于哪里?苏伊士运河...
- 配股是什么意思?公司配股是利好...
- qdii基金是什么意思?qdii基金适...
- 招商中证白酒属于什么指数?招商...
- 股票活跃度怎么用?股票活跃度的...
- 黑卡是什么?普通人能办黑卡吗?...
- 华佗被谁所杀?华佗为什么被杀?...
- 「精致店主理人」青年创业孵化营...
- 每股未分配利润是什么意思?每股...
- 证券承销什么意思?证券承销的方...
- 沈阳农商行承接省内两家银行 多...
- 如皋:锚定项目“头号工程” 打...
- 扬州农发行:扎实根植风险合规文...
- 30宗3061亩!扬州赴杭州等多地开...
- 宝应农商银行:守好客户的“钱袋...
- 苏州推广“消防蓝码” 提升群众...
- 沈伦镇两万亩现代农业产业园 演...
- 区域中式快餐冲向资本市场 老娘...
- 年内16家光伏公司推进IPO进程 ...
- 房企半年鏖战收官 上市房企面临...
- 中小券商IPO开启“加速度”:2家...
- 江苏A股上市公司中报业绩预告出...