六安沧州西安三亚宝鸡菏泽
投稿投诉
菏泽德阳
山西湖州
宝鸡上海
茂名内江
三亚信阳
长春北海
西安安徽
黄石烟台
沧州湛江
肇庆鹤壁
六安韶关
成都钦州

工程师们为人工智能瓶颈提供了聪明及时的解决方案

  〔TechWeb〕莱斯大学的研究人员展示了设计创新的以数据为中心的计算硬件的方法,以及将硬件与机器学习算法共同设计的方法,这两种算法可以将能源效率提高两个数量级。
  机器学习是自动驾驶汽车和许多其他高科技应用背后的人工智能形式,它的进步开创了一个新的计算时代以数据为中心的时代,并迫使工程师们重新思考75年来几乎没有受到挑战的计算体系结构的各个方面。
  电气与计算机工程助理教授林英彦(音)说:问题是,对于目前机器学习最先进的大规模深层神经网络来说,整个系统运行所需的90以上的电力消耗在存储器和处理器之间的数据移动上。。
  Lin和合作者提出了两种互补的方法来优化以数据为中心的处理,这两种方法都在6月3日的国际计算机体系结构研讨会(ISCA)上进行了介绍,这是有关计算机体系结构新思想和研究的主要会议之一。
  数据中心架构的驱动力与一个称为冯诺依曼瓶颈(vonNeumann瓶颈)的问题有关,这是一个效率低下的问题,源于计算架构中的内存和处理分离,自1945年数学家约翰冯诺依曼发明数据中心架构以来,这一问题一直占据着至高无上的地位。通过将内存与程序和数据分离,vonNeumann架构允许一台计算机具有难以置信的多功能性;根据从内存中加载的存储程序,计算机可以用来进行视频通话、准备电子表格或模拟火星上的天气。
  但是将内存与处理分开也意味着即使简单的操作(如加2加2)也需要计算机处理器多次访问内存。深度神经网络中的大量操作使这种记忆瓶颈变得更糟,深度神经网络是通过研究大量先前示例来学习做出人性化决策的系统。网络越大,它可以完成的任务就越困难,并且显示的网络示例越多,它的执行效果就越好。深度神经网络训练可能需要专门的处理器库,这些处理器需要全天候运行一周以上。基于智能网络在智能手机上执行任务可以在不到一个小时的时间内耗尽电池电量。
  赖斯高效智能计算(EIC)实验室主任林说:人们普遍认为,对于机器学习时代的以数据为中心的算法,我们需要创新的以数据为中心的硬件架构,但机器学习的最佳硬件架构是什么?
  她说:没有一个答案是万能的,因为不同的应用程序需要的机器学习算法在算法结构和复杂度方面可能有很大的不同,同时具有不同的任务精度和资源消耗,如能源成本、延迟和吞吐量折衷要求。许多研究人员正在进行这方面的研究,英特尔、IBM和谷歌等大公司都有自己的设计。
  在ISCA2020上,Lin的小组做了一个报告,提供了及时的结果,这是她和她的学生为内存处理(PIM)开发的一个创新架构,是一种将处理引入内存阵列的非vonNeumann方法。一个有前途的PIM平台是电阻随机存取存储器(ReRAM),一种类似flash的非易失性存储器。尽管已经提出了其他的ReRAMPIM加速器架构,但林说,在10多个深度神经网络模型上运行的实验发现,适时的ReRAMPIM加速器的能效提高了18倍,其计算密度是最具竞争力的最先进ReRAMPIM加速器的30倍以上。
  TIMELY是时域、内存执行、局部性的缩写,它通过消除频繁访问主内存以处理中间输入和输出以及本地内存和主内存之间的接口而导致效率低下的主要因素来实现其性能。
  在主存储器中,数据以数字方式存储,但是当将其带入本地存储器以进行内存中处理时,必须将其转换为模拟量。在以前的ReRAMPIM加速器中,结果值从模拟转换为数字,然后发送回主存储器。如果将它们从主存储器调用到本地ReRAM以进行后续操作,则它们将再次转换为模拟信号,依此类推。
  通过使用本地存储器中的模拟格式缓冲区,及时避免了不必要的访问主存储器和接口数据转换的开销。这样,TIMELY几乎可以将所需的数据保留在本地存储阵列中,从而大大提高了效率。
  该小组在ISCA2020上提出的第二个建议是SmartExchange,该设计结合了算法和加速器硬件创新以节省能源。
  访问主存储器(DRAM)的能量要比执行计算多花费200倍,因此SmartExchange的关键思想是强制执行算法中的结构,使我们可以将成本较高的内存换成成本更低的内存,成本计算。
  她举例说:例如,我们的算法有1000个参数。在传统方法中,我们将所有1,000个存储在DRAM中,并根据计算需要进行访问。使用SmartExchange,我们搜索以找到这1,000个中的某些结构。然后,我们只需要存储10个,因为如果我们知道它们之间的关系,10和其余的990,我们可以计算990中的任何一个,而不必从DRAM调用它们。
  她说:我们将这10个称为‘基础’子集,其想法是将它们存储在靠近处理器的本地位置,以避免或大幅度减少为访问DRAM而支付的费用。
  研究人员使用SmartExchange算法及其自定义的硬件加速器对七个基准深度神经网络模型和三个基准数据集进行了实验。他们发现,与最先进的深度神经网络加速器相比,该组合将等待时间减少了多达19倍。〔TechWeb〕

侃拔河有一河北人与江苏人还有一海南人三人在一起吹牛。河北人说道:我上次参加拔河比赛,我和我们那九位兄弟们代表河北队与河南队比赛,真精彩呢!比赛哨声一响,我们十人同心协力,结果一……明朝谭纶是谁谭纶是如何成为抗倭名将的说到抗倭名将,你能想到的是谁?很多人第一反应就就是戚继光,戚继光的事迹的确是流传很广,然而明朝对抗倭寇也不是一两年,抗倭名将也绝不只有戚继光一个人,那么,除了戚继光,还有一个人……如果在太空中引爆核弹会怎么样目前人类发展最为极端的表现就是拥有了核武器,也正是因为有了核武器,才迫使着战争的代价是越来越重了,这也才使得如今人类社会大部分都享受着可贵的和平。截至目前,人类大部分的核爆试验……逗一露面阵阵爆笑声1、现代诗一首《风》:好大吹散了头发金链子也在击打我的双下巴。2、我发现我瘫痪了。我努力告诉自己,今天要上班,但是身体就是没反应。3、看一个人在吐,你会觉得恶心,看……夏天炖什么汤喝适合呢夏天天气炎热,吃东西没什么胃口,喝汤是不错的选择。那夏天炖什么汤喝合适呢?下面我们就来了解一下吧。操作方法01:hr绿豆汤。绿豆汤清凉消暑,是夏天里必不可少的解暑神……老黄瓜的做法哦超级入味老aclasstaghrefwiki10276I44S7bN10。html黄瓜a非常好吃,接下来我们就来讲一讲老黄瓜怎么做更加入味。操作方法01:hr要想老黄瓜更加……物业项目半年工作总结第一篇:物业保安半年工作总结物业保安半年工作总结一、主要工作业绩:1、确保了本班组上半年无安全治理事故。保安部在上半年继续脚踏实地抓好项目日常安全治理工……拆迁个人工作总结第一篇:赵启武拆迁个人工作总结个人工作总结七家湾工作组:赵启武2014年10月份,我有幸被抽调到赫章县房屋征收与补偿安置办公室工作学习,这是组织对我的关怀,对……刍议人事档案管理的模式创新探究摘要:现代社会的竞争首先是人才的竞争,人才是立国富国的关键,而人事档案作为人才信息的承载媒体之一,能够客观的反映一个人的道德品质、思想政治水平、学习和工作经历、社会背景、业务能……高中数学解题中的圆锥曲线参数方程应用探索摘要:圆锥曲线参数方程是高中学生必须要掌握的重点内容,在学习这一部分内容时,不仅要了解定义、性质等基础知识,还要具备全面的解题技能,通过不同类型习题的练习,提升自身圆锥曲线参数……保险暑期社会实践报告第1篇第2篇第3篇第4篇第5篇更多顶部第一篇:保险专业暑期社会实践报告第二篇:保险公司暑期社会实践报告第三篇:保险暑期社会实践实习报告第四篇:保险公司暑期社会实践报告第五……小小包子店月赚万李应博,35岁,湖北荆门人。1997年和妻子张萍结婚时,为了让以后生活过得好点,俩人商量先不置办嫁妆,花11万买了汽车跑运输。哪知道运输市场整顿,李应博被罚过不少款,也求过不少……
减肥胸变小了怎么办减肥被誉为是女性的终身事业,无论哪个年龄阶段的女性都放不下减肥这项事业,即使女性朋友们已经到了中年,但始终都会坚持减肥。但是有些女性朋友通过很多方法终于减肥成功了,却发现胸部也……吃火龙果能不能治疗早泄早泄对于青年人来说,是一件超级痛苦的事情,为了改善这种情况,很多患有早泄的男性听取民间传说治疗,说是吃了火龙果能够治愈早泄,那么吃火龙果能不能治疗早泄呢?什么是早泄……红豆杉种植管理技术【红豆杉种植管理技术】红豆杉属植物广泛分布于北半球,国内除新疆、宁夏、青海、内蒙古等省区未见报道外,其余各省区均有野生或引种栽培。下面给大家介绍红豆杉种植管理技术,希望能给大家……产品经理懂点技术前后端是如何分家的你知道早期的开发中,前后端是不分离的吗?那么后来它们又为什么要分家呢?分离后又有什么好处呢?在前面一篇文章中,产品汪搞懂了前后端的工作分工。但是了解过程中,一个程序猿哥哥……农广天地定安鹅养殖技术CCTV7农广天地养鹅:定安鹅养殖技术视频。主要介绍定安鹅的养殖技术。定安鹅体型中等,外貌清秀,羽毛大部分为白色,体态呈椭圆形。喙长,呈橘黄色。颈较细长,稍呈弓形。蹼和趾是橙黄……一键搜索百种资源搜索资料它一个就够了所需工具:虫部落快搜(后台回复118获取网址)适用系统:PC一周总有那么七天不想上班,唉上班总开小差的学霸君,常年混迹各种摸鱼网站,接下来给大家分享一个功能强……铁树叶子的功效与作用铁树叶子经过加工后可作为药材入药,有收敛、止泻、消肿的功效,可用来治疗腹泻、痢疾、疔疮肿痛、胃部胀痛、恶心、呕吐等症状。铁树叶子除了可入药外,还有一定的观赏价值,它的叶子四季常……蒜苗蒜苗,又叫青蒜(不见光时为蒜黄)。大蒜的花苔,包括花茎(苔茎)和总苞(苔苞)两部分。苔苞是大蒜花茎顶端的总苞,内含发育不全的花序。品质好的蒜苗应该鲜嫩,株高在35厘米左右,叶色……武汉封城多久最新消息武汉公交地铁火车站机场什么时武汉封城后,很多人都想知道什么时候结束,封城最大的影响就是大部分公共交通都瘫痪了。比如公交、地铁、大巴、火车站、机场纷纷停止运营,可以说对很多人出行不方便,但好处就是大家都待在……过来人送给毕业生的条宝贵经验高考的滚滚车轮刚刚碾过,中考的集结号又匆匆吹响。毕业了,一定很嗨皮吧!人生不必太多鸡汤,毕业季,就送你们12个字。可以不读,但一定保重!孩子,长大了你们……周末家长陪学制还当慎行据报道,浙江衢州一中要启动周末家长陪学制。在周末的夜晚,家长可以陪孩子在教室里学习。该校一位老师介绍称,有些学生因为各种原因周末不想回家,可以自愿去教室自习。家长陪学制是由家长……下班前我们可以做什么每天工作的后几分钟是我们一天中为混乱的时刻,你或许在为早点下班和一些琐碎的事作斗争,也有可能是为了准备第二天的工作列表。不过专家认为在这个时候我们可以做一些让明天工作更有……
友情链接:易事利快生活快传网聚热点七猫云快好知快百科中准网快好找文好找中准网快软网