革新新闻

当前位置:革新新闻>科技>文章内容

“含光”含着什么样的光?

字体大小:【 | |

2019-10-26 10:10:19

2019年9月25日,在阿里巴巴的云居大会上,阿里的半导体公司flathead正式发布了首款自主研发的含芯片光800,这是阿里在芯片领域继玄德、吴健之后的又一大布局。

一组数据显示,灯800的释放标志着人工智能芯片性能历史的又一次重写。在行业标准resnet-50测试中,含光800的推理性能达到78563 ips,是目前业界最好的ai芯片的4倍。能效比是500 ips/w,是第二名的3.3倍。

同时,比较公布的数据(关于resnet50型号在一秒钟内可以处理的图片数量),我们知道light 800的性能是nvidia tesla v100的10倍,nvidia tesla t4的15倍,是使用最广泛的型号nvidia tesla p4的46倍。

然而,阿里巴巴表示,“轻型800不会出售。它旨在通过阿里人工智能云服务提供计算能力,可以被视为“云销售”。平头兄弟致力于制造普惠芯片、无剑soc平台和铁铉处理器ip,帮助企业降低芯片设计门槛。Light 800使企业能够随时随地以阿里云ai云服务的形式享受高性能计算服务。”

含光800的发布标志着一整套平头哥端云集成产品系列的初步形成,涵盖处理器ip、一站式芯片设计平台和ai芯片,实现芯片设计环节的全面覆盖。

“阿里巴巴是全球芯片领域的新人。铁铉和汉光800是长征中的第一步,哥哥的船员被裁了。我们还有很长的路要走,”达摩学院院长张剑峰说。

“船员哥砍得很硬,有很强的光”,这句话从命名方法上是显而易见的。

船员cut的哥哥,真名蜜罐,最初是一种生活在非洲和其他地区的动物。吉尼斯世界纪录称赞他为“世界上最无畏的动物”。他的“不要犯傻就是去做”的性格立刻被马云捡起来。从此,哥哥的平头成了阿里芯片公司的代名词。

含光之剑是古代三大宝藏之一。剑包含但不显示,光不发光,这代表了包含光的800带来的看不见但强大的计算能力。

Light 800采用12纳米技术,拥有170万个晶体管,推理性能达到78563 ips,比业界最好的ai芯片高出4倍。能效比是500 ips/w,是第二名的3.3倍。它主要应用于云视觉处理场景,每秒可以处理78,000张图片。

在杭州城市大脑的商业测试中,800光的计算能力相当于10 gpu,这无疑是未来智能城市交通等人工智能应用登陆场景的巨大动力源。

据悉,盘头兄弟(Brother Pan-head)在很短的时间内完成了芯片设计和流式传输的整个过程,在7个月内完成了前端设计,然后仅在3个月内成功流式传输。

要认识到芯片设计是一项复杂的系统工程,简单地完成设计并不意味着芯片可以成功地流式传输。这是该行业的深水区。然而,流媒体的失败意味着硬件设计需要再次被拆除,这比软件的bug问题更为严重。一般来说,芯片公司需要做两次(工程样本、生产样本)或更多次才能成功地流式传输芯片。

然而,流媒体的成功并不意味着它可以直接商业化。它还需要复杂的测试和验证,只有当所有指标满足实际场景要求时,才能真正商业化。

平韦斯特平托(Pingwest Pinto)了解到,平头兄弟能够如此迅速地开发出如此高性能的人工智能芯片的原因可以概括为以下两个方面。

首先,与基于冯·诺依曼(Von Neumann)架构的传统通用处理器(如x86 cpu和gpu)相比,专门针对特定需求定制的asic架构npu专用加速器更有针对性地应用于应用场景。

针对特定场景和算法的定制意味着在执行特定算法时更高的效率和性能。然而,这种单一算法也意味着构建人工智能芯片理论上比构建传统cpu和gpu要低得多。然而,这并不意味着每一个芯片制造商都能像潘哥那样获得最强的性能。

目前,市场上的许多asic架构npu通常只在非常清晰的场景中表现良好,但是它们在场景移动性和算法通用性方面大大降低。

相比之下,含光800不仅实现了与海量图像搜索、城市脑领域的视频识别、智能医疗领域的医学图像识别等不同计算需求的兼容,而且为这些丰富的场景挖掘了巨大的计算优化潜力。

值得一提的是,传统半导体巨头将承担开发人员生态的负担来构建人工智能芯片,但团队成员只有一个目标,即实现最强的计算能力并完全释放硬件能力。

其次,虽然这是阿里第一个独立开发的芯片,但事实上,潘哥开发的芯片并不是从0开始的。

阿里巴巴表示:“基于阿里达摩研究所的算法和阿里巴巴集团多年来硬件基础设施的技术积累,该芯片的软硬件技术堆栈已经由Light 800进行了重构。”。

一些行业分析师指出,“人工智能芯片的差异化设计主要体现在硬件架构和软件算法上,需要高度的适应性才能充分发挥芯片的最大价值”。

“目前,传统的cpu和gpu在深度学习推理任务中还没有充分开发它们的硬件能力。例如,gpu架构主要是为图像处理而设计的,其硬件结构和软件生态几乎已经固化,因此很难对人工智能任务进行深度优化。

平韦斯特发现,Light 800性能的突破归功于软硬件的共同创新,打破了硬件架构和软件算法之间的差距。

具体而言,含光800的硬件级采用自主开发的芯片架构,通过推理加速等技术有效解决芯片性能瓶颈问题。在软件层面,集成了达摩研究所的高级算法。cnn和可视化算法的深度优化计算和存储密度可以在npu上实现大型网络模型的计算。

以芯片能耗为例。能耗是人工智能芯片行业的一个普遍问题。平头自研究架构可以大大减少对内存的访问,并将芯片功耗降至最低水平,同时确保极高的性能。

Crew Brother首席科学家、阿里巴巴高级研究员袁尊将Crew Brother在开发人工智能芯片方面的具体优势归结于“abcde”五个方面,即算法算法、大数据大数据、安全稳定的计算能力、领域知识专长和生态系统生态。

袁尊坦率地承认:“阿里拥有人工智能芯片,自然比其他只拥有人工智能芯片的芯片公司更容易、更快地获得人工智能芯片的核心地位。”。

就阿里艾生态而言,light 800不仅仅是一个芯片,而是为世界前三名和亚太地区前一名阿里云(Ali cloud)提供强大的计算能力支持,以满足阿里巴巴集团内部场景的需求。与此同时,light 800还将使用阿里云向外国(企业)出口其强大的人工智能计算能力。

据报道,基于light 800的ai云服务将在会议当天正式推出。与传统gpu计算能力相比,light 800的性价比将提高100%。

据云起会议现场演示,800已经应用于阿里巴巴内部核心业务,如杭州主城区的城市脑处理交通视频,淘宝商品库图店的识别,优酷的视频修复和分析。

平西Pinpin了解到,如果使用传统gpu,杭州主城区实时处理交通视频所需的gpu数量约为40个,延时300毫秒;;然而,如果使用800个灯,只需要4个,延迟减少到150毫秒。

另一方面,阿里的电子商务平台将每天增加10亿张新产品图片。如果使用传统gpu,其识别时间将需要1小时。然而,如果使用灯800,只需要5分钟,效率将提高12倍。

未来,包括灯800在内的计算能力也将渗透到各种垂直行业,如医疗、自动驾驶和智能城市。

Contain Light 800将帮助企业以更低的成本获得高性能计算能力,并促进业务创新。对于受计算能力瓶颈限制的企业来说,light 800可以更高效地运行更复杂和更高级的算法,从而企业不再担心基本的计算能力。

平韦斯特·平托(Pingwest Pinto)了解到,为了给应用场景提供更好的计算能力芯片,平头哥团队在过去一年做了很多事情,不断探索芯片和应用场景之间的集成。

作为世界上人工智能应用最丰富的技术制造商之一,阿里巴巴拥有丰富的人工智能应用场景。图像和视频分析、搜索和推荐等业务场景都需要人工智能专用芯片来提供更强大的计算能力,其中图像和视频对计算能力的需求最大。

围绕这个目标,平头兄弟根据场景深度定制了芯片的硬件和软件,如自主开发的架构、软件编译器、框架、工具链等。

同时,后期对int8数据类型进行了大量优化,性能、产量、功耗等指标均较好。

800光的发布标志着阿里巴巴计算领域铁三角的正式形成。ai+chips+云计算将帮助阿里为其未来在ai行业的应用打下坚实的基础,而这仅仅是阿里的开始。

平韦斯特·平托(Pingwest Pinto)了解到,作为人工智能行业的领导者,阿里目前正在建设一个完善的行业生态和开发者生态。

在云中,全球前三名和亚太前一名的阿丽云(Aliyun)为头脑冷静的哥哥服务企业提供了一个绝佳的平台。未来的企业可以通过阿里云轻松获得800光的强大计算能力。

另一方面,船员兄弟有一个成熟的生态系统。七个自主开发的嵌入式cpu ip核,如ck801、ck802、ck803、ck805、ck807、ck810、ck860,均已通过大规模量产验证,拥有100多个授权客户,累计销售额超过10亿。它们广泛应用于机器视觉、工业控制、车载终端、移动通信和信息安全领域。

此外,基于risc-v架构的铁铉处理器和无剑soc平台也服务于各行各业的企业,如人工智能企业田芸·李飞和老牌芯片制造商火炬核心技术(Torch Core Technology)。

另一方面,剧组的哥哥cut也将建立一个芯片开放社区,为芯片行业进一步提供一个开放合作的平台。

与此同时,随着light 800的发布,平头哥云家族集成全堆叠芯片产品也开始成型,实现芯片设计环节的全覆盖。

基本单元处理器ip、c-sky系列和铁铉系列为aiot终端芯片提供高性价比的IP。一站式芯片设计平台箭牌soc平台集成了cpu、gpu、npu等。降低芯片设计的门槛;带灯800的人工智能芯片通过人工智能云服务为人工智能场景提供了极高的计算能力。

这三条产品线将构建一个具有端到端云集成的芯片生态系统,并将为企业提供包容性计算能力。

平韦斯特·平托(Pingwest Pinto)了解到,在aiot时代,由于强大的应用驱动和场景碎片化,芯片公司很难按照传统方法设计芯片来满足未来需求。平头希望通过端到端集成芯片生态为行业提供通用计算能力。

Aiot场景需要新的计算架构和新的功能,如安全性、在线性和智能性。所有芯片都面临升级,这必将在芯片行业引发新的技术革命和产业浪潮。

与绝大多数芯片制造商不同,平头兄弟芯片研发的目的不是为了销售芯片,而是为了延续阿里巴巴集团“让世界不再困难做生意”的愿景,开拓新的商业模式——平头兄弟模式(flat head brother model),为企业提供包容性的计算能力,并成为阿里巴巴独特的商业模式。

目前,盘头兄弟还在研发应用于ariyun dragon服务器的soc专用芯片,以满足更多场景下的计算能力需求。未来,平头哥哥芯片的产品形式将进一步改进,如云端人工智能训练芯片和终端人工智能推理芯片。

“阿里在芯片上的地位是在终端构建芯片基础设施,并为云上的企业提供包容性计算能力。例如,处理器是所有高端系统芯片所需的基本产品。人工智能芯片是人工智能场景中最高效的计算单元。阿里将在建设这些技术和应用生态的同时投入巨资,”阿里告诉平西玩。

“此外,船员兄弟将继续开发操作系统、软硬件集成算法、核心ip等。,并使这些通用技术具有竞争力和生态性,然后向芯片制造商开放,以设计产品,使他们能够在高质量基础设施的基础上构建芯片产品,这有助于提高整体工业竞争力,”阿里立即补充说。

上一篇: 旅泰大熊猫“创创”死亡,死因有待调查 下一篇: 乐歌股份“四连板”后突遭跌停 游资席位疯狂甩卖