Chiplet和Tier-1 IC品牌商赋能AIoT时代

时间:2019-4-1 分享到:

AIoT 是人工智能和物联网的融合

Chiplet和Tier-1 IC品牌商赋能AIoT时代

AIoT可以看成是物联网的下一个阶段——从简单的物物相连,到AI加持的智能设备万物互联。人工智能和物联网的融合是大势所趋,因为它们刚好互补,AI(无论Cloud还是Edge侧)需要物联网收集的数据来训练算法,物联网也需要AI算法建立的模型来作出决策。

近几年,各种智能硬件层出不穷,我自己就是一名发烧友,Google Glass, HTC Vive, HoloLens, MagicLeap等各种AR/VR, 无人机,智能电视,智能门锁,智能灯,扫地机器人等等,市面上能买到的智能硬件,大部分我都会买来试一试。那么,这些智能设备的用户体验到底如何呢?

Chiplet和Tier-1 IC品牌商赋能AIoT时代

尽管DIY的智能家居系统对我这个科工男来说还不错,朝我理想中的未来生活方式又迈了一步,但这个系统只对我特别友好,对于父母一代人来说,似乎就不那么智能也不那么方便了,Wi-Fi信号问题,电源中断,操作系统更新,电池耗尽……一个微小的干扰可能会破坏整个系统。当系统出现问题或者需要改变设置的时候,家里人觉得找我,比鼓捣设备或者App要来得方便,于是我就变成了一个人肉中央遥控器:-)

今天的IoT还远远谈不上成熟,对于大部分用户来讲还是太复杂,如果终端设备还需要人工干预,连接,登录,配置,那还真的是不够智能,也很难大规模地商业化落地。正因如此才有人说,目前所有的芯片都应该被重做一遍以支持AI功能。

今天的人工智能真的智能吗?

Chiplet和Tier-1 IC品牌商赋能AIoT时代

我们可以随机做个测试,拿出你的智能手机,对语音助理说:推荐餐厅,不要中餐,看看反馈的效果令你满意吗?即使是这样简单的一个对话场景,今天的语音助理也搞不定,未来两年内,我们很有可能仍将面临如此尴尬的情况。

为什么人类已经能够可以设计出像IBM Watson,Google AlphaGo这样强大的AI,却无法实现一个简单的聊天机器人呢?在去年的Google I/O开发者大会上,新一代谷歌助手采用Google Duplex技术已经可以像人类一样打电话,令人惊叹;但为啥一到手机上就货不对板了呢?

今天人工智能的硬件性能、成本和功耗,离日常使用还存在很大差距。AlphaGo的硬件成本和功耗都非常昂贵,在它和围棋世界冠军、职业九段棋手李世石的著名对决中,花费了约2万美元的电费。回到语音助理订餐的问题上,你愿意为餐馆推荐支付多少钱?

生物大脑vs超级计算机芯片

Chiplet和Tier-1 IC品牌商赋能AIoT时代

《深度学习》这本书的作者谢诺夫斯基,上世纪80年代就在研究神经网络计算, 1989年,谢诺夫斯基到麻省理工学院计算机实验室访问。气氛不算融洽,那里的人都质疑他的方法。午餐之前,谢诺夫斯基有五分钟的时间,给所有人介绍一下他讲座的主题。谢诺夫斯基临场发挥,以食物上的一只苍蝇为题,说了几句话。谢诺夫斯基说,你看这只苍蝇的大脑只有10万个神经元,能耗那么低,但是它能看、能飞、能寻找食物,还能繁殖。MIT有台价值一亿美元的超级计算机,消耗极大的能量,有庞大的体积,可是它的功能为什么还不如一只苍蝇?

在场的教授都未能回答好这个问题,倒是一个研究生给出了正确答案。他说这是因为生物的大脑是高度专业化的,进化使得它只具备这些特定的功能,而我们的计算机都是通用的,你可以对它进行各种编程,它理论上可以干任何事情,问题的症结也正在于此,因为专业化和通用化的结构不同,1百万神经元的昆虫专用大脑可以超过80亿个晶体管的通用芯片。

AIoT实现大规模商业化的前提,就是芯片要以相当低的成本和功耗,实现足够强大的性能,摩尔定律过去50年的发展,CPU的性能有了超过40万倍的提升,让AI实现有曙光,又远不能满足AI落地的性能、成本、功耗需求。

用专用ASIC(Domain Specific, Dedicated ASIC)来榨出极致性能

Chiplet和Tier-1 IC品牌商赋能AIoT时代

我们知道,在性能-灵活度的折中上,像CPU这样的通用处理器享有最大的可编程性和灵活度,但同等功能性能下,功耗最大; ASIC(Application Specific Integrated Circuit 专用集成电路)等于将使用场景固化,灵活度最小,但效率更优。

今天的大多数芯片,即使是许多所谓的ASIC,本质上仍然是多用途的。我们常常直接使用商业化IP和晶圆代工厂的标准单元库,尝试在一款芯片中尽可能多地组合功能,通过一次流片覆盖更多市场,快速上市。但所有这些捷径,都以降低芯片性能为代价。

如果我们把ASIC设计推向单一化的极致(Domain Specific, Dedicated ASIC),结果令人震惊。以加密货币挖矿计算为例,Benchmark的结果显示,同样成本下的专用ASIC效率,可以达到CPU的数十万倍。这些设计者们采用全定制基本单元库,手工来优化布局布线,挑战晶圆代工厂DRC的极限,用设计SRAM基本单元的方式设计芯片,任何能够优化的地方,他们都会大胆一试。有人说这是一种设计方法的倒退,浪费了大量的时间去做无意义的工作,但是矿机ASIC确实取得了惊人的性能。

过去大量的应用都可以用通用计算来解决,但是在AIoT的未来,硬件性能没有冗余,并且长期存在瓶颈,加密货币的案例给了我们一些启示,我们将一定需要ASIC,来释放出极致的性能。

每个物联网细分市场都用得起ASIC吗?

Chiplet和Tier-1 IC品牌商赋能AIoT时代

虽然明确ASIC在性能方面的优越性,但半导体行业从来都要算一笔经济账,碎片化的物联网市场,能够负担得起ASIC的投入吗?

过去,设计一款28纳米芯片的研发成本约为5000万美元,7纳米的研发成本上涨到3亿美元,而预测3纳米的芯片研发成本将达到难以置信的15亿美元之多。已经很少有芯片设计公司,能够承受得起这么昂贵的前期投入了。先进工艺制程的芯片研发成本不断攀升,大公司要看到10亿美金,100亿以上销售预期的市场才会进入,AIoT的早期无法一夜之间提供这样的市场机会。

Chiplet和Tier-1 IC品牌商赋能AIoT时代

另一方面,尽管AIoT市场总量巨大,但每个细分市场都过于分散,单品的需求量不大,为其投入一颗ASIC的经济回报,甚至很难收回其NRE成本。“物联网”这个词非常具有误导性,它将成千上万的碎片组合成一个单词,一个集合的概念。总量看起来是个巨大金矿,实际上是个高度碎片化而且贫瘠的领域。但是如果没有ASIC来提高性能和用户体验,这一个个细分市场又很难成长到上亿量级的出货。

专业化、多品类、小批量的芯片,要求上市时间更短,性能更高,还需要成本更低,多、快、好、省,简直就是Mission Impossible,我们如何才能完成这一不可能的任务?

摩尔定律暗藏伏线 – 异构集成Heterogeneous Integration

Chiplet和Tier-1 IC品牌商赋能AIoT时代

当1965年,戈登摩尔发表他那篇充满传奇色彩的论文 – Cramming More Components onto Integrated Circuits,他不仅提出了后来被称为“摩尔定律”而为人们所熟知的经典预言;同时,他也给我们留下了一条线索,如何用较小的组件,快速经济地构建一个大型的系统,那就是Heterogeneous Integration(异构异质集成)。

戈登 摩尔在论文中写道:It may prove to be more economical to build large systems out of smaller functions, which are separately packaged and interconnected. 

对于极度追求性能却又碎片化的AIoT市场而言,异构集成可能是一条很好的出路。

Chiplet:类似乐高积木的“裸片IP”复用

Chiplet和Tier-1 IC品牌商赋能AIoT时代

最近,Chiplet这个概念热了起来。简单来说,Chiplet技术就是像搭乐高积木一样,把一些预先生产好的实现特定功能的芯片裸片(die),通过先进的封装技术(比如3D, 2.5D)集成在一起形成一个系统芯片。而这些预生产裸片就是Chiplet。从这个意义上来说,Chiplet是一种新的“裸片IP”复用。

像乐高积木一样,把不同模块组合在一起的想法,已经被半导体行业讨论了近十年,但真正进行商业化探索,还是在近几年,晶体管的尺寸越来越接近技术极限,按照摩尔定律进一步缩减晶体管特征尺寸的难度越来越大之后。

Marvell的创始人Sehat 博士,在ISSCC 2015上提出了Mochi(模块化芯片)架构的概念。2017年,DARPA推出了CHIPS计划,专注于开发可根据需要组合的芯片,即将一系列模块化芯片或Chiplets,通过die-to-die的互连方案封装集成。理论上,Chiplet是一种开发周期短且成本较低的方法,可以将各种类型的第三方芯片(如I / O,内存和处理器核)组合在一起。

SoC,Chiplet和PCB的比较

Chiplet和Tier-1 IC品牌商赋能AIoT时代

对SoC,Chiplet和PCB进行设计成本、时间、风险和性能、功耗、产品尺寸等多维度的比较,可以看到Chiplet是SoC和大多数分立器件PCB之间的折衷方案,相比SoC,只牺牲了少量性能,但研发投入和研发周期已经大大降低。

特别的,针对AIoT市场,Chiplets模式提供了制造工艺选择的灵活性。我们可以经济高效地将先进工艺制造的高性能计算单元,和主流成熟工艺制造的模拟/射频模块,集成在一个封装中。

Marvell Intel AMD zGlue 的Chiplet探索

Chiplet和Tier-1 IC品牌商赋能AIoT时代

Marvell自4年前推出MoChi架构以来,推出了一系列Virtual SoC产品(从产品Datasheet里可以看到),Mochi可以是许多应用的基准架构,包括物联网,智能电视,智能手机,服务器,笔记本电脑,存储设备等。但遗憾的是,随着创始人Sehat卸任CEO,近一两年没有听到太多Mochi相关的新消息。

Intel在高级封装领域一直处于领先地位,之前的EMIB技术就有其独到的优势,而2018年12月Intel发布的Foveros技术则是3DIC方面一个长足的进步。Foveros架构中,芯片3D堆叠在有源硅载片上,并通过硅载片做互联。相比2.5D封装,使用Foveros的3D封装大大提升了集成密度,同时芯片与有源硅载片之间的IO带宽也有潜力能做更大,从而获得更大的性能提升。

Intel的Foveros多少也是对AMD于前一个月发布的Rome架构处理器的回应。2018年11月,AMD发布的Rome架构处理器也是基于高级封装,由多块7nm Zen2处理器芯片粒和一块14nm 互联和IO芯片使用2.5D技术封装而成,其中每块7nm Zen2芯片粒都含有8个核,而多块芯片粒经过组合最多可以实现64核,芯片粒之间则通过14nm互联芯片进行芯片间通信。

初创公司zGlue也宣布了针对物联网的商业产品,帮助客户加速产品开发和将差异化产品推向市场。他们提出了一个称为ZiP的集成平台,利用Chiplet,Smart Fabric™可编程interposer,和基于云的设计软件,实现芯片的低成本快速开发。

Chiplet普及化有机会催生新的商业模式

Chiplet和Tier-1 IC品牌商赋能AIoT时代

在今天的半导体产业价值链中,IC设计公司起着至关重要的主导作用,他们从供应商处购买IP(Intellectual Property),采购EDA(Electronic Design Automation)工具进行设计,再向晶圆厂下单进行芯片制造,再封测,最终直接或者通过分销商,销售芯片给系统公司客户。但如果某天,Chiplet成为主流的选择,当小芯片的标准建立起来时,有数十万个商业化的Chiplet可供选择,接下来会发生什么?

半导体产业的新结构 – Tier-1 IC品牌商

Chiplet和Tier-1 IC品牌商赋能AIoT时代

生产力的进步,必然带来生产关系的变化。

如果我们看看汽车工业会发现,经过一个多世纪的发展,现在这个成熟行业的分工,包括汽车整车厂OEM,Tier-1,Tier-2,Tier-3供应商。一级和二级供应商的合作关系很有趣,一级供应商高度依赖二级供应商的专业技术技能,从Tier-2购买组件并将其打包成汽车级系统卖给整车厂,二级供应商制造零件并乐于将其销售给Tier-1。整车OEM客户更加信任一级供应商,基本上都是从Tier-1供应商处进行采购。

今天,半导体产业链中还没有Tier-1、Tier-2的结构,传统的IC设计公司同时兼任了两者,他们设计整个芯片,最后销售芯片产品。Chiplet,可能推动整个半导体行业的演化,Tier-1芯片供应商这一新物种将会出现。就像汽车行业一样,一级芯片供应商(我们也可以称之为品牌商)可以从二级Chiplet供应商处购买小芯片,并将其整合成SIP。Tier 2制造小芯片并且很乐意将它们出售给Tier-1,系统公司将主要信任和采购来自Tier-1 IC供应商的器件。

哪些玩家有机会成为Chiplet和Tier-1 IC供应商?

Chiplet和Tier-1 IC品牌商赋能AIoT时代

新结构,新牌桌。谁将最有可能赢得这场新游戏呢?

小型的芯片设计公司,IP供应商,甚至晶圆制造和封装测试供应商,都有机会成为Chiplet供应商。最终,IC设计公司和IP供应商之间的界限将会模糊,它们将全部转变为小芯片或者说硬IP供应商,并将Chiplets推向市场。

如果一家芯片设计公司可以通过Chiplets轻松获利,而不必担心供应链,销售和市场营销,那么这将像独立工作室一样敏捷、灵活、高效;如果工程师可以作为独立设计工作室赚大钱,那么对于大型设计公司而言,按照原先的利益分配机制,想要留住这些天才,将会更加困难。

另一方面,谁将有机会成为一级IC供应商?

大型IC设计公司,分销商,模块制造商都可能有发言权。事实上,他们会争先恐后地竞相成为一级IC供应商,以获得更多利润。以经销商为例,在传统的半导体行业成本结构中,他们通常只能赚到芯片销售额3-5%的毛利(如果不是缺货炒货的话); 但一旦成为一级供应商,购买Chiplet并集成到SIP中,将有机会将毛利率提升至50%!(按IC设计公司毛利率的中值估算)经销商对市场趋势和要求非常敏锐,一旦他们获得像Chiplet这样的强大武器,补齐技术短板,他们也可以像芯片设计公司一样逐鹿中原。

Tier-1 IC品牌商诞生后的全新生态系统

Chiplet和Tier-1 IC品牌商赋能AIoT时代

凯文凯利说,所有企业都难逃一死,所有城市却几乎不朽,企业总想成为封闭的帝国,城市才是开放的生命体。

经过多年的商业实践,领先的芯片设计大公司已经开发出一套高效的内部协作机制,用集团层面的供应链运营能力,支持数百个研发部门,同时用统一的渠道和品牌来销售所有产品。每个研发部门都像特种部队,快速移动,共享资源,从整合的后台得到及时的支持,快速发展。

随着Tier-1 IC品牌商、Tier-2 芯片Chiplet供应商的出现,可能会出现一个更开放、更有活力的新生态系统。“但求所用,不求所有”,未来,不一定所有资源和技术能力都属于某家大公司,而更有可能是一个由许多Chiplet Studios(芯片设计工作室)有机组合的生态系统,依托生态系统所整合的强大制造和运营能力,聚焦核心研发,完成快速创新。

规模化的品牌商,Tier-1 IC供应商大公司,拥有成熟完善的供应链体系,甚至工厂,销售渠道,是芯片设计工作室的核心技术能力的放大器。这种一级芯片供应商+芯片设计工作室的开放生态系统,能够更好地服务碎片化的AIoT市场。

版权所有:https://www.shgopi.cn 转载请注明出处