AI-软硬件设计的黄金时代

   人工智能对于芯片和软硬件系统的架构定义,设计理论和流程方法将会产生前所未有的冲击,在这二十年的芯片设计长河中出现了很多璀璨闪耀的方法学,包括

1.   架构级/结构级建模

2.   算法/硬件划分映射

3.   软硬件系统协同设计验证

4.   PPA(性能/功耗/面积)平衡优化  等等

这些著名的在历史中沉浮的方法学终于在AI时代的芯片设计中大放异彩,释放出了前所未有的活力。究其原因,是因为AI的系统设计难以比拟的独特性和挑战性。

1.    系统架构的重要性前所未有。从芯片架构,包括计算架构,存储架构,互联架构;到软件架构,包括应用架构,编译架构,调度架构,驱动架构;每一个因素都决定系统设计的成败和效能。

2.   软硬件结合的生态系统是重中之重。AI已经不是单纯芯片的概念,也不是单纯软件应用的概念。软硬件联合设计,验证,优化和后续开发是系统决胜的关键。芯片的理论规格不再是纸面的参数,是需要系统和软件联合设计才能获取的目标。生态系统建立的高效性和开发者的易用性是系统骥芯片部署成功的根本之一。

3.    性能功耗比(Performance/Watt), 性能成本比(Performance/$), 功耗成本比(Watt/$)在AI的不同应用方向有着不同的优先级。在性能,功耗,面积,可靠性,安全性,快速响应性等各个维度的取舍让高质量的AI芯片设计成为更大的挑战。

4.    AI算法当前的灵活性和未来的多变性,以及软件框架的多样化给系统设计带来了很大的挑战。如何面向未来进行设计,面向端云进行延伸,让现在的软硬件系统有更强的灵活性和扩展性,也是目前设计领域一个较大的挑战。


综合这些,如何设计高效能,高性价比的“算力架构”和与之相关的软硬件优化系统,是当前AI芯片设计的主要原则。以此为中心,结合这些年的设计方法学,作为AI芯片设计者需要考虑如何把握以下设计规则:

1.    在最初的架构设计下最大的功夫,架构级建模流程的引入必不可少。

对于算力引擎的有效性,数据带宽和吞吐,片内外互联结构的QOS,基本的调度方法,高效的编程模型等等;必须进行有效的评估,并对于芯片设计的后面阶段产生指导作用。

2.    从建模(modeling),到逻辑仿真(Simulation),到物理仿真(Emulation),到FPGA的每一个阶段,软硬件的联合设计调优都要贯穿于其中。

从一开始提供模型保证软硬件的分离开发,到开发中后期软硬件整合的联调,再到芯片回来的测试再调优;如何按阶段的保证软硬件设计优化的充分,是这个流程必须要重视的问题。另外,对于软件各层,包括调度模型,编译效率,驱动硬件调优以及开发易用性的考量,以及对于Benchmarking和Test Stimulus的制定,都是软硬件协作中不可缺少的步骤。

3.    根据芯片的不同定位和方向,设置PPA(性能,功耗,面积)的优先级和平衡策略。

解决好以下几个热点问题:

      a)    系统级(System/Platform)对于性能,功耗,成本,稳定性,安全性的综合考虑

      b)     编程的灵活性和晶体管消耗(面积功耗的代价)的平衡

      c)     理论算力峰值与实际应用性能之前的差距弥补

      d)     性能线性提升和功耗非线性增加之间的平衡

       e)     工艺的步进对于性能功耗的优化以及量产成本的提升之间的权衡 等等

成为PPA平衡设计的关键。

4.    前瞻性定义开发。

根据AI算法的未来步进,市场竞争产品的出现,新技术的出现和准备曲线等等,所有产品的定义必须充分考虑未来的不确定性和竞争力。对于新兴算法和算子的调研,对于新兴软件框架的调研,对于新工艺,IP的出现,更重要的,对于主要客户未来需求的采集和分析,才能对于产品的未来定位有更加清晰的策略,对于开发路线有更加清楚的判断。

5.    强大的软硬件项目管理流程。

以里程碑和质量检查为驱动的芯片开发流程;以迭代敏捷为代表的软件开发流程,必须有效的结合和同步,才能达到完美的系统开发效果。

分享这些,是希望有更多的中国AI设计团队能够崛起,中国芯片的战场需要更多的中国人,也需要更多有情怀,有决心,有抱负的工程化团队。

乘风破浪会有时,直挂云帆济沧海!

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,254评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,875评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,682评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,896评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,015评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,152评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,208评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,962评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,388评论 1 304
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,700评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,867评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,551评论 4 335
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,186评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,901评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,142评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,689评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,757评论 2 351

推荐阅读更多精彩内容

  • 这两天平静的似乎没什么可记录,这下子知道孩子说写不出来作文的感受了! 昨天早上回娘家,下午赶回来,来...
    爱自己的婉儿阅读 259评论 0 0
  • 喜大普奔,我鲁鲁单身多年终于公开恋人! 1L 楼主 从鲁鲁出道以来,一直就很喜欢他,这么多年没有过交往,现在终于宣...
    小飞侠7号阅读 1,911评论 0 1
  • 从开始识字那天开始,各种各样的笔就一直伴随着我成长。 家里爷爷奶奶、父母都识字,所以我在上学之前很早就开始认字了。...
    今小慢阅读 260评论 0 1