大数据人工智能公司 Databricks 开源的通用大模型 DBRX,不仅性能超过了马斯克的Grok-1,而且推理效率比扎克伯格的Llama 2还快,总参数只有Grok-1的三分之一,成为当前最强的开源大模型。
DBRX通过3.2Tbps的Infiniband连接3100块NVIDIA H100进行训练,相当于近400台HGX H100 服务器,训练超过3个月,耗资约1000万美元。
这也验证了英智未来CEO刘克鸿说的一句话: 做大模型, 一靠大脑,二靠钞票。大模型研发离不开人才。算法、训练、优化部署大模型等方面,每一项都需要对应的技术人才来推动技术的突破和革新。谁能在人才拔得头筹,谁就能在大模型的浪潮中抢的先机。
强大的算力是大模型发展的关键。由于大模型的参数规模不断增大,对算力需求几乎呈平凡关系的增加,这就需要企业不断投入大量资金,提高AI智能化水平。

DBRX大模型尽管已经开源,但想真正运行使用,还需要高配硬件支撑,至少需要配置4个NVIDIA H100 GPU的服务器或者PC。拥有NVIDIA H100 GPU的服务器,每个企业都有条件在新兴的生成式AI领域构建自己的私有模型,并充分利用企业私有数据展现出自身的价值。
当前AI技术发展非常迅速,大模型的迭代速度超乎想象,算力作为人工智能时代的基础设施,企业更应紧积极抓住高端算力资源,实现产业数字化转型升级。英智未来助力广大中小企业用好AI算力,利用算力提高企业自身核心竞争力,享受算力带来的数字化经济发展红利。