首页财经AI成高交会焦点:英伟达一体机引观众驻足 国产Chiplet大模型推理芯片发布

AI成高交会焦点:英伟达一体机引观众驻足 国产Chiplet大模型推理芯片发布

沃鑫才子沃鑫才子时间2023-11-18 分类财经浏览50956

因为,在这个不足20平的展台里,一台硕大的带有英伟达Logo的服务器箱子被十分显眼地放置在正中央。

据潞晨科技现场技术人员向《科创板日报》记者介绍,这个设备是英伟达原厂的DGX H800一体机,潞晨科技在原有的基础之上,自主设计开发了相应的大模型软件服务与之配套,从而形成了潞晨科技的Colossal-AI极速大模型工作站,对外出售或出租。

该技术人员称,公司是从今年开始开发大模型一体机,为此采购了不少英伟达的设备,同时也采购了一些国内厂商的芯片。

上述潞晨科技人士表示,开发训推一体机,已经是行业的一个趋势。大模型正在渗透至各行业当中,但是这个门槛不低,不擅长做训练或者推理企业有很多,开发训推一体机,可以帮助他们解决训练推理过程中的技术细节问题,降低成本。另外现在企业的数据隐私和安全需要强烈,一体机还可以帮助他们实现本地私有化部署,满足保密需求。

国产14nm Chiplet大模型推理芯片发布

高交会一直有科技创新“风向标”之称,今年,AI毫不意外地成为展商们展陈的焦点。像潞晨科技一样,把AI产品搬到现场的厂商其实还有很多。

在高交会开幕当天,云天励飞就在展区发布了新一代AI芯片DeepEdge10。

AI成高交会焦点:英伟达一体机引观众驻足 国产Chiplet大模型推理芯片发布

现场工作人员向《科创板日报》记者介绍,DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片,采用自主可控的国产工艺,内含国产RISC-V核,支持大模型推理部署。

在应用方面,相关工作人员称,依托DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。

在智能城市展区,来自深圳的本土企业,深圳趣象时空科技的3D内容AI生产与交互引擎“Anatman”,也成为高交会组委会推荐参观路线的精品项目。只要上传照片,这个引擎就可快速生成高品质高写实的3D虚拟形象,还支持直接将3D虚拟人导出到3D建模软件进行二次开发。

该公司AI事业部总裁莫智帆告诉记者,在竞争激烈的市场中从业者会出现创意疲劳,传统的创作过程也需要耗费大量的人力、物力及时间,这些行业痛点,如今都能交给BextAI平台来解决了。

根据《科创板日报》记者观察,本届高交会的议程安排,半数以上的行业论坛,均是AI主题相关,每一天都有行业大咖和学界巨擘做与AIGC有关的主题分享。而在开幕的第一天,百度创始人、董事长兼首席执行官李彦宏更是出席了西丽湖论坛,并在现场作了《AI原生时代:冷思考和热驱动》演讲。

集成创新互联网金融平台互联网银行滨江集团
年度票房破500亿后,“贺岁档”能否再出爆款? 第九批国采中选结果公布,百亿药品市场将重构