日前,上海市经济信息化委印发《上海市推进算力资源统一调度指导意见》的通知,提出九项重点任务。任务之一要求形成枢纽型数据中心集群、城市数据中心集聚区、边缘数据中心梯次布局,并引导根据应用场景,利用存量通信机房、变电站等设施按需灵活部署边缘数据中心。
对此,近日国盛证券发布相关研究报告称,规划凸显出未来的算力将呈现从云端到边缘梯度分布的格局。云端算力负责复杂科学计算,大模型运算推理等任务,边缘侧则凭借隐私、时延与成本三大优势,成为小模型与AI应用触及万千用户与场景的通道。
据介绍,目前,无论是需要超强硬件支撑的AI迭代与训练,还是运行要求相对较低、需求相对分散的AI推理,均在超算中心内进行,采用云生成然后发送到端的形式运作。
【资料图】
但随着AIGC内容愈加丰富,从文本发展到图像、视频等多模态内容,上述模式引发了一系列的问题,例如网络带宽成本高昂、时延较为严重等,进而影响到AI大模型的商业化进程与用户使用体验。
而作为算力体系的重要一环,边缘算力具有低时延、安全性高等优势。因此,国盛证券、中信证券、中金公司等机构一致认为,边缘算力不仅能够分担云端推理计算的压力,且由于其安全性高,还能够符合未来AI创作对于所有权和隐私权的要求。
智能模组则为边缘算力的最佳载体,有机构称其为AI的“毛细血管”。智能模组是指融入了算力或通用处理芯片的通讯模组,已经应用于车机、消费等多个领域。目前,已有厂商尝试相关方案:
3月2日,高通中国公众号发布了全球首个运行于安卓手机上的Stable Diffusion终端侧演示。此前,Stable Diffusion只能在云端计算集群内运行。
3月23日,华为推出“智能搜图”功能,基于多模态大模型技术,在手机端侧对模型进行小型化处理。
中信证券认为,华为与高通一定程度上验证了高性能边缘AI的可行性,通过模型压缩叠加联网智能的方式有望在边缘端实现AI大模型的体验。在两者的示范效应下,智能物联网模组相关企业有望获得发展。
据《科创板日报》不完全整理,布局边缘算力、边缘IDC、模组相关业务的企业主要有:
(文章来源:科创板日报)
盘江股份4月20日发布2022年年度报告,2022年实现营业收入11843亿元,同比增长2177%;归属于上市公司股更多
2023-04-21 16:13:15资源型城市数字化转型,正当其时。党的二十大报告提出,加快发展数字经济,促进数字经济和实体经济深度更多
2023-04-21 10:05:26据商务部监测,上周(4月10日至16日)全国煤炭价格有所下降,其中炼焦煤、二号无烟块煤、动力煤每吨136更多
2023-04-21 09:59:10据天津市市场运行监测数据显示,4月份第二周(4月10日-4月16日),天津市煤炭均价为732元吨,环比持平更多
2023-04-21 10:00:53据商务部重要生产资料市场监测系统显示,4月8日至4月14日,陕西省煤炭均价14867元吨,环比下跌44%。其更多
2023-04-21 10:01:28据商务部重要生产资料市场监测系统数据显示:4月8日-4月14日,从监测品种样本数据来看,内蒙古煤炭平均更多
2023-04-21 09:54:51近日,四川省应急管理厅、国家矿山安全监察局四川局联合印发《四川省煤矿重大危险作业报备监管工作制度》,明确煤矿企业在实施重大危险作更多
2023-04-20 10:02:41中国煤炭工业协会最新发布的数据显示,一季度我国煤炭生产较快增长,煤炭库存维持高位,供应比较充足。 一季度,我国宏观经济呈现企稳更多
2023-04-20 10:03:10据商务部重要生产资料监测系统显示,2023年3月,四川省煤炭均价为9643元吨,价格环比上涨38%。其中,无烟煤价格为9769元吨,环比上涨93%,更多
2023-04-20 09:54:08监测系统数据显示:3月份山西煤炭价格以跌为主。煤炭平均价格为117575元吨,环比下跌51%。其中:无烟煤2号洗选块煤平均价格为13466元吨,更多
2023-04-20 10:14:55