生成式AI既需要云,也需要数十亿网联终端

来源:通信世界全媒体 时间:2023-05-19 15:06:59


【资料图】

高通公司总裁兼CEO 安蒙

生成式AI的创新和发展速度前所未有,而这仅仅是一个开始。人们使用这项技术的方式、场景和原因将会非常广泛,甚至超乎想象。初步估计显示,生成式AI市场规模将达到1万亿美元。

生成式AI不仅有望改变人们搜索和创作内容的方式,还能够改善日常生活。借助生成式AI,智能手机能够成为真正的数字助手,让用户自然地沟通交流,并获得贴切的回答。PC用户可以利用这项技术阅读或撰写电子邮件、起草文档和自动创建演示文稿。在驾乘汽车时,对话式车内助手可以对汽车充电、购买停车券或在回家途中预订晚餐提供建议。商店的AI服务台和智能购物车能够根据每周特惠、预算金额和家庭偏好,帮助消费者拟定食谱。

为了释放这项技术的全部潜能并满足日益增长的需求,生成式AI既需要云,也需要数十亿能够以低功耗进行高性能AI计算的网联终端,如智能手机、PC和汽车。这就是混合AI。混合AI计算架构在云端和终端进行分布式处理,能够优化效率并提升整体用户体验。

生成式AI处理可以直接在终端侧运行,也可以按需发送到云端,或者将两者相结合——无论采取何种方式,对用户而言都是无缝实现的。

用户期望拥有与传统搜索类似的体验,那就是能够瞬间显示搜索结果。要满足这样的期望,还要保证服务质量,仅利用云端处理的成本太高,尤其是在需求高峰期,因此难以实现规模化。

数据中心能耗高且价格昂贵。据估计,每一次基于生成式AI的网络搜索查询(query),其成本是传统搜索的10倍。以每天超过100亿次查询计算,每年的增量成本可能达到数十亿美元。网络搜索只是生成式AI变革多个行业的众多方式之一。

除成本外,在云端进行全部推理处理还面临隐私、可靠性和性能方面的挑战。当请求进入云端、数据离开终端时,就会产生潜在的安全问题。事实上,由于收集和存储个人数据等监管和合规问题导致模型被禁用或暂时禁用的情况已经出现。

混合AI势不可挡。随着人们不断探寻使用生成式AI的新方式,对云基础设施的需求将激增。混合AI处理将是计算的下一次转型,正如我们所看到的从大型主机演进到台式机,再到今天云和我们手中的终端相结合的模式一样。

利用高性能、低功耗终端的处理能力,将能够高效推动生成式AI的规模化扩展。云端和终端将协同工作,通过强大、高效且高度优化的AI功能,打造下一代用户体验。

X 关闭

生成式AI既需要云,也需要数十亿网联终端

生成式AI的创新和发展速度前所未有,而这仅仅是一个开始。人们使用这项技术的方式、场景和原因将会非常广泛

2023-05-19

致敬第33个全国助残日 京东“阳光天使”向上的力量-当前资讯

5月21日是第三十三次全国助残日今年全国助残日活动的主题为完善残疾人社会保障制度和关爱服务体系促进残疾

2023-05-19

环球焦点!中华信鸽信息网各地公棚下载_中华信鸽信息网

相信目前很多小伙伴对于中华信鸽信息网都比较感兴趣,那么小搜今天在网上也是收集了一些与中华信鸽信息网相

2023-05-19

我的御剑日记飞升境界怎么划分 我的御剑日记飞升境界划分介绍

我的御剑日记飞升境界怎么划分我的御剑日记飞升境界划分介绍,

2023-05-19

LG开发特斯拉电池,或成主要供应商

集微网消息,据TheElec报道,LGEnergySolution组建了一个新团队,致力于开发4680电池,这是电动汽车巨头特

2023-05-19

全球播报:5月19日河南地区聚合氯化铝主流行情平稳

2023年5月19日,河南地区聚合氯化铝市场主流行情平稳。液体、工业级:含量10%报价300元 吨左右。固体、工业

2023-05-19

提臀运动10分钟见效_提臀运动 全球实时

你们好,最近小品发现有诸多的小伙伴们对于提臀运动10分钟见效,提臀运动这个问题都颇为感兴趣的,今天小活

2023-05-19

厦门推介乐活之旅 提振文旅消费-即时焦点

厦门推介乐活之旅提振文旅消费---2023“乐活厦门游”厦门文旅推介会18日晚举办。由厦门市文化和旅游局主办

2023-05-19

速看:西城区2023年中小学名单、学区划片公布

西城区2023年中小学名单、学区划片公布,招生,中学,初中,学校,西城区,中小学,重点小学

2023-05-19

热点在线丨【车展 新车】7.99万风光 580红星版上市

现在汽车越来越普及,几乎家家户户都有车。所以,当车这么多的时候,我们在使用的过程中肯定会遇到各种各样

2023-05-19

Copyright   2015-2022 起点科技网版权所有   备案号:皖ICP备2022009963号-12   联系邮箱: 39 60 29 14 2@qq.com