【环球网科技综合报道】4月17日消息，Akamai宣布推出战略级解决方案Akamai Cloud Inference。据悉，这款基于其全球分布式云平台打造的AI推理解决方案，以突破性的性能指标引发行业关注——与传统超大规模云架构相比，其吞吐量提升3倍、延迟降低60%，成本降低86%。

　　在生成式AI应用爆发的背景下，企业逐渐意识到大型语言模型（LLM）训练与推理环节的架构差异。彭博社预测到2032年AI推理市场规模将达1.3万亿美元，其他多份近期报告也印证了这一判断。这一市场转变预示着2025年将成为分布式AI推理加速发展的元年。

　　训练如同绘制地图，需要集中式超算中心；而推理更像是实时导航，必须在靠近用户的边缘发生。Akamai云技术部门首席运营官兼总经理Adam Karon分析称，2025年大约有75%的数据将产生于传统云区域之外（Gartner数据），传统云架构在响应速度、数据传输成本等方面已稍显疲态。

　　在此背景下，Akamai推出Akamai Cloud Inference的解决方案，依托其覆盖130个国家、4200多个节点的分布式网络，构建了独特的云-边协同架构。通过与NVIDIA、VAST Data等生态伙伴的深度整合，该解决方案提供从GPU加速计算、向量数据库实时检索到WebAssembly边缘执行的完整技术栈。

　　Akamai通过整合VAST Data实时数据访问、可扩展对象存储及Aiven/Milvus向量数据库技术，构建了支持检索增强生成（RAG）的智能数据架构，实现微调模型的安全存储与全球范围的低延迟AI推理。

　　据悉，Akamai与Fermyon等 Wasm 提供商合作，集成WebAssembly技术，使开发者能够借助无服务器架构直接在边缘端执行轻量化LLM推理，为延迟敏感型应用提供支持。（青云）

　　特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

　　购房者称认购商品房不到一年同户型降200多万：销售称已退房退款，相关部门介入

　　疑被蛇咬伤身亡女子表弟发声：被咬地系三亚市区人行道，表姐已在新加坡申请读研

　　“1100公斤炸药，凌晨引爆”！克里米亚大桥被炸画面曝光，公路通行已关闭！乌克兰全境发布防空警报

　　消息称三星Galaxy S25 Edge手机销售低于预期，市场反应冷淡

　　WBG不敌AL掉入败者组，矛头直指Light，官博被冲沦陷：换二队AD