全栈国产化适配 “满血”“蒸馏”任意选

来算力超市体验DeepSeek专属空间

2025-02-21 09:55:43    来源:上海电信    

2月上旬,中国电信天翼云自主研发的“息壤”一体化智算平台完成了国产算力与DeepSeek-R1/V3系列大模型的适配优化,成为国内首家实现DeepSeek模型全栈国产化推理服务落地的运营商级云平台。

仅仅半个月,诸多信息表明,这场AI技术与通信行业的融合带来了系列影响。从DeepSeek-R1蒸馏版到满血版,天翼云均已支持,包含从1.5B轻量化版本到7B、32B再到671B不等的参数量,满足用户从复杂决策到高并发交互的全场景需求,用户无需复杂配置,通过API接口即可轻松调用,快速集成到各类应用场景。

此外,除了在云平台上直接体验国产算力支持的DeepSeek服务外,企业或个人用户也可登录上海电信公共算力服务门户—算力超市,直接租用国产智算单卡,在容器环境内基于不同基础框架进行DeepSeek大模型部署、调试,打造自己专属的DeepSeek空间。

全栈国产化适配

覆盖多场景需求

“整个行业都非常振奋。近期DeepSeek爆火,各界对于相关产品的关注度有了较大提升,有很多企业及个人用户前来咨询,天翼云官网与算力超市门户访问量有大幅度提升。”中国电信上海天翼云能力运营中心总经理陆奕奕如是说。

如何将自己的文档、应用与大模型结合实现个性化智能问答,以不同形式进行呈现?如何用好DeepSeek快速实现企业智能化升级,如基于大模型构建可满足企业实际生产需要的智能体?在快速推进智能化升级的同时,如何保障数据安全与网络安全?这些成为近期个人和企业用户的关切点。

就使用场景和功能而言,天翼云方面表示,用户可将DeepSeek的问题解答能力和其他语音模型相组合,打造类似华为“小艺”、百度“小度”这样的个性化语音助手;企业可通过调用DeepSeek,结合不同应用与数据,实现自动化文档处理,进行信息提取、分类和知识库构建,提高企业信息检索能力。目前天翼云已有多种产品支持部署体验,覆盖网页问答、云端部署、模型镜像、开发微调等在内的各类应用场景,也为高度关注数据安全的企业提供含云、网、安、智、算在内的综合解决方案。

“是采用API模式还是网页可视化模式,由用户自己的需求决定。”陆奕奕介绍道,网页可视化模式是一种较简单、门槛较低的使用方式,在网页或App上直接进行问答即可。如果要构建其他应用系统或进行对外服务,需要通过API调用DeepSeek。目前,上海电信算力超市DeepSeek专区已支持提供稳定的网页问答。

支持本地或云上部署

实现安全与成本双赢

DeepSeek分满血版和蒸馏版,满血版是与DeepSeek官网性能一致的V3和R1的全量参数模型,蒸馏版则是将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。受限于算力,不少平台选择部署蒸馏版,但体验效果也大打折扣。

天翼云提供“全家福”,从DeepSeek-R1满血版(671B参数)至轻量化蒸馏模型,统统都有。对于有个性化应用开发需要的用户,本地部署和云上部署两种模式各有所长,适合于不同的场景。

相较而言,云上部署主要有以下优势:一方面,云上部署短期成本更低,无需考虑机房、服务器、网络等基础设施建设与维护,多样算力资源按服务方式提供,大幅降低一次性投资成本,支持灵活调整算力资源配置;另一方面,云上部署模型即开即用,降低用户技术门槛,让AI变得“接地气”,用户仅需简单几步即可部署,轻松构建智能体。

本地自行搭建基础设施部署大模型,可以让部署者对数据和系统有完全的控制权,适用于对数据安全、数据隐私和控制权有较高要求的企业,但在基础设施及相关安全配套方面的一次性投资成本非常高昂。中国电信亦可为这类用户定制化提供属地私有化部署方案,满足“数据不出域”要求。

“在天翼云上部署DeepSeek,对安全问题其实是一种很好的解决方案。中国电信作为通信运营商,依托强大的网络底座,提供弹性算网,可为政企用户实现部署在不同地域的大模型、应用、办公环境的大带宽专网,保障数据传输的安全性。”天翼云方面表示。

算力超市让AI触手可及

加速国产生态发展

上海区域的用户,如果想更好地本地化部署DeepSeek,则建议登录上海电信的公共算力服务门户—算力超市。

据了解,上海电信在国内运营商中先行推出公共算力服务平台——算力超市,面对上海丰富的应用场景以及旺盛的算力需求,其不仅可以让用户一站式使用多种形态的算力服务,按需选择最具性价比的算力资费,而且有更多的AI场景最佳实践镜像提供,让更多的用户可以一站式部署自己的AI大模型和智能体,通过算力普惠和AI普惠,让“AI触手可及”。

在受众方面,算力超市为企业与个人提供服务。具体来看,算力超市企业版云开发本产品提供的主子账号体系可满足企业、团队算力使用需要,个人版产品为广大模型爱好者提供了超高性价比、不同规格、按需计费的轻量化容器级智算服务,平台提供基础教学助力个人炼丹者轻松入门。

“对个人用户来说,这是一个很好的体验与实验的平台。从底层算力到AI框架、模型均支持国产化,‘炼丹师’们可以在平台上进行模型训练和微调,便捷体验国产算力。”陆奕奕表示,该平台提供入门教学,帮助新手用户迅速成长;对于经验丰富的研发人员,平台也能提供丰富的功能、各类模型镜像来助力“炼丹师”实现需求。

此外,个人用户在算力超市可以体验和使用到不同规格、高性价比的智算服务。目前算力超市上推出了可供个人用户免费体验云开发本的体验版产品。在体验版里,用户甚至最多能连续10小时使用高达165TFLOPS的算力服务,只需在“上海电信”微信公众号发送“算力”或前往https://gpushop.sh.189.cn/ 的算力超市官网订购云开发本体验版即可使用。

“我们拥有长三角首个单池万卡液冷国产算力集群,可以为用户提供全链条的国产AI服务,助力国产算力和国产AI大模型深度匹配,从而为国产AI生态的加速发展奠定坚实底座。”就未来的发展信心,陆奕奕如是强调。


[编辑:徐敬楠]

相关新闻

声明

1、凡本网注明“中国城乡发展融合中心”/中国城乡发展网,所有自采新闻(含图片),如需授权转载应在授权范围内使用,并注明来源。

2、部分内容转自其他媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。

3、如因作品内容、版权和其他问题需要同本网联系的,请在30日内进行。电话:010-60200664

网站简介|版权声明|免责声明|加盟合作|招聘英才|联系我们|人员查询

地址:北京市丰台区玉泉营产业园A座一层A1-013邮编:102600服务热线:010-60200664投稿邮箱:zgcx2023zs@163.com

法律顾问:北京昊庭律师事务所 涂水华

广播电视节目制作经营许可证:(京)字第25216号增值电信业务经营许可证:B1-20232917

Copyright © cx.csjrw.cn.All Rights Reserved京ICP备2023000511号-1