新动态:腾讯云CEO汤道生详解“模型即服务”
6月19日,腾讯云行业大模型及智能应用技术峰会在京召开,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生在会上发布了腾讯云MaaS(Model as a Service,模型即服务)服务解决方案,并诠释了腾讯对于MaaS的理解。
记者在峰会现场了解到,腾讯云将基于腾讯TI平台打造行业精选模型商店,覆盖金融文旅、政务、传媒教育等十大行业,提供超过50个解决方案。在这些能力模型的基础上,企业用户只需要加入自己独有的场景数据,就可以快速生成专属模型。
(资料图片仅供参考)
行业大模型仍需针对性“锤炼”
过去半年,整个产业界都在为大语言模型的发展感到兴奋。基于大量的知识与公开信息的训练,大模型已经能够对不同领域的提问生成人性化的回复,能够更连贯的与用户进行交互式对话。越来越多的企业管理者正在思考如何把大模型技术应用到自己的业务场景中,更好地为企业经营管理带来降本增效。
然而,“在具体的企业场景中,通用大模型可能还不能满足很多企业需求,比如它不一定懂行业的专业术语,也不了解企业内部独特的情况,回答会比较虚或者比较笼统,信息也不够及时。”汤道生指出,“大家既期待能力越来越强大的通用大模型,同时也在思考如何在使用大模型的同时保护企业数据产权与隐私,如何降低大模型的使用成本,这些都是企业要考虑的现实问题。”
以基于通用大语言模型的聊天机器人为例,它不一定是大模型唯一的服务方式,也不一定是满足行业场景需求的最优解。基于广泛的公开文献、网络信息去训练大模型存在一定风险。网络信息可能会有错误、有谣言,甚至有偏见,许多专业的知识与行业数据的积累不足,会导致模型的行业针对性与精准度不够,数据噪音过大。然而,在很多的产业场景中,用户对于企业所提供的专业服务要求高,容错性低,一旦企业提供了错误信息,可能会引起不可避免的法律责任与公关危机。
“企业使用的大模型必须可控、可追溯、可修正,而且必须要反复与充分测试,才能上线。我们认为客户需要在具备行业针对性的行业大模型上,加上企业自身的数据去做训练和精调,才能够打造出实用性更高的智能服务大模型。”汤道生表示。他认为,企业所需要的是在实际的场景中真正解决某个问题,而不是在一百个场景中解决百分之七十到八十的问题。
以文旅大模型为例,基于文旅大模型打造的机器人客服,可自动判断用户的意图,并自主调用相应的 API高质量地完成用户咨询服务。如用户提问“节假日有哪些比较经济的旅游景点可以推荐”,基于通用大模型的客服机器人只能给出一些简单的景点介绍与路线规划。而通过大量有针对性的行业数据所训练出来的行业大模型,则可以通过模型精调,让客服机器人的回答更为细致,可规划出每天的交通景点安排,给出经济实惠的定制化推荐方案。
在数据与成本之间需要寻找平衡点
众所周知,模型的训练数据越多,模型越大,训练和推理的成本也越高。实际上,大部分企业场景需求可能并不需要通用人工智能来满足。因此,如何在合理的成本下选择合适的模型是企业用户真正需要去思考与决策的地方。
“数据是大模型的原材料,针对具体场景,相关数据的覆盖与质量都是至关重要。标注数据的管理也是模型迭代中非常重要的工作。模型最终要在真实的场景落地,要达到理想的服务效果,往往需要把企业自身的数据也用起来。在模型研发的过程中,既要关注敏感数据的保护,也要关注安全合规,还要管理好大量的数据与标签,不断测试与迭代模型。”汤道生表示。
据介绍,基于腾讯云IT平台行业大模型精调解决方案,将帮助模型开发者与算法工程师一站式解决数据处理问题,高效率、高品质、低成本地创建与使用大模型。“我们可以通过TI平台以及模型私有化部署、全栈式管控、数据加密等方式,让企业用户在打造大模型、使用大模型的时候更放心。”汤道生谈道。
据悉,腾讯云携手中央电视台打造了央视人工智能开放平台,重新构建了一套传媒专属的数据标签体系,同时也研发了创新的标签权重引擎,让数据标签颗粒度更细。在数据标签体系的支撑下,视频编辑用自然语言就能实现跨模态检索,比如输入“居民消费力”,系统就可提供商场超市相关素材,再搭配智能剪辑就能快速生成视频。
算力是模型持续运转的基础
“大模型的持续云转,需要高性能、高弹性与高稳定的算力支撑,需要借助专业的云服务。在大模型的训练与使用过程中,需要大量的异构算力来支持,同时对于网络速度与稳定性要求也非常高。”汤道生表示。
GPU服务器比一般的服务器稳定性更低一些,服务器运维问题的排查也会更频繁,整体运维的难度与工作量会高很多。例如在训练集群中,一旦网络有波动,训练的速度就会大受影响。只要一台服务器过热宕机,整个集群都可能要停下来,大模型的训练任务就需要重启。这些事件会使得训练的时间大大增加,所以投入在大模型的成本也会变。
汤道生介绍称,腾讯云所提供的稳定计算高速网络与专业的运维,可以为算法工程师大大减轻设备运维的压力,让他们把精力放在模型的构建与算法的优化上。同时,腾讯云打造的面向模型训练的新一代HCC(High-Performance Computing Cluster)高性能计算集群,整体性能比过去提升了三倍。在计算集群的硬实力以外,腾讯云还推出了更适合AI运算的软能力——向量数据库,能够更高效的处理图像,处理向量音频、文本等非结构化的数据。
“人工智能的发展是数据积累、算法创新与算力突破共同推动的,也是全球科技企业、高校、研究机构开放共建的结果。今天我们再一次站在数字科技革命的起点上,大模型只是一个开端, AI与产业的融合将绽放出更有创造力的未来。”汤道生表示。
据了解,截至目前,腾讯自身的企业级应用已率先应用了行业大模型。例如腾讯会议即将推出的覆盖会议全流程场景的智能小助手,只需简单的会议指令,便可协助用户执行会议安排、会议管控、智能总结、智能录制等操作,提升用户开会与信息流转的效率。新一代腾讯企点智能客服也将基于行业模型,结合客户业务需求进行训练与精调,提供更精准、更详细的回答,甚至可以调用业务系统数据提供实时分析。
作者丨宋婧 编辑丨刘晶
美编丨马利亚 监制丨连晓东
关键词:
相关阅读
-
新动态:腾讯云CEO汤道生详解“模型即服务”
6月19日,腾讯云行业大模型及智能应用技术峰会在京召开,腾讯集团高级 -
当归煮鸡蛋的功效?
当归是治疗妇科性病的一位重要的中草药材,具有补血活血的作用,还有调 -
鸡蛋吃了有什么好处? 焦点信息
小鸡蛋含有太多的营养。首先是蛋白质。一个鸡蛋含有大约7克高质量的蛋 -
堪比专业相机水平,三星Galaxy S23 Ul...
随着影像社交时代的来临,让智能手机在人们生活中的地位水涨船高。同时 -
焦点!Peanut:要与对年龄的偏见斗争,...
LCK夏季赛正在进行,GEN取得五连胜后,打野选手Peanut接受韩媒采访,谈 -
每日报道:外资企业看好中国 持续增资扩产
央视网消息(新闻联播):今年以来,我国经济发展呈现回升向好态势,中 -
环球通讯!AMD RX 7800被逼急了!硬塞...
AMDRX7800被逼急了!硬塞进去个“大胖子” -
天天新动态:银川市图书馆紧急闭馆:馆...
微信公众号“银川市图书馆”6月23日发布《闭馆公告》。公告称,经检... -
环球视讯!万圣节花环创意:为心爱的他...
当谈到为你的前门制作万圣节花环时,有很多令人毛骨悚然的选择。你 -
环球热推荐:美媒称波兰曾作为“北溪”...
6月10日,美国《华尔街日报》报道声称,一个破坏小组曾利用波兰作为去 -
推动品牌建设上台阶-环球快消息
惠东坡品牌是高质量发展的重要标志,也是商业竞争和文化传播的重要方式 -
简讯:黑洞加速器违法吗,黑洞加速器违法吗
黑洞加速器违法吗,黑洞加速器违法吗 -
甘肃省组织参加2023中国国际电子商务博览会
中国甘肃网6月23日讯据甘肃日报报道(新甘肃·甘肃日报记者蔡文正)... -
打电话问别人要不要贷款这种工作算不算...
打电话问别人要不要贷款这种工作算不算诈骗违法 -
每日关注!中牟这场“村BA”,5000人现场观赛
“加油!”“好球!”“防守,防守……”6月22日晚7时,中牟县狼城... -
郑州11中举办2023届高三教师交流研讨会-...
中原网讯(赵文源通讯员李培沛董然杨征)6月21日,郑州11中举办2023届高 -
世界快报:精准施策联合执法,大气污染防...
6月22日晚,聚焦打赢一场立规矩的大气污染防治攻坚战,我市组织生态环 -
今日热门!女生们,正在“离开”李佳琦
作者|谢中秀编辑|饶霞飞来源|燃次元(ID:chaintruth)这个618,“所有 -
MosaicML 推出 300 亿参数模型,训练...
AI创业公司MosaicML近日发布了其语言模型MPT-30B,单从参数来看,这个 -
一问“医”答丨高温热浪又双叒叕来了!...
夏日炎炎,如何预防中暑?重点人群如何防护?戳长图↓↓↓一起来了解这