证券日报编写 王小伟
“百模对决”中,腾讯大实体模型极具特有性。它技术底座是一系列的行业大模型,顾客只需加入自己的场景数据,就可以生成切合自身业务必须专属实体模型。商品能力水平,它借助腾讯云服务TI服务平台搭建领域精调解决方法;产品用途层面,在腾讯视频会议几款头顶部SaaS商品中运用;落地式层面,智能客服系统、OCR、跨模态查找等具有实践活动。
腾讯云服务工业生产AI解决方法总经理郑海青觉得,可以对公司造成长期价值的,应当是领域变的、特有的实体模型。“2024年一定是大模型运用爆发一年,我们的方向是更清晰的,腾讯官方将坚持长期主义,一定要去开展规模化拷贝。”
证券日报编写:腾讯云服务是一个好几年的业务流程,2023年是大模型落地式的第一年,这就给云产品业务带来什么新的发展机遇?
郑群清:ChatGPT面世以后,搜索指数超出许多人的预料,对腾讯云服务而言,这是一个百年难遇的好机会。
第一,从大型的跨国公司、央国营企业,到一些初创公司、中小规模公司,都十分迫切地想要知道,大模型可以为其带来什么样的转变,对于实体模型都有着非常大的希望。他们更希望可以从云计算公司、从腾讯官方这种互联网企业了解,应该怎么样运用大模型、如何借助AI,可以更快速地与他的业务流程产生关联,这对我们这些做平台公司来说,等同于打开了一扇门。
第二,大家有一系列的运用,例如腾讯视频会议,完成了用小实体模型去创变。这说明,对云计算公司来讲,能把我们原来布局的一些AI能力、大模型水平,跟这些企业的运用做更多融合。
第三,大模型背后都有算率、有存放,有针对高速网络的需要。同时也为云计算技术在以往行业里的普及和营销推广也起到了加快功效。
证券日报编写:腾讯在2023年6月发布大模型,它的作用、优势有哪些?
郑群清:上年公布行业大模型时,很多人都问:腾讯通用性大模型都还没公布,怎么会先公布行业大模型?这背后是在做大模型或做人工智能技术时候的一贯构思。
对于我们来说,可以对公司造成长期价值的,应当是领域变的、特有的实体模型。相较于万花油、门门通那类“全才”,绝大部分的公司是取决于领域的权威专家、专业人员这一类的“人才”来帮她们给予促进产品的创新、研制的自主创新。行业大模型是我们以为的这一类的“人才”。因此我们在一开始就坚持不懈行业大模型加MaaS(实体模型即服务)服务项目,去干多元化。大家看上的,是怎样融合企业内部的数据信息,融合企业行业领域知识,把一个实体模型能够和某一个领域、某一个企业自身业务模式、工作流程,保证密切藕合,助力企业搭建她们专属实体模型运用,完成管理提升。
第二,现在大多数企业在做AI、做大做强模型情况下,拥有很严重的“算率焦虑情绪”,或是紧紧围绕大模型整个一套AI架构设计,看作一整套的计划方案去进行改善的。因此我们有几片核心的技术。我们对在建模之中所应用过的高速网络,上线了揽胜星脉网络营销产品,它可以将整个的网络带宽保证3.25 TB,将整个GPU的使用率提高40%上下,而关于未来经营大模型,也可以将整个的互联网成本费降至30%—60%。
第三,大家领域化大实体模型商品,除开助力企业构建基于IT混合云的一套大模型系统架构,最主要的是怎么样把大模型服务能力提供给客户,顾客要能将它使用起来。因此我们推出了根据TI服务平台的一整套全新升级大实体模型工具链,公司数据处理、标明,模型精调,都能够做到接近于零编码。
证券日报编写:公布迄今,腾讯大实体模型商品获得什么进度?在宣传中有哪些较为典型的案例?
郑群清:大家做了一些比较有意思的探索。第一个是电气行业的用户,电气控制柜柜体设计时,原先有大量线下推广工程图纸,需要很多的研发工程师,把电路原理图、线路板,包含里边的铜钱、电源开关,都要重新做一些设计方案。我们基于大模型,对于此事进行了抽象概念,帮助这些室内设计师能够更快地进行设计,整个设计的效率提高了大约30%—40%。
第二个情景是国内的一家头部航天工程公司,运用大模型处理在飞机研发过程中构造仿真的难题。原先的构造模拟仿真利用计算机、运用算法去做一些数学课或者物理学模型把结论计算出来,必须相当多的算率去计算;所以我把计算步骤省去掉,用小实体模型把这样的结果给预测分析出去。我们目前做了一些小规模检测,至少有一到两个规模的提高。
第三是腾讯云服务AI团队比较擅长的工业质检行业。一类项目冷启动的时候,传统上可能还需要过千张的图片做样版去训练,必须告知AI,有哪些类型的不当。现在通过大模型,它有极强的学习的能力以及模型泛化能力,能把上豆腐皮欠佳样品的要求,可以降至大约十几、几十张,这使得我们整个AI新项目冷启大提速。
第四类,在车辆、交通出行等领域,常见的传统智能客服系统情景。提供一个AI大模型,协助公司内部人事服务、售后工程师,面向用户的一些问题的查询去创变。
证券日报编写:腾讯大实体模型落地了相当多的情景。项目建设的过程当中,您体会到顾客最关心什么?
郑群清:第一是安全性。大家大模型在公司使用时,必须喂食许多企业自己的一些数据与语料库,有一些自已的核心竞争力数据信息。大家在这过程中,一方面能够帮助企业把一些违禁词滤掉,另一方面在所有架构上容许数据信息在当地,模型在云计算平台、还可以在门店,来帮助企业解决在网络信息安全里的顾忌。
第二,公司不用一个“胡说八道”大实体模型,反而是要有一个精确性的回答。我们可以通过根据TI平台上的工具链,保证企业可以在公司提供给他实体模型基础上,以一个门槛较低的形式,来进行模型再训练和精调。我们也会在一开始的时候,有一个陪跑的一个过程。
第三,关心成本费。大家对焦架构优化,助力企业以更低的算率去助力企业可以跑出来一个基本模型,使大模型的算力需求跟现在市面上通用性大模型对比,可以降至30%上下。与此同时,还可通过像QGPU的形式,根据腾讯揽胜星脉互联网,可以让现有的网络资源的使用率达到最大的提高。以揽胜星脉互联网为例子,能使全部通信的成本降低40%—60%。
证券日报编写:很多人都认为今年大模型落地的年间,腾讯云服务是如何判断大模型的行业演进的?
郑群清:2024年很有可能就是大模型运用爆发一年。还在做一些前期准备工作,包括一些初始模型的迭代更新,包含实体模型自身的优化与兼容,也涉及一些情景的实践探索。大家2024年的方向是更清晰的。
最先,紧紧围绕智能机器人,融合不同的企业的信息做优化,保证公司拥有自己AI智能机器人,使企业每一个研发团队、销售人员,都有各自的AI小助手。
第二,腾讯官方把AI能力、将大实体模型水平,以API的形式导出,现在大多数合作伙伴,会将腾讯大模型API嵌入到它的应用里面去,紧紧围绕一些广告营销SaaS运用、安全巡检的SaaS数据等。这会带来一些SaaS手机软件的重构。我觉得这个一定是将来非常关键的应用领域。包括我们四周的绿色生态,也可以在这里头作为重要发展的趋势。
证券日报编写:腾讯官方2024年对于实体模型的战略目标是啥?
郑群清: 腾讯官方坚持不懈长期主义,即我们一定要来进行规模化运用。这也是首要目标。
第二,大家的核心目标是怎么才能让企业可以用好了、用到划算,因此我们也会紧紧围绕GPU的生产调度、水平的改善、大模型轻量等,做的更好。
第三,把周边大模型绿色生态搭建好。
本文仅供读者参考,任何人不得将本文用于非法用途,由此产生的法律后果由使用者自负。如因文章侵权、图片版权和其它问题请邮件联系,我们会及时处理:tousu_ts@sina.com。
举报邮箱: Jubao@dzmg.cn 投稿邮箱:Tougao@dzmg.cn
未经授权禁止建立镜像,违者将依去追究法律责任
大众商报(大众商业报告)并非新闻媒体,不提供任何新闻采编等相关服务
Copyright ©2012-2023 dzmg.cn.All Rights Reserved
湘ICP备2023001087号-2