当前位置:首页 > i~上市 > 上市 > 正文

腾讯云智能总经理李学朝:大模型不仅限于ChatGPT,客户需要低成本获得AI能力

来源:界面新闻 发布时间: 2023-03-25 11:16:21 编辑:夕歌

导读:近期AI(人工智能)的各种新进展层出不穷,整个产业迎来广泛关注。不久前,腾讯云智能总经理李学朝面向媒体做了线下分享,话题围绕腾讯在人工智能领域的落地思路和应用场景展开。

记者 | 崔鹏

近期AI(人工智能)的各种新进展层出不穷,整个产业迎来广泛关注。不久前,腾讯云智能总经理李学朝面向媒体做了线下分享,话题围绕腾讯在人工智能领域的落地思路和应用场景展开。

他领导的腾讯云智能团队归属于CSIG云与智慧产业事业群,主要负责在各种人工智能技术之上搭建平台,并向产业输出落地。

腾讯云智能可以分为三层,底层是能力层,中间是平台层,上面是方案层。能力层指的是腾讯的全栈技术能力,包括语言类、语义类、CV类等技术,整合了腾讯内部AI Lab、微信AI和优图等几大AI实验室。

这些新技术,腾讯不会直接拿给客户去用,而是先在公司内部的各个产品进行应用实践。无论是大模型、NLP还是数字人技术,都在腾讯的广告、搜索、翻译同传和语言助手等业务上进行过反复打磨。

李学朝认为,这些新技术只有跟场景结合、跟客户相结合,才能产生价值。所以腾讯一直在探索怎么把底层技术和大模型包装起来对外输出,以能力、平台或者应用的形态。

“现在大家喜欢讨论大模型,其实大模型并不仅限于ChatGPT这一种类型”,李学朝表示,腾讯的大模型此前就在对话等领域有过实践。

目前大模型领域有比较普遍的挑战和痛点,例如在训练上AI应用场景处理的数据量越来越大,模型网络的结构复杂度越来越高,模型的训练周期也越来越长。

比如说ChatGPT 3训练一次大概需要3-4天,完整训练需要1000多张A100显卡。李学朝介绍称,腾讯很多大模型就算用低成本方式,训练一次也得一两周。在这种情况下,客户的成本很高,因为现在GPU资源很难获取,训练周期比较长,严重影响到模型产出效率。

所以,虽然过去几年AI产业发展很火,但它面临着明显的发展瓶颈。很多AI解决方案在落地过程中存在着门槛高、投入大和周期长的特点。在企业降本需求非常强烈的背景下,低成本快速获取AI算力和能力的需求日渐增长。

也是基于这个目的,腾讯推出了腾讯云TI平台。它能简化开发者的工程投入,实现即插即用、低门槛的接入。

腾讯将多模态AI技术能力聚集到TI平台上,同时把AI应用中做的TI-ACC加速平台放进来,让平台在训练和推理方面都能加速和降低成本。

以TI-OCR训练平台举例,很多行业都有大量的报销和发票等各种格式的单据,当对它们做电子化处理的时候就要用到OCR技术。这项技术一方面对识别准确率要求很高,第二方面就面临着格式、版式多样性的挑战,每一个票据的模板排版都不同。

根据官方介绍,腾讯的TI-OCR支持大概5000多种版式,泛化准确率能达到90%,而且拿5张样本快速训练的准确率能达到95%以上;现在检测识别500张样本做训练准确率为99%,在快递里面做分拣,100张样本能做到99.5%的准确率。这个平台在物流、财税等场景里有很多应用。

在工业场景下,腾讯推出了腾讯云智能工业质检解决方案,它是一套软硬一体的AI外观质检解决方案。

以苹果产业链企业富驰高科为例,苹果对iPhone手机内每个零件的加工过程都有很高质量的要求,生产企业以前主要靠人工检测,现在可以用AI质检提升生产效率。

富驰高科与腾讯合作后,将光度立体成像技术、深度学习等工业AI质检技术引入摄像头支架外观检测中,质检速度较人工提升10倍。目前腾讯为富驰高科提供了10多台设备,机器持续满载生产的情况下,每年能为其节省数千万元的人力成本。

官方信息显示,腾讯已经在10个工业细分领域推出了成形的解决方案,每年累计交付超过100台设备;单就外观检测设备来说,单一客户累计检测2000万件。当客户有新的产品外观上线时,检测人员可以将图片提交到我们的平台上自主训练,极大降低了算法门槛。

目前,腾讯工业AI质检聚焦在3C电子、新能源等行业,以及手机配件检测、3C结构件检测、锂电池生产质检等重点领域。

腾讯云智能的理念是AI要服务于人,针对的用户主要包括管理者、业务人员、研发人员和C端用户这四类人群,对应的就是决策智能、服务智能、研发智能和生活智能,目前已经在8大行业落地超过50多个客户,有70%的存量客户追加采购TI平台的软件和服务。

李学朝表示,腾讯希望把平台开放出去,让合作伙伴基于平台去开发更多的场景,帮助客户去实现它们的业务价值。