百度:今年是文心大模型落地关键年

2022-04-27 23:08:44
关注
摘要 大模型的出现,大幅度降低了行业应用的门槛。

一项新的AI技术迎来突破,包括谷歌、微软、英伟达、百度和阿里等在内的几乎所有AI头部企业都在死磕这项技术。

这便是目前世界AI研究领域最热门的话题之一:“大模型”。

AI 技术发展到今天,GPT-3等参数量巨大的模型被人们开发出来,他们在计算机视觉和自然语言处理等领域取得了前所未有的成就。

与之相伴而来的是,随着技术与产业的结合落地,新的技术难关需要被不断攻克。

众所周知,AI 技术的驱动力主要是依靠数据作为养料,当AI嵌入各行各业,不同场景的巨量数据已呈井喷式爆发,如何减少数据标注量、如何提高开发效率、降低应用成本等问题已成为一众AI企业正在思考的问题。而这也已经成为了各大AI企业抢占技术高地、并进行商业化的关键命题。

大模型是人工智能大基础设施的重要组成

“文心大模型”是百度近几年在花大力气投入研发的技术基础设施。

自2019年开始,百度深耕预训练模型研发,并在该年3月率先发布中国首个正式开放的预训练模型ERNIE1.0。去年12月,百度联合鹏城实验室发布了鹏城-百度·文心大模型。

这是全球首个知识增强千亿大模型,也目前全球最大中文单体模型,参数规模达到2600亿。

“文心大模型在百度AI战略里的位置,是人工智能大基础设施的一部分。大基础设施就是硬件到芯片到AI框架、AI大模型,一层层构筑起来的,文心是底座性质的。”百度集团副总裁吴甜介绍。

如何理解这个AI大模型?

AI大模型,指的其实是预训练大模型,是机器学习的一种方式。

类比人的学习来看,人的学习可以分成通识教育和专业教育两段。预训练大模型相当于解决机器学习的通识教育。

此前,机器学习主要通过标注数据,告诉算法哪个数据是正负样本等进行学习。由于人工智能落地场景很多,每个场景都要采数据、标数据,因此在标注的数量和质量上存在很大的瓶颈。

为解决以上问题,自然语言处理领域迎来了一个新的突破:自监督学习。其指的是不用人为标注数据,机器可以用一个方法把知识和规律学出来。

比如,在模型训练中,如果我们把“中国的首都是北京这句话”中的“北京”盖住,让模型去猜中国的首都是哪里,模型可能会猜一个城市,再把盖的地方翻开,告诉模型是对了还是错了,模型也就得到了反馈。这就是自监督学习的其中一种方法。

通过设计类似的学习方式,让模型可以在海量的数据当中进行自监督学习。这个机制的好处就是,它可以把天然存在的大量数据利用起来,打破了一定要精标数据才能学习的瓶颈。

大模型的出现,实际大幅度降低了行业应用的门槛。

“大模型不仅可以自己直接商业化,更有可能作为大的基础设施带来的更大的价值空间。”吴甜称。

百度的文心大模型是如何运营的?

百度早已不仅是搜索巨头,更是一家人工智能公司,文心大模型已经在搜索、信息流、小度智能屏、百度地图等业务场景中不断地去使用、验证、迭代,最终通过开发出配套的工具和平台服务于不同产业,开发者或者企业就可以用方便、简单的做法,甚至可以不写代码就使用起来。

在落地运用方面,除了应用于百度内部的各类产品外,文心大模型还通过飞桨开源开放平台、百度智能云等赋能到工业、能源、金融、通信等行业。当前,百度飞桨系列有两款面向不同人群的平台,一是零门槛平台EasyDL,二是全功能产业平台BML,都已经内嵌了文心以及文心相应的配套算法。

在交付形态上,文心大模型大致上包含三种:第一种是通过API调用方式使用。第二种方式是通过平台、套嵌工具等,使用者可以在EasyDL、BML等平台上直接使用的。第三种是包含在一些面向场景的产品中,比如智能文档分析TextMind,还有智能创作平台。

就AI大模型这个技术而言,不仅能落地解决当前的产业遇到的难题,在未来同样充满想象空间。

吴甜畅想道,今天的模型是以学习人类的经验为主的,学人形成的规律,加强人类建设的一系列体系。未来有可能AI可以学到一些人类还没有学到的一些经验或者知识,这是未来有可能发生的事情。

今年是文心大模型落地关键年

在大模型领域角逐的,不仅有百度,国内外科技巨头如谷歌、微软、英伟达、阿里等,都相继在AI大模型领域展开探索,参数规模从百亿、到千亿,甚至是上万亿。

对于当下的大模型竞赛,吴甜表示,大模型本身还有很多创新空间,现在大家还是在各种不同角度的创新阶段,每一家企业和机构最后会产生的价值和作用,因此各自有所侧重。

百度文心大模型的定位是产业级知识增强大模型。吴甜介绍,文心大模型最大的特点是“知识增强”。

传统大模型只从海量的文本中学习,只能死记硬背文本的规律,并不能从本质上理解世界是怎样运行的,在具体应用时,一些涉及逻辑推理和认知的任务表现较差。为弥补这一缺点,百度引入了知识图谱,通过“知识增强”的方法,将数据与知识融合,提升了文心大模型的通用性。

此外,要理解文心大模型,就需要了解“产业级”的定义。吴甜解释,这个产业级主要指两个方面:

一方面,文心的整个技术是在实际的产业应用过程中打造。首先,它的数据来源是产业当中的数据,学习到大量的知识规律,也是在实际的产业实践当中学习到的;任务设计上,百度希望把大模型打造成通用的底座模型,类比人的通识教育,希望它学的尽可能广泛,打下更好的基础。

另一方面,文心大模型在应用时建设了一系列配套能力,让行业更好用。比如怎样设计数据的标注、建议有多少数据、相应的迁移学习的方法等等。通过这些配套的工具和平台,就会提升真实应用的可行性。

大模型能够引起各大企业的竞相追逐,战略眼光更着眼于远处。从世界以及国家层面来看,产业智能化升级早已是大势所趋。今年1月,国家出台了十四五数字经济发展规划,可以看到国家对于数字经济发展重视程度也越来越高。大模型对于推动数字经济发展有着莫大帮助。

要在产业中应用起来,当前大模型还面临着不小的挑战。吴甜认为,当前部分行业数字化水平还不高,AI真正跟各行各业、各种企业场景结合的时候,复杂度高。场景分散,而且很多场景还比较薄,很多时候获取场景数据非常困难。

另外,参数规模提升确实是有更好的效果,但却不是简单的越大越好,更重要的还是模型能力强。

文心大模型的下一步,是继续创新技术水平,再增强其实用性。吴甜强调,这并不是以迅速获得更大的模型为目标,而是做出一款模型之后,在落地应用中检验效果,并在实用的过程当中调整模型设计。

在文心大模型的规划上,百度今年还会有新技术和模型发布,包含模型能力和平台工具能力的提升。“今年会是文心大模型产业落地关键年。 ”

当前,文心大模型通过飞桨开源开放平台、百度智能云等平台落地,个人、企业开发者数量超6万,并带来显著的提升效果。如在保险领域的文本处理效率提升30倍,医疗领域中的每份病历的检查时间从30分钟缩短到了秒级别。

百度还把百文心大模型能力开放给公众使用,并举办了认知AI创意赛。“人工智能和大模型要面向公众开放,只有门槛低到了所有人都可方便地用起来,才能真正大规模爆发出各种创意。”吴甜表示。

您觉得本篇内容如何
评分

相关产品

Shimadzu 岛津 GC-8A 气相色谱仪

可靠而紧凑的GC-8A是岛津的基本气相色谱仪模型,用于专门的应用。经济且使用简单,GC-8A支持单个检测器、手动压力或流量控制、柱上注入口和模拟输出。可采用等温或单温斜坡程序模型。GC-8A只有17.3英寸(43.9厘米)宽,但它的大烤箱便于简单的色谱柱安装和维护。

Roscid Technologies OxyP 烟气分析仪 / 燃烧分析仪

氧磷-这个模型是为了快速,准确和经济地测量微量或百分含量的氧气。一个简单的操作和一个大的液晶显示器,使仪器的启动容易和快速。该装置测量的氧气介于0– 10000 ppm或0-25%。,规格

Edgetech Instruments Oxymaster 16TDP 湿度计和湿度测量仪器

该Edgetech仪器模型oxymaster16tdp是为快速,准确和经济的测量氧和露点在痕量水平。一个简单的菜单驱动软件,触摸板和大的lcd显示,使仪器容易和快速启动。

Spectral Dynamics, Inc. SD-22000-19&DA-100 振动测试台

它被设计用于测试小到大尺寸的有效载荷,如航天器组件、大型机械结构、需要高强度的汽车系统、大多数军用产品等。模型的系统包括sd - 22000 - 19瓶,是由模型da - 100功率放大器和铜- 100水冷单元模型。

IES2000 Ceiling Banners 隔音和隔音材料

天花板横幅是解决任何大空间,有混响问题的解决办法。横幅可以安排,以创造各种不同的颜色,大小和模型的建筑效果。在整个混响区域内每隔24至36行安装横幅,可获得最佳的声学环境。

Ametek STC(Sensors, Test & Calibration) 阿美特克 CH-4215-X-H 秤和天平

4200系列有单表盘或双表盘头,有一个9英寸的大表盘,有公制或aviordupois刻度。第三类合法贸易模型可由当地度量衡司法管辖区封存,以供销售点使用。皮重可达刻度盘容量的10%。

Visual Sound V60 音频放大器和前置放大器

每个模型包括用于插件输入模块的8个模块隔间,并允许模块之间最多有4个优先级级别。两个模块隔间能够接受信号处理插件输出模块。每个模块由独立的音量控制与相关的信号\/剪辑LED信号状态。每一个模型包括一个机动主音量控制,可以控制使用远程音量控制面板(RVCP,单独销售)。*60W机型,功率储备大。*8个模块输入槽,可接受最多2个信号处理输出模块或最多8个输入模块。*四个优先级级别。

Fluid Components Intl. (FCI) VIP Vortab® 流量调节器

模型VIP流量调节器结合科学证明的Vortab tab式流量调节技术的优越性能与安装方便和成本节约的插入面板设计。VIP特别有效地使用了大反转和\/或低流量敏感流量计技术(如热分散),在层流、过渡和湍流条件下提供了高度可重复的流动剖面。

Littelfuse 力特 LSRX 电流传感器

SymCom的模型LSRX是一个自供电的走\/不走交流电流传感器设计,以激励输出触点时,4.5安普或更大的存在,并断电时,输出没有电流。该装置将电流互感器、传感器和大电流输出继电器组合在一起,以切换报警电路、接触器和大多数电阻性或感性负载。LSRX可以完成辅助触点的功能,同时具有通用应用和隔离的优点。

Conax 康纳斯 Conax Termination – Terminal Barrel with Lead Wire for Thermocouples (T4) 热电偶温度探头

*端子筒体比护套大,卷边到护套上,并填充密封化合物以防止水分渗透。*T4(HT)高温模型使用高温绝缘化合物来达到900°F(480°C)的工作温度上限。

评论

您需要登录才可以回复|注册

提交评论

提取码
复制提取码
点击跳转至百度网盘