李彦宏偏爱小模型|AI光年
发布时间:2024年10月25日
大语言模型对企业、机构、高校的实际价值是什么?百度创始人、董事长兼CEO李彦宏认为,大语言模型本身不直接创造价值,真正有市场需求的是基于大模型开发出来的AI应用。
4月16日,李彦宏在Create
2024百度AI开发者大会上分享了基于大模型开发AI原生应用的三个思路:
一、未来大型的AI原生应用基本都是MoE的。即大小模型的混用,不依赖一个模型来解决所有问题;
二、小模型更有效价比。小模型推理成本低,响应速度快,在一些特定场景中,经过精调后的小模型,它的使用效果可以媲美大模型;
三、智能体大幅降低开发门槛。可低代码甚至零代码生成AI原生应用。
“我觉得
Robin 这点说得非常对,在初始的应用尝试过去之后,模型的特化会是一个从效果上和从性价比上更加 make
sense 的选择。”阿里前技术副总裁贾扬清在朋友圈称。
他打了一个比方:如果有一个清华北大伯克利哈佛斯坦福五料博士+钢琴十级+国家一级运动员过来给你做日程助理,而且工资可以很便宜,那肯定有点什么问题。
“在这个假设之下,好的平台产品,如果能高效地让更多的工程师能够像操作标准化软件一样做 finetuning、deployment、以及再训练的闭环,将会开拓一个非常大的市场。”贾扬清说。
根据以上三个思路,百度发布了三款智能体开发工具AgentBuilder(零门槛的智能体开发工具,适合个人)、AppBuilder(可用自然语言开发AI原生应用,适合企业)、ModelBuilder(模型定制工具,适合专业开发者)。
以及三款轻量模型+两款垂直模型:ERNIE Speed、ERNIE Lite、ERNIE Tiny、ERNIE Character、ERNIE Functions。《AI光年》发现,部分模型租赁在今年有7折优惠。
开发AI的人,是否会最先被AI取代?
由无数代码托起的互联网公司,在AI时代首先做的便是彻底改变开发者群体本身。
“你只要会说话,就可以成为一名开发者,用自己的创造力改变世界。”李彦宏称,大模型和生成式AI,将彻底改变开发者这个群体。过去,开发者用代码改变世界;未来,自然语言将成为通用编程语言。
百度基于文心大模型开发了智能代码助手Comate,百度每天新增的代码中,已经有27%的代码由Comate自动生成的。
写代码是大模型最擅长的事,除百度外,国内外公司都有这一方向的尝试。
比如,阿里云正在内部全面推行AI编程,并推出了一款名为“通义灵码”辅助程序员写代码、读代码、查 BUG、优化代码等。未来阿里或20%的代码由AI程序员编写,人类程序员则更多关注系统设计以及核心业务开发工作。
有使用过相关功能的程序员告诉《AI光年》,从目前能力上来看,AI程序员相当于刚入行的“萌新”,暂时替代不了能处理特例、复杂场景的人类程序员。
此前,海外AI初创公司Cognition AI推出的,宣称“全球首个完全自主的AI程序员Devin”,前两天也被爆其演示可能存在造假。
大模型场景下,开源比闭源更贵
李彦宏关于“闭源模型在能力上会持续领先开源模型”的观点引来了业内大佬对垒。360集团创始人、董事长周鸿祎在第27届哈佛中国论坛上力挺开源模型。
“我一直相信开源的力量,网上有些人胡说八道,你们也别被他们忽悠了,说开源不如闭源好。”周鸿祎称,没有开源,就没有Linux、没有互联网。“连说这话的公司(支持闭源)自己都是借助了开源的力量才成长到今天。”
他认为,开源社区聚集的工程师和科学家的数量是闭源的数百倍。“我觉得未来一两年内,开源的力量很有可能会达到或者超过闭源的水平。”
李彦宏在会上继续重申了自己的观点,并称“开源模型会越来越落后”。
他的依据是,基于基础模型——文心大模型4.0,可以根据需要,兼顾效果、相应速度,推理成本等各种考虑,剪裁出适合各种场景的更小尺寸模型,并且支持精调和post pretrain。“这样通过降维剪裁出来的模型,比直接用开源模型调出来的模型,同等尺寸下,效果明显更好;同等效果下,成本明显更低。”
“大家以前用开源觉得开源便宜,其实在大模型场景下,开源是最贵的。所以开源模型会越来越落后。”李彦宏称。
除此之外,在李彦宏看来,市场上一定会有开源的模型,而且是不止一家会开源。国外有Llama,Mistral等有影响力的开源模型,国内也有智源、百川、阿里的通义等开源大模型。“这个市场上不缺我们这一家开源的模型。我们要开源还得自己去维护一套开源的版本,这是不划算的。”
据李彦宏介绍,相比一年前,文心大模型的算法训练效率提升了5.1倍,周均训练有效率达到98.8%,推理性能提升了105倍,推理的成本降到了原来的1%。即同样成本下,原来一天只能调用1万次,现在一天可以调用100万次。
文心一言自发布至今,用户数破2亿,每天API的调用量也突破2亿,使用企业数量达8.5万,利用千帆平台开发的AI原生应用数超19万。
出自:https://mp.weixin.qq.com/s/JXDQBadO2O1ZJDWACl-cTg
如果你想要了解关于智能工具类的内容,可以查看 智汇宝库,这是一个提供智能工具的网站。
在这你可以找到各种智能工具的相关信息,了解智能工具的用法以及最新动态。
Connected Papers是一个您输入论文标识符(如DOI、arXiv ID、URL、标题等),或者直接输入论文的标题,就可获得该领域类似论文的可视化图表。从而更好地了解该领域的趋势、研究动态。