信息
当前位置: 主页 > 资讯 > 信息
文心一言高频场景下推理性能提升50倍 已有15万企业申请内测
发布日期:2023-05-23 阅读次数:

  国内AI大模型发展速度空前。5月23日,百度智能云在深圳举行文心大模型技术交流会,百度智能云副总裁朱勇表示,自3月16日文心一言内测以来,通过算法和模型的持续优化,在企业服务中,文心一言在高频场景下的推理性能已大幅提升50倍。

  百度智能云透露,目前已有15万家企业申请文心一言内测,其中有超300家生态伙伴在400多个具体场景取得测试成效,主要包括办公提效、知识管理、智能客服、智能营销等代表性场景。

  据了解,在AI大模型领域,百度智能云打造了包括文心一言在内的文心千帆大模型平台,该平台致力于赋能千行百业打造属于专属大模型。

  3月27日,百度智能云举行文心一言企业客户闭门沟通会,百度智能云文心千帆大模型平台面向首批企业客户启动内测,正在与不同领域客户联合研发,在智能办公、旅行服务、电商直播、政务服务、金融服务五大领域打造行业样板间。同时针对不同的客户和开发者需求,未来,文心千帆平台将提供公有云服务、私有化部署两种服务模式。

  在今日举行的交流会上,金蝶软件有限公司苍穹平台解决方案事业部总经理徐昊表示,金蝶正在与文心千帆大模型平台共同探索大模型与企业管理软件在智能财务管理、智能人力资源管理、智能运营管理等AI应用场景的落地。

  “金蝶是第一批测试百度智能云文心大模型的企业级用户,文心一言对中文理解非常到位,我们跟中国的大模型结合,为中国客户服务,我认为是可以打造出世界一流的智能管理系统。”徐昊表示。

  百度智能云副总裁朱勇表示,大模型技术的发展,对于AI研发和应用的范式带来了深远的影响。

  首先,AI应用中的模型训练,从单任务的定制化建模,变成了跨任务、跨模态、跨语言的统一建模;其次,基于大语言模型,实现了用人类最自然的语言方式与机器进行交流,而不需要人去适应机器;第三,很多应用问题不再需要针对性地编程,而是通过提问题就能得到答案;最后,大模型具有分解和处理复杂问题的能力,并且可以调起外部插件,进一步拓宽了大模型的应用空间。

  朱勇强调,这些范式的变革,对于百度智能云所有的应用来说,意味着开发效率更高、应用效果更好,用户体验更优,同时,也意味着产品创新的速度会大幅提升。

  自3月16日文心一言启动内测以来,性能一直在持续升级,已完成多次大的版本迭代。百度智能云AI与大数据平台总经理忻舟表示:“4月,文心一言内测一个多月,推理性能已经提升了10倍。5月,在文心千帆大模型平台,我们通过四层架构(芯片-框架-模型-应用)的端到端优化,在高频场景中,将推理性能进一步提升了5倍。因此,在企业服务中,文心一言在高频场景下的推理性能已经大幅提升50倍。”

  忻舟表示,企业想用好大模型,只有大模型仍不够,还需要有成熟完备的大模型生产平台。百度智能云推出的文心千帆大模型平台,是全球首个一站式的企业级大模型平台。聚焦“企业级”、“一站式”,旨在降低大模型使用门槛,满足不同行业、不同规模、不同开发能力的企业用大模型的需求。

  据百度智能云介绍,文心千帆大模型平台不仅提供文心一言的企业服务,还支持第三方开源大模型,并提供全套工具链和开发环境,加速大模型落地。文心千帆主要提供两种服务:第一以文心一言为核心,提供大模型服务,帮助客户改造产品和生产流程。第二,企业可以在文心千帆上基于任何开源或闭源的大模型,开发自己的专属大模型。文心千帆提供大模型开发和应用的整套工具链。简单来说,企业想使用大模型,在文心千帆大模型平台可以一站解决。

  百度智能云方面表示,内容创作、智能客服、办公提效是目前三大高频需求场景。百度智能云的六大智能产品系列,也将基于文心大模型全面升级,包括:政务、金融、智能创作、智能客服、数字人直播平台、企业知识管理等,未来将在安全评估完成后上线。

  百度智能云AI应用产品部总经理刘倩表示,以智能客服为例,基于大模型,百度智能云升级了智能客服的应答辅助、会话小结、智能工单、客服知识库等功能。升级后,知识生产效率提升9倍,多轮对线%,可让终端用户获得到更聪明、更拟人的客服体验。

  此外,百度网盘企业版是百度智能云面向中小微客户推出的重要企业服务。活动现场,百度智能云网盘产品部总经理吴天昊表示,百度网盘企业版将基于文心大模型升级三大企业应用:

  首先,在“智能文件管理”方面,将面向企业办公常用的合同票据、设计素材等57个场景定制分类标签,实现企业文件的快速管理与查找。第二,在“智能知识理解”方面,结合文心一言的“企业知识官”服务正在内测中,未来可通过对话式交互,对企业文件进行总结、提炼、翻译、格式转化。第三,除文档、文本相关应用外,“智能多模态加工”可实现商业级的图像处理,对人像、物品进行一键AI抠图、修图、换背景。

  面向有技术开发能力的企业,“百度网盘开放平台”将提供灵活、贴近场景的解决方案。例如,摄影行业可使用“即拍即选”服务,实现一键上传、AI修图、自动套版、生成网盘链接分享,将传统5天的服务时间压缩至15分钟。教育行业可使用“智能文档”解决方案,实现阅读辅导、试题生成、学情分析。电商行业可通过智能多模态加工的AI商品图,大幅节省拍摄及营销物料制作成本。智能硬件厂商也可集成网盘能力,连接用户网盘的数据和知识,并将网盘的语音转写、视频转音频等能力赋能阅读器、听力机、词典笔等硬件。

  过去,很多企业是先做数字化、再做智能化。然而随着全球性“AI再造”的序幕全面拉开,不能快速跟上的企业将会失去未来的竞争力。刘倩表示,希望推进大模型深度赋能千行百业,为企业带来生产经营效率和用户体验效果的双效提升,真正帮助企业同步进行“数字化转型”和“智能化跃迁”。