10月25日,由声网和RTE开发者社区联合主办的 RTE2024 在北京举行。
2024年以来,随着大模型应用进入深水区,无数传统的产品逻辑、业务流程、组织形式都在被AI优化、重构。天润融通也积极推动AI大模型在企业营销与客户联络等场景下的应用落地,并积累了丰富实践经验。
由此,在RTE2024上,天润融通作为嘉宾受邀在RTE+AI赋能的数字化场景创新论坛上分享AI技术应用落地的经验。
天润融通CTO安静波出席,并分享了天润融通利用Agent在企业营销与客户联络领域应用的思考与实践经验。安静波提到,Agent将重塑企业客服和营销的组织架构与业务流程。
一、Agent重构客户服务软件
在企业营销与客户联络领域,过去20多年基于传统互联网已经形成了一套完善且非常稳定的软件架构和业务流程。
但大模型横空出世之后,这一套体系正在逐渐被效率更高的大模型应用所替代,这既是一种技术趋势,也是时代发展的方向。天润融通也同样积极拥抱AI,探索AI大模型在企业营销与客户联络方面的应用。
“我们在内部提出了一个口号,叫Every step with Agent(用Agent替代每个环节)。”安静波表示,我们要求所有的产品经理和研发人员在开发新功能时都要思考,这个功能是否可以用AI代替,如果用AI代替它会是什么情况。
到2024年,我们将这种思考具体到Agent。
传统企业营销和客户联络产品,用代码的方式固化软件功能和业务流程,而现在我们提出“用Agent替代代码”,即将每一个业务具体为一个Agent,比如意图分析、客户匹配和导航等,再采用流程编排和提示词的方式,将多个Agent组合起来形成一个大的业务流程。
此外,天润融通还开发了实时智能体。在企业营销和客户服务中,无论什么场景,实时的响应能力都是核心指标。
而所谓实时智能体,是指具备低延时响应(端到端响应时延<1s),可以像真人一样表达,带有情绪,有语气词,可以随时被打断,在沟通中附和;可以和真人一样有逻辑推理能力,并能一边对话一边查询操作。
在经过实时智能体优化前,智能体的沟通总时延通常为2.1s到3.8s左右,但经过天润融通的优化后,目前我们的实时智能体总时延仅为0.7s~2.0s。
过去一年,天润融通已经完成开发并上线了80多个智能体,并在传统的业务流程中实现替换。我们期望通过这种方式,让AI能够融入到业务流程的每一步。
二、知识库是Agent的重要支撑
基于Agent,天润融通重新设计了智能体平台架构。在这个新的平台架构中,企业知识库是其中的核心。
“如果没有企业知识库,所有的事情都无法顺利进行。”安静波表示。
在企业知识库的建设上,天润融通有一套完整的方法论,可以针对企业的知识构建闭环,然后不断完善,使知识越用越多,越用越精准。
除此之外,天润融通还在这个架构中搭建了一些架构和工具用来辅助Agent的开发,包括智能体搭建工具,调试工具和大模型测评工具等等。
如今,大模型的技术日新月异,每隔一段时间就会有新的大模型上线,如果能够快速测试这些新大模型的水平,就能帮助Agent应用快速上线。可以说,使用这些工具可以极大地方便企业的开发流程,降低运营成本。
三、Agent重塑组织结构
如今,以大模型为代表的新兴技术正在快速改变传统的组织和业务形式。
比如在组织层面,未来企业客服和营销的组织结构将通过智能体被重塑,衍生出新的角色分工及更深层次的组织变革,实现人机协作的高效运作,从而提升企业的服务质量和市场竞争力。
“我认为在未来的企业营销和客户服务领域,随着Agent越来越接近人类水平,普通员工会变得非常少,未来的企业会更多出现金牌员工+Agent的组织形式。”安静波表示。
在业务层面,智能体将深刻重塑企业业务流程,实现自动化、智能化决策,通过大模型对洞察能力提升,推动业务创新,解决能力提升,为企业带来更多的业务增长。
目前天润融通基于Agent的客户联络平台已有20多家中大型客户使用,每月通话分钟数已达到500万以上。天润融通也欢迎更多企业能够与我们一起,探索Agent在客户服务和企业营销领域的新应用。