高效落地大语言模型能力,澜码科技正式发布企业级AI Agent平台AskXBOT

热门爆料2023-12-21 23:08:49

  12月20日,“‘智’启‘质’成 AI Agent激发新质生产力暨2023澜码科技产品发布会”在上海漕河泾会议中心成功举办。

  上海市徐汇区科学技术委员会主任、信息委主任、党组书记张宁出席发布会并致辞,上海市徐汇区虹梅街道党工委书记、人大工委主任范润生,漕河泾开发总公司董事长顾伦,漕河泾开发总公司副总经理薛晗,以及中国电信、英特尔中国、中国银联、上汽研发总院、太平保险、金光集团app(中国)、CGL等澜码科技众多生态合作伙伴及客户出席发布会。

  作为国内最早赋能大语言模型应用落地的Agent平台公司,澜码科技首次正式对外发布澜码AI Agent平台AskXBOT,多个通过AI Agent实现大模型应用落地的先锋企业和业内知名专家分享了他们的实践与行业洞察。

  澜码正式推出AskXBOT,可快速定制企业级AI Agent

  大语言模型的热度,几乎贯穿了整个2023年。

  澜码科技创始人兼CEO周健谈到:“2023年是大语言模型的元年,2024年将是AI Agent的爆发年,AI Agent是大语言模型优先落地的最佳形态。”

  高效落地大语言模型能力,澜码科技正式发布企业级AI Agent平台AskXBOT

  在发布会现场,澜码科技正式发布了自主研发的AI Agent平台“AskXBOT”。

  周健介绍,澜码AskXBOT平台由设计器、知识中心、使用端、管理平台四大核心模块构成,将大语言模型能力抽象为文档检索、AI调用、数据查询、智能编程等能力,是基于LLM的Agent与工作流设计、开发、使用、管理、知识沉淀的一站式平台,让专家知识赋能基层业务单元。

  高效落地大语言模型能力,澜码科技正式发布企业级AI Agent平台AskXBOT

  设计器具有预置多种Agent模版、2分钟高效创建Agent、灵活配置满足企业个性需求、所见即所得的预览调试,以及轻松对接澜码仿真平台五大特色。

  此外,工作流设计器通过多种多模态模型集成、常用能力封装、灵活丰富的组件提供,帮助企业快速定制个性化AI工作流。

  知识库可实现Agent辅助知识治理,配合专家知识数字化沉淀;专家知识赋能Agent与工作流,形成良性闭环。

  高效落地大语言模型能力,澜码科技正式发布企业级AI Agent平台AskXBOT

  使用端通过Agent与企业系统的集成,业务人员可以随时随地通过自然语言使用智能体,结合界面交互更直观查看过程与结果。Agent CUI界面支持实时对话获取并即时回复,提供知识推理问答、数据查询分析、任务理解执行等多种技能。工作流GUI界面支持AI工作流批量完成重复任务,智能动态决策进一步降低人工参与成本,过程透明随时随地审查运行结果。

  管理平台可以查看和管理所有企业内的Agent与工作流,包括状态管理、权限管理、使用情况查看;允许将Agent和工作流发布作为服务调用,对外开放API,提供API key管理能力,所有调用记录可在管理平台统一查看、统一管理。

  为了更直观地解释AskXBOT平台的各项功能和易用性,澜码科技产品经理还在发布会直接接入AskXBOT平台,现场演示了如何在真实生产环境下轻松构建一个Agent。

  周健认为,在高度不确定性的今天,以大模型能力为底座的 AI Agent将极大满足企业自动化数字化升级需求,彻底改变企业形态。“澜码AskXBOT平台作为一个软件自动化超级平台,期望能够重构AI时代软件生态。”周健说。

  澜码高效构建AI Agent的三步走法则

  当前,新质生产力被认为是推动经济高质量发展的新引擎。新质生产力以劳动者、劳动资料、劳动对象及其优化组合的质变为基本内涵,以全要素生产率提升为核心标志。

  在澜码科技的视角下,新质生产力很重要的一个载体其实就是 AI Agent。

  周健在发布会中谈到,今天因为有了大语言模型,AI可以增强劳动力,甚至成为新的劳动资料。但是通用大模型在实际执行过程中,会遇到各种各样的环境问题,这时候就需要一个行动系统或具身智能来解决这些问题。

  “我们希望AI Agent成为人与真实世界环境的交互媒介,成为人与系统之间的连接器,甚至作为管理者与基础员工、专家与基础员工,基础员工之间的连接器。”周健说。

  高效落地大语言模型能力,澜码科技正式发布企业级AI Agent平台AskXBOT

  在过去近一年的实践探索中,澜码总结了AI Agent落地时面临的各种挑战,比如现有系统改造和集成投入、Agent响应速度慢、数据权限把控难、多Agent的集成和调度等等。

  “信息化是数字化的前提,数字化是智能化的前提。如果没有把专家知识数字化下来,那么AI Agent的落地会有很大困难。”周健说。

  为了更好地让AI Agent赋能各行各业,澜码科技提出了三步走的AI Agent构建法则:第一步,专家知识的数字化;第二步,基于CUI的柔性交互;第三步,领域知识的循环沉淀。

  作为澜码AskXBOT平台的早期用户,美服数字CTO韩亚伟现身说法,在现场分享了美服数字如何借助澜码AI Agent平台调用大语言模型能力解决业务挑战。

  美服数字聚焦泛美行业,提供现代化经营、管理、组织、教育、集合平台五大产线及解决方案服务。在采用AskXBOT平台之前,美服数字的咨询顾问每天只能提供有限的咨询服务。现在,美服数字在直播时,可以由AI Agent回答粉丝提问,专家可以在后台判断问题回答的好坏并进行答案优化,从而实现高效答疑和获客。

  高效落地大语言模型能力,澜码科技正式发布企业级AI Agent平台AskXBOT

  (图:美服数字CTO韩亚伟)

  “借助澜码AskXBOT平台,我们通过AI Agent解决业务挑战,实现营销分析,促进直播获客,大大提升了整体效能。”韩亚伟说。

  爱分析联合创始人兼首席分析师李喆在演讲中谈到,2024年企业采用大语言模型的首要目标是降低企业运营成本,这是一个可行方向;其次是产品服务体验创新,提升客户需求响应速度、业务收入增长,支持公司AI战略等。他预测,2024年大模型市场规模120亿,同时,AI Agent能力建设和应用建设并行,建设和运营将同等重要。