https://blog.gby.ai/series/llm/ Recent content in LLM on GbyAI Hugo -- gohugo.io zh Content under license [CC BY-NC-SA 4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/) Thu, 06 Feb 2025 00:00:00 +0000 https://blog.gby.ai/medical-beauty-aigc-agent/ Sun, 12 Nov 2023 00:00:00 +0000 https://blog.gby.ai/medical-beauty-aigc-agent/ 自 23 年 1 月 OpenAI 爆火之后，体验过由 AI 带来的转变，于 23 年 6 月转入 AI PM。在当时的所思所想所做，部分落地思路以及效果是领先于行业的。我认为像是医疗相关的垂直行业如果可以做的好，那么别的也不在话下。有可能目前我们的技术达不到产品想要的效果，但是我理解并且坚信奥特曼所说： “以通用人工智能的实现为前提进行创业和技术开发” “最正确的做法是设想一个上帝般的模型正在运作，然后基于这种设想来构建最好的产品” 一、背景 年初以来 ChatGPT 迅速走红后，成功引爆了人工智能行情。人工智能板块行情的涨幅以及持续时间都远超最初的市场预期。 比尔·盖茨认为，“ChatGPT 的重要性不亚于互联网的发明”。同样，ChatGPT 即将创造的新业态、新模式也不会亚于互联网。 AI 正在掀起第四次工业革命，AI 大模型的竞争是下一代信息分发获取方式的竞争，基于认知智能等新技术可实现更高效的信息整合和知识推荐，让信息获取更加高效，内容更加精准。 大模型的成熟加速了 AI 技术向各场景的应用。 医美行业作为第三产业，其作为涵盖人数最多，覆盖面最广的行业之一，医美数智化转型是大势所趋。 撇开 ToC 的场景，针对 B 端需求来说，场景太多了，每一个都值得深挖： 企业知识库：网易 QAnything、Danswer、AnythingLLM 等 OA 办公方面各种助手：Microsoft 365 Copilot、WPS AI、百度如流、飞书智能伙伴等 底层模型 SaaS 服务：minimax、文心一言、OpenAI API 等 HR 方向：MOKA 简历自动筛选匹配 低代码和 RPA：fastGPT、dify、coze、N 8 N 等 电商：虚拟换装、秒出营销文案、辅助创造营销设计图、一键制定和分发优惠券、形成趋势分析等 辅助诊断：讯飞医疗、skinGPT（皮肤诊断+电商）、medGPT、宠物医疗 AI 在线问诊等 CRM：商机线索、潜客挖掘、销售预测、智能客服、数字员工、数字人、数据分析等 ... 智能客服是自擅长多轮对话的 ChatGPT 推出以来，被人们最先联想也是最容易业务对接的领域。也是一个老生常谈经久不衰的领域，大模型到底能为智能客服带来什么新生？ 二、难点 它山之石可以攻玉 那么既然大家都能想到智能客服，那么为什么到现在能够成功商业化的 AI 智能客服还没有批量涌现？ https://blog.gby.ai/a-brief-interpretation-of-deepseek-r1-from-the-perspective-of-aipm/ Thu, 06 Feb 2025 00:00:00 +0000 https://blog.gby.ai/a-brief-interpretation-of-deepseek-r1-from-the-perspective-of-aipm/ 近期，国内大模型公司DeepSeek发布的V3和R1模型引发了广泛关注，甚至被部分媒体称为“国运级创新”。我自己也深度体验了一下确实能力近似追平了 o1，阅读了不少文章，简单说说对产品上的影响，做个记录 一、核心创新：用更少的算力做更多的事 DeepSeek的核心突破在于提升大模型的效率，通过架构优化降低算力需求，这对产品落地成本有直接意义。 1. MLA（多头潜注意力）：压缩计算过程的“内存杀手” 问题：传统模型在生成文本时需反复调用历史数据（KV缓存），占用大量内存和算力。 解决方案：MLA通过数学压缩技术（低秩近似），将历史数据体积缩小至原来的1/4-1/8，同时保持关键信息。类似将高清视频转为压缩文件，既节省存储空间，又能快速解压使用。我的理解像是 comfyui 里面的 latent space 通过降维减少计算量 效果：计算效率提升2-4倍，长文本处理能力更强，适合需要多轮对话的场景（如客服、长文档分析）。 2. MoE（混合专家）架构：让模型“按需调用专家” 传统问题：通用大模型处理所有任务时需激活全部参数，算力浪费严重。 DeepSeek改进： 细粒度专家：将模型拆分为大量小型专家（100+个），每个任务仅调用少数相关专家（类似“分科室会诊”）。 负载均衡：动态调整专家调用频率，避免某些专家被过度使用（如“避免所有病人都挂同一个专家的号”）。 效果：相比传统模型，训练算力节省10倍，推理效率提升4倍以上，尤其适合通用场景（如搜索引擎、多任务助手、类似 ChatGPT 官网），但是并不适用 ToB 方向严重依赖 RAG 的场景 3. 训练框架优化：硬件利用率提升的“幕后功臣” FP8低精度训练：用8位浮点数替代传统16/32位计算，减少显存占用并加速训练（类似用简谱替代五线谱，保留核心信息但更高效）。 通信优化：通过定制化调度策略，减少GPU间的数据传输瓶颈（如优化物流路线，避免堵车）。 成果：万卡集群训练成本降低40%，模型迭代速度显著提升。 4. R1 的训练路径简图 二、对产品落地的实际意义 1. 成本优势 训练成本下降：V3模型的训练算力需求仅为同类模型的1/10，降低企业自研大模型的门槛。 推理成本优化：MoE架构在通用场景下激活参数更少，适合高并发服务（如智能客服）。 2. 场景适配性 To B场景：Dense架构（非MoE 的稠密架构，目前绝大多数模型的架构）在垂直领域仍具优势（如医疗诊断模型），需结合业务需求选择。 To C场景：MoE模型在通用问答、内容生成等场景性价比更高。 3. 长期技术红利 开源生态：R1模型性能接近OpenAI闭源模型，为中小团队提供高质量基座，对于输出质量的提升尤为明显，但是建议蒸馏一些小的开源模型效果会更佳，例如 32b 的 qwen 等 技术复用：MLA、MoE等优化方法可迁移至其他模型，推动行业整体效率提升。 三、澄清市场误读：技术突破≠颠覆生态 1. “打破CUDA垄断”？尚未实现 现实：DeepSeek仍依赖英伟达GPU，其底层优化基于CUDA生态的PTX指令（类似在Windows系统内做优化，而非自研操作系统）。 挑战：国产GPU尚未形成完整开发生态，短期难以替代。 2. “引发英伟达市值大跌”？过度关联 技术视角：MoE是行业常规演进方向，DeepSeek的优化反而验证英伟达GPU的潜力。 市场主因：股价波动更多源于美国政策风险及行业周期调整（算力显卡卖不到中国着急了哈哈） 3. “算力霸权转移”？为时尚早 算力需求仍在增长：模型效率提升会刺激更大规模应用，而非减少需求。 存储瓶颈更关键：未来竞争焦点可能是显存带宽（HBM），而非单纯算力。 四、给 AIPM 的行动建议 关注成本结构变化：MoE模型可降低通用场景的推理成本，在预算规划中预留架构切换空间。 评估场景适配性：To B垂直领域还是优先采用Dense模型，To C通用场景试点MoE。 跟踪开源生态：DeepSeek-R1的开源版本可作为低成本试错工具，快速验证产品需求。 Get your hands dirty 五、聚合一波了解 deepseek 最好的文章、视频、播客 了解渠道分类 地址 视频+文本非技术人员解读（非常推荐非常推荐） https://mp. https://blog.gby.ai/creating-a-llm-as-a-judge/ Thu, 31 Oct 2024 00:00:00 +0000 https://blog.gby.ai/creating-a-llm-as-a-judge/ 简直说到我的心巴坎去了，从我做智能客服开始的时候就不止 N 次，要求团队增加一个专业的医美客服来全程跟！ Hamel Husain 这篇内容真的很好，全是实践经验。 介绍如何帮助模型团队避免被各种指标淹没。 据我观察他说的这些问题国内模型训练团队也都有： 创建大量难以管理的指标 非常随意的评分标准 忽视领域专家意见 指标不能反映对用户或业务需求 重要观点 真正的价值在于数据分析过程, 而不是评判器本身 简单的 Pass/Fail 比复杂评分系统更有效 过程是迭代的, 需要定期重复或在重大变更时执行 不能完全消除人工介入, 但可以减少所需工作量 实施建议 不要跳过数据检查步骤 让专家评审过程尽可能简单从简单开始, 需要时再增加复杂度 保持评判标准的一致性 关注业务目标而非技术指标 常见误区 过早使用复杂评分系统 忽视领域专家意见 过分依赖现成的评估框架 期望完全消除人工介入 原文地址： https://hamel.dev/blog/posts/llm-judge/ https://blog.gby.ai/paper/ Thu, 19 Sep 2024 00:00:00 +0000 https://blog.gby.ai/paper/ Transformer：所有 LLM 的始祖，迈向 NLP 新时代的基础架构 论文名称：《Attention is all you need》 发布时间：2017/06/12 发布单位：Google、多伦多大学 小学生概括：传统的序列转换模型使用复杂的循环（RNN）或卷积 (CNN)神经网络，包括编码器和解码器。表现最好的模型会透过注意力机制连接编码器和解码器。 而我们提出了一种新的简单网络结构，Transformer，完全基于注意力机制，不再使用循环和卷积。 Transformer 的特别之处在于它用了一种叫"注意力"的方法来理解语言。这就像人类在读一个句子时，会特别注意某些重要的词一样。 在Transformer出现之前，人工智能处理语言时需要按顺序一个词一个词地读，就像我们从左到右读一句话。但Transformer可以同时看整个句子，这让它更快、更聪明。 论文链接：https://arxiv.org/pdf/1706.03762.pdf 核心技术：模型架构 GPT-1：autoregreesive Transformer 始祖 论文名称：《Improving language understanding by generative pre-training》 发布时间：2018/06/11 发布单位：OpenAI 阅读重点：多层Transformer解码器、自回归模型 小学生概括：想象一下,你正在学习一门新的外语。一开始,你可能会通过大量阅读和听这门语言来熟悉它的结构和用法,这就像论文中说的"生成式预训练"。 在这个阶段,电脑会"阅读"大量的文本,学习语言的基本规则和模式。这就像你在学习新语言时,先大量接触这门语言,了解它的基本结构和常用表达。 接下来,当你想要完成特定的任务时,比如回答问题或写作文,你会针对这些任务进行专门的练习。论文中称这个过程为"判别式微调"。对电脑来说,这就是在完成特定的语言任务时进行额外的训练。 研究人员发现,先让电脑进行大量的"阅读"(预训练),再针对特定任务进行专门训练(微调),效果比直接让电脑学习特定任务要好得多。这就像你先广泛接触一门语言,再专门练习某项技能(如写作或口语),会比直接上手练习特定技能效果更好。 这种方法在很多语言理解任务中都表现出色,比如理解故事情节、回答问题,以及判断句子之间的关系等。研究人员发现,使用这种方法训练出来的通用模型,在多数任务中都比专门为单个任务设计的模型表现得更好。 总的来说,这项研究为让电脑更好地理解和使用人类语言开辟了新的道路,这对于改进各种语言相关的技术,如翻译软件、智能助手等都有重要意义。 链接论文：https://arxiv.org/pdf/1810.03993.pdf 核心技术：有监督微调架构 BERT：autoencoding Transformer 始祖，迈向 NLP fine-tuning 时代 论文名称：《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》 发布时间：2018/10/11 发布单位：Google 阅读重点：自动编码模型、屏蔽标记和下一句预测。 小学生概括：想象一下,你正在学习一门新的语言。通常情况下,你可能会通过阅读课本,听老师讲解,然后做练习来学习。但是,如果有一种超级厉害的学习方法,可以让你更快更好地掌握这门语言,那会怎么样呢? BERT就像是这样一个"超级学习机器"。它的特别之处在于: 广泛阅读: BERT会"阅读"大量的文章和书籍,就像一个贪婪的读书人一样。 上下文理解: 当BERT看到一个词时,它不只是理解这个词本身,而是会看这个词前后的其他词。这就像你在理解一句话时,不只看一个字,而是看整句话一样。 猜词游戏: BERT会玩一种特殊的"猜词游戏"。它会遮住一些词,然后根据周围的词来猜测被遮住的词是什么。这个游戏帮助BERT更好地理解语言。 预测下一句: BERT还会玩另一个游戏,就是猜两个句子是不是本来就应该挨在一起的。这帮助BERT理解更长的文章结构。 灵活应用: 经过这些"训练"后,BERT就变得非常聪明了。它可以快速地适应各种语言任务,比如回答问题、判断句子之间的关系等。 总的来说,BERT就像一个超级学霸,它通过大量阅读和特殊的学习方法,成为了一个在语言理解方面非常厉害的"机器人"。科学家们可以利用BERT来做很多有趣的事情,比如制作更智能的聊天机器人,或者帮助计算机更好地理解人类的语言。 https://blog.gby.ai/o1/ Sat, 14 Sep 2024 00:00:00 +0000 https://blog.gby.ai/o1/ 看过一些 o1 的文章介绍之后的感想&总结： 一、预训练 Scaling Law 正式翻篇，推理 Scaling Law （Self-play RL）正式开始，所以推理时间久，而且刚开始就具备博士级别的能力 二、Prompt 编写范式变化：简单、层次清晰，但能力更强。这点结合群友刚哥的 Claude 提示词卡片就可以看出，将是未来提示词最大的发展趋势了。 Prompt 编写范式变化 1. 新的 O1 内置 Agent 和 CoT，可以判断思考结果是正确还是错误，所以无需人工添加 CoT O1 擅长提供清晰的指令，更少的 Prompt 和 RAG 上下文解决问题，可以使用 xml、lisp 等语言分隔让层次更清晰 很多需要分解为多步 Agentic Workflow 的，目前可能一个 API 搞定 三、推理（数学+编程）革命性突破，文字创作可能更差 推理能力提升带来的范式变化 可解决复杂的数学问题或者多步依赖条件问题，因为能判断结果正误，比如微信数字生命卡兹克给出的例子「调休例子」、「奥数题」 https://mp.weixin.qq.com/s/edpeHU_q6I4BPmHE2-daIQ… 逻辑创作能力：比如海龟汤问题，需要逻辑判断来撰写故事，这类问题能很好的解决，悬疑故事新解？!🤔 推理时间带来产品设计的思考 目前 O 1 Preview 回答一个问题大概需要思考 15～2 分钟，意味着场景从实时 Copilot/Chatbot 场景抽离出来，可能迈向更多异步、或者本身就是很难的多步复杂任务处理（用户愿意付更多钱） 四、OpenAI 公布的研究很少，但是社区已经有一些有意思的工作与论文 研究推理阶段的 Scaling Law https://arxiv.org/abs/2407.21787v1… Q* 灵感：https://arxiv.org/abs/2403.09629 LLM 推理：https://arxiv.org/html/2403.04121v1… 更多的推理计算 https://arxiv.org/abs/2408.00724 \ Alpha 蒙特卡洛搜索 https://arxiv. https://blog.gby.ai/long-context/ Thu, 07 Mar 2024 00:00:00 +0000 https://blog.gby.ai/long-context/ 最近发布的 claude 3 支持 200 k 的上下文，简单回顾了一下到 2024 年 3 月 7 号为止超过 100 k 上下文窗口的大模型。 模型名 最大上下文 大海捞针通过率 Claude 3 系列 100-200 K >99% Claude 2.1 200 K >50% GPT 4 128 K >95% Yi-34B 200 K 无 Baichuan 2 200 K >90% ChatGLM 4 192 K >99% kimi chat 192 K >99% XVERSE-Long 256 K 无 InternLM 200 K 无 Gemini 100 K 无 长上下文带来的益处 模型性能的提升 大型语言模型的上下文窗口扩大到200K tokens，意味着模型可以在单个输入中处理更长的文本。这对于理解长篇文章、书籍、编写更长的内容或进行深入的话题分析具有显著优势。模型能够捕捉到更长文本中的细微联系和结构，从而提高了语言理解和生成的质量。 应用场景的扩展 https://blog.gby.ai/sora/ Wed, 21 Feb 2024 00:00:00 +0000 https://blog.gby.ai/sora/ 持续记录一些自 Sora 发布以来的一些思考 官方网址：OpenAI Sora 2024-02-21 1.视频压缩网络： 功能：将输入的视频或图片压缩成低维度的表示形式，类似于将不同尺寸和分辨率的图片“标准化”，以便于处理和存储。 目的：通过降维处理，Sora 能够更高效地处理视觉数据，同时保留足够的信息来重建原始视频内容。 2.空间时间补丁提取： 功能：将压缩后的视频数据进一步分解为“空间时间补丁”，这些补丁包含了视频内容的基本构建块，即视频中的小块区域及其随时间的变化。 目的：通过这种方式，Sora 能够细致地处理视频内容的每一个小片段，并考虑它们随时间的变化，从而更好地理解和生成动态视频内容。 3.视频生成的 Transformer 模型： 功能：接收空间时间补丁和文本提示，决定如何将这些片段转换或组合以生成最终的视频。 目的：Transformer 模型根据文本提示中的故事，将空间时间补丁组合成连贯的视频内容，讲述文本提示中描述的场景。这个过程通过数百个渐进的步骤完成，每一步都让视频内容更接近最终目标。 4.目前的局限性 物理世界模拟的准确性、长视频生成的困难、准确理解复杂文本指令以及训练与生成效率的挑战 优化方式：扩大训练数据集、集成物理引擎、改进训练算法、优化模型结构和利用硬件加速 https://blog.gby.ai/llm-pk-tradition/ Fri, 26 Jan 2024 00:00:00 +0000 https://blog.gby.ai/llm-pk-tradition/ 一、LLM 改变 AI 客服构建知识的过程 LLM现有对客服质量提高主要体现在构建知识上 体现AI客服构建差异主要有几个点：构建的速度和质量，以及AI将答案吐出去的效果和带来的用户体验的提升。 **从效果来看，最重要的是工单解决率。**解决率的定义一般是AI回复最后一轮后，用户间隔一段时间不再发文就可视作为工单已解决。在不同行业和客户意图下，解决率的差异非常大。 如3C卖家产品的排故相比游戏攻略咨询的解答难度就高很多，游戏攻略咨询可以轻松达到90%+的解决率，但3C排故解决率做到70%就很难。以3C类的Trouble Shooting为例，目前如果是传统的FAQ Bot，解决率能够达到70%-80%。这是一个比较高的解决率，达成有很多前置关键因素和条件，抛开算法效果优化等，最关键的是FAQ的构建质量。 LLM Bot可以做到在70-80%解决率情况下，比FAQ Bot花费更少的构建精力。在知识更新上，比FAQ Bot更加容易。 LLM可以提高知识构建的速度和质量 传统的AI客服需要花费大量的人力进行业务梳理和交付，需要逐条构建出QA List。而大模型本质上是一个生成模型，只要提供合适的语料和设计出COT（Chain of Thought），就能快速地构建知识。 对于大模型来说，输入来源可能是用户历史积攒的语料、用户网站的帮助中心，甚至之前客服的沟通记录，借助大模型可以快速将知识库拉到不错的基线水平。然后基于这个基线水平，再往上做精做细，从而提升知识的质量。 达到相同的解决率，基于大模型的构建ROI会比传统AI客服高很多。例如，如果都需要达到70%的解决率，之前的方案需要花费很长时间梳理和构建知识，需要设计一套Dialog Flow模板配置，此类的模板可能非常复杂。现在基于大模型方便很多，可以用几百条语料做到过去几千上万条语料的效果。 LLM可以加速FAQ的构建过程，但目前尚不能实现全部流程的自动化，需要行业的专业客服人员介入一起构建。如果客户对回答质量要求非常高，专业客服必须要介入构建的过程。 在大促和上新快的场景应用大模型构建尤其方便 传统的AI客服构建方法提供知识库给商家，商家按照知识库模板，商品粒度加上每个商品下面挂FAQ的方式构建结构化知识库。例如，一万个商品乘以每个商品对应的上百FAQ，FAQ的整体数量就会到百万级，整体量级太大造成非常难维护。在每次上新和活动期间，也都需要人工去动态配置。 LLM将传统非结构化知识变成结构化知识的过程跳过，可以直接基于非结构化知识进行构建。可以通过更原始的生产资料进行构建，例如Excel文档或者DOC文档。 以Excel为例，不同商家和供应商虽然都是Excel，但是表格中每个cell的粒度和内容都不同。行业属性，比如数码行业和服装行业，表格Schema格式不同。传统方法是将Excel转换为FAQ工作，现在可以通过LLM直接消化Excel文件，理解不同表格中的内容的含义以及每个cell的内容，然后就可以通过大模型进行商品信息问答。相当于商家上传Excel后直接基于Excel进行对话，这是工作上的极大简化。 **对于很多电商客户来说，运营的时效性要求很高，尤其是大促的时候。**不同电商平台的大促活动相关信息更新频繁，大促期间商品的卖法也会有变化，客户很难及时更新传统的知识库，这已经成为不少商户客服运营时候的瓶颈。LLM的出现可以节省人员和时间，在大促期间可以使知识库的更新更加灵活。 在尝试根据图片来构建，但还无法达到商用效果 现在也有一些尝试使用大模型将图片作为输入直接构建问答，依托商品的规格图和说明书PDF等。 这些图片和PDF没有必要翻译成文字，再翻译成FAQ提供给机器人。LLM模型能够在这个领域实现，可以直接通过看图说话。 这里的商业价值非常明确，但从实际效果来看，测试过许多开源模型，目前效果仍然不能达到商用，需要继续打磨。 二、LLM 客服的其他优势 LLM客服在语言、情绪帮助很大 出海场景上，很多客户需要提供多语言支持，同时需要提供8-9种语言的情况非常常见，LLM天生具备多语言转换能力。在传统的FAQ Bot上，针对不同语言、不同国家都需要重复配置，LLM可以只需配置一次。 特别对于SMB客户，成本不允许其在海外搭建客服中心，对于SMB出海客户的帮助是非常大的。 在不同场景意图下，解决情绪相关的问题也有一定的价值价值，例如在客户投诉意图下，情绪安抚就非常重要。从效果上来看，LLM的效果远远超过过去的NLP情绪识别，在回复上也更加贴合场景。 另外，当LLM识别出用户情绪变得越来越差时候，仍可将其转移到人工客服作为兜底的办法，进一步降低业务风险。 准确性与LLM的关联不大 LLM的方案仍然是进行知识召回，Ranking排序，然后提炼答案。这套体系在FAQ Bot和LLM Bot上差别不大，仍然是传统排序算法。 基于这套方法论后，最终答案是否出现在Top5或者Top10，称之为最终答案的hit rate，这体现了回答的准确性。LLM的工作主要体现在上游的构建内容，和下游的提炼总结、互动。 归根结底，准确性取决于知识库内的知识准不准，准确性的前提是标准答案存在。 LLM客服更容易获得更高的客户满意度 在关注ROI之外，也需要关注客户满意度指标，客户满意度很难直接用财务体系去换算。 例如LLM客服可以更加人性化，在沟通时候让客户觉得更加舒服，增加了复购，满意度本身的价值比较难量化。 在售前环节，LLM也可以提高转化率，也需要从GMV视角去折算成本。 三、LLM 客服在 Agent 上的探索 LLM客服的Task Bot需要用到Agent AI客服分为FAQ Bot和Task Bot，需要用到Agent，目的是解决用户业务查询和办理的需求。 以Trouble Shooting为例，如果排故排不了，需要补单退货，这时需要用户告知AI订单号，才能继续使用接口识别用户进行处理。 许多场景用户可能只能拍一张小票，实际订单号在小票里面，需要通过多模态模型验证订单号，例如现在应用GPT4就可以识别订单号了，就可以把整个流程走完。 因此在Task Agent形态里面，不光Agent非常重要，多模态也非常重要。对于AI客服公司来说，不会去挑战自研多模态这类这么困难的场景，更多是依赖目前领先的商业模型。 Task Bot仍然面临很多技术难点 幻觉在FAQ Bot和Task Bot中都存在，在检索问题和提问问题时候，存在问题未被覆盖时模型开始瞎编的情况，这是所有LLM Bot都会面临的长期挑战，但随着模型迭代，目前看到已经得到了很大幅度的优化。 在业务中，例如售后问题上，需要收集大量信息，去整合信息，并调用大量系统协同完成。以退款意图为例，，需要收集客户信息，包括订单、物流凭证单号等。同时，还需要处理这些单子并进行判责，判断是消费者还是商家的问题。内部还需要串联一系列系统，调用商家后台信息和物流信息，甚至还需要商家和消费者双方的历史信用、交易记录。在判责完成后，可能还涉及打款和结算。 另外，Agent的目的是提高整体的自动化率水平。目前已经有客户上线Task Bot了**（例如安克创新上线了Shulex Task Bot）**，在过程中需要通过邮件来询问用户的订单号和售后地址，中间可能还需要手机验证，每个环节都可能造成流程的中断。这方面的创业软件公司需要摸清楚每个场景下的所有流程，还需要与客户进行甲乙方联调，才能做到好的效果。 四、将 LLM 应用在电销上难度更大 电销有很多AI实践，但LLM替换比例仍然比较低