通衍灵智探索个性化AI技术

人工智能的竞争正在向长期学习与专属能力沉淀延伸。 通衍灵智探索以参数化学习和持续进化为核心的Personal AI，让个人与组织在使用AI的过程中，逐步积累属于自己的智能资产。 大模型不断突破能力边界，企业开始通过API、知识库和Agent将AI引入研发、投研、运营等核心业务。 但企业每天产生的大量业务经验，能否逐渐沉淀成自己的AI能力？ OpenAI通过Dreaming改进ChatGPT的长期记忆，Meta推出Muse结合个性化理解与自主执行。 AI正在从面向所有人的通用工具，发展为面向具体用户的长期智能服务。

通衍灵智依托北京通用人工智能研究院（BIGAI）体系的科研积累与产业转化资源，专注于面向企业与个人的持续自进化专属模型（Personal AI）研发。 通衍灵智将技术方向聚焦于Recursive Self-Improving Personal AI（递归自进化个性化智能），尝试为上述问题提供系统性解决方案。 依托北京通用人工智能研究院体系的科研与产业资源，公司选择在现有通用模型之上，通过轻量化个性化参数承载不同主体的专属能力，并结合持续学习机制和算力调度技术，让模型在长期使用中不断适应用户。

这套技术体系的目标，是让个人、项目和企业不必分别训练完整的通用大模型，也能逐步建立适合自身需求、能够持续演进的专属智能。 从长期记忆到模型学习，个性化进入参数层。 同样使用Coding Agent，不同研发团队获得的结果可能存在明显差异。 一套成熟的软件系统往往有自己的架构原则、技术规范和历史约束，资深工程师知道哪些模块不能轻易调整，也清楚什么时候需要优先考虑稳定性而非技术上的最优解。 这些经验一部分记录在文档中，更多则分散在长期的代码修改、方案讨论和项目实践里。 类似情况也存在于金融投研、企业运营等领域。

通用模型可以分析市场、理解业务流程，但不同团队长期形成的风险偏好、决策习惯和工作方法，往往需要通过持续协作才能逐渐掌握。 目前，AI主要依靠Prompt、RAG、Memory和Skill等机制适应具体场景。 通衍灵智采用共享基础模型（Base Model）与个性化参数（Personal Parameters）相结合的架构。 基础模型提供通用知识和推理能力，不同个人、项目和企业则通过轻量化的Personal LoRA进行参数适配，将经过验证的专业偏好和行为特征逐步融入模型。

通衍灵智CEO谢枭楠表示：“企业对AI的需求正在从获取通用能力转向积累专属能力。 同一类通用智能服务会被越来越多企业获得，真正拉开差距的，是能否把自身长期形成的专业判断和做事方式沉淀为模型能力，而不是永远停留在‘查资料’的层面。 ”拥有专属参数之后，新的挑战随之而来：模型如何持续吸收有价值的经验，并避免在学习过程中积累错误？ 通衍灵智围绕这一需求研发RSI（Recursive Self-Improvement，递归自我改进）技术，通过模型与评估器协同迭代，构建持续学习框架。

在这一框架中，业务运行产生的任务轨迹、人工修正和实际结果首先形成候选学习数据，Evaluator根据具体用户或企业的评价标准，对反馈进行筛选和判断，再将有效样本用于Personal LoRA的增量更新。 更新后的模型需要接受进一步评估，比较其与原有版本的任务表现。 只有符合预设要求的更新才进入服务，异常结果则需要通过版本控制和回滚机制处理。 与此同时，模型更新的实际效果也可以反向用于改进Evaluator，使系统逐渐优化学习数据的筛选方式和评价标准。

通衍灵智CTO储兵兵表示，他们在训练的过程中，绝对不是用户点一下“拒绝”就立刻拿去训练模型，他们引入的Evaluator会先判断这个反馈有没有学习价值，一次反馈只是信号，反复出现的模式才真正可能变成学习。 模型更新后还要和旧版本在同一批任务上重跑，确认提升才上线，退化就回滚，确保进化的安全与效率。 从长期看，如果模型能够在真实业务中稳定学习，企业便有机会减少反复配置和集中式训练的工作，使AI能力随着业务发展逐步更新。 专属模型走向规模化，算力资源成本是现实。

通衍灵智因此将AI基础设施作为Personal AI的重要组成部分，围绕训练与推理的协同调度，以及海量个性化参数的显存管理开展优化。 其中，TIP（训推并行）主要解决训练与在线推理之间的资源分配问题。 通衍灵智通过同卡同批训推并行、异步梯度累积等技术，尝试在保障在线服务的前提下，利用可用算力执行个性化参数的增量训练，减少独立训练资源池带来的额外成本。 Paged LoRA则面向大量Adapter并发运行时的显存管理问题。

传统方式往往以较大的固定单元分配显存，随着模型数量和访问频率变化，容易出现资源利用不充分和响应延迟波动。 Paged LoRA采用分页管理与按需映射机制，使不同Personal LoRA能够更加灵活地共享基础模型和GPU显存。 在已完成的阶段性测试中，通衍灵智使用Qwen2.5-72B-Instruct及8张NVIDIA H800 GPU，将Paged与传统Flat模式的LoRA显存预算统一控制在5.79GB。 在LoRA请求占比为1%至30%的测试负载下，Paged方案在响应延迟和长尾表现方面取得了一定优势。

测试同时表明，当LoRA请求占比提升至50%时，频繁的参数换入换出仍会造成性能退化。 团队正在围绕异步加载、热点参数预取等方向继续优化，相关技术在更广泛生产环境下的表现仍需进一步验证。 储兵兵额外说到，基础模型推理成本在下降，但Agent调用频率和个性化训练需求在增长。 对持续学习系统，不能只看一次模型调用的价格，还要看长期训练、更新和服务的综合成本，只有经济性合理，这类服务才能覆盖更广泛的用户。 对于通衍灵智而言，底层算力优化服务于个性化模型的长期运行。

通过RSI推动持续学习，再由TIP和Paged LoRA改善训练及并发服务的资源效率，公司希望逐步降低专属模型的使用门槛，使其从高成本定制服务走向更广泛的实际应用。 模型在更迭切换，智能能力如何长期积累保留？ 随着基础模型能力、价格和部署方式不断变化，企业未来