Kosong:月之暗面开源的异步编排 AI 代理框架
AI应用开发 AI开源项目 智能体创建
Kosong:月之暗面开源的异步编排 AI 代理框架

Kosong 是 Moonshot AI 开源的 Python 框架,用异步编排+插件化设计,让开发者 5 分钟拼出可切换任意大模型的智能体。

开通正版Chatgpt账号联系QQ:515002667
Kosong 是 Moonshot AI 开源的 Python 框架,用异步编排+插件化设计,让开发者 5 分钟拼出可切换任意大模型的智能体。
  1. 主要功能
  • 统一 LLM 抽象层:把 Kimi、DeepSeek、Llama3 等模型封装成相同接口,一行代码切换。
  • 异步工具编排引擎:并行调用天气、地图、日历等任意 API,自动处理依赖与回调。
  • 可插拔聊天供应商(Chat Provider):模型、记忆、工具三者解耦,随时插拔升级。
  • 流式响应与长记忆:内置分片流式输出与对话记忆持久化,支持千人千面上下文。
  • 开箱即用模板:官方提供“室内咖啡馆改期”完整示例,clone 后设置环境变量即可运行。
  1. 技术原理
  • 基于 Python 3.13+ 的 asyncio 与任意协程库,采用“DAG 异步图”调度:把用户请求拆成节点(工具或模型调用),运行时动态剪枝、并行执行。
  • 插件化依赖注入:通过 Entry Points 机制扫描插件,运行时组装成“代理容器”,实现零侵入替换。
  • 统一消息协议:定义 Message/ToolResponse/MemoryUpdate 三种 Pydantic 模型,不同供应商只要实现转接器即可接入。
  1. 应用场景
  • 复杂多步任务代理:差旅助手(订机票→查天气→改日程→发邮件)。
  • 多模型混合推理:用 Llama3 做安全审查,Kimi 做创意写作,结果聚合返回。
  • 实时数据 Copilot:金融投研同时拉公告、行情、宏观指标,生成简报。
  • 私有化部署客服:插件对接内部 CRM、订单、知识库,全程本地数据。
  1. 使用方法
    ① 安装:pip install uv && uv add kosong
    ② 写配置:
Python

复制
from kosong import Agent, KimiChat, tool

@tool
async def weather(city: str) -> str: …

agent = Agent(chat=KimiChat(), tools=[weather])
③ 运行:
bash

复制
export KIMI_API_KEY=xxx
python -m kosong.demo
④ 打包插件:setup.py 里声明 kosong.tools 入口点,即可被自动发现。
  1. 适用人群
  • 需要快速验证大模型应用原型的独立开发者。
  • 想摆脱单一模型锁定、追求多云灾备的企业工程团队。
  • 为政务、金融、医疗等场景做私有化智能体的 ISV/SI。
  1. 优缺点介绍
    优点:
  • 真正异步,高并发下延迟低;
  • 插件生态开放,不绑架模型与云;
  • 代码量少,模板全,上手曲线平缓。
缺点:
  • 仅支持 Python 3.13+,老系统需升级;
  • 刚开源,社区插件与文档仍在快速迭代;
  • 对深度定制调度策略需自行扩展 DAG 引擎。
AI框架、AI代理、异步编排、插件化、大模型抽象、开源项目

相关导航