
Kosong 是 Moonshot AI 开源的 Python 框架,用异步编排+插件化设计,让开发者 5 分钟拼出可切换任意大模型的智能体。
-
主要功能
-
统一 LLM 抽象层:把 Kimi、DeepSeek、Llama3 等模型封装成相同接口,一行代码切换。
-
异步工具编排引擎:并行调用天气、地图、日历等任意 API,自动处理依赖与回调。
-
可插拔聊天供应商(Chat Provider):模型、记忆、工具三者解耦,随时插拔升级。
-
流式响应与长记忆:内置分片流式输出与对话记忆持久化,支持千人千面上下文。
-
开箱即用模板:官方提供“室内咖啡馆改期”完整示例,clone 后设置环境变量即可运行。
-
技术原理
-
基于 Python 3.13+ 的 asyncio 与任意协程库,采用“DAG 异步图”调度:把用户请求拆成节点(工具或模型调用),运行时动态剪枝、并行执行。
-
插件化依赖注入:通过 Entry Points 机制扫描插件,运行时组装成“代理容器”,实现零侵入替换。
-
统一消息协议:定义 Message/ToolResponse/MemoryUpdate 三种 Pydantic 模型,不同供应商只要实现转接器即可接入。
-
应用场景
-
复杂多步任务代理:差旅助手(订机票→查天气→改日程→发邮件)。
-
多模型混合推理:用 Llama3 做安全审查,Kimi 做创意写作,结果聚合返回。
-
实时数据 Copilot:金融投研同时拉公告、行情、宏观指标,生成简报。
-
私有化部署客服:插件对接内部 CRM、订单、知识库,全程本地数据。
-
使用方法
① 安装:pip install uv && uv add kosong
② 写配置:
Python
from kosong import Agent, KimiChat, tool
@tool
async def weather(city: str) -> str: …
agent = Agent(chat=KimiChat(), tools=[weather])
③ 运行:
bash
export KIMI_API_KEY=xxx
python -m kosong.demo
④ 打包插件:setup.py 里声明 kosong.tools 入口点,即可被自动发现。
-
适用人群
-
需要快速验证大模型应用原型的独立开发者。
-
想摆脱单一模型锁定、追求多云灾备的企业工程团队。
-
为政务、金融、医疗等场景做私有化智能体的 ISV/SI。
-
优缺点介绍
优点:
-
真正异步,高并发下延迟低;
-
插件生态开放,不绑架模型与云;
-
代码量少,模板全,上手曲线平缓。
缺点:
-
仅支持 Python 3.13+,老系统需升级;
-
刚开源,社区插件与文档仍在快速迭代;
-
对深度定制调度策略需自行扩展 DAG 引擎。
AI框架、AI代理、异步编排、插件化、大模型抽象、开源项目
AgentScope 1.0 是阿里通义实验室推出的新一代智能体开发框架,旨在为开发者提供一套覆盖智能体开发全生命周期的生产级解决方案。