Langroid 是一个由 CMU 和 UW-Madison 的研究人员开发的直观、轻量、可扩展且设计精良的 Python 框架，用于轻松构建基于 LLM 的应用程序。
你可以设置智能体（Agent），为其配备可选组件（LLM、向量存储和工具/函数），分配任务，并让它们通过交换消息协作解决问题。
这种多智能体范式灵感来源于 Actor 框架（但你无需了解它！）。

Langroid 是对 LLM 应用开发的全新尝试，其设计充分考虑了简化开发者体验；它不使用 Langchain 或任何其他 LLM 框架，并且可以与几乎所有 LLM 协同工作。

🔥 ✨ 可选的 Claude Code 插件 可用于加速 Langroid 开发，它内置了模式和最佳实践。

🔥 阅读（进行中）的 Langroid 架构概述 和 Langroid 快速导览。

🔥 MCP 支持：通过 Langroid 简单的 MCP 工具适配器，允许任何 LLM 智能体利用 MCP 服务器的功能，该适配器将服务器的工具转换为 Langroid 的 ToolMessage 实例。

📢 公司正在生产环境中使用/适配 Langroid。以下是一段引用：

Nullify 使用 AI 智能体进行安全的软件开发。它能发现、优先处理和修复漏洞。在评估了 CrewAI、Autogen、LangChain、Langflow 等框架后，我们内部已在生产环境中适配了 Langroid 的多智能体编排框架。我们发现 Langroid 在易用性和灵活性方面远优于这些框架。Langroid 的 Agent 和 Task 抽象非常直观、设计精良，提供了极佳的开发者体验。我们希望以最快的方式将产品投入生产。使用其他框架可能需要数周，但使用 Langroid 我们在几分钟内就取得了良好的结果。强烈推荐！
-- Jacky Wong, Nullify AI 负责人。

🔥 查看 LanceDB 团队的这篇 Langroid 介绍 博客文章。

🔥 刚刚发表于 ML for Healthcare (2024)：一个基于 Langroid 的多智能体 RAG 系统，用于药物警戒，参见 博客文章。

我们欢迎贡献：查看 贡献指南 了解可以贡献的内容。

你正在构建 LLM 应用程序，需要为你的公司获取 Langroid 方面的帮助，或者希望根据公司用例优先开发 Langroid 功能吗？
Prasad Chalasani 可提供咨询（顾问/开发）服务：pchalasani at gmail dot com。

也可以通过 GitHub Sponsors 接受赞助。

有问题、反馈或想法？加入我们的 Discord！

Langroid 编码快速一览

这只是一个预览；还有更多功能，如函数调用/工具、多智能体协作、结构化信息提取、DocChatAgent（RAG）、SQLChatAgent、非 OpenAI 的本地/远程 LLM 等。向下滚动或查看文档了解更多。
查看 Langroid 快速入门 Colab，它逐步构建了一个使用 OpenAI ChatCompletion API 的双智能体信息提取示例。
另请查看这个 版本，它使用 OpenAI Assistants API 代替。

🔥 刚刚发布！示例 脚本展示了如何使用 Langroid 多智能体和工具，仅使用本地 LLM（Mistral-7b-instruct-v0.2）从文档中提取结构化信息。

import langroid as lr
import langroid.language_models as lm

# 设置 LLM
llm_cfg = lm.OpenAIGPTConfig( # 或使用 OpenAIAssistant 来使用 Assistant API
  # 任何通过 OpenAI 兼容 API 服务的模型
  chat_model=lm.OpenAIChatModel.GPT4o, # 或者，例如 "ollama/mistral"
)
# 直接使用 LLM
mdl = lm.OpenAIGPT(llm_cfg)
response = mdl.chat("What is the capital of Ontario?", max_tokens=10)

# 在智能体中使用 LLM
agent_cfg = lr.ChatAgentConfig(llm=llm_cfg)
agent = lr.ChatAgent(agent_cfg)
agent.llm_response("What is the capital of China?") 
response = agent.llm_response("And India?") # 维护对话状态

# 将智能体包装在 Task 中，与用户（或其他智能体）运行交互循环
task = lr.Task(agent, name="Bot", system_message="You are a helpful assistant")
task.run("Hello") # 用户说 "Hello" 开始

# 2-智能体聊天循环：教师智能体向学生智能体提问
teacher_agent = lr.ChatAgent(agent_cfg)
teacher_task = lr.Task(
  teacher_agent, name="Teacher",
  system_message="""
    Ask your student concise numbers questions, and give feedback. 
    Start with a question.
    """
)
student_agent = lr.ChatAgent(agent_cfg)
student_task = lr.Task(
  student_agent, name="Student",
  system_message="Concisely answer the teacher's questions.",
  single_round=True,
)

teacher_task.add_sub_task(student_task)
teacher_task.run()

🔥 更新/发布