OA0

OA0 是一个探索 AI 的社区

现在注册

已注册用户请登录

TaskingAI

TaskingAI 是一个用于 基于大语言模型（LLM）的智能体开发与部署 的 BaaS（后端即服务）平台。它统一集成了数百个 LLM 模型，并提供了一个直观的用户界面来管理您的 LLM 应用的功能模块，包括工具、RAG 系统、助手、对话历史等。

核心特性

一体化 LLM 平台：通过统一的 API 访问数百个 AI 模型。
丰富的增强功能：通过数百个可定制的内置工具和先进的检索增强生成（RAG）系统来提升 LLM 智能体的性能。
BaaS 风格的工作流：将 AI 逻辑（服务端）与产品开发（客户端）分离，提供了从基于控制台的原型设计到使用 RESTful API 和客户端 SDK 构建可扩展解决方案的清晰路径。
一键部署至生产环境：一键将您的 AI 智能体部署到生产阶段，并可轻松扩展。其余工作交给 TaskingAI 处理。
异步高效：利用 Python FastAPI 的异步特性实现高性能、并发计算，提升应用的响应能力和可扩展性。
直观的 UI 控制台：简化项目管理，并支持在控制台内进行工作流测试。

集成能力

模型：TaskingAI 连接了来自 OpenAI、Anthropic 等多个供应商的数百个 LLM。我们还允许用户通过 Ollama、LM Studio 和 Local AI 集成本地主机模型。

插件：TaskingAI 支持多种内置插件以增强您的 AI 智能体，包括谷歌搜索、网站阅读器、股市数据检索等。用户也可以创建自定义工具以满足特定需求。

为什么选择 TaskingAI？

现有解决方案的问题 🙁

LangChain 是一个用于 LLM 应用开发的工具框架，但它存在实际限制：

无状态性：依赖客户端或外部服务进行数据管理。
可扩展性挑战：无状态性影响了跨会话的一致数据处理。
外部依赖：依赖模型 SDK、向量存储等外部资源。

OpenAI 的 Assistant API 在提供类 GPTs 功能方面表现出色，但也有其自身的限制：

功能绑定：工具、检索等集成功能与每个助手绑定，不适合多租户应用。
专有性限制：仅限于 OpenAI 模型，无法满足多样化需求。
自定义限制：用户无法自定义智能体配置，如记忆和检索系统。

TaskingAI 如何解决问题 😃

同时支持有状态和无状态使用：无论是跟踪和管理消息历史与智能体会话，还是仅进行无状态的聊天补全请求，TaskingAI 都能满足。
解耦的模块化管理：将工具、RAG 系统、语言模型的管理与智能体解耦。允许自由组合这些模块来构建强大的 AI 智能体。
多租户支持：TaskingAI 支持开发后快速部署，并可用于多租户场景。无需担心云服务，只需专注于 AI 智能体开发。
统一 API：TaskingAI 为所有模块（包括工具、RAG 系统、语言模型等）提供统一的 API。管理和更改 AI 智能体配置超级简单。

您能用 TaskingAI 构建什么？

[x] 交互式应用演示
[x] 提升企业生产力的 AI 智能体
[x] 面向业务的多租户 AI 原生应用

如果您觉得有用，请给我们一个 免费的星标 🌟 😇

使用 Docker 快速开始

通过 Docker 启动自托管的 TaskingAI 社区版是一种简单的方式。

先决条件

机器上已安装 Docker 和 Docker Compose。
已安装 Git 用于克隆仓库。
Python 环境（Python 3.8 以上）用于运行客户端 SDK。

安装

首先，从 GitHub 克隆 TaskingAI（社区版）仓库。

git clone https://github.com/taskingai/taskingai.git
cd taskingai

进入克隆的仓库内的 docker 目录。

cd docker

复制 .env.example 为 .env：

sh cp .env.example .env
编辑 .env 文件：
用您喜欢的文本编辑器打开 .env 文件，更新必要的配置。确保所有必需的环境变量都已正确设置。
启动 Docker Compose：
运行以下命令启动所有服务：
sh docker-compose -p taskingai --env-file .env up -d

服务启动后，通过浏览器访问 URL http://localhost:8080 即可进入 TaskingAI 控制台。默认用户名和密码为 admin 和 TaskingAI321。

升级

如果您已安装旧版本的 TaskingAI 并希望升级到最新版本，请先更新仓库。

git pull origin master

然后停止当前的 docker 服务，拉取最新镜像进行升级，最后重启服务。

cd docker
docker-compose -p taskingai down
docker-compose -p taskingai pull
docker-compose -p taskingai --env-file .env up -d

无需担心数据丢失；如果需要，您的数据将自动迁移到最新版本的模式。

TaskingAI UI 控制台

点击上方图片查看 TaskingAI 控制台演示视频。

TaskingAI 客户端 SDK

控制台启动后，您可以使用 TaskingAI 客户端 SDK 以编程方式与 TaskingAI 服务器交互。

确保已安装 Python 3.8 或更高版本，并设置虚拟环境（可选但推荐）。
使用 pip 安装 TaskingAI Python 客户端 SDK。

pip install taskingai

以下是一个客户端代码示例：

import taskingai

taskingai.init(api_key='YOUR_API_KEY', host='http://localhost:8080')

# 创建一个新的助手
assistant = taskingai.assistant.create_assistant(
    model_id="YOUR_MODEL_ID",
    memory="naive",
)

# 创建一个新的聊天
chat = taskingai.assistant.create_chat(
    assistant_id=assistant.assistant_id,
)

# 发送用户消息
taskingai.assistant.create_message(
    assistant_id=assistant.assistant_id,
    chat_id=chat.chat_id,
    text="Hello!",
)

# 生成助手回复
assistant_message = taskingai.assistant.generate_message(
    assistant_id=assistant.assistant_id,
    chat_id=chat.chat_id,
)

print(assistant_message)

请注意，YOUR_API_KEY 和 YOUR_MODEL_ID 应替换为在控制台中创建的实际 API 密钥和聊天补全模型 ID。

您可以在文档中了解更多信息。

资源

社区与贡献

请参阅我们的贡献指南了解如何为项目做贡献。

同时，我们很高兴地宣布 TaskingAI 现在拥有官方的 Discord 社区！🎊

加入我们的 Discord 服务器以：

💬 参与关于 TaskingAI 的讨论，分享想法并提供反馈。
📚 从其他用户和我们的团队获取支持、技巧和最佳实践。
🚀 及时了解最新新闻、更新和功能发布。
🤝 与对 AI 和任务自动化充满热情的同道中人建立联系。

许可证与行为准则

TaskingAI 在特定的 TaskingAI 开源许可证下发布。通过贡献本项目，您同意遵守其条款。

支持与联系

如需支持，请参阅我们的文档或通过 support@tasking.ai 联系我们。

项目地址：https://github.com/TaskingAI/TaskingAI

3 次点击 ∙ 0 人收藏

登录后收藏

0 条回复

TaskingAI — 面向 LLM 应用的后端与 Agent 编排平台