OpenInference — 面向 LLM 应用观测与追踪的开放规范

OpenInference 是一套与 OpenTelemetry 互补的规范和插件，用于实现对 AI 应用程序的追踪。OpenInference 由 arize-phoenix 原生支持，但也可与任何兼容 OpenTelemetry 的后端一起使用。

规范

OpenInference 规范以 Markdown 文件形式编辑，位于 spec 目录 中。其设计旨在洞察大语言模型（LLM）的调用过程以及相关的应用程序上下文，例如向量数据库的检索以及搜索引擎或 API 等外部工具的使用。该规范与传输协议和文件格式无关，旨在与 JSON、ProtoBuf 和 DataFrames 等其他规范结合使用。

插桩

OpenInference 为多种编程语言中流行的机器学习 SDK 和框架提供了一套插桩工具。

Python

库

包	描述	版本
openinference-semantic-conventions	用于追踪 LLM 应用程序的语义约定。
openinference-instrumentation	可重用的工具、装饰器、配置和辅助函数，用于插桩。
openinference-instrumentation-agno	用于 Agno Agents 的 OpenInference 插桩。
openinference-instrumentation-openai	用于 OpenAI SDK 的 OpenInference 插桩。
openinference-instrumentation-openai-agents	用于 OpenAI Agents SDK 的 OpenInference 插桩。
openinference-instrumentation-claude-agent-sdk	用于 Claude Agent SDK 的 OpenInference 插桩。
openinference-instrumentation-llama-index	用于 LlamaIndex 的 OpenInference 插桩。
openinference-instrumentation-dspy	用于 DSPy 的 OpenInference 插桩。
openinference-instrumentation-bedrock	用于 AWS Bedrock 的 OpenInference 插桩。
openinference-instrumentation-langchain	用于 LangChain 的 OpenInference 插桩。
openinference-instrumentation-mcp	用于 MCP 的 OpenInference 插桩。
openinference-instrumentation-mistralai	用于 MistralAI 的 OpenInference 插桩。
openinference-instrumentation-portkey	用于 Portkey 的 OpenInference 插桩。
openinference-instrumentation-guardrails	用于 Guardrails 的 OpenInference 插桩。
openinference-instrumentation-vertexai	用于 VertexAI 的 OpenInference 插桩。
openinference-instrumentation-crewai	用于 CrewAI 的 OpenInference 插桩。
openinference-instrumentation-haystack	用于 Haystack 的 OpenInference 插桩。
openinference-instrumentation-litellm	用于 liteLLM 的 OpenInference 插桩。
openinference-instrumentation-groq	用于 Groq 的 OpenInference 插桩。
openinference-instrumentation-instructor	用于 Instructor 的 OpenInference 插桩。
openinference-instrumentation-anthropic	用于 Anthropic 的 OpenInference 插桩。
openinference-instrumentation-beeai	用于 BeeAI 的 OpenInference