Arthur Shield
网址：🔗https://www.arthur.ai/get-started ↗
检测AI毒性、幻觉、即时注射等的付费产品。
Baserun
网址：🔗https://baserun.ai/ ↗
用于测试、调试和监控基于大语言模型的应用程序的付费产品。
Chainlit
网址：🔗https://docs.chainlit.io/overview ↗
用于制作聊天机器人界面的Python库。
Embedchain
网址：🔗https://github.com/embedchain/embedchain ↗
用于管理和同步非结构化数据与大语言模型的Python库。
FLAML (A Fast Library for Automated Machine Learning & Tuning)
网址：🔗https://microsoft.github.io/FLAML/docs/Getting-Started/ ↗
一个Python库，用于自动选择模型、超参数和其他可调参数。
Guardrails.ai
网址：🔗https://shreyar.github.io/guardrails/ ↗
一个用于验证输出并重试失败的Python库。仍处于alpha阶段，可能存在缺陷和bug。
Guidance
网址：🔗https://github.com/microsoft/guidance ↗
一个来自微软的方便的Python库，使用Handlebars模板来交替生成、提示和逻辑控制。
Haystack
网址：🔗https://github.com/deepset-ai/haystack ↗
一个开源的大语言模型编排框架，用于在Python中构建可定制的、生产就绪的大语言模型应用程序。
HoneyHive
网址：🔗https://honeyhive.ai ↗
一个企业平台，用于评估、调试和监控大语言模型应用程序。
LangChain
网址：🔗https://github.com/hwchase17/langchain ↗
一个流行的Python/JavaScript库，用于链接一系列语言模型提示。
LiteLLM
网址：🔗https://github.com/BerriAI/litellm ↗
一个最小化的Python库，用于以一致的格式调用大语言模型API。
LlamaIndex
网址：🔗https://github.com/jerryjliu/llama_index ↗
一个Python库，用于用数据增强大语言模型应用程序。
LMQL
网址：🔗https://lmql.ai ↗
一种用于大语言模型交互的编程语言，支持类型化提示、控制流、约束和工具。
OpenAI Evals
网址：🔗https://github.com/openai/evals ↗
一个开源库，用于评估语言模型和提示的任务性能。
Outlines
网址：🔗https://github.com/normal-computing/outlines ↗
一个Python库，提供了一种特定于域的语言来简化提示并约束生成。
Parea AI
网址：🔗https://www.parea.ai ↗
一个用于调试、测试和监控大语言模型应用程序的平台。
Portkey
网址：🔗https://portkey.ai/ ↗
一个用于大语言模型应用程序的可观察性、模型管理、评估和安全性的平台。
Promptify
网址：🔗https://github.com/promptslab/Promptify ↗
一个小型Python库，用于使用语言模型执行自然语言处理任务。
PromptPerfect
网址：🔗https://promptperfect.jina.ai/prompts ↗
一种用于测试和改进提示的付费产品。
Prompttools
网址：🔗https://github.com/hegelai/prompttools ↗
用于测试和评估模型、向量数据库和提示的开源Python工具。
Scale Spellbook
网址：🔗https://scale.com/spellbook ↗
一种用于构建、比较和部署语言模型应用程序的付费产品。
Semantic Kernel
网址：🔗https://github.com/microsoft/semantic-kernel ↗
一个来自微软的Python/C#/Java库，支持提示模板、函数链接、向量化内存和智能计划。
Vellum
网址：🔗https://www.vellum.ai/ ↗
一种付费的人工智能产品开发平台，用于实验、评估和部署高级大语言模型应用程序。
Weights & Biases
网址：🔗https://wandb.ai/site/solutions/llmops ↗
一种用于跟踪模型训练和提示工程实验的付费产品。
YiVal
网址：🔗https://github.com/YiVal/YiVal ↗
一个开源的GenAI-Ops工具，用于使用可定制的数据集、评估方法和进化策略来调优和评估提示、检索配置和模型参数。
