随着大模型能力的不断演进，产品评测也进入了“智能协同”新阶段。本篇作为系列第四篇，将聚焦方法与工具的双重升级，系统梳理如何构建可复用、可扩展的大模型评测体系，为产品团队提供实操参考与认知框架。

一、评测方法：从人工到LLM

LLM评测方法论涵盖了从依赖人类专家知识到利用自动化工具进行大规模评估。

选择何种方法，取决于评测的维度、成本、速度和规模要求，这些方法常常相互组合，来达到最佳评估效果。

人工评估

在评测领域，人类评估员的判断仍然是最终的、不可替代的“黄金标准”。尤其是在处理主观性强、充满细微差别或错误代价高的任务时，人类的判断的质量是机器难以企及的。

场景：当需要评估如“创造性”、“同理心”、“幽默感”等高度主观的质量时，或是在法律、医疗等需要深度领域知识和责任判断的场景中，人类评估几乎是唯一可靠的方法。

评估方法：人类评估通常可以通过以下方法实现：

评分量表：可以使用李克特量表，让评估员对输出的某个维度（如“有用性”）进行1-5分的打分。也可以直接让评估员对答案对错进行判断，关键是设计能够说明问题的评分表。

成对比较：向评估员展示两个模型/不同提示词版本对同一输入的回答，让他们选择“哪个更好？”。这种方法比打绝对分数更容易，也更符合人类的比较天性。

自动化的脚本程序

对于一些输出结果有标准答案的场景，可以编写自动化的程序或算法进行判断

例如：

对于基于知识库的问答类产品：有正确答案的问题，可以评估模型输出的回答和正确答案的文字内容重合度。

对于有唯一正确答案的意图识别分类，可以直接用脚本自动化对比模型分类的意图名称和正确的意图是否一致。

LLM作为裁判

为了克服人类在大规模评估上的效率瓶颈，业界开发出一种强大且灵活的自动化技术：LLM-as-a-Judge。

利用一个能力更强、更先进的大语言模型作为“评测者”，根据一套用自然语言定义的评分标准，评估应用中模型的输出质量。

选择遵循指令和模式匹配方面表现出色的大模型，让它成为一个合格的“评测代理”。

以下是实施LLM-as-a-Judge的分步指南：

1）定义评测场景

一次只专注于一个清晰的评估维度。例如，不要同时评估“准确性”和“简洁性”，而是创建两个独立的评测任务。目标是让评测的任务尽可能简单明确。

2）准备评测数据集

使用之前精心构建的“黄金”数据集作为评测的输入。

3）设计评测提示这是整个方法中最关键的一步，评测提示的质量直接决定了评测结果的质量。最佳实践包括：

提供清晰的评分标准：明确定义每个分数等级的含义。不要只说“评价相关性”，而要具体描述“1分代表完全无关”，“5分代表完美回答了用户的核心问题”

使用思维链提示：在提示中指示评测模型“先进行分步思考，解释判断理由，最后再给出分数”。这种“先思考再回答”的模式能显著提高评测的准确性，并且其输出的“思考过程”对于调试和理解评测结果非常有价值。

提供小样本示例：在提示中加入几个“好”答案和“坏”答案的具体例子及其对应的分数和理由。这能极大地帮助评测模型理解评分标准中的细微差别。

要求结构化输出：强制评测模型以统一、可解析的格式（如JSON）返回结果，其中包含’score’和’reason’等字段。这便于后续的自动化数据处理和分析。

4）验证与迭代

将LLM评测的打分结果与人类的打分结果进行比较。如果两者吻合度不高，就需要回头调整和优化评测提示，直到评测模型的表现足够可靠，能够高度对齐人类的判断。目标不是追求100%的完美，而是达到“足够好”以满足业务需求。

二、评测工具箱：选择框架和平台

不论是框架还是平台都提供一套可以快速使用的评测方案，不过任何框架和平台都无法满足所有评测需求。构建内部评测体系的最佳策略可能不是选择单一工具，而是构建一个组合式、各取所长的“评测技术栈”。

评测框架

开源框架为开发者提供了构建自定义、灵活且经济高效的评测流水线的核心构件。本章节将深入解析四个主流的开源评测框架，重点阐述其设计理念、核心功能、使用方法及适用场景。

RAGAS：

DEEPEval：

TruLens：

对比：

三、评测平台

EvidentlyAI

对非技术人员的友好程度较低。虽然生成的HTML报告是可视化的，但评测的定义、执行和配置完全依赖于Python代码。产品经理或领域专家无法独立使用该平台来设计或执行评测。

EvidentlyAI最初是一个专注于传统机器学习模型监控的开源工具，现已扩展能力以支持LLM评估。它以开源核心和强大的报告生成能力在数据科学和ML工程团队中广受欢迎。

核心特点：

报告与测试套件驱动：Evidently的核心是生成详尽的、可交互的HTML报告和定义了通过/失败条件的测试套件。它内置了超过100种评估指标，覆盖从数据漂移到文本质量的多个方面。

开源与模块化：作为一个开源Python库，它具有高度的灵活性和可扩展性，允许用户创建自定义指标和测试。用户可以从简单的本地脚本开始，逐步扩展到完整的监控服务。

声明式测试API：用户可以通过简单的语法为任何指标设置测试条件，这使得在CI/CD中进行回归测试变得非常容易。

优势与劣势：

优势：强大的开源基础使其免费且高度可定制，社区活跃。其报告功能非常适合探索性分析、实验记录和调试。与传统ML监控的无缝结合，使其成为混合系统（同时包含预测模型和生成模型）的理想选择。

劣势：其用户界面和核心交互方式主要面向熟悉Python的开发者和数据科学家。对于没有编程背景的测试人员或产品经理，直接使用该库存在较高的门槛。虽然EvidentlyCloud提供了一个UI，但其主要功能仍是展示由代码生成的报告和仪表板，而非一个独立的、无代码的评测环境。

适用场景：EvidentlyAI最适合需要深度集成到现有PythonMLOps流水线中的场景，尤其是在回归测试和持续监控方面。它适用于评估各类LLM应用，包括RAG（可评估输入、上下文和输出）和聊天机器人。但是它并非专门为复杂的、多步骤的Agent评估而设计。

ArizeAI

ArizeAI是一个企业级的机器学习可观测性平台，它将LLM评估视为生产环境监控的核心组成部分。其开源项目Phoenix则专注于开发和实验阶段的追踪与评估，两者共同构成了一个端到端的解决方案。

对非技术人员的友好程度中等偏高。ArizeAX平台的仪表板和可视化界面设计直观，允许产品经理和业务分析师查看模型性能和业务指标，理解AI的投资回报率。然而，评测的配置、数据接入和自定义评测器的开发仍然需要技术人员的参与。

核心特点：

端到端可观测性：Arize提供从数据摄取、性能监控、漂移检测到根本原因分析的全链路可观测性，适用于从传统ML到LLM的各类模型。

强大的追踪与调试：通过其开源组件Phoenix，Arize支持基于OpenTelemetry标准的分布式追踪，能够可视化LLM应用（特别是复杂的Agent和RAG流程）中每一步的输入、输出和延迟，极大地简化了调试过程。

评估框架的开放性：Phoenix被设计为评估的中心枢纽，它不仅提供自有的LLM即裁判模板，还允许直接集成和展示来自其他开源框架（如RAGAs,DeepEval）的评测结果，具有很高的开放性和灵活性。

优势与劣势：

优势：提供了业界领先的生产环境监控和调试能力。UI设计精良，仪表板功能强大，能够向非技术背景的业务负责人清晰地展示AI带来的业务价值。Phoenix的开源和厂商无关性使其易于被广泛采用。

劣势：作为一个功能全面的企业级平台，其配置和学习曲线相对陡峭。对于只需要轻量级评测的小型项目而言，可能会觉得功能过于庞杂。其核心商业产品价格不菲。

适用场景：ArizeAI最适合需要对生产环境中的复杂LLM应用（尤其是Agent和RAG系统）进行大规模、持续监控和根本原因分析的企业。它能够帮助团队快速定位性能瓶颈、发现数据漂移，并评估模型更新带来的影响。

LangSmith

LangSmith是由LangChain团队推出的统一可观测性与评估平台。它与LangChain生态系统深度集成，但其设计是框架无关的，能够通过OpenTelemetry协议追踪和评估任何LLM应用。

对非技术人员的友好程度中等。PromptPlayground等协作功能对非技术人员友好，但核心的追踪和调试界面是为开发者设计的。产品经理可以查看监控仪表板，但深入分析问题仍需技术背景。

核心特点：

深度追踪与调试：LangSmith的核心优势在于其无与伦比的追踪能力。它能捕获Agent或Chain中每一步的详细信息，包括输入、输出、工具调用、延迟和成本，使得调试复杂的、非确定性的应用行为变得直观和高效。

测试与可观测性的统一：平台强调将测试与生产监控紧密结合。用户可以轻松地将生产环境中捕获的真实用户交互数据转化为评估数据集，用于回归测试和性能基准测试，形成一个从生产到测试的快速反馈闭环。

协作式提示工程：提供“PromptPlayground”和“PromptCanvasUI”等工具，让包括产品经理、领域专家在内的整个团队能够协作实验、比较和改进提示。

优势与劣势：

优势：对于使用LangChain或LangGraph构建复杂Agent的团队来说，LangSmith几乎是不可或缺的工具。其追踪的粒度和深度是业界顶尖的。框架无关的设计也使其具有广泛的适用性。

劣势：虽然UI功能强大，但其信息密度非常高，主要面向开发者进行调试和分析，对非技术人员可能不够直观。大规模使用时，高频次的追踪数据可能会带来显著的成本。

适用场景：LangSmith最适用于开发和调试复杂的、多步骤的、基于Agent或Chain的LLM应用。当应用行为难以预测，需要深入到每一步调用进行根本原因分析时，LangSmith的价值最为突出。

对比

龙蟠科技早盘高开近15% 控股孙公司与宁德时代签订采购协议热点栏目自选股数据中心行情中心资金流向模拟交易客户端　　龙蟠科技（02465）早盘高开近15%，截至发稿，股价上涨14.66%，现报11.50港元，成交额1.59亿港元。　　龙蟠科技公布，公司控股孙公司锂源（亚太）与宁德时代签署了《磷酸铁锂正极材料采购合作协议》