日期
作者
LangChain 团队
LangSmith 自托管

LangSmith 自托管 v0.8

日期:
作者: LangChain 团队

LangSmith 自托管 v0.8 版本新增了 LangSmith 首页,新功能包括支持自定义代码评估器和批量数据导出,并提高了 LangSmith API 端点的可靠性和正确性。

重大变更

  • 移除了 <domain>/api-hub URL 路径。现在所有 API 交互都应使用 <domain>/api URL 路径。继续使用 <domain>/api-hub 将导致 404 Not Found 错误。

  • 移除了对以 ls__ 为前缀的 v1 API 密钥的支持。继续使用以 ls__ 为前缀的密钥将导致 401 Unauthorized 错误。

  • 如果为您的实例启用了 Blob 存储,则 platform-backend 服务现在需要访问 Blob 存储。

自 v0.7.0 以来的新功能

性能和可靠性变更

  • 提高了通过 LangSmith SDK 导出包含复杂过滤器语句的大型导出的性能和可靠性。

  • 针对临时错误实施了可重试的响应代码 (502, 503),而不是 500。

  • 提高了 Clickhouse 中 TTL 驱动的删除操作释放存储空间的频率。

  • 调整了来自 LangSmith 的反馈插入,以使用异步插入而非同步插入到 Clickhouse,这应提高并发性、性能和可靠性。

  • 改进了 Clickhouse 中 DELETE FROM 查询的性能,这将减少 脚本驱动的 traces、工作区和组织删除 的执行时间。

基础设施变更

  • 提醒一下,自 v0.7 起,所有资源的默认要求均已提高。请注意,您可能需要向上调整集群设置。默认情况下,我们现在需要以下最小尺寸

    • 16 vCPU

    • 64GB RAM

    包括至少一个可以容纳请求 4 vCPU/16 GB RAM 的 Pod 的节点。

    要覆盖这些设置,您可以手动配置资源请求/限制。

  • 更新了捆绑的 Clickhouse 版本至 24.5

  • 移除了 <domain>/api-hub url

  • 更改了用于 backend Pod 的健康检查,以检查更多服务(而不仅仅是 ok 端点)的可用性

  • 添加了 langsmith-ace-backend 服务,该服务用于在沙盒环境中运行自定义代码

  • playground 启动命令/端口已更新

  • 将昂贵的 Blob 存储操作移动到 platform-backend 以提高性能

管理变更

  • 添加了对为工作区设置资源标签的支持

  • 移除了每个工作区运行规则数量的限制

由 LaunchNotes 强力驱动