- 日期
- 作者
- LangChain 团队
LangSmith SaaS
全新 ingest-backend 服务,提升 LangSmith 性能
日期:
作者: LangChain 团队
我们推出了一个名为“ingest-backend”的全新专用 Go 服务,用于处理 LangSmith 中的所有运行和反馈摄取。这项架构改进带来了显著的性能提升
• 平均请求处理速度提升 5 倍 (p95)
• 高流量场景下的响应时间提升 10 倍 (p95)
• 减少前端加载时间和 API 延迟
通过将所有跟踪摄取移动到此专用服务,我们的主后端现在可以专注于专门服务前端请求,从而提高整体系统性能。
这项架构改进显著提升了 LangSmith 的性能和可扩展性。专用的摄取服务意味着您的跟踪和反馈处理速度更快,而主后端负载的减少确保了更灵敏的前端交互。这对高流量场景的用户尤其有影响,在这些场景中,性能提升最为显著。