- 日期
- 作者
- LangChain 团队
🤖 LangGraph 中可靠的流式处理和高效的状态管理
我们很高兴推出多项关键更新,以增强 LangGraph API/云体验。 这些更新包括:
流式运行现在由用于后台运行的作业队列提供支持。
这确保了您的流式运行具有更高的可靠性,而不会丢失低延迟、实时的输出。 无论您是以令牌逐个令牌的方式流式传输聊天消息,还是运行其他进程,您都将体验到一致的性能。新的流式端点和 SDK 方法:
我们引入了 GET/threads/{thread_id}/runs/{run_id}/stream
端点和client.runs.join_stream()
SDK 方法。 这使得可以从任何运行中实时流式传输输出,包括后台运行。 借助此功能,您可以创建新的 UX,例如即使在用户离开并返回页面时仍继续流式传输的聊天机器人。增强的最终状态检索:
更新后的 GET/threads/{thread_id}/runs/{run_id}/join
端点和client.runs.join()
SDK 方法现在可以可靠地返回运行完成后的最终状态值,从而确保无论运行是正在进行还是已完成,结果都保持一致——这对于需要可靠状态检索的工作流程至关重要。扩展的线程状态值:
GET/threads/{id}
和client.threads.get()
现在支持两个新的状态值:error
和interrupted
。
这些状态指示器可帮助您管理和排除线程故障,让您了解何时出现问题或进程被中断。 现有的idle
和busy
状态仍然受支持。简化的状态检索:
端点 GET/threads/{id}
和 GET/threads
现在包含每个线程的最新状态值。 这消除了单独的“获取状态”调用的需要,减少了检索线程状态所需的 API 请求数量。高级线程搜索:
POST/threads/search
和client.threads.search
()
现在可以按线程状态值进行筛选。 结合状态筛选,此筛选功能使您可以构建高度特定的 UI(例如代理收件箱),您可以在其中轻松列出处于精确状态的线程。
这些更新共同增强了 LangGraph 的可靠性、效率和灵活性,使您能够构建更强大且用户友好的应用程序。