- 日期
- 作者
- LangChain 团队
🤖 LangGraph 中可靠的流传输和高效状态管理
我们很高兴推出几项关键更新,以增强 LangGraph API/Cloud 体验。其中包括:
流式运行现在由用于后台运行的作业队列提供支持。
这确保了流式运行的更高可靠性,同时不会丢失低延迟、实时输出。无论您是逐个标记流式传输聊天消息,还是运行其他进程,您都将体验一致的性能。新的流式传输端点和 SDK 方法:
我们已推出 GET/threads/{thread_id}/runs/{run_id}/stream
端点和client.runs.join_stream()
SDK 方法。这可以启用所有运行(包括后台运行)的实时流式输出。利用此功能,您可以创建新的 UX,例如用户离开后再返回页面时依然持续流式传输的聊天机器人。增强的最终状态检索:
现在,更新后的 GET/threads/{thread_id}/runs/{run_id}/join
端点和client.runs.join()
SDK 方法可在运行完成后可靠地返回最终状态的值,无论运行是正在进行还是已完成,它都能确保结果一致——这对于需要可靠的状态检索的工作流至关重要。扩展的线程状态值:
GET/threads/{id}
和client.threads.get()
现在支持两个新的状态值:error
和interrupted
。
这些状态指示器可帮助您管理您的线程并对它们进行故障排除,在出现问题或流程中断时让您知晓。现有的idle
和busy
状态仍然受支持。简化的状态检索:
端点 GET/threads/{id}
和 GET/threads
现在包含每个线程的最新状态值。这消除了单独“获取状态”调用的必要性,减少了检索线程状态所需的 API 请求次数。高级线程搜索:
POST/threads/search
和client.threads.search
()
现在可以按线程状态值进行筛选。此筛选结合状态筛选,允许您构建高度特定的 UI(例如座席收件箱),这样您就可以轻松地按准确的状态列出线程。
这些更新协同提升了 LangGraph 的可靠性、效率和灵活性,让您能够构建更加稳健且用户友好的应用程序。