日期
作者
LangChain 团队
LangGraph

🤖 LangGraph 中可靠的流传输和高效状态管理

日期:
作者: LangChain 团队

我们很高兴推出几项关键更新,以增强 LangGraph API/Cloud 体验。其中包括:

  1. 流式运行现在由用于后台运行的作业队列提供支持。
    这确保了流式运行的更高可靠性,同时不会丢失低延迟、实时输出。无论您是逐个标记流式传输聊天消息,还是运行其他进程,您都将体验一致的性能。

  2. 新的流式传输端点和 SDK 方法:
    我们已推出 GET /threads/{thread_id}/runs/{run_id}/stream 端点和 client.runs.join_stream() SDK 方法。这可以启用所有运行(包括后台运行)的实时流式输出。利用此功能,您可以创建新的 UX,例如用户离开后再返回页面时依然持续流式传输的聊天机器人。

  3. 增强的最终状态检索:
    现在,更新后的 GET /threads/{thread_id}/runs/{run_id}/join 端点和 client.runs.join() SDK 方法可在运行完成后可靠地返回最终状态的值,无论运行是正在进行还是已完成,它都能确保结果一致——这对于需要可靠的状态检索的工作流至关重要。

  4. 扩展的线程状态值:
    GET /threads/{id}client.threads.get() 现在支持两个新的状态值:errorinterrupted
    这些状态指示器可帮助您管理您的线程并对它们进行故障排除,在出现问题或流程中断时让您知晓。现有的 idlebusy 状态仍然受支持。

  5. 简化的状态检索:
    端点 GET /threads/{id} 和 GET /threads 现在包含每个线程的最新状态值。这消除了单独“获取状态”调用的必要性,减少了检索线程状态所需的 API 请求次数。

  6. 高级线程搜索:
    POST /threads/searchclient.threads.search() 现在可以按线程状态值进行筛选。此筛选结合状态筛选,允许您构建高度特定的 UI(例如座席收件箱),这样您就可以轻松地按准确的状态列出线程。

这些更新协同提升了 LangGraph 的可靠性、效率和灵活性,让您能够构建更加稳健且用户友好的应用程序。

由 LaunchNotes 提供支持