日期
作者
LangChain 团队
LangGraph

🤖 LangGraph 中可靠的流式处理和高效的状态管理

日期:
作者: LangChain 团队

我们很高兴推出多项关键更新,以增强 LangGraph API/云体验。 这些更新包括:

  1. 流式运行现在由用于后台运行的作业队列提供支持。
    这确保了您的流式运行具有更高的可靠性,而不会丢失低延迟、实时的输出。 无论您是以令牌逐个令牌的方式流式传输聊天消息,还是运行其他进程,您都将体验到一致的性能。

  2. 新的流式端点和 SDK 方法:
    我们引入了 GET /threads/{thread_id}/runs/{run_id}/stream 端点和 client.runs.join_stream() SDK 方法。 这使得可以从任何运行中实时流式传输输出,包括后台运行。 借助此功能,您可以创建新的 UX,例如即使在用户离开并返回页面时仍继续流式传输的聊天机器人。

  3. 增强的最终状态检索:
    更新后的 GET /threads/{thread_id}/runs/{run_id}/join 端点和 client.runs.join() SDK 方法现在可以可靠地返回运行完成后的最终状态值,从而确保无论运行是正在进行还是已完成,结果都保持一致——这对于需要可靠状态检索的工作流程至关重要。

  4. 扩展的线程状态值:
    GET /threads/{id}client.threads.get() 现在支持两个新的状态值:errorinterrupted
    这些状态指示器可帮助您管理和排除线程故障,让您了解何时出现问题或进程被中断。 现有的 idlebusy 状态仍然受支持。

  5. 简化的状态检索:
    端点 GET /threads/{id} 和 GET /threads 现在包含每个线程的最新状态值。 这消除了单独的“获取状态”调用的需要,减少了检索线程状态所需的 API 请求数量。

  6. 高级线程搜索:
    POST /threads/searchclient.threads.search() 现在可以按线程状态值进行筛选。 结合状态筛选,此筛选功能使您可以构建高度特定的 UI(例如代理收件箱),您可以在其中轻松列出处于精确状态的线程。

这些更新共同增强了 LangGraph 的可靠性、效率和灵活性,使您能够构建更强大且用户友好的应用程序。

由 LaunchNotes 提供支持