跳到正文
原文
Reddit · r/MachineLearning· /u/phill1992·· 8 天前AI 评分27

通用实时 LLM 智能体应使用什么 API 接口

Which API for general real-time LLM agents [D]

AI 导读

探讨通用实时 LLM 智能体的理想 API 接口设计。当前 vendors 提供的"real-time APIs"仅针对编程场景,而 AsyncLLM 预印本提出用 asyncio 协程和共享内存块实现异步智能体通信。提问者希望 OpenAI/Anthropic 等厂商能暴露通用 API,使开发者能构建实时调试助手、"深度研究"智能体、语音控制日历等应用。

来源:Reddit · r/MachineLearning · reddit.com