Forwarded from Reorx’s Forge
这篇里关于 LLM SDK 的选择,有这几个观点:
* 高层抽象如 Vercel AI SDK 在处理提供商端工具时问题较多
* 不同模型差异显著,建议直接使用原生 SDK(如 OpenAI SDK、Anthropic SDK)保持完全控制
* 目前抽象层的收益尚未超过成本
我个人是非常赞同的,有几乎相同的心路历程,在 Node 项目中最开始选择了 vercel ai-sdk, 但在进行 openai compatible provider 定制的时候发现异常艰难和复杂(抽象程度太高、封装层级太多的锅),最后直接换成 openai 官方 sdk 一切问题解决了;早些时候做一个 Python 项目的时候,试了几个 agent framework, 也都不如手写 tool call 解析来得清晰,出任何问题都能很快定位和修复。
https://lucumr.pocoo.org/2025/11/21/agents-are-hard/
* 高层抽象如 Vercel AI SDK 在处理提供商端工具时问题较多
* 不同模型差异显著,建议直接使用原生 SDK(如 OpenAI SDK、Anthropic SDK)保持完全控制
* 目前抽象层的收益尚未超过成本
我个人是非常赞同的,有几乎相同的心路历程,在 Node 项目中最开始选择了 vercel ai-sdk, 但在进行 openai compatible provider 定制的时候发现异常艰难和复杂(抽象程度太高、封装层级太多的锅),最后直接换成 openai 官方 sdk 一切问题解决了;早些时候做一个 Python 项目的时候,试了几个 agent framework, 也都不如手写 tool call 解析来得清晰,出任何问题都能很快定位和修复。
https://lucumr.pocoo.org/2025/11/21/agents-are-hard/
Armin Ronacher's Thoughts and Writings
Agent Design Is Still Hard
My Agent abstractions keep breaking somewhere I don’t expect.