迁移到新系统之后,我发现后台有很多 Claude 请求失败的记录,应该是客户端配置错误造成的,LLMHub 的 Claude API 只支持通过 OpenAI 的 API 格式调用,也就是在客户端配置的时候,选择的服务商是 OpenAI,然后通过自定义模型输入 Claude 的模型名称使用。现在不支持Claude 官方 API 格式的渠道,直接在 Cursor 等软件配置Claude 渠道是不对的。
希望一直在尝试发请求的用户可以看到这条。
希望一直在尝试发请求的用户可以看到这条。
LLMHub 更新:
目前 LLMHub 的 API 已经支持 Anthropic ,也就是 Claude 原生格式的 API 转发,API 使用示例 :
你也可以通过 Anthropic SDK
调用。
在 Dify 的配置如图所示。
使用 OpenAI API 格式的请求依旧可以继续使用 Claude 模型。适配 Anthropic endpoint是因为有些客户端没法通过自定义 OpenAI 模型名称来使用 Claude。
现在大家可以直接在客户端选择 Anthropic/Claude 服务商,然后配置使用了, 域名、API Key 和 配置 OpenAI 的一样,唯一的区别是对话完整的 URL 是 /v1/messages 结尾的,请根据客户端的提示配置。
目前 LLMHub 的 API 已经支持 Anthropic ,也就是 Claude 原生格式的 API 转发,API 使用示例 :
curl https://llmhub.app/v1/messages \
--header "anthropic-version: 2023-06-01" \
--header "content-type: application/json" \
--header "x-api-key: $LLMHub_API_Key" \
--data \
'{
"model": "claude-3-5-haiku-20241022",
"messages": [{"role": "user", "content": "Hello"}],
"max_tokens": 256,
"stream": true
}'
你也可以通过 Anthropic SDK
调用。
在 Dify 的配置如图所示。
使用 OpenAI API 格式的请求依旧可以继续使用 Claude 模型。适配 Anthropic endpoint是因为有些客户端没法通过自定义 OpenAI 模型名称来使用 Claude。
现在大家可以直接在客户端选择 Anthropic/Claude 服务商,然后配置使用了, 域名、API Key 和 配置 OpenAI 的一样,唯一的区别是对话完整的 URL 是 /v1/messages 结尾的,请根据客户端的提示配置。
现在 LLMHub 所有的功能都是我自己做的了,之前还用了一些开源项目实现 API 转发,现在连转发都是自己写的。前段时间稳定性不太行,有各种问题,经过这两天熬夜折腾,现在稳定性应该好点了,要是使用遇到问题,欢迎联系 service@toolchan.com 😂
要完美兼容 OpenAI 和 Claude 的 API 格式,要花不少精力,后续会持续迭代更新。
要完美兼容 OpenAI 和 Claude 的 API 格式,要花不少精力,后续会持续迭代更新。
👍2👏1
妈的,大意了,为了做个测试把 Surge 关了,然后忘记打开了,不小心用国内 IP 请求了 Claude API 🥲 在调试 LLMHub,请求失败了我还连续发了很多个请求。希望号没事。 要是 LLMHub 的 Claude API 挂了,就是我的号被封了,麻烦邮件联系提醒我。
我就一个号,还是需要邀请的时候注册的,一直用到现在 🤣 现在先去准备注册备用号了。
我就一个号,还是需要邀请的时候注册的,一直用到现在 🤣 现在先去准备注册备用号了。
😭1
LLMHub
现在 LLMHub 所有的功能都是我自己做的了,之前还用了一些开源项目实现 API 转发,现在连转发都是自己写的。前段时间稳定性不太行,有各种问题,经过这两天熬夜折腾,现在稳定性应该好点了,要是使用遇到问题,欢迎联系 service@toolchan.com 😂 要完美兼容 OpenAI 和 Claude 的 API 格式,要花不少精力,后续会持续迭代更新。
开源项目 one-api 的镜像被投毒了,会在 VPS 后台挖矿。LLMHub 以前还是用 one-api 部署的,月初刚好迁移到自己开发的系统,也算提前避过了一劫 😂
https://github.com/songquanpeng/one-api/issues/2000
https://github.com/songquanpeng/one-api/issues/2000
LLMHub
妈的,大意了,为了做个测试把 Surge 关了,然后忘记打开了,不小心用国内 IP 请求了 Claude API 🥲 在调试 LLMHub,请求失败了我还连续发了很多个请求。希望号没事。 要是 LLMHub 的 Claude API 挂了,就是我的号被封了,麻烦邮件联系提醒我。 我就一个号,还是需要邀请的时候注册的,一直用到现在 🤣 现在先去准备注册备用号了。
后续,我的 Claude 账号确实被封了。宝贵的经验:如果你有 Claude 帐户,千万别用国内和香港的 IP 登录或者请求 API。早上一下子收到了 20 多封退款邮件,不知道会不会退回到卡里。目前 LLMHub 的 Claude API 已经用备份的 API,可正常使用。
😢1
好消息是 GPT 4o 的生成图片有 API 了
坏消息是需要账号实名认证,完成 kyc 才能用,并不支持中国的身份证件认证 🤣 LLMHub 暂时上不了这个 API
坏消息是需要账号实名认证,完成 kyc 才能用,并不支持中国的身份证件认证 🤣 LLMHub 暂时上不了这个 API