OpenRouter

OpenRouter.ai 是一个平台，允许用户使用各种不同的语言模型进行聊天、创作和其他任务。和 OpenAI 的 Chat API 类似，在 OpenRouter.ai 上，用户可以使用 model 、messages 、tools 和provider 等参数来定制请求。用户可以从支持列表中选择一个模型例如 mistralai/mixtral-8x7b-instruct 或 openai/gpt-3.5-turbo，指定消息的角色（用户、助手或系统），并输入内容。OpenRouter.ai 会选择最具成本效益且性能最佳的 GPU 来处理请求，如果遇到 5xx 错误代码或-rate 限制，还会自动切换到其他提供商或 GPU。OpenRouter.ai 还支持 Server-Sent Events (SSE) 流式输出，通过在请求体中添加 stream: true 即可启用流式输出。OpenRouter.ai 还支持工具调用，用户可以通过 tools 参数调用特定函数。工具可以是 function 类型，包含函数描述、名称和参数。支持的工具类型包括文本内容和图像内容。总之，OpenRouter.ai 提供了一个灵活且功能丰富的平台，用户可以利用它进行各种任务，包括聊天、创作和使用工具。

OpenRouter 的模型路由

OpenRouter.ai 会根据用户的需求自动选择最合适的模型。如果用户没有指定 model 参数，OpenRouter.ai 会使用用户或付费者的默认模型; 如果用户指定了 model 参数，OpenRouter.ai 会从支持的模型列表中选择一个模型，并包括组织前缀。

OpenRouter 的成本效益

OpenRouter.ai 会选择最具成本效益并性能最佳的 GPU 来处理请求，以确保用户能够以最优惠的价格获得最佳的体验。

OpenRouter 的错误处理

OpenRouter.ai 会自动切换到其他提供商或 GPU，以避免 5xx 错误代码或-rate 限制。

OpenRouter 的流式输出

OpenRouter.ai 支持 Server-Sent Events (SSE) 流式输出，适用于所有模型。只需在请求体中添加 stream: true 即可启用流式输出。流式输出中可能会包含“comment”负载，应忽略这些负载。

OpenRouter 的非标准参数

如果选择的模型不支持某个请求参数（如 logit_bias 或 top_k），则该参数会被忽略，其余参数会转发给底层模型 API。

OpenRouter 的工具和函数调用

OpenRouter.ai 支持工具调用，用户可以指定 tools 参数来调用特定函数. 工具可以是 function 类型，包含函数描述、名称和参数。支持的工具类型包括文本内容和图像内容。

OpenRouter 的反向代理配置

您可以使用 Caddy 或 Nginx 等反向代理服务器来使用 OpenRouter.ai。通过设置必要的头部（如 HTTP-Referer 和 X-Title），可以将应用纳入 OpenRouter.ai 的排名中。

OpenRouter 的模型选择

OpenRouter.ai 提供多种语言模型，包括 Reflection Llama-3.1 70B、Euryale 70B v2.1 和 Mistral 7B Instruct v0.2 等。这些模型各有特点，例如 Reflection Llama-3.1 70B 使用了新的 Reflection-Tuning 技术来提高推理准确性，而 Euryale 70B v2.1 则专注于创意角色扮演。

OpenRouter 的 API 密钥

用户需要通过 OpenRouter.ai 平台获取 API 密钥，并在请求中包含此密钥。Optional 的 HTTP-Referer 和 X-Title 头部可以用于在 OpenRouter.ai 排名中显示应用信息。

OpenRouter 的快速开始

通过简单的 API 请求，用户可以快速开始使用 OpenRouter.ai。示例代码展示了如何使用 TypeScript、Python 或 Ruby 等语言进行请求，并利用 OpenAI 的客户端 API 进行集成。

OpenRouter.ai 的功能是什么？

OpenRouter.ai 是一个平台，提供各种语言模型和工具，帮助用户利用这些模型完成聊天、创作和其他任务。

OpenRouter.ai 与 OpenAI 的 Chat API 有什么区别？

OpenRouter.ai 的请求和响应格式与 OpenAI 的 Chat API 很像, 但是有一些细微的差别。使用 OpenRouter.ai 时，你可以指定一些参数，例如 model、messages、tools 和 provider , 可以定制请求。例如，可以指定使用 mistralai/mixtral-8x7b-instruct 或 openai/gpt-3.5-turbo 这样的特定模型，并指定消息角色 (例如: user、assistant 或 system ) 以及内容。

OpenRouter.ai 使用哪些语言模型？

OpenRouter.ai 提供许多语言模型，包括 Reflection Llama-3.1 70B、Euryale 70B v2.1 和 Mistral 7B Instruct v0.2。这些模型各有特点，例如 Reflection Llama-3.1 70B 使用了新的 Reflection-Tuning 技术来提高推理的准确性，而 Euryale 70B v2.1 则专注于创意角色扮演。

如何使用 OpenRouter.ai？

用户需要通过 OpenRouter.ai 平台获取 API 密钥，并在请求中包含此密钥。Optional 的 HTTP-Referer 和 X-Title 头部可以用于在 OpenRouter.ai 排名中显示应用信息。

OpenRouter.ai 提供哪些工具？

OpenRouter.ai 支持工具调用，用户可以指定 tools 参数来调用特定函数。工具可以是 function 类型，包含函数描述、名称和参数。支持的工具类型包括文本内容和图像内容。

我可以使用 OpenRouter.ai 创建自己的应用吗？

当然可以! OpenRouter.ai 可以通过简单的 API 请求使用。你可以使用 TypeScript、Python 或 Ruby 等语言进行请求，并利用 OpenAI 的客户端 API 进行集成。

OpenRouter.ai 的优势是什么？

OpenRouter.ai 提供多种语言模型和工具，支持流式输出、工具调用和反向代理配置，而且性能良好，成本效益高。它可以帮助用户快速开发各种 AI 应用，并提高效率。

如何联系 OpenRouter.ai 的开发者？

你可以通过访问 OpenRouter.ai 的官方网站或社交媒体平台联系开发者, 他们会提供更多信息和帮助。