一、准备工作:注册账号与获取API Key
在开始RAG应用开发之前,你需要先拥有一个千聚账号并获取API Key。访问千聚AI中转站官网完成注册,登录后可以在控制台生成专属API Key。千聚支持Token购买和余额管理,按量计费,方便你控制项目成本。获取API Key后,建议妥善保存,用于后续所有模型调用配置。
二、配置Base URL与模型名称
千聚提供兼容OpenAI的接口,因此你只需要将Base URL指向千聚的地址,并在请求中传入你的API Key和模型名称即可。例如,在Python中使用openai库时,可以这样配置:
import openai
openai.api_key = "你的千聚API Key"
openai.api_base = "https://www.token88.cc/v1" # 千聚的Base URL
模型名称方面,千聚支持多种主流模型,如gpt-4o、claude-3、gemini-pro、deepseek-chat等,你可以在官网查看完整的模型列表。RAG应用中,检索阶段通常使用嵌入模型(如text-embedding-3-small),生成阶段则使用对话模型,通过千聚切换模型只需修改model参数,非常方便。
三、在RAG流程中实现多模型调用
一个典型的RAG应用包含检索和生成两个主要环节。在检索阶段,你将用户查询转换为向量,从知识库中召回相关文档;在生成阶段,将查询和召回内容组合成Prompt,交给大模型生成回答。千聚的聚合能力让你可以在同一个平台完成这两个步骤,无需对接多个厂商接口。
例如,检索阶段调用嵌入模型生成向量:
response = openai.Embedding.create(
model="text-embedding-3-small",
input="你的查询文本"
)
生成阶段调用对话模型:
response = openai.ChatCompletion.create(
model="gpt-4o",
messages=[{"role": "user", "content": "基于以下内容回答问题: ..."}]
)
通过千聚,你可以在同一个API Key和Base URL下灵活切换模型,这对于需要对比不同模型效果的RAG项目来说尤为实用。
四、测试一次完整的RAG调用
完成上述配置后,你可以编写一个简单的测试脚本,验证从检索到生成的完整流程。以下是一个最小示例:
import openai
openai.api_key = "你的API Key"
openai.api_base = "https://www.token88.cc/v1"
检索阶段:生成嵌入
query = "什么是RAG?"
embed_response = openai.Embedding.create(
model="text-embedding-3-small",
input=query
)
生成阶段:调用对话模型
completion = openai.ChatCompletion.create(
model="gpt-4o",
messages=[
{"role": "system", "content": "你是一个知识助手。"},
{"role": "user", "content": query}
]
)
print(completion.choices[0].message.content)
运行脚本后,你将看到模型返回的回答。如果一切顺利,说明你的RAG应用已经成功接入了千聚的多模型API平台。如果遇到问题,可以检查API Key是否正确、Base URL是否有误,或者模型名称是否在千聚支持列表中。
下一步行动
现在你已经掌握了从配置到检索的完整接入方法。立即访问千聚AI中转站官网,查看最新模型列表、购买Token,或直接获取你的API Key开始测试。无论你是构建企业级RAG系统还是个人项目,千聚都能为你提供更便捷的多模型调用体验。
相关资源