免费设计图网站,做网站什么域名好,徐州 网站制作,网站开发浏览器不支持flash自己实现 OpenAI 的 /v1/embeddings 接口 0. 背景1. 修改 .env 文件2. 修改 get_embedding 方法 0. 背景
使用 OpenAI 的 API Key 是需要付费的#xff0c;为了节省成本#xff0c;自己尝试实现 OpenAI 的各种接口。
本文章主要是实现 /v1/embeddings 和 /v1/engines/{mode… 自己实现 OpenAI 的 /v1/embeddings 接口 0. 背景1. 修改 .env 文件2. 修改 get_embedding 方法 0. 背景
使用 OpenAI 的 API Key 是需要付费的为了节省成本自己尝试实现 OpenAI 的各种接口。
本文章主要是实现 /v1/embeddings 和 /v1/engines/{model_name}/embeddings 接口的部分代码示例。
1. 修改 .env 文件
添加 COHERE_API_KEY
COHERE_API_KEYabcdeOuJIC5scu0dB6TJW0CijNMDP5tHfu8u2xyz # 此 key 无效2. 修改 get_embedding 方法
async def get_embedding(payload: Dict[str, Any]):# print(fpayload: {payload})cohere_payload {texts: payload[input], truncate: END}# print(fcohere_payload: {cohere_payload})# print(fos.environ[COHERE_API_KEY]: {os.environ[COHERE_API_KEY]})cohere_headers {Accept: application/json,Authorization: Bearer os.environ[COHERE_API_KEY],Content-Type: application/json,}# print(fcohere_headers: {cohere_headers})async with httpx.AsyncClient() as client:# https://docs.cohere.com/reference/embedresponse await client.post(https://api.cohere.ai/v1/embed,headerscohere_headers,jsoncohere_payload,timeoutWORKER_API_TIMEOUT,)# print(fresponse: {response})cohere_embeddings response.json()# print(fcohere_embeddings: {cohere_embeddings})embedding {embedding: cohere_embeddings[embeddings], token_num: 1}return embedding完结
