自己实现 OpenAI 的 /v1/embeddings 接口
- 0. 背景
- 1. 修改 .env 文件
- 2. 修改 get_embedding 方法
0. 背景
使用 OpenAI 的 API Key 是需要付费的，为了节省成本，自己尝试实现 OpenAI 的各种接口。
本文章主要是实现 /v1/embeddings 和 /v1/engines/{model_name}/embeddings 接口的部分代码示例。
1. 修改 .env 文件
添加 COHERE_API_KEY，
COHERE_API_KEY='abcdeOuJIC5scu0dB6TJW0CijNMDP5tHfu8u2xyz' # 此 key 无效
2. 修改 get_embedding 方法
async def get_embedding(payload: Dict[str, Any]):# print(f"payload: {payload}")cohere_payload = {"texts": payload["input"], "truncate": "END"}# print(f"cohere_payload: {cohere_payload}")# print(f"os.environ['COHERE_API_KEY']: {os.environ['COHERE_API_KEY']}")cohere_headers = {'Accept': 'application/json','Authorization': 'Bearer ' + os.environ['COHERE_API_KEY'],'Content-Type': 'application/json',}# print(f"cohere_headers: {cohere_headers}")async with httpx.AsyncClient() as client:# https://docs.cohere.com/reference/embedresponse = await client.post("https://api.cohere.ai/v1/embed",headers=cohere_headers,json=cohere_payload,timeout=WORKER_API_TIMEOUT,)# print(f"response: {response}")cohere_embeddings = response.json()# print(f"cohere_embeddings: {cohere_embeddings}")embedding = {"embedding": cohere_embeddings["embeddings"], "token_num": 1}return embedding
完结！
)
