自己实现 OpenAI 的 /v1/embeddings 接口

原创已于 2023-08-03 00:27:07 修改 · 2.3k 阅读

2 ·

CC 4.0 BY-SA版权

文章标签：

#OpenAI #embeddings

于 2023-08-02 23:47:07 首次发布

LINUX 专栏收录该内容

943 篇文章

订阅专栏

本文介绍了如何在节省成本的前提下，自行实现OpenAI的/v1/embeddings接口，包括修改.env文件设置COHERE_API_KEY以及get_embedding方法的具体代码示例。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

自己实现 OpenAI 的 /v1/embeddings 接口

0. 背景
1. 修改 .env 文件
2. 修改 get_embedding 方法

0. 背景

使用 OpenAI 的 API Key 是需要付费的，为了节省成本，自己尝试实现 OpenAI 的各种接口。

本文章主要是实现 /v1/embeddings 和 /v1/engines/{model_name}/embeddings 接口的部分代码示例。

1. 修改 .env 文件

添加 COHERE_API_KEY，

COHERE_API_KEY='abcdeOuJIC5scu0dB6TJW0CijNMDP5tHfu8u2xyz' # 此 key 无效

2. 修改 get_embedding 方法

async def get_embedding(payload: Dict[str, Any]):
    # print(f"payload: {payload}")
    cohere_payload = {"texts": payload["input"], "truncate": "END"}
    # print(f"cohere_payload: {cohere_payload}")
    # print(f"os.environ['COHERE_API_KEY']: {os.environ['COHERE_API_KEY']}")
    cohere_headers = {
        'Accept': 'application/json',
        'Authorization': 'Bearer ' + os.environ['COHERE_API_KEY'],
        'Content-Type': 'application/json',
    }
    # print(f"cohere_headers: {cohere_headers}")
    async with httpx.AsyncClient() as client:
        # https://docs.cohere.com/reference/embed
        response = await client.post(
            "https://api.cohere.ai/v1/embed",
            headers=cohere_headers,
            json=cohere_payload,
            timeout=WORKER_API_TIMEOUT,
        )
        # print(f"response: {response}")
        cohere_embeddings = response.json()
        # print(f"cohere_embeddings: {cohere_embeddings}")
        embedding = {"embedding": cohere_embeddings["embeddings"], "token_num": 1}
        return embedding

完结！