百度智能云大模型兼容OpenAI的方法

鉴于百度智能云的文档实在太绕，故写了此文提供使用OpenAI接口格式或SDK调用百度智能云上的大模型的方法。

Step.1 安装qianfan sdk

pip install qianfan

Step.2 调用IAM生成 BearerToken

import os
from qianfan import Qianfan
from qianfan.resources.console.iam import IAM


def test_create_token():
    response = IAM.create_bearer_token(
        expire_in_seconds=2592000,
        ak='YOU_ACCESS_KEY', sk='YOU_SECRET_KEY',
    )
    print(response.body['token'])

Step.3

使用OpenAI SDK 调用百度智能云或者直接发出Http 请求，本文以使用OpenAI SDK 为例

from openai import OpenAI

client = OpenAI(
    api_key="第二步生成的key",
    base_url="https://qianfan.baidubce.com/v2",
)

completion = client.chat.completions.create(
    model="ernie-3.5-8k",
    messages=[{'role': 'user', 'content': '你是谁?'}]
)

print(completion.choices[0].message.content)

效果如下所示