利用C++与Python调用千帆免费大模型，构建个性化AI对话系统

千帆大模型已于2024年4月25日正式免费，调用这个免费的模型以实现自己的AI对话功能，遵循以下步骤：

了解千帆大模型：

千帆大模型是百度智能云推出的一个平台，提供了一系列AI能力和工具，用于快速开发和应用AI技术。该平台提供了从数据管理、数据标注、模型开发、模型纳管到部署上线的全生命周期AI能力研发与应用管理服务。

注册与登录：

如果已经是开发者，可以直接登录百度智能云千帆大模型平台。如果没有账号，需要先进行注册，并按照提示完成账号的创建和登录。

数据准备：

在开始之前，需要准备用于训练和测试的数据。这些数据应该包含对话的输入和期望的输出。千帆大模型平台支持多种数据格式和导入方式，可以根据实际情况选择合适的方式进行数据导入。

数据标注：

对于导入的数据，需要进行标注，以便模型能够理解和学习对话的模式和规则。在千帆大模型平台上，可以使用平台提供的工具进行数据的标注工作。

模型训练：

在完成数据标注后，可以使用千帆大模型平台提供的工具进行模型的训练。训练过程中，可以根据需要调整模型的参数和配置，以获得更好的对话效果。

模型评估与优化：

训练完成后，可以对模型进行评估，查看其在测试数据上的表现。如果模型的表现不佳，可以根据评估结果进行模型的优化和调整。

部署与测试：

当模型训练和优化完成后，可以将其部署到千帆大模型平台上，并进行实际的测试。通过与模型进行对话，验证模型的性能和效果，并根据需要进行进一步的调整和优化。

集成与应用：

如果模型的表现符合预期，可以将其集成到自己的应用中，实现自己的AI对话功能。在集成过程中，需要注意与千帆大模型平台的接口和协议进行匹配和对接。需要注意的是，虽然千帆大模型已经免费，但在使用过程中可能会产生一些额外的费用，如数据存储、计算资源等。因此，在使用之前需要了解平台的收费标准和计费方式，以便做好预算和规划。

python实现与千帆大模型交互

import sys

sys.path.append(r'C:\Users\XXX\AppData\Local\Programs\Python\Python312-32\Lib\site-packages')

import requests

import json

def getcookies():  

  url = " https://aip.baidubce.com/oauth/2.0/token"  

  params = {  

      'grant_type': 'client_credentials',  

      'client_id':'4O0GgKpCfUT5mxZ4s3f',  # 替换为你的客户端ID  

      'client_secret': 'RKETeu3iLn4YbCclMUei21ZVVnD6Y' # 替换为你的客户端密钥  

    }  

  headers = {  

      'Content-Type': 'application/x-www-form-urlencoded',  

      'Accept': 'application/json'  

    }  

     

  response = requests.post(url, params=params, headers=headers)  

  if response.status_code == 200:  

      data = response.json()  

      if'access_token' in data:  

          print(data['access_token'])

          return data['access_token']  

      else:  

          print("服务器响应中未找到 access_token")  

          return None  

  else:  

      print(f"请求失败，状态码：{response.status_code}")  

      returnNone

   

def getvalue(content, token):  

  token = getcookies()        

#如果成功获取的token格式如下，一个月获取一次

 # token = "24.0a2e1101e19ebe5e500a0962b30468fb.2592000.1700073516.282335-70004478"

  url = " https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/ernie-speed-128k?access_token=" + token

  #content为填充的润色语句，要求可以自行改进

  payload = json.dumps({

      "messages": [

            {    

              "content": "原文内容:{{" + content + "}}\

要求：\

1. 使用更专业与精准的词汇，提取关键内容，重构文本表达更加简洁、准确和有层次。\

2. 调整结构顺序，使文字更具吸引力、可读性和说服力，内容简短精炼，字数不超过原始内容的70%。\

3. 重构后的文本相较于原文有较大的提升和改良，无需展示修改过程。\

4. 直接按新序号展示最终修订后的内容，无需添加任何说明。",

"role": "user"

            }

        ]

    })

  headers = {

      'Content-Type': 'application/json'

    }

   

  response = requests.request("POST", url, headers=headers, data=payload)

   

  #print(response.text)

  return response.text

C++调用pyhton文件中的函数

头文件定义

#ifndef PYTHONCALLER_H

#define PYTHONCALLER_H

#include <Python.h>

#include <string>

class PythonCaller {

private:

  PyObject* pModule;

  PyObject* pGetvalueFunc;

  PyObject* pGetcookiesFunc;

public:

  PythonCaller();

  ~PythonCaller();

  bool Initialize(std::string path, std::string name);

  void Finalize();

  std::string CallGetValue(const std::string& url, const std::string& cookies);

  std::string CallGetCookies();

};

#endif  // PYTHONCALLER_H

#else

#endif

源文件定义

#include "PythonCaller.h"

PythonCaller::PythonCaller() : pModule(nullptr) {}

PythonCaller::~PythonCaller() {

  Finalize();

}

bool PythonCaller::Initialize(std::string path, std::string name) {

  Py_Initialize();

  PyRun_SimpleString("import sys");

  PyRun_SimpleString(("sys.path.append('" + path + "')").c_str());

  PyObject* pName = PyUnicode_DecodeFSDefault(name.c_str());

  pModule = PyImport_Import(pName);

  Py_DECREF(pName);

  if (pModule == nullptr) {

      return0;

    }

  pGetvalueFunc = PyObject_GetAttrString(pModule,"getvalue");

  if (!pGetvalueFunc || !PyCallable_Check(pGetvalueFunc)) {

      Py_XDECREF(pGetvalueFunc);

      return0;

    }

  pGetcookiesFunc = PyObject_GetAttrString(pModule,"getcookies");

  if (!pGetcookiesFunc || !PyCallable_Check(pGetcookiesFunc)) {

      Py_XDECREF(pGetcookiesFunc);

      return0;

    }

  return 1;

}

void PythonCaller::Finalize() {

  if (pModule != nullptr) {

      Py_DECREF(pModule);

      pModule = nullptr;  //将 pModule 置为 nullptr

    }

  if (pGetvalueFunc != nullptr) {

      Py_DECREF(pGetvalueFunc);

      pGetvalueFunc = nullptr;  //将 pModule 置为 nullptr

    }

  if (pGetcookiesFunc != nullptr) {

      Py_DECREF(pGetcookiesFunc);

      pGetcookiesFunc = nullptr;  //将 pModule 置为 nullptr

    }

  Py_Finalize();

}

std::string PythonCaller::CallGetValue(const std::string& url, const std::string& cookies) {

  if (!pGetvalueFunc || !PyCallable_Check(pGetvalueFunc)) {

      Py_XDECREF(pGetvalueFunc);

      return"";

    }

   

  PyObject* pArgs = PyTuple_New(2);

  PyTuple_SetItem(pArgs, 0, PyUnicode_FromString(url.c_str()));

  PyTuple_SetItem(pArgs, 1, PyUnicode_FromString(cookies.c_str()));// 设置第二个参数为字符串

  PyObject* pValue = PyObject_CallObject(pGetvalueFunc, pArgs);

  Py_DECREF(pArgs);

  if (pValue == nullptr) {

      PyErr_Print();

      return"Error: Call to 'getvalue' failed";

    }

  std::string result;

  if (pValue == Py_None) {

      result = "Result of call: None";

    }

  else {

      PyObject* pStr = PyObject_Str(pValue);

      if (pStr != nullptr) {

          const char* utf8_str = PyUnicode_AsUTF8(pStr);

          result = std::string(utf8_str);

          Py_DECREF(pStr);

        }

      else {

          result = "Error: Unable to convert result to string";

        }

    }

  Py_DECREF(pValue);

  return result;

}

std::string PythonCaller::CallGetCookies() {

  if (!pGetcookiesFunc || !PyCallable_Check(pGetcookiesFunc)) {

      Py_XDECREF(pGetcookiesFunc);

      return"";

    }

  PyObject* pArgs = PyTuple_New(0);

  PyObject* pValue = PyObject_CallObject(pGetcookiesFunc, pArgs);

  Py_DECREF(pArgs);

  if (pValue == nullptr) {

      PyErr_Print();

      return"Error: Call to 'getvalue' failed";

    }

  std::string result;

  if (pValue == Py_None) {

      result = "Result of call: None";

    }

  else {

      PyObject* pStr = PyObject_Str(pValue);

      if (pStr != nullptr) {

          const char* utf8_str = PyUnicode_AsUTF8(pStr);

          result = std::string(utf8_str);

          Py_DECREF(pStr);

        }

      else {

          result = "Error: Unable to convert result to string";

        }

    }

  Py_DECREF(pValue);

  return result;

}

C++与python函数的交互过程

  if (mgIspythonCaller == 0) {

      mgIspythonCaller = mgpythonCaller.Initialize(mgSelfPath, "ai");

    }

   

  if (!mgIspythonCaller) {

      return1;

    }

  string str = mgpythonCaller.CallGetValue(content, "");

visualstudio中python环境设置

根据程序环境，选择对应版本的python安装

下载源码地址：https://www.lanzoub.com/iAFK0203yd4h