阿里云百炼大模型使用

阿里云百炼大模型使用

由于阿里云百炼大模型有个新用户福利，有免费的4000000 tokens，我开通了相应的服务试试水。

使用

这里使用Android开发了一个简单的demo。

安装SDK

    implementation group: 'com.alibaba', name: 'dashscope-sdk-java', version: '2.14.4'

核心代码

// 自定义的AsyncTaskprivate class NetworkTask extends AsyncTask<Void, Void, String> {private String text;public NetworkTask(String text) {this.text = text;}@Overrideprotected String doInBackground(Void... voids) {// 在这里执行网络请求//请设置为自己的API-Key，这是有风险的。Constants.apiKey = "";Generation gen = new Generation();com.alibaba.dashscope.common.Message systemMsg = com.alibaba.dashscope.common.Message.builder().role(Role.SYSTEM.getValue()).content(text).build();com.alibaba.dashscope.common.Message userMsg = com.alibaba.dashscope.common.Message.builder().role(Role.USER.getValue()).content(text).build();GenerationParam param = GenerationParam.builder().model("qwen-plus").messages(Arrays.asList(userMsg)).resultFormat(GenerationParam.ResultFormat.MESSAGE).topP(0.8).build();GenerationResult result = null;try {result = gen.call(param);Gson gson = new Gson();return gson.toJson(result);} catch (NoApiKeyException e) {e.printStackTrace();} catch (InputRequiredException e) {e.printStackTrace();}return "";}@Overrideprotected void onPostExecute(String response) {if ("".equals(response)) {return;}// 在这里更新UI，因为此方法在主线程中运行Gson gson = new Gson();GenerationResult result = gson.fromJson(response, GenerationResult.class);GenerationOutput output = result.getOutput();output.getChoices().get(0).getMessage();String serverOutput = "";serverOutput = output.getChoices().stream().map(x -> x.getMessage().toString()).collect(Collectors.joining(","));Message serverResponse = new Message(serverOutput, false);List<Message> newMessages = new ArrayList<>();newMessages.add(new Message(text, true));newMessages.add(serverResponse);adapter.getMessageList().addAll(newMessages);adapter.notifyDataSetChanged();}}

实现效果
这里只支持了单轮对话，官方是支持多轮对话的，同时支持流式处理，这样用户的体验效果会更好。

参考

1. 新用户限时免费策略公告
2. 开通DashScope并创建API-KEY
3. API详情