构建跨平台AI工具：使用Java调用百川2-13B服务并开发桌面客户端

构建跨平台AI工具使用Java调用百川2-13B服务并开发桌面客户端很多Java开发者朋友可能都有过这样的想法那些炫酷的AI对话功能能不能用自己最熟悉的Java技术栈来实现并且打包成一个独立的桌面应用放在自己的电脑上随时使用答案是肯定的。今天我们就来一起动手从零开始构建一个属于你自己的跨平台AI桌面工具。这个工具的后端核心是一个用Spring Boot搭建的服务它负责与百川2-13B这类大模型进行“对话”而前端则是一个用JavaFX开发的、有完整图形界面的客户端。你可以用它来管理对话历史、调整生成参数甚至把有趣的对话导出保存。整个过程我们只依赖Java生态非常适合想要将AI能力集成到私有化环境或特定工作流中的开发者。1. 项目蓝图与核心价值在开始写代码之前我们先搞清楚要做一个什么东西以及为什么这么做。想象一下你正在开发一个需要智能问答功能的内部系统或者你想有一个不依赖网页、能离线管理提示词和对话历史的AI助手。直接调用模型的原生API可能不够灵活也无法满足复杂的交互需求。我们的项目就是为了解决这些问题。这个工具的核心价值体现在几个方面技术栈统一全程使用Java对于Java团队来说学习成本和维护成本都更低无需引入Python、Node.js等其他运行时。应用私有化你可以将后端服务部署在内网对话数据和API密钥完全由自己掌控安全性更高。功能可定制桌面客户端可以根据你的业务需求灵活增加功能比如特定的对话模板、知识库检索接口、或者与本地文件系统的联动。跨平台运行得益于Java的“一次编写到处运行”打包好的客户端应用可以在Windows、macOS、Linux上使用。整个架构很简单桌面客户端JavaFX发送用户请求到我们自建的Spring Boot服务这个服务再代理请求到百川2-13B的官方API拿到结果后一路返回最终显示在客户端的界面上。下面我们就分步来实现它。2. 第一步构建Spring Boot后端服务后端服务是我们的“中转站”和“控制器”它封装了所有与百川API交互的细节为前端提供一个干净、稳定的接口。2.1 初始化项目与配置首先用你喜欢的IDE比如IntelliJ IDEA或通过 Spring Initializr 创建一个新的Spring Boot项目。依赖选择上我们需要Spring Web用于提供RESTful API。Spring Boot DevTools可选方便开发热更新。Lombok可选减少样板代码。在application.yml或application.properties中配置百川API的基础信息。切记这类敏感信息不要硬编码在代码里更不要提交到公开的代码仓库。# application.yml baichuan: api: # 这里填入你在百川平台获取的API Key api-key: your-baichuan-api-key-here # 百川2-13B的API端点 chat-endpoint: https://api.baichuan-ai.com/v1/chat/completions # 模型名称 model-name: Baichuan2-13B-Chat # 连接超时和读取超时设置毫秒 connect-timeout: 10000 read-timeout: 30000 # 自定义服务端口避免冲突 server: port: 80802.2 封装API请求与响应我们需要定义与百川API通信的数据结构。通常对话API需要一个消息列表和若干生成参数。// com.yourcompany.ai.service.dto.BaichuanChatRequest.java import lombok.Data; import java.util.List; Data public class BaichuanChatRequest { // 模型名称从配置读取 private String model; // 对话消息列表 private ListMessage messages; // 生成文本的随机性控制温度 private Float temperature 0.8f; // 仅从概率最高的前N个token中采样 private Integer top_p 0.9; Data public static class Message { private String role; // user 或 assistant private String content; } }// com.yourcompany.ai.service.dto.BaichuanChatResponse.java import lombok.Data; import java.util.List; Data public class BaichuanChatResponse { private String id; private String object; private Long created; private String model; private ListChoice choices; private Usage usage; Data public static class Choice { private Integer index; private Message message; private String finish_reason; } Data public static class Message { private String role; private String content; } Data public static class Usage { private Integer prompt_tokens; private Integer completion_tokens; private Integer total_tokens; } }2.3 实现核心服务层接下来创建一个服务类使用Spring的RestTemplate或更现代的WebClient来发送HTTP请求。// com.yourcompany.ai.service.BaichuanApiService.java import org.springframework.beans.factory.annotation.Value; import org.springframework.http.*; import org.springframework.stereotype.Service; import org.springframework.web.client.RestTemplate; import org.springframework.web.client.HttpClientErrorException; import javax.annotation.PostConstruct; Service public class BaichuanApiService { Value(${baichuan.api.chat-endpoint}) private String chatEndpoint; Value(${baichuan.api.api-key}) private String apiKey; Value(${baichuan.api.model-name}) private String modelName; private RestTemplate restTemplate; private HttpHeaders headers; PostConstruct public void init() { this.restTemplate new RestTemplate(); this.headers new HttpHeaders(); headers.setContentType(MediaType.APPLICATION_JSON); // 设置认证头百川API通常使用Bearer Token headers.setBearerAuth(apiKey); } public String chat(String userMessage, Float temperature, Integer topP) { BaichuanChatRequest request new BaichuanChatRequest(); request.setModel(modelName); request.setTemperature(temperature); request.setTop_p(topP); // 构建对话历史这里简化为例只包含当前一轮 BaichuanChatRequest.Message message new BaichuanChatRequest.Message(); message.setRole(user); message.setContent(userMessage); request.setMessages(List.of(message)); HttpEntityBaichuanChatRequest entity new HttpEntity(request, headers); try { ResponseEntityBaichuanChatResponse response restTemplate.exchange( chatEndpoint, HttpMethod.POST, entity, BaichuanChatResponse.class ); if (response.getStatusCode() HttpStatus.OK response.getBody() ! null) { BaichuanChatResponse body response.getBody(); if (!body.getChoices().isEmpty()) { return body.getChoices().get(0).getMessage().getContent(); } } return 抱歉未能获取到有效的响应。; } catch (HttpClientErrorException e) { // 处理API错误例如认证失败、额度不足等 return String.format(API调用失败 (状态码: %d): %s, e.getRawStatusCode(), e.getResponseBodyAsString()); } catch (Exception e) { return 请求过程中发生异常: e.getMessage(); } } }2.4 提供对外的REST接口最后我们创建一个控制器暴露一个简单的API给桌面客户端调用。// com.yourcompany.ai.controller.ChatController.java import com.yourcompany.ai.service.BaichuanApiService; import lombok.Data; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.*; RestController RequestMapping(/api/chat) public class ChatController { Autowired private BaichuanApiService chatService; PostMapping public ChatResponse chat(RequestBody ChatRequest request) { String aiResponse chatService.chat( request.getMessage(), request.getTemperature(), request.getTopP() ); return new ChatResponse(aiResponse); } // 简单的请求响应对象 Data public static class ChatRequest { private String message; private Float temperature 0.8f; private Integer topP 0.9; } Data public static class ChatResponse { private String reply; public ChatResponse(String reply) { this.reply reply; } } }启动这个Spring Boot应用你的后端服务就在http://localhost:8080运行起来了它提供了一个POST /api/chat的接口等待客户端连接。3. 第二步开发JavaFX桌面客户端后端准备好了现在我们来打造用户直接操作的界面。JavaFX提供了丰富的现代UI组件比传统的Swing更易于做出好看的界面。3.1 搭建客户端项目与主界面使用Maven或Gradle构建一个JavaFX项目。主界面我们可以设计成经典的聊天软件布局上方是对话显示区域下方是输入框和发送按钮侧边栏可以放置参数设置和历史记录列表。// com.yourcompany.ai.client.MainApp.java import javafx.application.Application; import javafx.fxml.FXMLLoader; import javafx.scene.Parent; import javafx.scene.Scene; import javafx.stage.Stage; public class MainApp extends Application { Override public void start(Stage primaryStage) throws Exception { Parent root FXMLLoader.load(getClass().getResource(/fxml/main.fxml)); primaryStage.setTitle(我的AI助手 (百川2-13B)); primaryStage.setScene(new Scene(root, 900, 700)); primaryStage.show(); } public static void main(String[] args) { launch(args); } }对应的FXML文件 (main.fxml) 可以使用SceneBuilder工具进行可视化设计也可以手写主要包含BorderPane布局中心是TextArea或WebView用于更好显示富文本来展示对话底部是TextField和Button左边是ListView和Slider等控件。3.2 实现与服务端的通信逻辑在客户端我们需要一个服务类来处理HTTP请求。// com.yourcompany.ai.client.service.ChatService.java import com.fasterxml.jackson.databind.ObjectMapper; import java.net.URI; import java.net.http.HttpClient; import java.net.http.HttpRequest; import java.net.http.HttpResponse; public class ChatService { private static final String API_BASE_URL http://localhost:8080/api/chat; private final HttpClient httpClient; private final ObjectMapper objectMapper; public ChatService() { this.httpClient HttpClient.newHttpClient(); this.objectMapper new ObjectMapper(); } public String sendMessage(String message, double temperature, double topP) throws Exception { // 构建请求体对应后端的ChatRequest var requestBody new RequestBody(message, temperature, topP); String jsonBody objectMapper.writeValueAsString(requestBody); HttpRequest request HttpRequest.newBuilder() .uri(URI.create(API_BASE_URL)) .header(Content-Type, application/json) .POST(HttpRequest.BodyPublishers.ofString(jsonBody)) .build(); HttpResponseString response httpClient.send(request, HttpResponse.BodyHandlers.ofString()); if (response.statusCode() 200) { // 解析响应对应后端的ChatResponse var chatResponse objectMapper.readValue(response.body(), ResponseBody.class); return chatResponse.getReply(); } else { throw new RuntimeException(请求失败状态码: response.statusCode() , 响应: response.body()); } } // 内部类定义请求/响应结构 private static class RequestBody { public String message; public double temperature; public double topP; // 构造函数、getter/setter省略可用Lombok的Value } private static class ResponseBody { public String reply; // getter/setter省略 } }3.3 绑定界面与业务逻辑在控制类 (MainController.java) 中将UI组件的事件如按钮点击与服务调用绑定起来。// com.yourcompany.ai.client.controller.MainController.java import javafx.fxml.FXML; import javafx.scene.control.*; import javafx.concurrent.Task; import java.time.LocalDateTime; import java.time.format.DateTimeFormatter; public class MainController { FXML private TextArea chatDisplayArea; FXML private TextField inputField; FXML private Button sendButton; FXML private Slider temperatureSlider; FXML private Slider topPSlider; FXML private ListViewString historyListView; private ChatService chatService new ChatService(); private StringBuilder conversationHistory new StringBuilder(); FXML public void initialize() { // 初始化显示 chatDisplayArea.setEditable(false); // 发送按钮事件 sendButton.setOnAction(e - onSendMessage()); // 输入框回车事件 inputField.setOnAction(e - onSendMessage()); // 历史记录点击事件可选用于加载历史对话 historyListView.getSelectionModel().selectedItemProperty().addListener((obs, oldVal, newVal) - loadHistory(newVal)); } private void onSendMessage() { String userInput inputField.getText().trim(); if (userInput.isEmpty()) return; // 更新UI显示用户输入 appendToDisplay(我, userInput); inputField.clear(); sendButton.setDisable(true); // 发送时禁用按钮 // 获取参数 double temp temperatureSlider.getValue(); double topP topPSlider.getValue(); // 使用Task在后台线程执行网络请求避免界面卡顿 TaskString chatTask new Task() { Override protected String call() throws Exception { return chatService.sendMessage(userInput, temp, topP); } }; chatTask.setOnSucceeded(e - { String aiReply chatTask.getValue(); appendToDisplay(AI助手, aiReply); // 可选将本轮对话摘要添加到历史列表 addToHistoryList(userInput, aiReply); sendButton.setDisable(false); inputField.requestFocus(); // 焦点回到输入框 }); chatTask.setOnFailed(e - { appendToDisplay(系统, 请求出错: chatTask.getException().getMessage()); sendButton.setDisable(false); }); new Thread(chatTask).start(); } private void appendToDisplay(String sender, String message) { String timestamp LocalDateTime.now().format(DateTimeFormatter.ofPattern(HH:mm)); String formattedMessage String.format([%s] %s: %s\n\n, timestamp, sender, message); conversationHistory.append(formattedMessage); // 在JavaFX应用线程中更新UI javafx.application.Platform.runLater(() - { chatDisplayArea.setText(conversationHistory.toString()); chatDisplayArea.setScrollTop(Double.MAX_VALUE); // 滚动到底部 }); } private void addToHistoryList(String userInput, String aiReply) { String summary userInput.length() 20 ? userInput.substring(0, 20) ... : userInput; String historyItem LocalDateTime.now().format(DateTimeFormatter.ofPattern(MM-dd HH:mm)) - summary; javafx.application.Platform.runLater(() - historyListView.getItems().add(0, historyItem)); // 最新记录放前面 } private void loadHistory(String selectedHistory) { // 这里可以实现加载完整历史对话到显示区域的功能 // 可能需要一个更复杂的数据结构如Conversation对象列表来存储完整对话 System.out.println(加载历史: selectedHistory); } }3.4 实现对话导出功能一个实用的功能是将对话记录导出为文本文件。这可以通过JavaFX的FileChooser轻松实现。// 在MainController中添加导出方法 FXML private void onExportConversation() { FileChooser fileChooser new FileChooser(); fileChooser.setTitle(导出对话记录); fileChooser.getExtensionFilters().add(new FileChooser.ExtensionFilter(文本文件, *.txt)); fileChooser.setInitialFileName(AI对话记录_ LocalDateTime.now().format(DateTimeFormatter.ofPattern(yyyyMMdd_HHmmss)) .txt); File file fileChooser.showSaveDialog(chatDisplayArea.getScene().getWindow()); if (file ! null) { try (PrintWriter writer new PrintWriter(file)) { writer.write(conversationHistory.toString()); // 可以给出成功提示 Alert alert new Alert(Alert.AlertType.INFORMATION); alert.setTitle(导出成功); alert.setHeaderText(null); alert.setContentText(对话记录已成功导出至:\n file.getAbsolutePath()); alert.showAndWait(); } catch (IOException e) { // 处理错误 Alert alert new Alert(Alert.AlertType.ERROR); alert.setTitle(导出失败); alert.setHeaderText(null); alert.setContentText(导出文件时出错: e.getMessage()); alert.showAndWait(); } } }4. 第三步打包、运行与展望完成编码后我们需要将项目运行起来并看看未来还能做哪些扩展。4.1 项目运行与测试启动后端运行你的Spring Boot应用确保http://localhost:8080/api/chat接口可以访问。启动客户端运行JavaFX的MainApp。确保客户端配置中的后端地址API_BASE_URL与后端服务地址一致。功能测试在客户端输入框发送消息观察对话区域是否正常显示一问一答。拖动温度和Top P滑块感受生成结果随机性的变化温度越高越随机Top P越小越确定。点击历史记录列表项如果实现了加载功能。使用导出功能将对话保存为本地文件。4.2 功能扩展思路一个基础版本已经完成但它的潜力远不止于此。你可以根据实际需求考虑添加以下功能对话上下文管理目前是单轮对话。可以修改后端服务维护一个会话ID在服务端存储多轮对话历史实现真正的连续对话。流式响应模仿ChatGPT的打字机效果。这需要后端服务支持百川API的流式返回如果提供并使用Server-Sent Events (SSE)或WebSocket将数据块实时推送到前端。多模型支持在后端配置中增加多个模型如不同版本的百川或其他模型的配置并在客户端提供下拉框让用户选择。提示词模板库在客户端内置一些常用的提示词模板如“翻译助手”、“代码生成器”、“文案写手”用户一键即可使用。本地数据持久化使用嵌入式数据库如H2、SQLite或简单文件将对话历史、用户配置持久化保存在本地即使关闭应用也不会丢失。5. 总结走完这一趟你会发现用纯Java技术栈构建一个功能完整的私有化AI桌面工具并没有想象中那么复杂。Spring Boot让我们能快速搭建稳健的后端代理服务而JavaFX则提供了构建现代桌面应用所需的一切组件。这个项目的意义在于它为你提供了一个完全可控的“沙盒”。你不再受限于公有云服务的界面和功能可以按照自己的业务逻辑、交互习惯和安全要求来定制整个流程。无论是集成到内部办公系统还是打造一个个性化的学习研究工具这个技术框架都是一个很好的起点。当然这只是开始。在实际部署时你还需要考虑更多生产环境的问题比如后端服务的API限流、客户端的自动更新、更优雅的错误处理等等。但最重要的是你已经掌握了将前沿AI能力与经典Java开发相结合的关键路径。接下来就根据你的具体场景尽情地添砖加瓦吧。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。