智能GUI Agent是什么，有什么应用领域
智能GUI Agent是什么
- 研究背景与目的：GUI长期主导人机交互，LLM特别是多模态模型的出现，为GUI自动化带来变革，催生了基于LLM的GUI智能体。这些智能体可理解自然语言指令，处理复杂GUI元素并执行操作，改变了用户与软件交互方式。论文旨在梳理该领域发展脉络，剖析关键要素，明确研究问题，指出研究空白并规划未来发展路径，助力科研人员和从业者挖掘其潜力。
- 核心原理：LLM凭借强大的自然语言理解能力，将用户的自然语言指令转化为可执行的任务描述。多模态模型进一步融合视觉信息，使其能够理解GUI界面中的图像、布局等元素。通过代码生成技术，智能体将任务描述转换为操作GUI的代码，如模拟点击、输入文本等。这些代码在自动化框架支持下，实现对各种软件（网页、移动应用、桌面程序）的自动操作。
- 例如，当用户说“在购物APP中搜索红色运动鞋并加入购物车”，GUI智能体的LLM理解指令，多模态能力分析APP界面，生成点击搜索框、输入“红色运动鞋”、点击搜索按钮、选择商品并点击加入购物车的代码，实现自动化操作。<
相关文章：
智能GUI Agent是什么，有什么应用领域
智能GUI Agent是什么 研究背景与目的：GUI长期主导人机交互，LLM特别是多模态模型的出现，为GUI自动化带来变革，催生了基于LLM的GUI智能体。这些智能体可理解自然语言指令，处理复杂GUI元素并执行操作，改变了用户与软件交互方式。论文旨在梳理该领域发展脉络，剖析关键要素，…...
k8s优雅操作pod容器组
k8s优雅操作pod容器组 回退备份 kubectl get deploy deployName -o yaml>>deployName-bak-date "%Y-%m-%d".yaml获取副本数 replicasecho | kubectl get -o template deploy/deployName --template{{.spec.replicas}}停止容器组 kubectl scale deployment …...
在 Mac ARM 架构上使用 nvm 安装 Node.js 版本 16.20.2
文章目录 1. 安装 nvm（如果还没有安装的话）2. 加载 nvm 配置3. 列出特定系列的 Node.js 版本（远程）：4. 安装 Node.js 16.20.25. 使用指定版本的 Node.js6. 验证安装 在 Mac ARM 架构上使用 nvm 安装 Node.js 版本 16.…...
MySQL创建存储过程和存储函数
【图书推荐】《MySQL 9从入门到性能优化（视频教学版）》-CSDN博客 《MySQL 9从入门到性能优化（视频教学版）（数据库技术丛书）》(王英英)【摘要 书评 试读】- 京东图书 (jd.com) MySQL9数据库技术_夏天又到了…...
PyQt学习记录03——批量设置水印
0. 目录 PyQt学习记录01——加法计算器 PyQt学习记录02——串口助手 1. 前言 本次主要是为了学习Qt中的 QFileDialog 函数， QFileDialog.getExistingDirectory：用于选择文件夹，返回的是一个文件夹路径。 QFileDialog.getOpenFileName&…...
vivo手机和Windows电脑连接同一个WiFi即可投屏！
虽然现在很多人喜欢刷手机，但是对于长时间需要使用手机办公的人来说，手机屏幕还是太小了，当人一天二十四小时中要花费近十个小时摆弄手机，就会渴望手机屏幕能够大一点，至少看的时候，眼睛舒服一点。 因为嫌弃…...
芯盾时代数据安全产品体系，筑牢数据安全防线
芯盾时代数据安全治理（DSG）框架，以国家法律法规、行业监管标准、行业最佳实践为依据，从数据安全战略出发，以数据分类分级为支撑，构数据安全管理体系、数据安全技术体系、数据安全运营体系与数据安全监督评价…...
异位妊娠唯一相关的是年龄（U型曲线）
异位妊娠唯一相关的是年龄（U型曲线） 简介 异位妊娠，俗称宫外孕，是指受精卵在子宫体腔以外着床发育的异常妊娠过程 。正常情况下，受精卵会在子宫内着床并发育成胎儿，但在异位妊娠中，受精卵却在…...
CTF-WEB: 利用Web消息造成DOM XSS
如果索引中有类似如下代码 <!-- Ads to be inserted here --> <div idads> </div> <script>window.addEventListener(message, function(e) {document.getElementById(ads).innerHTML e.data;}); </script>这行代码的作用是将接收到的消息内容…...
【通俗易懂说模型】一篇弄懂几个经典CNN图像模型（AlexNet、VGGNet、ResNet）
🌈 个人主页：十二月的猫-CSDN博客 🔥 系列专栏： 🏀深度学习_十二月的猫的博客-CSDN博客 💪🏻 十二月的寒冬阻挡不了春天的脚步，十二点的黑夜遮蔽不住黎明的曙光 目录 1. 前言 2. …...
Unity世界坐标转成UI坐标
Unity世界坐标转成UI坐标 介绍转换代码合并方法总结 介绍 在Unity中官方提供了很多坐标转换的API，但是还没有一个API是将世界坐标系转换成UI的坐标系，世界坐标系在屏幕中的位置是不固定的所以有时候需要转换成UI坐标系**（注意这里不是转换成…...
自制游戏——斗罗大陆
很简陋，没有图，请见谅 // mine[0] 级数 // mine[1] 战力 //mine[2] 1 白虎 //mine[2] 2 昊天锤 //mine[2] 3 蓝银草 #include <bits/stdc.h> using namespace std; int mine[100],live3, dou 1, luo 1, da 1, bag[1000], huan 0, lia…...
MindStudio制作MindSpore TBE算子（四）算子测试（ST测试-Ascend910B/ModelArts）--失败尝试
上一节，MindStudio制作MindSpore TBE算子（三）算子测试（ST测试），因此缺乏对应的硬件环境导致无法进行ST测试，导致难以自安，今天搞来Ascend910B服务器来填坑，看看是否是硬件…...
二、交换机的vlan子设备接入
一、交换机的vlan设置-CSDN博客 二、交换机的vlan子设备接入-CSDN博客 接上篇的文章，本文接入了子设备 网络结构如下： 用路由器A和POE交换机B代替第一篇中的笔记本电脑，路由器A和交换机B都关闭DHCP服务，并分别接入一个IPC&#…...
EFCore相关知识分享
EFCore相关知识分享 文章目录 EFCore相关知识分享前言EFCore 的优势SaveChang的作用EF Core 查询优化小技巧使用投影（投影到所需的数据类型）延迟加载（Lazy Loading）与显式加载（Eager Loading）使用 AsNoTrac…...
检测网络安全漏洞 工具 网络安全 漏洞扫描 实验
实验一的名称为信息收集和漏洞扫描 实验环境：VMware下的kali linux2021和Windows7 32，网络设置均为NAT，这样子两台机器就在一个网络下。攻击的机器为kali,被攻击的机器为Windows 7。 理论知识记录： 1.信息收集的步骤 2.ping命令…...
deepseek + kimi 高效生成PPT
1.在deepseek中生成ppt大纲 2.将大纲复制到kimi中生成PPT kimi：https://kimi.moonshot.cn/...
JavaWeb学习-Mybatis（增删改查）
（一）Mybatis入门程序 1.创建springboot工程，并导入 mybatis的起步依赖、mysql的驱动包。（项目工程创建完成后，自动在pom.xml文件中，导入Mybatis依赖和MySQL驱动依赖） <dependencies> <!-- mybatis起步依赖 --> <dependency> …...
软考高项（二十四）法律法规和标准规范 ★重点集萃★
👑 个人主页 👑 ：😜😜😜Fish_Vast😜😜😜 🐝 个人格言 🐝 ：🧐🧐🧐说到做到，言出必行&am…...
Django中select_related 的作用
Django中这句代码Dynamic.objects.select_related(song)是什么意思？ 在 Django 中，这句代码： Dynamic.objects.select_related(song) 的作用是 在查询 Dynamic 模型的同时，预加载 song 关联的外键对象，从而减少数据…...
Linux应用开发之网络套接字编程(实例篇)
服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …...
HTML 语义化
目录 HTML 语义化HTML5 新特性HTML 语义化的好处语义化标签的使用场景最佳实践 HTML 语义化 HTML5 新特性 标准答案： 语义化标签： <header>：页头<nav>：导航<main>：主要内容<article>&#x…...
MySQL 隔离级别：脏读、幻读及不可重复读的原理与示例
一、MySQL 隔离级别 MySQL 提供了四种隔离级别，用于控制事务之间的并发访问以及数据的可见性，不同隔离级别对脏读、幻读、不可重复读这几种并发数据问题有着不同的处理方式，具体如下： 隔离级别脏读不可重复读幻读性能特点及锁机制读未提交（READ UNCOMMITTED）允许出现允许…...
Redis相关知识总结（缓存雪崩，缓存穿透，缓存击穿，Redis实现分布式锁，如何保持数据库和缓存一致）
文章目录 1.什么是Redis？2.为什么要使用redis作为mysql的缓存？3.什么是缓存雪崩、缓存穿透、缓存击穿？3.1缓存雪崩3.1.1 大量缓存同时过期3.1.2 Redis宕机 3.2 缓存击穿3.3 缓存穿透3.4 总结 4. 数据库和缓存如何保持一致性5. Redis实现分布式…...
java 实现excel文件转pdf | 无水印 | 无限制
文章目录 目录 文章目录 前言 1.项目远程仓库配置 2.pom文件引入相关依赖 3.代码破解 二、Excel转PDF 1.代码实现 2.Aspose.License.xml 授权文件 总结 前言 java处理excel转pdf一直没找到什么好用的免费jar包工具，自己手写的难度，恐怕高级程序员花费一年的事件，也…...
2.Vue编写一个app
1.src中重要的组成 1.1main.ts // 引入createApp用于创建应用 import { createApp } from "vue"; // 引用App根组件 import App from ./App.vue;createApp(App).mount(#app)1.2 App.vue 其中要写三种标签 <template> <!--html--> </template>…...
ffmpeg（四）：滤镜命令
FFmpeg 的滤镜命令是用于音视频处理中的强大工具，可以完成剪裁、缩放、加水印、调色、合成、旋转、模糊、叠加字幕等复杂的操作。其核心语法格式一般如下： ffmpeg -i input.mp4 -vf "滤镜参数" output.mp4或者带音频滤镜： ffmpeg…...
Cloudflare 从 Nginx 到 Pingora：性能、效率与安全的全面升级
在互联网的快速发展中，高性能、高效率和高安全性的网络服务成为了各大互联网基础设施提供商的核心追求。Cloudflare 作为全球领先的互联网安全和基础设施公司，近期做出了一个重大技术决策：弃用长期使用的 Nginx，转而采用其内部开发…...
Java入门学习详细版（一）
大家好，Java 学习是一个系统学习的过程，核心原则就是“理论 实践 坚持”，并且需循序渐进，不可过于着急，本篇文章推出的这份详细入门学习资料将带大家从零基础开始，逐步掌握 Java 的核心概念和编程技能。 …...
ios苹果系统，js 滑动屏幕、锚定无效
现象：window.addEventListener监听touch无效，划不动屏幕，但是代码逻辑都有执行到。 scrollIntoView也无效。 原因：这是因为 iOS 的触摸事件处理机制和 touch-action: none 的设置有关。ios有太多得交互动作，从而会影响…...