GO随想:GO的并发等待
协程并发等待技术——WaitGroup 类型和 errgroup 包
waitgroup
阻塞等待多个并发任务执行完成。WaitGroup 类型主要包含下面几个方法。
func (wg *WaitGroup) Add(delta int)
func (wg *WaitGroup) Done()
func (wg *WaitGroup) Wait()
第一个是 Add 方法,在任务运行之前,需要调用 Add 方法,用于设置需要等待完成的任务数,Add 方法传进去的数值之和,需要和任务数相等。
第二个是 Done 方法,每个任务完成时,需要调用 Done 方法,用于告知 WaitGroup 对象已经有一个任务运行完成。
第三个是 Wait 方法,当需要等待所有并发任务完成时,调用 Wait 方法,用于阻塞主协程。
import ("sync"
)var urls = []string{"http://www.golang.org/","http://www.google.com/","http://www.somestupidname.com/",
}func TestWaitGroup(t *testing.T) {// 创建WaitGroupwg := sync.WaitGroup{}results := make([]string, len(urls))for index, url := range urls {url := urlindex := index// 在创建协程执行任务之前,调用Add方法wg.Add(1)go func() {// 任务完成后,调用Done方法defer wg.Done()// Fetch the URL.resp, err := http.Get(url)if err != nil {return}defer resp.Body.Close()body, err := io.ReadAll(resp.Body)if err != nil {return}results[index] = string(body)}()}// 主协程阻塞,等待所有的任务执行完成wg.Wait()
}
errgroup 包
可以在主协程中获取并发任务错误信息
import ("golang.org/x/sync/errgroup"
)func TestErrHandle(t *testing.T) {results := make([]string, len(urls))// 创建Group类型g := new(errgroup.Group)for index, url := range urls {// Launch a goroutine to fetch the URL.url := urlindex := index// 调用Go方法g.Go(func() error {// Fetch the URL.resp, err := http.Get(url)if err != nil {return err // 返回错误}defer resp.Body.Close()body, err := io.ReadAll(resp.Body)if err != nil {return err // 返回错误}results[index] = string(body)return nil})}// Wait for all HTTP fetches to complete.// 等待所有任务执行完成,并对错误进行处理if err := g.Wait(); err != nil {fmt.Println("Failured fetched all URLs.")}
}
第一步,我们要创建 Group 类型的对象。
第二步,在 Group 的 Go 方法中传入那些需要并发运行的函数。特别需要注意的是,这些传入的函数必须将错误返回。
第三步,也是最后一步,在主协程中,我们需要调用 Group 对象的 Wait 方法。通过这一调用,主协程将会阻塞等待,直至所有通过 Go 方法传入的任务都执行完毕。并且,在任务完成后,我们还能够对 Wait 方法所返回的错误进行处理。
func TestLimitGNum(t *testing.T) {results := make([]string, len(urls))// 用WithContext函数创建Group对象eg, ctx := errgroup.WithContext(context.Background())// 调用SetLimit方法,设置可同时运行的最大协程数eg.SetLimit(2)for index, url := range urls {url := urlindex := index// 调用Go方法eg.Go(func() error {select {case <-ctx.Done(): // select-done模式取消运行return errors.New("task is cancelled")default:// 并发获取urlresp, err := http.Get(url)if err != nil {return err // 返回错误}defer resp.Body.Close()body, err := io.ReadAll(resp.Body)if err != nil {return err // 返回错误}results[index] = string(body)return nil}})}// 等待所有任务执行完成,并对错误进行处理if err := eg.Wait(); err != nil {fmt.Println("Failured fetched all URLs.")}
}
errorGroup 包中的结构体
type token struct{}type Group struct {cancel func(error) // 这个作用是為了前面說的 WithContext 而來的wg sync.WaitGroup // errGroup底层的阻塞等待功能,就是通过WaitGroup实现的sem chan token // 用于控制最大运行的协程数err error // 最后在Wait方法中返回的errorerrOnce sync.Once // 用于安全的设置err
}
总结:
1. WaitGroup类型是Golang的基础并发类型,用于阻塞等待多个并发任务执行完成,包含Add、Done和Wait方法。
2. errgroup包是Golang提供的并发扩展库,对WaitGroup进行了封装,在并发等待的基础功能上提供了错误处理和任务取消功能。
3. Group类型的Go方法用于传入具有错误返回值的函数类型,Wait方法会阻塞等待所有传入Go方法的函数全部运行完毕,并且在任务完成后能够对错误进行处理。
4. 任务取消功能通过WithContext函数创建Group对象,传入Go方法的函数需要实现select-done模式,利用context来停止所有相关任务。
5. errgroup包还可以限制同时并发运行的最大协程数,通过SetLimit方法设置可同时运行的最大协程数,达到最大协程数时会阻塞创建新协程运行任务。
相关文章:
GO随想:GO的并发等待
协程并发等待技术——WaitGroup 类型和 errgroup 包 waitgroup 阻塞等待多个并发任务执行完成。WaitGroup 类型主要包含下面几个方法。 func (wg *WaitGroup) Add(delta int) func (wg *WaitGroup) Done() func (wg *WaitGroup) Wait() 第一个是 Add 方法,在任务运…...
kubernetes第五天
1.容器的健康检查Probe(探针)之readinessProbe就绪探针 1.exec方式检查 #通过rc资源创建了三个pod,然后使用services资源,对外提供三个pod的容器的访问入口。 apiVersion: v1 kind: ReplicationController metadata:name: web-rc-readlinepr…...
扩散模型论文概述(三):Stability AI系列工作【学习笔记】
视频链接:扩散模型论文概述(三):Stability AI系列工作_哔哩哔哩_bilibili 本期视频讲的是Stability AI在图像生成的工作。 同样,第一张图片是神作,总结的太好了! 介绍Stable Diffusion之前&…...
JVM调优,参数在哪里设置的?
JVM调优,参数在哪里设置的? 在Java应用程序中,JVM(Java Virtual Machine)的调优通常通过设置JVM启动参数来实现。这些参数可以控制JVM的内存分配、垃圾回收策略、线程管理、性能优化等方面。 1. JVM参数的位置 JVM参…...
2024年最新Stable Diffusion 新手入门教程,安装使用及模型下载
一、安装要求: ① 操作系统:Windows10以后的系统 ② CPU:不做强制性要求 ③ 内存:推荐8G以上 ④ 显卡:必须是Nvidia的独立显卡,显存最低4G,推荐20系以后;A卡、核显只能用CPU跑 …...
Ubuntu 20.04安装gcc
一、安装GCC 1.更新包列表 user596785154:~$ sudo apt update2.安装gcc user596785154:~$ sudo apt install gcc3.验证安装 user596785154:~$ gcc --version二 编译C文件 1.新建workspace文件夹 user596785154:~$ mkdir workspace2.进入workspace文件夹 user596785154:~…...
IT运维的365天--024 闲置路由器关闭了dhcp,如何知道它的IP是啥
有时候各种原因,我们关闭了路由器的Dhcp,比如需要获取的无线IP和有线同一个网段的情况。时间久了,如果没做标记,大部分时候就会忘了路由器原来设置的是什么IP,没有路由器的对应IP,自然也无法进路由器后台去…...
kaggle竞赛:纽约出租车行程时间NYC Taxi Trip Duration
1.引言 作为一名(坦白说有点懒的)图像处理方向的研究生,说实话最近新开一个坑,可能是因为要寒假了比较无聊,这次带来的系列是kaggle数据处理竞赛的经典例题:纽约出租车行程时间问题。希望大家多多支持&…...
Freemarker模板进行判空
文章目录 freemarker判断对象是否为null使用 ?? 操作符使用 ?has_content 内建函数直接使用 ! 操作符取反 freemarker判断列表是否为空 freemarker判断对象是否为null 在 FreeMarker 模板引擎中,你可以使用内建的指令和条件判断来检测一个对象是否为 null。Free…...
C++ const关键字(八股总结)
作用 const修饰符用来定义常量,具有不可变性。 修饰变量,说明该变量不可以被改变;修饰指针,分为指向常量的指针(pointer to const)和自身是常量的指针(常量指针,const pointer&…...
Linux 清楚历史命令
在 Linux 中,执行完命令后,如果你想清除终端屏幕上的内容,可以使用以下几种方法: 1. 使用 clear 命令 clear 是 Linux 中最常用的清除屏幕命令。它会将终端屏幕清空,并将光标移动到屏幕左上角。 bash clear 2. 使用快…...
服务器双网卡NCCL通过交换机通信
1、NCCL变量设置 export CUDA_DEVICE_MAX_CONNECTIONS1 export NCCL_SOCKET_IFNAMEeno2 export NCCL_IB_DISABLE0 #export NCCL_NETIB export NCCL_IB_HCAmlx5_0,mlx5_1 export NCCL_IB_GID_INDEX3 export NCCL_DEBUGINFOGPUS_PER_NODE4MASTER_ADDR192.168.1.2 MASTER_PORT600…...
Redis哨兵(sentinel)
是什么 吹哨人巡查监控后台master主机是否故障,如果故障了根据投票数自动将某一个从库转换为新主库,继续对外服务 哨兵的作用 1、监控redis运行状态,包括master和slave 2、当master down机,能自动将slave切换成新master 能干嘛…...
小白学Pytorch
小白学Pytorch 发现一个比较好的教程,对于自己来说比较合适,适合从零开始的教程。 1、搭建一个简单的网络 https://www.cnblogs.com/PythonLearner/p/13587092.html 搭建网络这步说的比较清楚: 我们使用nn包中的Sequential搭建网络&#…...
ros2笔记-2.5.3 多线程与回调函数
本节体验下多线程。 python示例 在src/demo_python_pkg/demo_python_pkg/下新建文件,learn_thread.py import threading import requestsclass Download:def download(self,url,callback):print(f线程:{threading.get_ident()} 开始下载:{…...
第5章:Go语言错误处理和异常
第5章:Go语言错误处理和异常 5.1 错误类型基础 5.1.1 error接口 // error接口定义 type error interface {Error() string }// 自定义错误 type CustomError struct {Message stringCode int }func (e *CustomError) Error() string {return fmt.Sprintf(&quo…...
题库刷题知识点总结
算法与机器学习相关 支持向量机:是一种有监督的机器学习算法,用于分类和回归任务。它通过寻找一个最优超平面来将不同类别的数据点分开,最大化两类数据点到超平面的间隔,具有良好的泛化能力和抗噪声能力。机器学习:是…...
GraphRAG:LLM之Graphrag接入milvus
前言 微软目前的graphrag更像个demo,数据量大的时候不是很友好的啊,所以将milvus接入了graphrag,看完这篇文章,其他数据库接入应该也没问题 注:这篇文章只是在search的时候接入进来,index过程或者说整个流…...
adb使用及常用命令
目录 介绍 组成 启用adb调试 常用命令 连接设备 版本信息 安装应用 卸载应用 文件操作 日志查看 屏幕截图和录制 设备重启 端口转发 调试相关 设置属性 设备信息查询 获取帮助 模拟输入 介绍 adb全称为 Android Debug Bridge(Android调试桥),是 A…...
omnipeek分析beacon帧
omnipeek查询设备发送beacon时同一信道两个beacon发送间隔 目录 用例要求分析抓包数据 1.用例要求 Beacon帧发送频率符合规范要求。参数-【同一个信道两个beacon发送间隔不能超过100ms】 2.分析抓包数据 打开becon.pkt文件(用omnipeek工具提前抓取包)…...
经典算法:打家劫舍(动态规划 + 回溯求最优解)C++ 超详细解析
前言打家劫舍是动态规划的入门经典题,核心考察无相邻元素选取的最大和问题。本文将基于 C 实现两种核心解法:动态规划(空间优化版):高效计算最大金额,时间 O (n),空间 O (1)回溯法:不…...
微信小程序实战:打造优雅的互动消息列表(评论 / 点赞 / 关注
在绿植类小程序开发中,互动消息模块(评论、点赞、关注)是提升用户粘性的核心场景。本文将基于实际开发场景,分享如何快速实现风格统一、交互友好的评论详情、点赞详情、关注详情列表页面,包含完整的代码实现和样式设计…...
Agents统一综述:Harness、记忆、Skills和协议
可靠的Agent能力不仅来自模型内部参数权重,更来自将认知负担外部化到结构化基础设施中。 近期,上交大、中山大学、卡梅隆等发表长文对 LLM Agents中的外部化:记忆、Skills、协议与Harness工程进行了统一综述 借用认知工具(Cogniti…...
如何高效获取数字资源:Internet Archive Downloader终极指南
如何高效获取数字资源:Internet Archive Downloader终极指南 【免费下载链接】internet_archive_downloader A chrome/firefox extension that download books from Internet Archive(archive.org) and HathiTrust Digital Library (hathitrust.org) 项目地址: ht…...
5分钟上手lilToon:打造专业级卡通角色渲染的终极指南
5分钟上手lilToon:打造专业级卡通角色渲染的终极指南 【免费下载链接】lilToon Feature-rich shaders for avatars 项目地址: https://gitcode.com/gh_mirrors/li/lilToon lilToon是一款功能强大的Unity着色器工具,专为虚拟角色和卡通渲染设计。无…...
LeetCode --- 2293. Min Max Game 解题报告
原问题 Question: You are given a 0-indexed integer array nums whose length is a power of 2. Apply the following algorithm on nums: Let n be the length of nums. If n == 1, end the process. Otherwise, create a new 0-indexed integer array newNums of length …...
艾默生15kW直流充电模块DCDC控制软件分析
系统概述 艾默生15kW直流充电模块是一款高性能的电力转换设备,采用DSP2803x系列数字信号处理器作为核心控制器。该软件系统实现了对直流-直流(DCDC)转换器的精确控制,具备完善的保护机制和通信功能。 核心架构设计 1. 控制系统…...
2025届学术党必备的六大AI写作神器横评
Ai论文网站排名(开题报告、文献综述、降aigc率、降重综合对比) TOP1. 千笔AI TOP2. aipasspaper TOP3. 清北论文 TOP4. 豆包 TOP5. kimi TOP6. deepseek 具备自然语言处理技术的智能辅助,AI 写作软件能够快速生成文章、报告、营销文案等…...
PostgreSQL之Timescale-超表实战:从创建到优化的全流程指南
1. TimescaleDB超表入门:从零开始认识时序数据利器 第一次接触TimescaleDB时,我被它处理时间序列数据的能力惊艳到了。作为PostgreSQL的扩展,TimescaleDB最大的亮点就是**超表(Hypertable)**这个概念。简单来说,超表就像是一个智能…...
3个实战技巧:用Real-ESRGAN让模糊图像重获新生
3个实战技巧:用Real-ESRGAN让模糊图像重获新生 【免费下载链接】Real-ESRGAN Real-ESRGAN aims at developing Practical Algorithms for General Image/Video Restoration. 项目地址: https://gitcode.com/gh_mirrors/re/Real-ESRGAN 你是否曾面对模糊的老照…...
