当前位置: 首页 > news >正文

如何使用 Go语言操作亚马逊 S3 对象云存储

以下是使用 Go 语言操作亚马逊 S3 对象云存储的详细步骤和示例代码:

解决思路:

  1. 安装必要的 Go 语言包,这里我们将使用 aws-sdk-go 包来与 Amazon S3 进行交互。
  2. 配置 AWS 凭证,包括访问密钥和秘密访问密钥,以及 AWS 区域。
  3. 使用 aws-sdk-go 创建 S3 客户端。
  4. 通过 S3 客户端执行各种操作,如上传文件、下载文件、列出存储桶中的对象等。

示例代码:

package s3Uploaderimport ("bytes""errors""fmt""github.com/aws/aws-sdk-go/aws""github.com/aws/aws-sdk-go/aws/credentials""github.com/aws/aws-sdk-go/aws/session""github.com/aws/aws-sdk-go/service/s3/s3manager""github.com/chai2010/webp" // WebP 库"github.com/nfnt/resize""html""image""image/jpeg""image/png""net/http""os""strings""upos/src/config"
)type S3Uploader struct {Name        stringScale       config.ScaleCfg         config.Sharktechuploader    *s3manager.UploaderContentType string
}var (ErrorUnsupportedImageFormat = errors.New("不支持的图片格式")
)func NewS3Uploader(cfg config.Sharktech) (*S3Uploader, error) {sess, err := session.NewSession(&aws.Config{Region:   aws.String(cfg.S3.Region),Endpoint: aws.String(cfg.S3.Endpoint),/*Set this to `true` to force the request to use path-style addressing,i.e., `http://s3.amazonaws.com/BUCKET/KEY`. By default, the S3 clientwill use virtual hosted bucket addressing when possible(`http://BUCKET.s3.amazonaws.com/KEY`).*/S3ForcePathStyle: aws.Bool(true),Credentials:      credentials.NewStaticCredentials(cfg.S3.AccessId, cfg.S3.AccessKey, ""),})if err != nil {return nil, err}uploader := s3manager.NewUploader(sess)return &S3Uploader{Cfg:      cfg,Scale:    config.YC.Scale,uploader: uploader,}, nil
}func (u *S3Uploader) ConvertWebPToJPG(file *os.File) (image.Image, error) {// 解码 WebP 文件为 image.Imageimg, err := webp.Decode(file)if err != nil {return nil, fmt.Errorf("解码 WebP 文件失败: %w", err)}return img, nil
}func (u *S3Uploader) ScaleImage(img image.Image, maxWidth, maxHeight uint) image.Image {// 获取原始图片的宽度和高度originalWidth := img.Bounds().Dx()originalHeight := img.Bounds().Dy()// 计算缩放比例ratio := float64(originalWidth) / float64(originalHeight)var newWidth, newHeight uintif ratio > 1 { // 图片宽 > 高newWidth = maxWidthnewHeight = uint(float64(maxWidth) / ratio)} else { // 图片高 >= 宽newHeight = maxHeightnewWidth = uint(float64(maxHeight) * ratio)}return resize.Resize(newWidth, newHeight, img, resize.Lanczos3)
}// 根据图片格式生成 Content-Type
func (u *S3Uploader) getContentType(format string) string {switch strings.ToLower(format) {case ".jpg", ".jpeg":return "image/jpeg"case ".png":return "image/png"case ".webp":return "image/webp"default:return "application/octet-stream" // 默认值}
}// 根据文件扩展名选择编码格式
func (u *S3Uploader) encodeImage(buf *bytes.Buffer, img image.Image, format string) error {switch strings.ToLower(format) {case ".jpg", ".jpeg":return jpeg.Encode(buf, img, nil)case ".png":return png.Encode(buf, img)case ".webp":return webp.Encode(buf, img, &webp.Options{Lossless: true})default:return ErrorUnsupportedImageFormat}
}// DetectFormatAndDecode 根据文件头判断图片格式并解码
func (u *S3Uploader) DetectFormatAndDecode(filePath string) (image.Image, string, error) {// 打开文件file, err := os.Open(filePath)if err != nil {return nil, "", err}defer file.Close()// 读取文件头前 12 个字节header := make([]byte, 12)_, err = file.Read(header)if err != nil {return nil, "", err}// 重置文件读取位置_, err = file.Seek(0, 0)if err != nil {return nil, "", err}// 根据文件头判断格式var img image.Imagevar ext stringswitch {case bytes.HasPrefix(header, []byte("\xFF\xD8\xFF")):// JPEG 文件头img, err = jpeg.Decode(file)ext = ".jpg"case bytes.HasPrefix(header, []byte("\x89PNG\r\n\x1a\n")):// PNG 文件头img, err = png.Decode(file)ext = ".png"case bytes.HasPrefix(header, []byte("RIFF")) && bytes.Contains(header[8:], []byte("WEBP")):// WebP 文件头img, err = webp.Decode(file)ext = ".webp"default:err = errors.New("unsupported image format")}return img, ext, err
}func (u *S3Uploader) Resize(filePath string) (buf bytes.Buffer, err error) {newImg, ext, err := u.DetectFormatAndDecode(filePath)if err != nil {return bytes.Buffer{}, err}u.ContentType = u.getContentType(ext)// 将缩放后的图片编码为 JPEG 格式err = u.encodeImage(&buf, newImg, ext)if err != nil {return}return buf, nil
}func (u *S3Uploader) Upload(filePath string, key string) error {buf, err := u.Resize(filePath)if err != nil {return err}_, err = u.uploader.Upload(&s3manager.UploadInput{ACL:    aws.String("public-read"), // 设置为 public-readBucket: aws.String(u.Cfg.S3.Bucket),Key:    aws.String(key),// TODO:: 不传Content-Type的好处是WP站点不好外链// ContentType: aws.String(u.ContentType),Body: bytes.NewReader(buf.Bytes()),})if err != nil {return err}return nil
}func (u *S3Uploader) DownloadAndUpload(imageUrl string, key string) error {buf, err := u.DownloadAndResizeImage(imageUrl)if err != nil {return err}_, err = u.uploader.Upload(&s3manager.UploadInput{ACL:    aws.String("public-read"), // 设置为 public-readBucket: aws.String(u.Cfg.S3.Bucket),Key:    aws.String(key),// TODO:: 不传Content-Type的好处是WP站点不好外链// ContentType: aws.String(u.ContentType),Body: bytes.NewReader(buf.Bytes()),})if err != nil {return err}return nil
}func (u *S3Uploader) DownloadAndResizeImage(imgURL string) (buf bytes.Buffer, err error) {imgURL = html.UnescapeString(imgURL)// 创建请求req, err := http.NewRequest("GET", imgURL, nil)if err != nil {return}// 设置 Referer 或 User-Agent,模拟合法请求req.Header.Set("Referer", "https://www.google.com")req.Header.Set("User-Agent", "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/129.0.0.0 Safari/537.36")// 发起请求client := &http.Client{}resp, err := client.Do(req)if err != nil {return}defer resp.Body.Close()// 检查响应的Content-TypecontentType := resp.Header.Get("Content-Type")// log.Println("Content-Type:", contentType)if !strings.HasPrefix(contentType, "image/") {err = fmt.Errorf("invalid content type: %s", contentType)return}// 读取图片img, _, err := image.Decode(resp.Body)if err != nil {return}newImg := u.ScaleImage(img, u.Scale.Width, u.Scale.Height)// 将缩放后的图片编码为 JPG 格式err = u.encodeImage(&buf, newImg, ".jpg")if err != nil {return}return buf, nil
}

相关文章:

如何使用 Go语言操作亚马逊 S3 对象云存储

以下是使用 Go 语言操作亚马逊 S3 对象云存储的详细步骤和示例代码: 解决思路: 安装必要的 Go 语言包,这里我们将使用 aws-sdk-go 包来与 Amazon S3 进行交互。配置 AWS 凭证,包括访问密钥和秘密访问密钥,以及 AWS 区…...

2025年应用与API安全展望:挑战与机遇并存

进入2025年,应用与API安全的重要性愈发突出。在过去的一年里,API技术已经成为数字创新的核心。然而,API的大规模应用也使得攻击面显著扩展,2024年针对业务逻辑漏洞的API攻击占比高达27%,较前一年增加10%。与此同时&…...

Linux安装docker,安装配置xrdp远程桌面

Linux安装docker,安装配置xrdp远程桌面。 1、卸载旧版本docker 卸载旧版本docker命令 yum remove docker \docker-client \docker-client-latest \docker-common \docker-latest \docker-latest-logrotate \docker-logrotate \docker-engine现在就是没有旧版本的d…...

VD:生成a2l文件

目录 前言Simulink合并地址 ASAP2 editor 前言 我之前的方法都是通过Simulink模型生成代码的过程中顺便就把a2l文件生成出来了,这时的a2l文件还没有地址,所以紧接着会去通过elf文件更新地址,一直以为这是固定的流程和方法,今天无…...

【SpringBoot应用篇】SpringBoot+MDC+自定义Filter操作traceId实现日志链路追踪

【SpringBoot应用篇】SpringBootMDC自定义Filter操作traceId实现日志链路追踪 解决的问题解决方案MDC具体逻辑ymllogback-spring.xmlTraceIdUtil操作工具类TraceIdFilter自定义过滤器GlobalExceptionHandler全局异常处理类TraceIdAspect切面UserController测试验证 多线程处理M…...

unity2022以上导出到AndroidStudio后更新步骤

1、unity里面Export出unityLibrary 2、导出apk,里面才包含libil2cpp(新版unity无法直接导出libil2cpp 3、注释AS项目app下的build.gradle里面包含unityLibrary的代码 4、注释AS项目settings.gradle包含unityLibrary的代码 5、删除AS项目里面的unityLibrary文件夹 6、…...

【ArcGIS初学】产生随机点计算混淆矩阵

混淆矩阵:用于比较分类结果和地表真实信息 总体精度(overall accuracy) :指对角线上所有样本的像元数(正确分类的像元数)除以所有像元数。 生产者精度(producers accuracy) :某类中正确分类的像元数除以参考数据中该类的像元数(列方向),又称…...

Harmony面试模版

1. 自我介绍 看表达能力、沟通能力 面试记录: 2. 进一步挖掘 2.1. 现状 目前是在职还是离职,如果离职,从上一家公司离职的原因 2.2. 项目经验 如果自我介绍工作项目经验讲的不够清楚,可以根据简历上的信息再进一步了解 面试记…...

PCM5142集成32位384kHz PCM音频立体声114dB差分输出DAC编解码芯片

目录 PCM5142 简介PCM5142功能框图PCM5142特性 参考原理图 PCM5142 简介 PCM514x 属于单片 CMOS 集成电路系列,由立体声数模转换器 (DAC) 和采用薄型小外形尺寸 (TSSOP) 封装的附加支持电路组成。PCM514x 使用 TI 最新一代高级分段 DAC 架构产品,可实现…...

浪潮云财务系统xtdysrv.asmx存在命令执行漏洞

一、漏洞简介 浪潮云财务系统xtdysrv.asmx存在命令执行漏洞,未经身份验证的远程攻击者可通过该漏洞在服务器端任意执行代码。 二、漏洞影响 浪潮云财务系统三、网络测绘: fofa: title"TSCEV4.0"四、复现过程 前置条件 步骤 POC 1 数据包…...

【网络编程】基础知识

目录 网络发展史 局域网和广域网 局域网(LAN) 广域网(Wan) 光猫 路由器 网线 设备通信的要素 IP地址 基本概念 地址划分 特殊地址(后续编程使用) IP地址转换 字节序 网络模型 网络的体系结…...

ResNet (Residual Network) - 残差网络:深度卷积神经网络的突破

一、引言 在计算机视觉领域,图像识别一直是一个核心且具有挑战性的任务。随着深度学习的发展,卷积神经网络(CNN)在图像识别方面取得了显著的成果。然而,随着网络深度的增加,出现了梯度消失或梯度爆炸等问题…...

MOSFET体二极管的反向恢复分析

1、MOSFET体二极管的反向恢复分析 MOSFET体二极管反向恢复会导致MOSFET工作时超出安全工作区(SOA),并引发其他电磁干扰问题(EMI。 二极管在反向恢复过程中会产生比较大的损耗。在正向偏置状态下,大量的电子和空穴载流…...

80_Redis内存策略

Redis性能之所以这么强,最主要的原因就是基于内存存储。而单节点的Redis其内存大小不宜过大,否则会影响持久化或主从同步的性能。 我们可以通过修改redis.conf配置文件来设置Redis的最大内存。 maxmemory <bytes> 当Redis内存使用达到上限时,就无法存储更多数据了。…...

【HarmonyOS NAPI 深度探索6】使用 N-API 创建第一个 Hello World 原生模块

【HarmonyOS NAPI 深度探索6】使用 N-API 创建第一个 Hello World 原生模块 开发一个 N-API 模块听起来可能有点技术感十足&#xff0c;但实际上入门并不复杂。今天&#xff0c;我们就来一步步实现一个简单的 Hello World 原生模块&#xff0c;感受一下 N-API 开发的魅力。 环…...

Java语言的软件工程

Java语言的软件工程 引言 在当今信息技术飞速发展的时代&#xff0c;软件工程作为一门应用广泛的学科&#xff0c;承担着开发高质量软件系统的重要责任。Java语言以其跨平台特性、安全性和强大的库支持&#xff0c;已经成为软件工程领域中最流行的编程语言之一。本文将深入探…...

【Mysql进阶知识】Mysql 程序的介绍、选项在命令行配置文件的使用、选项在配置文件中的语法

目录 一、程序介绍 二、mysqld--mysql服务器介绍 三、mysql - MySQL 命令行客户端 3.1 客户端介绍 3.2 mysql 客户端选项 指定选项的方式 mysql 客户端命令常用选项 在命令行中使用选项 选项(配置)文件 使用方法 选项文件位置及加载顺序 选项文件语法 使用举例&am…...

wireshark抓路由器上的包 抓包路由器数据

文字目录 抓包流程概述设置抓包配置选项 设置信道设置无线数据包加密信息设置MAC地址过滤器 抓取联网过程 抓包流程概述 使用Omnipeek软件分析网络数据包的流程大概可以分为以下几个步骤&#xff1a; 扫描路由器信息&#xff0c;确定抓包信道&#xff1b;设置连接路由器的…...

玩转大语言模型——使用graphRAG+Ollama构建知识图谱

系列文章目录 玩转大语言模型——ollama导入huggingface下载的模型 玩转大语言模型——langchain调用ollama视觉多模态语言模型 文章目录 系列文章目录前言下载和安装用下载项目的方式下载并安装用pip方式下载并安装 生成知识图谱初始化文件夹修改模型配置修改知识库生成配置创…...

python flask简单实践

项目结构 project/ │ ├── app.py ├── instance/ │ └── database.db ├── templates/ │ └── index.html ├── static/ │ └── style.css │ └── favicon.ico └── database.db首先创建目录&#xff0c;static 存放一些页面的样式或图标文件…...

Python爬虫实战:研究MechanicalSoup库相关技术

一、MechanicalSoup 库概述 1.1 库简介 MechanicalSoup 是一个 Python 库,专为自动化交互网站而设计。它结合了 requests 的 HTTP 请求能力和 BeautifulSoup 的 HTML 解析能力,提供了直观的 API,让我们可以像人类用户一样浏览网页、填写表单和提交请求。 1.2 主要功能特点…...

C++_核心编程_多态案例二-制作饮品

#include <iostream> #include <string> using namespace std;/*制作饮品的大致流程为&#xff1a;煮水 - 冲泡 - 倒入杯中 - 加入辅料 利用多态技术实现本案例&#xff0c;提供抽象制作饮品基类&#xff0c;提供子类制作咖啡和茶叶*//*基类*/ class AbstractDr…...

智慧医疗能源事业线深度画像分析(上)

引言 医疗行业作为现代社会的关键基础设施,其能源消耗与环境影响正日益受到关注。随着全球"双碳"目标的推进和可持续发展理念的深入,智慧医疗能源事业线应运而生,致力于通过创新技术与管理方案,重构医疗领域的能源使用模式。这一事业线融合了能源管理、可持续发…...

遍历 Map 类型集合的方法汇总

1 方法一 先用方法 keySet() 获取集合中的所有键。再通过 gey(key) 方法用对应键获取值 import java.util.HashMap; import java.util.Set;public class Test {public static void main(String[] args) {HashMap hashMap new HashMap();hashMap.put("语文",99);has…...

在四层代理中还原真实客户端ngx_stream_realip_module

一、模块原理与价值 PROXY Protocol 回溯 第三方负载均衡&#xff08;如 HAProxy、AWS NLB、阿里 SLB&#xff09;发起上游连接时&#xff0c;将真实客户端 IP/Port 写入 PROXY Protocol v1/v2 头。Stream 层接收到头部后&#xff0c;ngx_stream_realip_module 从中提取原始信息…...

基础测试工具使用经验

背景 vtune&#xff0c;perf, nsight system等基础测试工具&#xff0c;都是用过的&#xff0c;但是没有记录&#xff0c;都逐渐忘了。所以写这篇博客总结记录一下&#xff0c;只要以后发现新的用法&#xff0c;就记得来编辑补充一下 perf 比较基础的用法&#xff1a; 先改这…...

【Go】3、Go语言进阶与依赖管理

前言 本系列文章参考自稀土掘金上的 【字节内部课】公开课&#xff0c;做自我学习总结整理。 Go语言并发编程 Go语言原生支持并发编程&#xff0c;它的核心机制是 Goroutine 协程、Channel 通道&#xff0c;并基于CSP&#xff08;Communicating Sequential Processes&#xff0…...

微服务商城-商品微服务

数据表 CREATE TABLE product (id bigint(20) UNSIGNED NOT NULL AUTO_INCREMENT COMMENT 商品id,cateid smallint(6) UNSIGNED NOT NULL DEFAULT 0 COMMENT 类别Id,name varchar(100) NOT NULL DEFAULT COMMENT 商品名称,subtitle varchar(200) NOT NULL DEFAULT COMMENT 商…...

微信小程序云开发平台MySQL的连接方式

注&#xff1a;微信小程序云开发平台指的是腾讯云开发 先给结论&#xff1a;微信小程序云开发平台的MySQL&#xff0c;无法通过获取数据库连接信息的方式进行连接&#xff0c;连接只能通过云开发的SDK连接&#xff0c;具体要参考官方文档&#xff1a; 为什么&#xff1f; 因为…...

Unity | AmplifyShaderEditor插件基础(第七集:平面波动shader)

目录 一、&#x1f44b;&#x1f3fb;前言 二、&#x1f608;sinx波动的基本原理 三、&#x1f608;波动起来 1.sinx节点介绍 2.vertexPosition 3.集成Vector3 a.节点Append b.连起来 4.波动起来 a.波动的原理 b.时间节点 c.sinx的处理 四、&#x1f30a;波动优化…...