java中几种对象存储(文件存储)中间件的介绍

一、前言

在博主得到系统中使用的对象存储主要有OSS(阿里云的对象存储) COS(腾讯云的对象存储)OBS(华为云的对象存储)还有就是MinIO 这些玩意。其实这种东西大差不差,几乎实现方式都是一样,存储模式大同小异。下面介绍几种存储模式在springBoot中的使用。

二、阿里云OSS

阿里云对象存储服务(Object Storage Service,简称OSS)是阿里云对外提供的海量、安全、低成本、高可靠的云存储服务。它具有与平台无关的RESTful API接口,能够提供99.999999999%(11个9)的数据可靠性和99.99%的服务可用性。您可以在任何应用、任何时间、任何地点存储和访问任意类型的数据。

基于OSS,用户可以搭建出各种多媒体分享网站、网盘、个人和企业数据备份等基于大规模数据的服务。OSS非常适合用来存储大量不同大小、格式的非结构化数据,比如视频、图像、文本、日志等,且单个文件最大支持48.8TB,不限文件数量和大小。同时,OSS提供多种存储类型,包括标准存储、低频存储和归档存储,用户可以根据需求选择相应的存储类型。

在使用OSS时,用户可以通过阿里云控制台、图形化工具和命令行工具对数据进行上传、下载和管理。此外,OSS还提供了简单的REST接口,使得用户可以在任何互联网设备上进行数据的上传和下载。

关于OSS的定价和计量计费方式,阿里云提供了详细的说明。用户在使用OSS时,需要注意相关的使用限制和错误码,以确保服务的正常使用。

1、引入依赖

		<!--oss --><dependency><groupId>com.aliyun.oss</groupId><artifactId>aliyun-sdk-oss</artifactId><version>${aliyun-sdk-oss.version}</version></dependency>

2、读取配置

@Data
@Component
@ConfigurationProperties(prefix = "oss.aliyun")
public class AliYunProperties {/**域名*/private String domain;/**地域节点*/private String endpoint;/**存储桶名称*/private String bucketName;/**accessKey*/private String accessKey;/**accessSecret*/private String accessSecret;/**图片策略*/private String styleRule;/**缩略图策略*/private String thumbnailStyleRule;/**文件类型*/private List<String> fileTypes;}

3、实现图片上传

@Slf4j
@Component("aliyun")
public class AliYunFileHandle implements FileStrategy {@AutowiredAliYunProperties aliYunProperties;private static OSS ossClient;@Overridepublic UploadDto upload(MultipartFile file) throws Exception {return upload(file, null);}@Overridepublic UploadDto upload(MultipartFile file, String filePath) throws Exception {//文件名String fileFullName = FileUtil.getName(file.getOriginalFilename());InputStream inputStream = file.getInputStream();return upload(inputStream, fileFullName, filePath);}public UploadDto upload(InputStream inputStream, String fileFullName, String filePath) throws Exception {if (inputStream == null) {throw new Exception("上传文件不能为空");}OSS ossClient = getOssClient();try {//时间戳String timestamp = String.valueOf(System.currentTimeMillis());//文件扩展名String extension = FileUtil.getSuffix(fileFullName);String fileName = FileUtil.getPrefix(fileFullName);List<String> fileTypes = aliYunProperties.getFileTypes();if(fileTypes != null) {boolean flag= fileTypes.contains(extension);Assert.isTrue(flag, "不支持上传的文件类型:" + extension);}String upFilePath = StringUtils.join(fileName, "_", timestamp, ".", extension);if(filePath != null) {upFilePath = StringUtils.join(filePath, "/", upFilePath);}//String upFilePath = StringUtils.join(encodeName, ".", extension);// 文件上传PutObjectResult putObjectResult = ossClient.putObject(aliYunProperties.getBucketName(), upFilePath, inputStream);if (putObjectResult == null) {log.error("上传附件到阿里云失败 fileName={}", upFilePath);throw new Exception("上传附件 " + upFilePath + " 到阿里云失败 ");}log.info("oss fileName:" + upFilePath);//返回上传结果UploadDto uploadDto = new UploadDto();uploadDto.setName(upFilePath);
//            uploadDto.setImgUrl(filePath);
//            uploadDto.setKey(upFilePath);uploadDto.setCreateTime(DateUtil.date());//            //缩略图处理
//            if (isImageType(uploadDto.getMediaType())) {
//                BufferedImage image = ImageIO.read(file.getInputStream());
//                uploadDto.setWidth(image.getWidth());
//                uploadDto.setHeight(image.getHeight());
//                uploadDto.setThumbPath(StringUtils.isBlank(aliYunProperties.getThumbnailStyleRule()) ? filePath : filePath + aliYunProperties.getThumbnailStyleRule());
//            }return uploadDto;} catch (Exception e) {log.error("oss 上传失败", e);throw new RuntimeException("文件="+fileFullName + " 上传失败");} finally {ossClient.shutdown();}}private OSS getOssClient() {// 调用了shutdown方法,暂时不使用连接池方式
//        if(ossClient == null) {ossClient = new OSSClientBuilder().build(aliYunProperties.getEndpoint(),aliYunProperties.getAccessKey(),aliYunProperties.getAccessSecret());
//        }return ossClient;}@Overridepublic byte[] download(String key) throws Exception {if (key == null) {throw new Exception("文件key不能为空");}OSS ossClient = getOssClient();try {// 填写不包含Bucket名称在内的Object完整路径,例如testfolder/exampleobject.txtOSSObject ossObject = ossClient.getObject(new GetObjectRequest(aliYunProperties.getBucketName(), key));return IoUtil.readBytes(ossObject.getObjectContent());} catch (Exception e) {e.printStackTrace();} finally {ossClient.shutdown();}return null;}@Overridepublic void delete(String key) {}}

三、腾讯云 COS

腾讯云对象存储(Cloud Object Storage,COS)是一种分布式存储服务,专为存储海量文件而设计。用户可以通过网络随时存储和查看数据,享受高扩展性、低成本、可靠且安全的数据存储服务。

COS通过控制台、API、SDK和工具等多样化方式,简单、快速地接入,实现海量数据存储和管理。用户可以轻松进行任意格式文件的上传、下载和管理,一个存储桶可容纳无数个对象。对象(Object)是COS的基本单元,可以理解为任何格式类型的数据,例如图片、文档和音视频文件等。

根据访问频度的高低,COS提供三种对象的存储级别:标准存储、低频存储和归档存储。标准存储为用户提供了高可靠性、高可用性和高性能的对象存储服务,适用于有大量热点文件,需要频繁访问数据的业务场景,如热点视频、社交图片等。低频存储则适用于不频繁访问数据的存储,如网盘数据、大数据分析等,它同样提供高可靠性,但存储成本和访问时延相对较低。

此外,腾讯云还提供了COSBrowser这一桌面版工具,用户可以使用该工具进行可视化、方便的数据上传、下载等操作。这些功能使得COS成为一个强大且灵活的云存储解决方案,能够满足各种业务类型的存储需求。

1、引入依赖

		<!--cos --><dependency><groupId>com.qcloud</groupId><artifactId>cos_api</artifactId><version>${cos_api.version}</version></dependency>

2、读取配置

@Data
@Component
@ConfigurationProperties(prefix = "oss.tencent")
public class TencentProperties {/**域名*/private String domain;/**地域节点*/private String region;/**存储桶名称*/private String bucketName;/**secretId*/private String secretId;/**secretKey*/private String secretKey;/**图片策略*/private String styleRule;/**缩略图策略*/private String thumbnailStyleRule;/**文件类型*/private List<String> fileTypes;
}

3、文件上传下载

@Slf4j
@Component("tencent")
public class TencentFileHandle implements FileStrategy {@AutowiredTencentProperties tencentProperties;// 创建 COSClient 实例,这个实例用来后续调用请求COSClient createCOSClient() {// 设置用户身份信息。// SECRETID 和 SECRETKEY 请登录访问管理控制台 https://console.cloud.tencent.com/cam/capi 进行查看和管理String secretId = tencentProperties.getSecretId();String secretKey = tencentProperties.getSecretKey();COSCredentials cred = new BasicCOSCredentials(secretId, secretKey);// ClientConfig 中包含了后续请求 COS 的客户端设置:ClientConfig clientConfig = new ClientConfig();// 设置 bucket 的地域// COS_REGION 请参照 https://cloud.tencent.com/document/product/436/6224clientConfig.setRegion(new Region(tencentProperties.getRegion()));// 设置请求协议, http 或者 https// 5.6.53 及更低的版本,建议设置使用 https 协议// 5.6.54 及更高版本,默认使用了 httpsclientConfig.setHttpProtocol(HttpProtocol.https);// 以下的设置,是可选的:// 设置 socket 读取超时,默认 30sclientConfig.setSocketTimeout(30*1000);// 设置建立连接超时,默认 30sclientConfig.setConnectionTimeout(30*1000);// 如果需要的话,设置 http 代理,ip 以及 port
//        clientConfig.setHttpProxyIp("httpProxyIp");
//        clientConfig.setHttpProxyPort(80);// 生成 cos 客户端。return new COSClient(cred, clientConfig);}// 创建 TransferManager 实例,这个实例用来后续调用高级接口TransferManager createTransferManager() {// 创建一个 COSClient 实例,这是访问 COS 服务的基础实例。// 详细代码参见本页: 简单操作 -> 创建 COSClientCOSClient cosClient = createCOSClient();// 自定义线程池大小,建议在客户端与 COS 网络充足(例如使用腾讯云的 CVM,同地域上传 COS)的情况下,设置成16或32即可,可较充分的利用网络资源// 对于使用公网传输且网络带宽质量不高的情况,建议减小该值,避免因网速过慢,造成请求超时。ExecutorService threadPool = Executors.newFixedThreadPool(32);// 传入一个 threadpool, 若不传入线程池,默认 TransferManager 中会生成一个单线程的线程池。TransferManager transferManager = new TransferManager(cosClient, threadPool);// 设置高级接口的配置项// 分块上传阈值和分块大小分别为 5MB 和 1MBTransferManagerConfiguration transferManagerConfiguration = new TransferManagerConfiguration();transferManagerConfiguration.setMultipartUploadThreshold(5*1024*1024);transferManagerConfiguration.setMinimumUploadPartSize(1*1024*1024);transferManager.setConfiguration(transferManagerConfiguration);return transferManager;}void shutdownTransferManager(TransferManager transferManager) {// 指定参数为 true, 则同时会关闭 transferManager 内部的 COSClient 实例。// 指定参数为 false, 则不会关闭 transferManager 内部的 COSClient 实例。transferManager.shutdownNow(true);}@Overridepublic UploadDto upload(MultipartFile file) throws Exception {return upload(file, null);}@Overridepublic UploadDto upload(MultipartFile file, String filePath) throws Exception {//文件名String fileFullName = FileUtil.getName(file.getOriginalFilename());InputStream inputStream = file.getInputStream();return upload(inputStream, fileFullName, filePath);}public UploadDto upload(InputStream inputStream, String fileFullName, String filePath) throws Exception {if (inputStream == null) {throw new Exception("上传文件不能为空");}TransferManager transferManager = createTransferManager();String bucketName = tencentProperties.getBucketName();//int inputStreamLength = 1024 * 1024;
//        byte data[] = new byte[inputStreamLength];
//        InputStream inputStream = new ByteArrayInputStream(data);ObjectMetadata objectMetadata = new ObjectMetadata();// 上传的流如果能够获取准确的流长度,则推荐一定填写 content-length// 如果确实没办法获取到,则下面这行可以省略,但同时高级接口也没办法使用分块上传了//objectMetadata.setContentLength(inputStreamLength);try {//时间戳String timestamp = String.valueOf(System.currentTimeMillis());//文件扩展名String extension = FileUtil.getSuffix(fileFullName);String fileName = FileUtil.getPrefix(fileFullName);List<String> fileTypes = tencentProperties.getFileTypes();if(fileTypes != null) {boolean flag= fileTypes.contains(extension);Assert.isTrue(flag, "不支持上传的文件类型:" + extension);}String upFilePath = StringUtils.join(fileName, "_", timestamp, ".", extension);if(filePath != null) {upFilePath = StringUtils.join(filePath, "/", upFilePath);}String key = upFilePath;PutObjectRequest putObjectRequest = new PutObjectRequest(bucketName, key, inputStream, objectMetadata);// 高级接口会返回一个异步结果Upload// 可同步地调用 waitForUploadResult 方法等待上传完成,成功返回UploadResult, 失败抛出异常Upload upload = transferManager.upload(putObjectRequest);UploadResult uploadResult = upload.waitForUploadResult();if (uploadResult == null) {log.error("上传附件到腾讯云失败 fileName={}", upFilePath);throw new Exception("上传附件 " + upFilePath + " 到腾讯云失败 ");}log.info("cos fileName:" + upFilePath);//返回上传结果UploadDto uploadDto = new UploadDto();uploadDto.setName(upFilePath);
//            uploadDto.setKey(upFilePath);uploadDto.setCreateTime(DateUtil.date());return uploadDto;} catch (Exception e) {log.error("cos 上传失败", e);throw new RuntimeException("文件="+fileFullName + " 上传失败");} finally {shutdownTransferManager(transferManager);}}@Overridepublic byte[] download(String key) throws Exception {return null;}@Overridepublic void delete(String key) {}}

四、华为云OBS

华为云OBS,即华为云对象存储服务(Object Storage Service),是华为云提供的一种简单、高效、安全的云存储解决方案。它基于对象存储架构,为用户提供了海量、安全、高可靠、低成本的数据存储能力,且无需考虑容量限制。

华为云OBS具有以下主要特点和功能:

  1. 海量存储与高性能:OBS提供了超大存储容量的能力,适合存放任意类型的文件,并支持高速的数据存取和传输,满足用户对于大规模数据存储和高效访问的需求。
  2. 数据安全性:OBS通过多重安全机制和加密技术,保障用户数据的安全性和隐私性。同时,它还提供数据备份和恢复功能,确保数据的可靠性和完整性。
  3. 灵活配置与管理:OBS提供了灵活的配置选项和丰富的管理工具,用户可以根据实际需求定制存储方案,并通过可视化界面或API接口进行便捷的数据管理操作。
  4. 跨域资源共享:OBS支持CORS(跨域资源共享)规范,使得跨域请求可以在OBS上获取资源,方便用户在不同域之间进行数据共享和交互。
  5. 生命周期管理:OBS支持对对象版本进行生命周期管理,通过预定义的生命周期规则,自动执行数据的转换、迁移或删除等操作,帮助用户更好地管理数据生命周期。

此外,华为云OBS还提供了多种存储类型供用户选择,以满足不同业务场景的需求。同时,它与其他华为云服务和产品无缝集成,为用户提供一站式云计算基础设施服务体验。

1、引入依赖

<dependency><groupId>com.obs</groupId><artifactId>obs</artifactId><version>3.2.5</version>
</dependency>

2、需要的配置

华为云OBS存储桶名称
obs.bucketName=your-bucket-name
#华为云OBS服务节点,如上海(China East)
obs.endpoint=http://your-endpoint
#华为云OBS账户AK
obs.accessKey=your-access-key-id
#华为云OBS账户SK
obs.secretKey=your-secret-access-key

3、代码实现

import com.obs.services.ObsClient;
import com.obs.services.model.PutObjectRequest;
import com.obs.services.model.PutObjectResult;public class OBSExample {public static void main(String[] args) {// 填入你的OBS访问密钥、秘钥和地址String accessKey = "你的Access Key";String secretKey = "你的Secret Key";String endPoint = "你的End Point";String bucketName = "你的Bucket Name";String objectKey = "你要上传的Object Key";String filePath = "文件路径";try {// 创建ObsClient实例ObsClient obsClient = new ObsClient(accessKey, secretKey, endPoint);// 创建上传请求PutObjectRequest request = new PutObjectRequest();request.setBucketName(bucketName); // 设置Bucket名称request.setObjectKey(objectKey); // 设置Object名称request.setFilePath(filePath); // 设置文件路径// 上传文件PutObjectResult result = obsClient.putObject(request);System.out.println("Upload file successfully, ETag:" + result.getETag());// 关闭ObsClient实例obsClient.close();} catch (Exception e) {e.printStackTrace();}}
}

五、MinIo

Minio是GlusterFS创始人之一Anand Babu Periasamy发布新的开源项目。基于Apache License v2.0开源协议的对象存储项目,采用Golang实现,客户端支Java,Python,Javacript, Golang语言。

其设计的主要目标是作为私有云对象存储的标准方案。主要用于存储海量的图片,视频,文档等。非常适合于存储大容量非结构化的数据,例如图片、视频、日志文件、备份数据和容器/虚拟机镜像等,而一个对象文件可以是任意大小,从几kb到最大5T不等。

实现也差不多。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/738785.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

深入理解Java中的ConcurrentSkipListMap:高效并发的有序映射

码到三十五 &#xff1a; 个人主页 心中有诗画&#xff0c;指尖舞代码&#xff0c;目光览世界&#xff0c;步履越千山&#xff0c;人间尽值得 ! 摘要&#xff1a;本文将详细介绍Java中的ConcurrentSkipListMap&#xff0c;一个支持高效并发操作的有序映射。我们将深入探讨其数…

xilinx SDK 2018.3 undefined reference to `f_mount‘,`f_open‘等等

用xilinx SDK 写SD的读写实验时&#xff0c;已经添加了头文件ff.h并且没有报错&#xff0c;但是当用到内部的函数f_mount&#xff0c;f_open’等等时却显示未定义。 很可能是漏掉了在ZYNQ中定义SD的MIO接口&#xff0c;在下方图示中进行定义&#xff08;需要查找自己板子的原理…

Java零基础入门到精通_Day 1

01 Java 语言发展史 Java语言是美国Sun公司(StanfordUniversity Network)在1995年推出的 计算机语言Java之父:詹姆斯高斯林(ames Gosling) 重要的版本过度&#xff1a; 2004年 Java 5.0 2014年 Java 8.0 2018年 9月 Java 11.0 &#xff08;目前所使用的&#xff09; 02 J…

函数的说明文档

函数是纯代码语言&#xff0c;想要理解其含义&#xff0c;就需要一行行去阅读理解代码&#xff0c;效率比较低。 我们可以给函数添加说明文档&#xff0c;辅助理解函数的作用。 语法如下&#xff1a; 通过多行注释的形式&#xff0c;对函数进行说明解释 内容应写在函数体之前…

leetcode 25、k个一组翻转链表

给你链表的头节点 head &#xff0c;每 k 个节点一组进行翻转&#xff0c;请你返回修改后的链表。 k 是一个正整数&#xff0c;它的值小于或等于链表的长度。如果节点总数不是 k 的整数倍&#xff0c;那么请将最后剩余的节点保持原有顺序。 你不能只是单纯的改变节点内部的值…

SPEL表达式及注入漏洞

SPEL,全称为Spring表达式语言&#xff0c;是一个由 Spring 框架提供的表达式语言。它是一种基于字符串的表达式语言&#xff0c;可以在运行时对对象进行查询和操作。 SpEL 支持在XML和注解配置中使用&#xff0c;它可以在Spring框架的各种组件中使用&#xff0c;如Spring MVC …

JavaScript截取字符串的几种方法

1.split() split()用于把一个字符串分割成字符串数组 stringObject.split(separator,howmany) 参数说明&#xff1a; separator参数&#xff1a;必需填。字符串或正则表达式&#xff0c;从该参数指定的地方分割 stringObject。 howmany参数&#xff1a;可选。该参数可指定返…

android 快速实现 recyclerview 的所有item 都执行动画

1.在adapter 里面重写onViewAttachedToWindow 和 onViewDetachedFromWindow 两个方法 package com.example.widget;import android.view.ViewGroup; import android.view.animation.Animation; import android.view.animation.LinearInterpolator; import android.view.animat…

L3自动驾驶的“双保险”:冗余EPS关键技术解析

摘要: 本文主要介绍冗余EPS的发展路径和关键技术。 引言 在乘用车领域,电动助力转向系统(Electric Power Steering,EPS)相比传统的液压助力转向系统(Hydraulic Power Steering,HPS)具有结构简单、响应迅速、能耗低等优点,因此应用很广。随着智能驾驶的发展,作为底层…

springboot261高校专业实习管理系统的设计和开发

基于spring boot的高校专业实习管理系统的设计与实现 摘 要 随着国内市场经济这几十年来的蓬勃发展&#xff0c;突然遇到了从国外传入国内的互联网技术&#xff0c;互联网产业从开始的群众不信任&#xff0c;到现在的离不开&#xff0c;中间经历了很多挫折。本次开发的高校专…

制造行业大数据应用:四大领域驱动产业升级与智慧发展

一、大数据应用&#xff1a;制造行业的智慧引擎 随着大数据技术的不断突破与普及&#xff0c;制造行业正迎来一场前所未有的变革。大数据应用&#xff0c;如同智慧引擎一般&#xff0c;为制造行业注入了新的活力&#xff0c;推动了产业升级与创新发展。 二、大数据应用在制造行…

外贸人要加油努力,到底怎么做

我们说要加油&#xff0c;要努力&#xff0c;那做外贸我们的力气到底应该往哪里使&#xff1f;想要把外贸做好容易吗&#xff1f; 其实没有一件事情背后他是真正容易的&#xff0c;如果发现自己迷茫了&#xff0c;很有可能是你既要又要&#xff0c;没有自己的一个满足感&#…

鸿蒙ArkTS语言快速入门-TS(二)

相关文章快速入口&#xff1a;鸿蒙ArkTS语言快速入门-TS&#xff08;三&#xff09; ArkTS入门第二篇 TS入门学习变量声明条件语句if语句switch…case 语句 接口普通函数接口函数类型接口类类型接口继承接口接口继承类 TS入门学习 变量声明 使用let和const声明&#xff0c;替…

Elasticsearch:机器学习与人工智能 - 理解差异

作者&#xff1a;来自 Elastic Aditya Tripathi, Jessica Taylor 长期以来&#xff0c;人工智能几乎完全是科幻小说作家的玩物&#xff0c;人类将技术推得太远&#xff0c;以至于它变得活跃起来 —— 正如好莱坞让我们相信的那样 —— 开始造成严重破坏。 令人愉快的东西&#…

C++中的RAII原则和资源管理如何提高程序效率和安全性?

文章目录 C中的RAII&#xff08;Resource Acquisition Is Initialization&#xff09;原则是一种编程范式&#xff0c;它确保资源在其生命周期内的有效管理。RAII的核心思想是在对象创建时&#xff08;初始化阶段&#xff09;获取资源&#xff0c;并在对象销毁时&#xff08;析…

springboot项目集成nacos做配置中心后没生效问题

问题描述&#xff1a; springboot项目中集成nacos做配置中心&#xff0c;添加了nacos依赖和bootstrap.yaml后&#xff0c;项目启动时nacos并没有生效&#xff08;打印日志中都没有nacos相关信息&#xff09;。 <dependency><groupId>com.alibaba.cloud</groupI…

论企业安全漏洞扫描的重要性

前言 随着信息技术的迅猛发展和互联网的广泛普及&#xff0c;网络安全问题日益凸显。在这个数字化的世界里&#xff0c;无论是企业还是个人&#xff0c;都面临着前所未有的安全威胁。安全漏洞&#xff0c;作为这些威胁的源头&#xff0c;常常被忽视或无法及时发现。 而安全漏洞…

Codeforces-927(div3)-C. LR-remainders

这题很经典啊,对于除怎么解决取模的问题. 这种题确实是非常经典,就是这个取模怎么解决有除的问题呢?? 一开始,出于某种奇怪的心态(不就是日常装杯吗....),压根没考虑到.以此警醒自己,认真对待,仔细审题,仔细理解. 回归正文: 处理有除法的取模,可用线段树,就是凑区间吗,能…

ansible-playbook的角色(role)

1前言 角色目录如下&#xff08;分别为httpd角色和nginx角色&#xff09; handlers/ &#xff1a;至少应该包含一个名为 main.yml 的文件&#xff1b; 其它的文件需要在此文件中通过include 进行包含 vars/ &#xff1a;定义变量&#xff0c;至少应该包含一个名为 main.yml 的…

Leetcode 572 另一棵树的子树

文章目录 1. 题目描述2. 我的尝试3. 其他题解 1. 题目描述 Leetcode 572 另一棵树的子树 2. 我的尝试 以中序顺序从大树的根节点开始遍历&#xff0c;每次比较以当前节点为根节点的子树是否与小树相同。若某次比较结果为true&#xff0c;说明小树是大树的子树。 比较两树是…