MinIO-Plus 是一个 MinIO 的二次封装与增强工具 简化开发、提高效率 实现 文件秒传 并发上传 断点续传 缩略图生成

MinIO-Plus 是一个 MinIO 的二次封装与增强工具,在 MinIO 的基础上只做增强,不侵入 MinIO 代码,只为简化开发、提高效率而生。成为 MinIO 在项目中落地的润滑剂。
1 特性 | Feature

  • 无侵入 :只做增强不做改变,引入它不会对现有工程产生影响,如丝般顺滑。
  • 文件秒传 :对每个上传的文件进行哈希摘要识别,用户上传同一个文件时,没有文件实际传输过程,做到秒传。
  • 并发上传 :将文件切分为小块。同时并发上传多个小块,最大限度地利用带宽,加快上传速度。
  • 断点续传 :在传输过程中遇到问题导致传输失败,只需重新传输未完成的小块,而不需要重新开始整个传输任务。
  • 缩略图生成 :识别文件类型,在图片上传时自动生成缩略图,缩略图大小可配置。
  • 自动桶策略 :按照文档、压缩包、音频、视频、图片等类型自动建桶,按照/年/月划分路径,避免受到操作系统文件目录体系影响导致性能下降。
  • 访问权限控制 :可支持基于用户、组的文件权限控制,保证重要文件的安全性。
  • 访问链接时效 :基于 MinIO 的临时链接创建策略,提供具备有效期并预签名的上传与下载地址。
  • 前端直连 :前端直连 MinIO ,项目工程不做文件流的搬运,在支持以上特性的情况下提供 MinIO 原生性能。
  • 极佳的兼容性 :JDK 从 1.8 至 17+,并同时支持 SpringBoot2 和 SpringBoot3。

添加依赖[color=var(–vp-c-brand-1)]

引入 MinIO Plus Starter 依赖

Spring Boot 2

  1. <dependencys>
  2.     <dependency>
  3.         <groupId>me.liuxp</groupId>
  4.         <artifactId>minio-plus-all-springboot2-starter</artifactId>
  5.         <version>1.0.0</version>
  6.     </dependency>
  7.     <dependency>
  8.         <groupId>me.liuxp</groupId>
  9.         <artifactId>s3-api-minio</artifactId>
  10.         <version>1.0.0</version>
  11.     </dependency>
  12. </dependencys>

复制代码

Spring Boot 3

  1. <dependencys>
  2.     <dependency>
  3.         <groupId>me.liuxp</groupId>
  4.         <artifactId>minio-plus-all-springboot-starter</artifactId>
  5.         <version>1.0.0</version>
  6.     </dependency>
  7.     <dependency>
  8.         <groupId>me.liuxp</groupId>
  9.         <artifactId>s3-api-minio</artifactId>
  10.         <version>1.0.0</version>
  11.     </dependency>
  12. </dependencys>

复制代码

配置参数[color=var(–vp-c-brand-1)]

在application.yml配置文件中,添加 MinIO Plus 相关配置项:

  1. ##################################################################
  2. ### MinIO Plus Config
  3. ##################################################################
  4. minioplus:
  5.     # MinIO 部署地址
  6.     backend: http://localhost:9000
  7.     # 授权key
  8.     key: minioadmin
  9.     # 密钥
  10.     secret: minioadmin

复制代码

本项目可用于商业项目

上传[color=var(–vp-c-brand-1)]

/TODO 上传流程活动图

秒传

当用户重复上传相同的文件时,每次都需要执行一次完整的文件上传操作,这造成了文件上传过程的冗余,即浪费了用户的时间和服务器的网络IO,重复文件又占用了不必要的服务器磁盘空间。 针对以上两个问题,minio-plus支持文件秒传特性,解决了传统文件上传中重复文件上传时的问题,提高了文件传输的效率和用户体验,同时减少了文件服务器的存储空间占用。 实现文件秒传的技术问题主要涉及文件唯一标识的生成和文件重复性检测。

  • 文件唯一标识生成:在浏览器端,使用MD5哈希算法对待传输文件进行哈希值编码。编码结果为一字符串,作为文件的唯一标识。
  • 文件重复性检测:在服务器端,根据接收到的文件唯一标识在数据库中进行搜索。如果在数据库中找到相同的文件唯一标识,那么判断该文件存在且无需再进行文件传输。

分片上传[color=var(–vp-c-brand-1)]

分片上传是一种将大文件划分为多个片段并发或按序上传的技术。它有以下几个好处:

  • 提高传输速度:当上传的文件比较大时,将大文件进行分块,同时并发上传多个小块,而不是一整个大文件按顺序上传。这样可以最大限度地利用带宽,从而加快上传速度。
  • 支持断点续传:分块上传是断点续传技术的前置条件,要想实现断点续传,必须先支持分块。

断点续传[color=var(–vp-c-brand-1)]

断点续传依赖于分片技术,是提高可用性的重要手段,优点如下:

  • 节省时间、减少网络IO、减少磁盘IO:在文件传输过程中遇到问题导致传输失败时,只需重新传输未完成的分片,而不需要重新开始整个传输任务。
  • 增加传输的可靠性:可以避免由于网络波动或其他原因导致整个文件需要重新传输的情况。再也不怕意外断网。在大文件传输时,尤其有用。
  • 随时暂停和恢复:用户可以在传输过程中暂停传输或者中断传输,断点续传可以方便地恢复传输任务。

下载

浏览器向服务端发起文件读取请求,服务端会根据fileKey入参取得文件的元数据信息。获取文件元数据信息后,根据元数据信息中的是否私有字段和所有者字段判断是否具备文件读取权限。

  • 当用户具备读取权限时,服务端请求MinIO服务器获取经过预签名的文件访问地址返回给浏览器。
  • 当用户不具备读取权限时,返回给浏览器无访问权限提示信息。

浏览器拿到真实文件地址后,读取文件并显示或下载。

客户端直连[color=var(–vp-c-brand-1)]

当用户进行文件流的上传和下载时,直接访问MinIO服务器(可配置Nginx代理)。

使用minioclient的GetPresignedObjectUrlArgs方法,入参是一个GetPresignedObjectUrlArgs对象,该对象包含了以下属性:

  • bucketName:要访问的桶名。
  • objectName:要访问的对象名。
  • expires:URL的过期时间,单位为秒。

该方法的返回值是一个字符串类型的URL,可以用于访问指定的对象,示例:

  1. http://127.0.0.1:9000/test/test123
  2. ?response-content-type=application%2Fmsword%22&response-content-disposition=attachment%3Bfilename%3D%22xxx.doc%22
  3. &X-Amz-Algorithm=AWS4-HMAC-SHA256
  4. &X-Amz-Credential=minioadmin%2F20230620%2Fus-east-1%2Fs3%2Faws4_request
  5. &X-Amz-Date=20230620T071735Z
  6. &X-Amz-Expires=60&X-Amz-SignedHeaders=host
  7. &X-Amz-Signature=5be3535042ffe72fedee8a283e7a5afbc2b068c595c16800cf57f089ed891cc5

复制代码

每次前端请求文件时,都会生成预签名文件地址,文件地址中,有日期、时效、签名。MinIO会进行验签,保证安全性。

PS:附件中包含本例源码及示例源码,文档。

下载说明:
1.本站资源都是白菜价出售,同样的东西,我们不卖几百,也不卖几十,甚至才卖几块钱,一个永久会员能下载全站100%源码了,所以单独购买也好,会员也好均不提供相关技术服务。
2.如果源码下载地址失效请联系站长QQ进行补发。
3.本站所有资源仅用于学习及研究使用,请必须在24小时内删除所下载资源,切勿用于商业用途,否则由此引发的法律纠纷及连带责任本站和发布者概不承担。资源除标明原创外均来自网络整理,版权归原作者或本站特约原创作者所有,如侵犯到您权益请联系本站删除!
4.本站站内提供的所有可下载资源(软件等等)本站保证未做任何负面改动(不包含修复bug和完善功能等正面优化或二次开发);但本网站不能保证资源的准确性、安全性和完整性,由于源码具有复制性,一经售出,概不退换。用户下载后自行斟酌,我们以交流学习为目的,并不是所有的源码都100%无错或无bug;同时本站用户必须明白,【安安资源网】对提供下载的软件等不拥有任何权利(本站原创和特约原创作者除外),其版权归该资源的合法拥有者所有。
5.请您认真阅读上述内容,购买即以为着您同意上述内容,由于源码具有复制性,一经售出,概不退换。
安安资源网 » MinIO-Plus 是一个 MinIO 的二次封装与增强工具 简化开发、提高效率 实现 文件秒传 并发上传 断点续传 缩略图生成