返回顶部
首页 > 资讯 > 数据库 >Nginx+NFS及Redis和分布式文件系统Moosefs有哪些优缺点
  • 356
分享到

Nginx+NFS及Redis和分布式文件系统Moosefs有哪些优缺点

2024-04-02 19:04:59 356人浏览 安东尼
摘要

Nginx+NFS及Redis和分布式文件系统Moosefs有哪些优缺点,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。  大量小文件存储一直是

Nginx+NFS及Redis分布式文件系统Moosefs有哪些优缺点,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。

  大量小文件存储一直是典型的应用场景之一,现在有3KW的数据,单条数据都很小的,如果按key-value来看的话,key就是32位的MD5字符串,value按平均算大概是100字节左右。下面编程网小编来讲解下Nginx+NFS、Redis和分布式文件系统Moosefs有哪些优缺点?

  Nginx+NFS、Redis和分布式文件系统Moosefs有哪些优缺点

  1、直接生成静态文件,利用nginx对静态文件的高效做静态缓存

  当时服务器硬件资源有限,所以就采用这种方式,一直源用至今。

  服务器间通过NFS来共享

  太多小文件,不方便管理

  NFS不方便运维与扩展

  文件内容很小(100字节左右),3KW大概就是2.5G大小左右

  不过文件存储的时候和硬盘分区的族大小有关,在这里磁盘分区的族大小为8K,所以尽管文件内容只有100字节,但是实际存储到磁盘上的时候单个文件其实是8K

  所以3KW的文件世界占的磁盘空间大约为:200G左右(严重浪费空间啊)

  2、Redis(V2.2.11)【KV数据库

  听同事说开启VM会使性能急剧下降,所以基本无视VM,数据全放内存。

  key为32位MD5字符串

  测试数据:10W数据大概占内存20M

  测试数据:500W数据大概占内存1G,持久化的rdb数据文件大概350M

  推算3KW数据:内存6G,持久化的rdb数据文件大概为2G(压缩了?)

  因为Redis在持久化的时候内存会加倍,和考虑到数据的增长,所以需要1台20G内存的机器基本就没问题了(容灾啥的另算)。

  Redis非常快,如果硬件条件没问题,基本选这个最好了。

  Nginx+NFS、Redis和分布式文件系统Moosefs有哪些优缺点

  3、Moosefs(MFS)【分布式文件存储系统】

  mfs支持NFS的方式mount到本地直接操作(如使用mfs,则现在的架构基本不用改)

  最基本的需要一台主控服务器(MasterServer)、一台数据服务器(ChunkServer)

  文件和目录的索引需要全部加载到主控服务器的内存中,所以对主控服务器的内存有一定的要求

  写入30W文件,到20W的时候写入就开始下降得厉害了(我的5400转的笔记本硬盘)

  30W文件,4W目录,主控服务器占用大概120M内存

  文件存储方式貌似和普遍的文件一样单个存储的(不确定),30W文件大概占了2.4G的磁盘空间(同样是8K一个文件)。

  小文件一样很多,不方便维护与迁移(不知是否我设置不对?)。

  内存、硬盘都占用得比较多,而且性能相对来说不是很出众。

  所以这个基本不考虑了。

看完上述内容,你们掌握Nginx+NFS及Redis和分布式文件系统Moosefs有哪些优缺点的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注编程网数据库频道,感谢各位的阅读!

您可能感兴趣的文档:

--结束END--

本文标题: Nginx+NFS及Redis和分布式文件系统Moosefs有哪些优缺点

本文链接: https://lsjlt.com/news/61676.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • Nginx+NFS及Redis和分布式文件系统Moosefs有哪些优缺点
    Nginx+NFS及Redis和分布式文件系统Moosefs有哪些优缺点,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。  大量小文件存储一直是...
    99+
    2024-04-02
  • web分布式系统架构有哪些优缺点
    这篇文章主要介绍了web分布式系统架构有哪些优缺点的相关知识,内容详细易懂,操作简单快捷,具有一定借鉴价值,相信大家阅读完这篇web分布式系统架构有哪些优缺点文章都会有所收获,下面我们一起来看看吧。分布式系统是支持分布式处理的软件系统,是由...
    99+
    2023-06-05
  • win10系统有哪些优点和缺点
    Win10系统的优点包括:1. 用户界面友好:Win10采用了全新的开始菜单和任务栏设计,使用户操作更加便捷。2. 兼容性强:Win...
    99+
    2023-09-02
    win10
  • ubuntu操作系统有哪些优点和缺点
    优点:1. 免费开源:Ubuntu是基于Linux的操作系统,遵循开放源代码的原则,用户可以自由获取、使用和修改,无需支付任何费用。...
    99+
    2023-08-30
    ubuntu
  • ASP文件容器load有哪些优点和缺点?
    ASP文件容器load是一种常用的ASP.NET应用程序部署方式。它可以将应用程序打包成一个单独的文件,方便部署和维护。但是,ASP文件容器load也存在一些缺点。本文将分析ASP文件容器load的优点和缺点,并给出一些演示代码。 优点:...
    99+
    2023-06-01
    文件 容器 load
  • 分布式系统中 Python 和 Javascript 的优缺点,你知道吗?
    随着云计算和大数据的兴起,分布式系统已经成为了现代计算的重要组成部分。分布式系统指的是一个由多台计算机组成的系统,这些计算机通过网络相互连接,共同协作完成任务。在分布式系统中,Python 和 Javascript 作为两种常用的编程语言...
    99+
    2023-06-19
    leetcode javascript 分布式
  • 分布式数据库系统的特点有哪些
    分布式数据库系统 (DDBS)包含分布式数据库管理系统(DDBMS)和分布式数据库(DDB)。在分布式数据库系统中,一个应用程序可以对数据库进行透明操作,数据库中的数据分别在不同的局部数据库中存储、由不同的...
    99+
    2024-04-02
  • Python 对于分布式系统的优势和劣势有哪些?
    随着互联网的发展和技术的进步,分布式系统越来越受到人们的关注和重视。而Python作为一门高级编程语言,其在分布式系统中的应用也越来越广泛。本文将分析Python在分布式系统中的优势和劣势,并结合实例演示其具体应用。 一、Python在分...
    99+
    2023-10-24
    分布式 面试 path
  • 分布式关系型数据库RadonDB有哪些优点
    这篇文章主要讲解了“分布式关系型数据库RadonDB有哪些优点”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“分布式关系型数据库RadonDB有哪些优点”吧!...
    99+
    2024-04-02
  • Java文件重定向和加载的优缺点有哪些?
    Java是一种高级编程语言,它的主要特点是跨平台性和面向对象。Java程序需要经过编译才能运行,编译后生成的文件一般是.class文件。Java文件重定向和加载是Java程序运行过程中的两个重要环节。本文将介绍Java文件重定向和加载的优...
    99+
    2023-09-05
    文件 重定向 load
  • 文件分布式存储系统的Numpy实现方法有哪些?
    随着数据量的爆炸性增长和云计算、大数据等技术的发展,文件分布式存储系统越来越受到重视。文件分布式存储系统可以将大量数据分散存储在多台计算机上,实现数据的高效存储和访问。在实现分布式存储系统时,Numpy是一个非常强大的工具。那么,文件分布...
    99+
    2023-07-28
    文件 分布式 numpy
  • PHP IDE和Unix文件系统有哪些优化和集成方式?
    PHP开发是Web应用程序开发中非常常见的一种方式,因此,有许多PHP集成开发环境(IDE)可供选择。与此同时,Unix文件系统是一种常见的文件系统,它可以通过优化和集成来提高PHP开发的效率和质量。本文将探讨PHP IDE和Unix文件...
    99+
    2023-10-25
    ide unix 文件
  • 分布式文件系统和Django的结合,有哪些值得尝试的新思路?
    随着互联网的快速发展和数据量的不断增大,分布式文件系统的重要性日益凸显。分布式文件系统是一种能够将文件存储在多个服务器上,实现文件的共享和高可用的系统。而Django是一个基于Python的Web框架,具有快速开发、易扩展等优点。那么,分...
    99+
    2023-09-29
    分布式 文件 django
  • 分布式系统的学习笔记:Go语言和Unix操作系统有哪些共同点?
    随着互联网技术的不断发展,分布式系统已经成为了现代软件开发的主要趋势。在这种情况下,学习分布式系统的知识变得越来越重要。本篇文章将围绕着分布式系统学习笔记,探讨Go语言和Unix操作系统之间的共同点。 并发编程 在分布式系统中,并发编...
    99+
    2023-09-11
    unix 学习笔记 分布式
  • Go语言在分布式系统中的应用有哪些优势?
    Go语言是一种面向并发编程的语言,它的设计目标是使编写高并发、分布式系统变得更加容易。在分布式系统中,Go语言具有以下优势。 轻量级线程(goroutine) Go语言引入了轻量级线程(goroutine),这是一种非常轻量级的线程实现...
    99+
    2023-09-12
    分布式 unix 函数
  • Centos7配置fastdfs和nginx分布式文件存储系统实现过程解析
    1、安装libfastcommon-1.0.43,安装包可以在大佬的https://github.com/happyfish100/libfastcommon/releases下载 [root@localhost Do...
    99+
    2022-06-04
    centos7 fastdfs nginx 分布式 文件存储系统
  • Python分布式文件系统的开发,有哪些值得注意的技巧?
    随着数据量的不断增长,单机文件系统已经无法满足大规模数据存储和访问的需求。因此,分布式文件系统应运而生。Python作为一种高效、易学、易用的编程语言,已经成为了分布式文件系统开发的重要工具。那么,在Python分布式文件系统的开发过程中...
    99+
    2023-09-29
    分布式 文件 django
  • Python中的二维码生成器和分布式系统的结合,有哪些创新点?
    随着移动互联网的发展,二维码已经成为一种非常重要的信息传递方式。无论是商品的扫码购买,还是公共场所的二维码扫码进入WiFi,都需要二维码生成器来生成二维码。Python中的二维码生成器是非常好用的,而且可以将其与分布式系统结合,实现更高效...
    99+
    2023-10-02
    关键字 二维码 分布式
  • Java关键字和API在分布式系统中的应用有哪些?
    Java作为一种广泛应用于编程领域的语言,其关键字和API在分布式系统中有着重要的应用,本篇文章将介绍Java关键字和API在分布式系统中的应用。 一、Java关键字在分布式系统中的应用 synchronized 在多线程环境下,为了避免...
    99+
    2023-10-23
    关键字 分布式 api
  • Oracle的密码文件及操作系统认证知识点有哪些
    本篇内容介绍了“Oracle的密码文件及操作系统认证知识点有哪些”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所...
    99+
    2024-04-02
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作