31 07月

图片文件在各文件系统上的访问性能对比

当前位置: 蔡江seo > 优化边际 > 图片文件在各文件系统上的访问性能对比
分类: 优化边际 作者:蔡江SEO 围观

  调研分享:图片文件在各文件系统上的访问性能对比

图片文件在各文件系统上的访问性能对比

  1概述

  在某产品线的图片服务器,存放了亿级别的图片文件,每个文件的大小在0.5k-100k之间,其中1K以下的文件数量在50%左右,1-4K文件数量在40%左右,4K以上10%,大量的文件存储对文件系统的性能要求非常高,特对目前业界常用系统性能在图片服务的表现进行调研。

  因线上flash卡故障率非常高,所以在寻找替代方案,磁盘是否可以满足线上系统需求?是否满足今后可扩展性(容量、文件数量)?是否可以更好的处理数据同步使用时间?

  2预期解决问题

  1、磁盘是否可以替换flash卡?

  目前发现1Tflash卡故障率极高,严重时每周多次损坏,修复数据的时间很长,最少需要6个小时。

  2、测试jfsreiserfsxfsext2文件系统在图片业务上的性能表现(读写)。

  3测试方法及结果

  3.1测试方法

  1、模拟线上环境,进行压力测试

  搭建一套跟目前线上一样的系统环境,提取线上7天全部日志,采用压力工具(可以模拟数据全部返回)进行模拟线上环境进行压力测试(连续压力2小时以上)。

  2、利用磁盘测试工具,进行设备性能测试

  3、通过磁盘占用空间、inode节点数量进行对比

  4、通过线上数据同步,测试同步所需时间

  3.2结果分析

  1、使用磁盘完全可以替代flash

  从模拟线上产品的压力得出结论使用HP机器采用jfs和ext2文件系统完全可以满足目前线上系统及未来一段时间内需求,如下表:

  注:使用磁盘需要20分钟充cache,充cache期间的lighttpd的最大压力值2000.

图片文件在各文件系统上的访问性能对比

  2、图片服务目前的瓶颈在网卡

  在进行模拟线上压力测试时,所有文件文件系统除dell-reiserfs外全部可以达到网卡流量峰值1G,随着时间推迟,平均值会下降,但是cpu也会逐渐空闲,

  3、在各种文件系统性能在图片服务的业务测试中,得出如下结果

  1)Flash卡上的ext2性能比较突出

  2)磁盘上jfs的表现更适合目前线上业务

  3)reiserfs的空间占用最小,比其他文件系统节约空间60%-65%

 

 

  

文章作者:蔡江SEO
文章标题:图片文件在各文件系统上的访问性能对比
本文地址:http://www.cduseo.cn/bianji/2008.html + 复制链接

相关文章:

Comments

精彩评论


返回顶部