博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
老李分享云计算基本概念 2
阅读量:5104 次
发布时间:2019-06-13

本文共 1676 字,大约阅读时间需要 5 分钟。

2、分布式文件系统:

HDFS,GFS等:适合存储大文件。(HDFS对大文件做了优化,关注吞吐量,适合做批处理)

MogileFS,FastDFS,OpenStack的Swift等。适合存储小文件

淘宝的TFS。

 

注解1 -- 下面是转载来的HDFS和Swift的对比:

 

最近在Quora上有人提到一个问题,有关Hadoop分布式文件系统和OpenStack对象存储的不同。问题原文如下:

“Hadoop分布式文件系统(HDFS)和OpenStack对象存储(OpenStack Object Storage)似乎都有着相似的目的:实现冗余、快速、联网的存储。什么样的技术特性让这两种系统因而不一样?这两种存储系统最终趋于融合是否大有意义?”

问题提出之后,很快有OpenStack的开发者进行了回复。51CTO在此摘抄了前两名回复进行翻译,以供各位参考。

排名第一的答案来自RackSpace的OpenStack Swift开发者Chuck Their:

虽然HDFS与Openstack对象存储(Swift)之间有着一些相似之处,但是这两种系统的总体设计却大不一样。

1. HDFS使用了中央系统来维护文件元数据(Namenode,名称节点),而在Swift中,元数据呈分布式,跨集群复制。使用一种中央元数据系统对HDFS来说无异于单一故障点,因而扩展到规模非常大的环境显得更困难。

2. Swift在设计时考虑到了多租户架构,而HDFS没有多租户架构这个概念。

3. HDFS针对更庞大的文件作了优化(这是处理数据时通常会出现的情况),Swift被设计成了可以存储任何大小的文件。

4. 在HDFS中,文件写入一次,而且每次只能有一个文件写入;而在Swift中,文件可以写入多次;在并发操作环境下,以最近一次操作为准。

5. HDFS用Java来编写,而Swift用Python来编写。

另外,HDFS被设计成了可以存储数量中等的大文件,以支持数据处理,而Swift被设计成了一种比较通用的存储解决方案,能够可靠地存储数量非常多的大小不一的文件

注解2 -- 下面是转载来的FastDFS和HDFS的对比:

主要是定位和应用场合不一样。

hadoop的文件系统HDFS主要解决并行计算中分布式存储数据的问题。其单个数据文件通常很大,采用了分块(切分)存储的方式;
FastDFS主要用于大中网站,为文件上传和下载提供在线服务。所以在负载均衡、动态扩容等方面都支持得比较好,FastDFS不会对文件进行分快(切分)存储。

一句话概括就是:HDFS是给超大的数据集设计的, FASTDFS是专为小文件设计的,FASTDFS有JAVA 的API

注解3: --- 下面是转载来的流行的分布式系统的常见应用场景: 

 

应用场景

可行系统

大数据离线/在线分析

HDFS、Swift、GlusterFS

电子商务

TFS、FastDFS、Dynamo、Swift、Tair

社交网络

TFS、FastDFS、Dynamo、Swift、Tair

网络硬盘

HDFS、FastDFS、Swift、GlusterFS

邮件服务

TFS、FastDFS、Dynamo、Swift、Tair

图片服务

TFS、FastDFS、Dynamo、Swift、Tair

语音视频服务

HDFS、FastDFS、Swift、GlusterFS

虚拟机调度和镜像存储

HDFS、Swift、GlusterFS

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
  
 

 

3、云计算平台/解决方案(提供IaaS)

CouldStack: Apache的

OpenStack:  Rackspace 和 NASA 共同开发的,帮助服务商和企业内部实现类似于 Amazon EC2 和 S3 的云基础架构服务(Infrastructure as a Service, IaaS)

vCloud Director: VMware开发的用于部署云的平台

 
 

转载于:https://www.cnblogs.com/poptest/p/5161067.html

你可能感兴趣的文章
万能的SQLHelper帮助类
查看>>
tmux的简单快捷键
查看>>
[Swift]LeetCode922.按奇偶排序数组 II | Sort Array By Parity II
查看>>
Html5 离线页面缓存
查看>>
《绿色·精简·性感·迷你版》易语言,小到不可想象
查看>>
Android打包key密码丢失找回
查看>>
VC6.0调试技巧(一)(转)
查看>>
类库与框架,强类型与弱类型的闲聊
查看>>
webView添加头视图
查看>>
php match_model的简单使用
查看>>
在NT中直接访问物理内存
查看>>
Intel HEX 文件格式
查看>>
SIP服务器性能测试工具SIPp使用指导(转)
查看>>
php_扑克类
查看>>
回调没用,加上iframe提交表单
查看>>
(安卓)一般安卓开始界面 Loding 跳转 实例 ---亲测!
查看>>
Mysql 索引优化 - 1
查看>>
LeetCode(3) || Median of Two Sorted Arrays
查看>>
大话文本检测经典模型:EAST
查看>>
待整理
查看>>