存储网络(精选11篇)
存储网络 篇1
在电视节目不断高清化发展的背景下,备播缓存逐渐被人们重视起来,备播缓存库的二级存储系统对高清播出有着重要的作用,随着网络技术的发展,基于网络存储技术的存储系统逐渐被开发出来,在此背景下,本文对基于网络存储技术的高清播出二级存储系统进行了简要的研究。
1 网络存储技术简介
网络存储系统结构经过了直连式存储(DNS)、存储区域网络(SAN)到网络连接存储、SAN+虚拟化存储的发展。当前主要用于高清播出二级存储系统的结构为SAN和SAN+虚拟存储技术,下面对这两种网络存储系统结构进行简要介绍。
1.1 SAN存储区域网
SAN存储区域网中的存储设备与服务器是互相独立的,其主要采用了FC光纤通道等连接设备与服务器主机相连,通过光纤协议实现存储设备数据的共享。在SAN存储区域网结构的基础上能够建立文件级服务器系统,即NAS网络连接存储系统,通过NAS就可以提供网络文件的共享服务,实现了高清播出存储的目的。
1.2 SAN+虚拟化存储技术
SAN+虚拟化存储技术是NAS与SAN的融合,且在存储性能等方面得到了升级,在SAN网络存储中的存储设备与服务器之间引入虚拟的智能存储管理层,这样就能够存储设备的管理,存储设备能够自行对存储设备空间进行管理,从而实现数据的存取与相关数据的条带化管理[1]。SAN+虚拟化存储技术是一种虚拟的存储技术结构,其带内和带外都是虚拟化的存储方式。对于带内虚拟化而言,在控制和管理元数据的时候可以共享存储通道;而带外虚拟化存储不需要数据存储通道,在存储控制器之外,利用第三方软件就能够实现存储服务,能够收集处理数据流中的元数据。
2 高清播出二级存储系统的设计
2.1 容量规划
以中央电视台为例,中央电视台当前共有10高清频道,每个频道要求15天的节目素材,每天节目播出时间计算为12个小时,这样就可以根据高清节目的码流进行计算:
每小时的高清节目素材量=视频数据+音频数据;
单个频道一天的高清节目量=每小时高清节目素材量×12h;
10个频道15天的总素材容量=各频道1天高清节目量×10个×15d。
同时要考虑到30%的存储冗余,因此得出实际的存储容量如下:
存储容量=总素材量÷(1-30%)
2.2 带宽性能
高清频道以3倍速度向二级存储系统中写入素材,若规定每天的节目素材在4个小时之内完成,则高清电视节目的带宽公式为:
高清节目带宽=(高清频道个数×高清视频码率×高清素材写入倍数)÷8
2.3 存储架构设计
二级存储系统是保证备播存储的关键是高清备播系统的核心,其中存储架构设计至关重要,二级存储系统有两个存储区域。(1)接口缓存区:在进入高清播出系统之前,电视台各业务系统的节目文件都要进入接口缓存区节后审核,审核通过的文件进入高清播出系统进行播出,不通过的文件直接删除。(2)备播缓存区:通过接口缓存区审核后确定合格的节目文件会进入到备播缓存区,在备播缓存区要通过工作人员及数字校验的二次审核,在二次审核合格后的节目文件才能作为播出素材进行播出。
3 高清播出二级存储系统的实施策略
3.1 主备存储系统的应用
二级主存储系统的核心任务是播出备播系统,各个业务系统向二级存储系统迁移高清节目文件,服务器迁移高清素材由二级存储系统向各频道播出;二级备存储系统能够备份主存储系统的高清素材文件,备存储系统只需要向审核系统提供待审定的高清目标文件即可,不直接参与高清节目文件的频道播出。
3.2 分区访问
为了满足电视台内部高清业务系统与二级存储之间的业务量以及带宽要求,每项访问二级存储系统的业务都要进行专属的分区,二级存储系统应划分为多个文件系统,每项业务会对应固定的存储分区,这样就不会对其他分区的资源进行挤占。
4 结论
在高清电视不断发展的今天,以网络存储为技术基础的高清二级存储结构对高清节目的缓存、播出有着重要的作用。许多电视台实行高标清同播播出系统,这就对存储设备的容量提出了新的要求,基于网络技术的高清二级存储系统对高清节目存储的优化至关重要,对高清电视时代节目资源存储系统的发展方向有着重要的指导意义。
摘要:当前电视节目不断向网络化、高清化发展,广电技术的不断更新对存储系统有了更高的要求,随着网络技术的发展,网络存储技术逐渐应用到电视节目的存储系统中,本文简要介绍了主要的网络存储技术,研究了基于网络存储技术的高清播出二级存储系统的设计,探讨了高清播出二级存储系统的实施策略。
关键词:网络存储技术,高清播出,二级存储系统
参考文献
[1]贾京蓉.网络存储技术在播出二级存储系统的实践与研究[J].现代电视技术,2009(11).
存储网络 篇2
《
网络存储
》
实验报告
专业班级:
计科 1211
姓
名:
***
学
号:
***
任课教师:
李学峰
2014 年 11 月 16 日
实验 01Windows 2003 的磁盘阵列技术
一、实验目的
1.掌握在 Windows 2003 环境下做磁盘阵列的条件和方法。
2.掌握在 Windows 2003 环境下实现 RAID0 的方法。
3.掌握在 Windows 2003 环境下实现 RAID1 的方法。
4.掌握在 Windows 2003 环境下实现 RAID5 的方法。
5.掌握在 Windows 2003 环境下实现恢复磁盘阵列数据的方法。
二、实验要求
1. 在 Windows 2003 环境下实现 RAID0
2. 在 Windows 2003 环境下实现 RAID1
3. 在 Windows 2003 环境下实现 RAID5
4. 在 Windows 2003 环境下实现恢复磁盘阵列数据
三、实验原理
(一)磁盘阵列 RAID 技术的概述
RAID 是一种磁盘容错技术,由两块以上的硬盘构成冗余,当某一块硬盘出现物理损坏时,换一块同型号的硬盘即可自行恢复数据。RAID 有 RAID0、RAID1、RAID5 等。RAID 技术是要有硬件来支持的,即常说的 RAID 卡,如果没 RAID 卡或 RAID 芯片,还想做 RAID,那就要使用软件 RAID 技术,微软 Windows 系统只有服务器版本才支持软件 RAID 技术,如 Windows Server 2003 等。
(二)带区卷(RAID0)
带区卷是将多个(2-32 个)物理磁盘上的容量相同的空余空间组合成一个卷。需要注意的是,带区卷中的所有成员,其容量必须相同,而且是来自不同的物理磁盘。带区卷是 Windows 2003 所有磁盘管理
功能中,运行速度最快的卷,但带区卷不具有扩展容量的功能。它在保存数据时将所有的数据按照 64KB 分成一块,这些大小为 64KB 的数据块被分散存放于组成带区卷的各个硬盘中。
(三)镜像卷(RAID1)
镜像卷是单一卷的两份相同的拷贝,每一份在一个硬盘上。它提供容错能力,又称为 RAID1 技术。
RAID1 的原理是在两个硬盘之间建立完全的镜像,即所有数据会被同时存放到两个物理硬盘上,当一个磁盘出现故障时,系统仍然可以使用另一个磁盘内的数据,因此,它具备容错的功能。但它的磁盘利用率不高,只有 50%。
四、实验设备
1.一台装有 Windows Server 2003 系统的虚拟机。
2.虚拟网卡一块,类型为“网桥模式”。
3.虚拟硬盘五块。
五、实验步骤
(一)组建 RAID 实验的环境
(二)初始化新添加的硬盘
(三)带区卷(RAID0 的实现)
(四)磁盘阵列(RAID1 的实现)
(五)带奇偶校验的带区卷(RAID5 的实现)
(六)磁盘阵列数据的恢复
六、实验体会
在这次试验中我知道了磁盘阵列有两种方式可以实现,那就是 “软件阵列”与 “硬件阵列”。
软件阵列是指通过网络操作系统自身提供的磁盘管理功能将连接的普通 SCSI 卡上的多块硬盘配置成逻辑盘,组成阵列。如微软的Windows NT/2000Server/Server2003 和 NetVoll 的 NetWare 两种操作系统都可以提供软件
阵列功能,其中 Windows NT/2000 Server/Server 2003 可以提供 RAID 0、RAID1、RAID5; NetWare 操作系统可以实现 RAID1 功能。软件阵列可以提供数据冗余功能,但是磁盘子系统的性能会有所降低,有的降代还比较大,达 30%左右。硬件阵列是使用专门的磁盘阵列卡来实现的,这就是本文要介绍的对象。现在的非入门级服务器几乎都提供磁盘阵列卡,不管是集成在主板上或非集成的都能轻松实现阵列功能。
硬件阵列能够提供在线扩容、动态修改阵列级别、自动数据恢复、驱动器漫游、超高速缓冲等功能。它能提供性能、数据保护、可靠性、可用性和可管理性的解决方案。磁盘阵列卡拥有一个专门的处理器,如 Intel的 I960 芯片,HPT370A/372、Silicon Image SIL3112A 等,还拥有专门的存贮器,用于高速缓冲数据。这样一来,服务器对磁盘的操作就直接通过磁盘阵列卡来进行处理,因此不需要大量的 CPU 及系统内存资源,不会降低磁盘子系统的性能。阵列卡专用的处理单元来进行操作,它的性能要远远高于常规非阵列硬盘,并且更安全更稳定。
实验 02
x Linux 下实现 D RAID 磁盘阵列 列 一、实验目的1.掌握在 Linux 环境下做磁盘阵列的条件和方法。
2.掌握在 Linux 环境下实现 RAID0、RAID 1、RAID 5 的方法。
3.掌握在 Linux 环境下实现恢复磁盘阵列数据的方法。
二、实验要求
1. 在 Linux 环境下实现 RAID0、RAID 1、RAID 5
2. 在 Linux 环境下实现恢复磁盘阵列数据
三、实验过程
1.在 VM 中新建了三块 200M 的硬盘.用于实验.2.安装 mdadm 软件包.3.用 fdisk 命令初始化三块新硬盘
4.RAID1 磁盘阵列的硬盘使用情况.5.开始创建磁盘阵列.
6.格式化阵列磁盘.
7.下面新建目录.用于实验.
8.下面可以基本验证 RAID1 配置是否成功.9.下面编辑 mdadm.conf 配置文件.10.编辑 rc.local 文件,添加命令使 RAID1 能开机自动运行.11.下面将第三块磁盘删除,模拟磁盘阵列出现故障.
12.开机重新启动 linux.挂载阵列设备
13.到此 RAID1 磁盘阵列配置成功.四、实验体会
在这次试验中我知道了在 Linux 系统中目前以 MD(Multiple Devices)虚拟块设备的方式实现软件 RAID,利用多个底层的块设备虚拟出一个新的虚拟块设备,并且利用条带化(stripping)技术将数据块均匀分布到多个磁盘上来提高虚拟设备的读写性能,利用不同的数据冗余算法来保护用户数据不会因为某个块设备的故障而完全丢失,而且还能在设备被替换后将丢失的数据恢复到新的设备上。
实验 M 03
LVM 逻辑卷管理 一、实验目的1、掌握利用 LVM 创建磁盘分区的方法。
2、掌握利用 Disk Druid 中的 LVM 创建磁盘分区的方法。
二、项目背景
某企业在 Linux 服务器中新增了一块硬盘/dev/sdb,要求 Linux 系统的分区能自动调整磁盘容量。请使用 fdisk 命令在新建/dev/sdb1、/dev/sdb2、/dev/sdb3 和/dev/sdb4 为 LVM 类型,并在这四个分区上创建物理卷、卷组和逻辑卷。最后将逻辑卷挂载。
三、实验内容
1.物理卷、卷组、逻辑卷的创建;卷组、逻辑卷的管理。
2.LVM 命令
四、实验步骤
1.创建 LVM 分区
(1)在虚拟机上添加 4 块硬盘;(假设这 4 块硬盘分别是 sdc、sdd、ade、sdf)
(2)利用 fdisk 命令对硬盘进行初始化在/dev/sdc,(可以参考上一个实验)如下所示:
(3)建立物理卷
(4)建立卷组
(5)建立逻辑卷
2. LVM 逻辑卷的管理
(1)增加新的物理卷到卷组
(2)逻辑卷容量的动态调整
(3)删除逻辑卷-卷组-物理卷(必需按照先后顺序来执行删除)
3.物理卷、卷组和逻辑卷的检查
(1)物理卷的检查
(2)卷组的检查
(3)逻辑卷的检查
五、实验体会
在这次试验中我知道了 LVM 是逻辑卷管理(Logical Volume Manager)的简称,它是 Linux 环境下对磁盘分区进行管理的一种机制,LVM 是建立在硬盘和分区之上,文件系统之下的一个逻辑层,来提高磁盘分区管理的灵活性。通过 LVM 系统管理员可以轻松管理磁盘分区,如:将若干个磁盘分区连接为一个整块的卷组(volume group),形成一个存储池。管理员可以在卷组上随意创建逻辑卷组(logical volumes),并进一步在逻辑卷组上创建文件系统。管理员通过 LVM 可以方便的调整存储卷组的大小,并且可以对磁盘存储按照组的方式进行命名、管理和分配,例如按照使用用途进行定义:
“ development ” 和 “ sales ”,而不是使用物理磁盘名“ sda ”和“sdb”。而且当系统添加了新的磁盘,通过 LVM 管理员就不必将磁盘的文件移动到新的磁盘上以充分利用新的存储空间,而是直接扩展文件系统跨越磁盘即可。
实验 0 04 4
配置磁盘配额 一、实验目的1、掌握磁盘配额的工作原理
2、掌握 Windows 环境下磁盘配额的配置方法。
3、掌握 Linux 环境下磁盘配额的配置方法。
二、实验内容
1.在 Windows 环境下,设置磁盘配额,并验证;具体操作步骤请参考“实验 04 磁盘配额-Windows”。
1.启用磁盘配额
2.设置默认的的配额
3.设置个人配额项
2.在 Linux 环境下,设置磁盘配额,并验证。
1.创建 myquota 用户,对此用户设置磁盘配额。
2.创建一个逻辑分区,对此分区设置配额。
3.创建文件 sda6 的挂载点
4.使用 quotacheck 命令生成配置磁盘配置的数据库文件,若selinux 开启的话会提示权限不够,通过 setenforce 0 临时关掉selinux 就可以了,quotacheck 执行成功可以看到/quota/下面多了两个文件。然后通过 quotaon /quota/启动对应文件系统上的磁盘配额功能。
5.通过 edquota-u myquota 配置用户 myquota 对这个磁盘分区的使用配额。还可以通过
edquota-g groupname 对 groupname 这个组设定配额
验证:
1.测试之前要给 myquota 这个用户对/quota 目录写权限。
对文件的个数进行测试:
对可以使用的容量大小测试:
2.切换 root 用户使用 repquota-a 可以查看当前各磁盘配额的使用情况。从下图可以看出 myquota 用户已经达到了磁盘使用的最大容量限制。
3.需要注意的是,当用户触发软限制时,grace time 就会倒计时,在这个时间(默认是 7 天)没有耗尽之前,若用户还不清理磁盘使之符合软限制的要求,则软限制就会变成硬限制,这个时间叫宽限期。可以通过 edquota-t 设置这个时间,分别设置容量和文件数量的宽限期。
三、实验体会
在这次试验中我知道了磁盘配额就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。设置磁盘配额后,可以对每一个用户的磁盘使用情况进行跟踪和控制,通过监测可以标识出超过配额报警阈值和配额限制的用户,从而采取相应的措施。磁盘配额管理功能的提供,使得管理员可以方便合理地为用户分配存储资源,可以限制指定账户能够使用的磁盘空间,这样可以避免因某个用户的过度使用磁盘空间造成其他用户无法正常工作甚至影响系统运行避免由于磁盘空间使用的失控可能造成的系统崩溃,提高了系统的安全性。
实验 05
S linuxNFS 服务器配置与管理 一、实验目的1.掌握 NFS 的工作机制;
2.掌握 Linux 下,NFS 的安装、配置、状态查看等基本操作;
3.掌握使用 NFS 实现文件共享的基本方法及操作。
二、实验基本操作1 .S NFS 服务器的启动与停止
1、查询服务器状态
2、启动服务器
3、停止服务器
4、设置服务器的开机启动状态
t 2.showmount 命令
1、showmount 命令的帮助信息
2、显示主机的 NFS 服务器信息
3、显示 NFS 服务器的输入目录列表
4、显示 NFS 服务器中被挂载的共享目录
5、显示 NFS 服务器的客户机与被挂载的目录
3.
expos rtfs 命令
1、重新输出共享目录
2、停止输出所有目录
3、输入(启用)所有目录
4.
在 在 x Linux 中配置使用 S NFS 客户端
1、显示 NFS 服务器的输出
2、挂载 NFS 服务器中的共享目录
3、显示当前主机挂载的 NFS 共享目录
4、卸载系统中已挂载的 NFS 共享目录
5、系统启动时自动挂在 NFS 文件系统
三、实验体会
在这次试验中我知道了 NFS 的配置都保存在/etc/exports文件中,它是共享资源的访问控制列表,不仅可以在此新建共享资源,同时也能对访问共享资源的客户端进行权限管理。在/etc/exports 文件中,特别要注意“空格”的使用,除了共享目录和共享主机,以及多台共享主机之间,用到空格,其余地方都不可使用空格。客户端 client 对/home 目录具有读、写权限。client 对/home 目录只具有读权限(这是系统对所有客户端的默认值)。而除 client 之外的其他客户端对/home 目录具有读、写权限。
实验 x 06 Linux 和 和 s Windows 互访----a Samba 服务器配置
一、实验目的
1.了解 Samba 配置文件的基本构成。
2.掌握在 Linux 中利用 Samba 进行资源共享的方法。
3.学会 Samba 配置文件的构建方法。
4.掌握从 Windows 访问 Linux 中共享文件的配置方法;
5.掌握从 Linux 访问 Windows 中共享文件的配置方法;
二、实验原理
Samba 是一个工具套件,可以让用户在 UNIX 系统上实现 SMB(Session Message Block)协议,或者称之为 NETBIOS/LanManager协议。
SMB 协议通常被 Windows 系列用来实现磁盘和打印机共享。
在 Linux 上安装 Samba 服务,可以实现 Linux 与 Windows 系统的文件共享和打印机共享。
三、实验内容
(一)
从 Windows 访问 Linux
1、安装 Samba 服务
(1)检测本地是否安装 Samba 服务,从图中可以看出本机已经安装了 samba 服务。
(2)如果没有安装,请放入第二张光盘,然后进行安装
2、配置共享型 Samba 服务器
所谓共享型 Samba 服务器就是无需身份验证,类似匿名的 FTP。
(1)备份 samba 配置文件,养成一个好习惯,配置任何服务的时候最好将原配置文件做一下备份
(2)创建共享目录及修改访问权限
(3)编辑配置文件 vi /etc/samba/smb.conf,在文件底部复制[myshare]内容,然后修改如下
(4)启动 samba 服务
(5)查看本机 Linux 的 IP 地址
(6)打开 Windows 客户端搜索 192.168.140.134 地址
(7)测试写入权限,新建一个写入成功啦!!!.txt
3、配置用户型 samba 服务器
所谓用户型 samba 服务器,就是用户登陆时提供身份验证,未经允许的用户是不能进行访问的。
(1)还原 smb 配置文件,停止 smb 服务
(2)编辑 smb.conf,设置安全级别为 user 级别
(3)启用 samba 验证密码
(4)设置一个只允许 user1 访问的共享
(5)添加系统用户
(6)添加 samba 用户
(7)启动 samba 服务器
(8)客户端搜索 samba 服务器,以 user1 身份登陆
(9)可以看到 user1 目录与 myshare 目录,并可以访问 myshare目录
(10)删除刚才默认的链接(在 Windows 命令窗口)
(11)以 user2 身份登陆,无法访问 myshare 共享
(二)
从 Linux 访问 Windows
1、Windows 共享 ABC 目录,并开启 guest 用户
2、列出 Windows 服务器里的所有共享目录
3、查看 Windows 服务器的 ABC 目录里的文件
4、将 Windows 服务器的 ABC 共享目录挂载到mnt 目录下
四、实验体会
网络存储,方便你我 篇3
BlackArmor系列存储系统是专门设计用来保护数据的网络附加存储产品组合,它包括BlackArmor NAS 440、400以及220网络存储服务器,并有1TB~12TB容量可选,适用于员工人数不足50人的小型办公环境。考虑到小型企业只有少量IT技术人员,BlackArmor NAS解决方案的设计简单、易于安装和管理。拥有自动全系统备份、SafetyDrill+软件、裸机恢复和希捷卷恢复(Seagate Volume Recovery)功能等。所有BlackArmor NAS产品预装SafetyDrill+软件,可自动备份内容,并能在病毒攻击、硬件故障等数据灾难发生的时恢复整个系统,同时还具备AES 256-bit政府级加密功能。
GoFlex Home系统能够为家庭内提供大空间统一存储,有1TB和2TB两种容量选择。将其连接到无线路由器,整个家庭就可以通过无线的方式集中存储、提供轻松访问和持续备份的服务。它还提供了USB接口,以方便用户通过USB端口来进行数据传输。
点评:如今用户的个人设备上的存储空越来越珍贵,不论家庭数字生活,还是商务办公,人们都迫切需要一个集中存储空间。集中存储可以方便用户存取数据、共享数据,希捷发布的这两款产品就非常好的解决了用户的数据分享、数据备份、数据安全的多种需求。
存储网络 篇4
图灵奖获得者Jim Gray提出的经验定律:网络环境下每18个月产生的数据量等于有史以来数据量之和。根据IDC进行的研究计划“Digital Universe[1]”分析报告显示,2010年产生的数字信息大约是1200 Exabytes(1 Exabytes=1024 Petabytes ,1 Petabytes = 1024 TB),到 2011 年,产生的数字信息大约是 1800 EB,而有研究报告显示随着3G和Wi-Fi等技术的成功应用,移动互联网用户在未来几年将超越桌面用户。移动用户对信息的需求已经到了前所未有的境地,而与之相对的移动终端的有限存储能力给我们带来了不必要的麻烦。因此在移动终端上实现存储虚拟化便显得更加紧迫。
目前常用的主流网络存储系统结构包含两种方式,分别是网络附加存储NAS(Network Attached Storage)和存储区域网络SAN(Storage Area Network)。
NAS[2]分离了网络设备中的服务器和存储,支持TCP/IP等协议实现部件级数据的存取服务,方便了多系统之间数据共享,只需添加节点和网络设备即可实现扩展真正做到了即插即用。NAS的高扩展性和易管理的特点必将是未来网络存储的发展方向。
SAN[3]是一种在服务器和外部存储资源或独立的存储资源之间实现高速可靠访问的专用网络。数据通信通过SCSI命令,它的特点是将数据的存储移到后端。但是由于SAN属于块存储,这使得它的扩展性受到了限制。同时它还存在管理困难和成本过高的缺点。
我们既要用NAS来存储非结构化的数据(比如图片),也需要用SAN存储结构化的数据(比如数据库),鉴于NAS和SAN的各自优点和缺点,各种融合方案相继而出,主要有基于NAS和基于SAN两类融合方案[4]。目前存储虚拟化被赋予了更多的含义,已不限于NAS和SAN等,集群NAS架构几乎和云存储成了同义词。
1 相关研究
云存储的概念与云计算类似[5],它是指通过集群技术、网格技术或分布式文件系统等功能,将网络中大量各种不同类型的存储设备通过应用软件集合起来协同工作,共同对外提供数据存储和业务访问功能的一个系统。
目前常见的集群存储技术有Google的GFS、ADIC的StorNext FS、Cluster File Systems的Lustre、IBM的Global Parallel File System以及Red Hat的Sistina Global File System。
本文采用Hadoop分布式文件系统HDFS[6], HDFS是GFS的开源实现,基本和GFS保持了一致。一个HDFS集群由一个Namenode和大量的Datanodes构成。Namenode是一个中心服务器,负责管理文件系统的名字空间以及客户端对文件的访问,但也正由于它这种单节点,使它不适合小文件存储。集群中的Datanode一般是一个节点一个,负责管理它所在节点上的存储。一个文件其实被分成一个或多个数据块,这些块存储在一组Datanode上。Namenode执行文件系统的名字空间操作,比如打开、关闭、重命名文件或目录。它也负责确定数据块到具体Datanode节点的映射。Datanode负责处理文件系统客户端的读写请求,在Namenode的统一调度下进行数据块的创建、删除和复制。
华为赛门铁克开发了“一种移动终端访问云服务的方法、装置和通信系统”[7]。该移动终端可以通过预置的客户端发送需要处理的任务给网络侧设备,由网络侧设备利用云计算和云存储处理任务,然后返回处理结果给移动终端。
国外厂商CTERA Networks设计了一个网络附加云存储设备[7],用来执行基于云存储服务的网络附加存储操作。这个设备包含至少一个网络控制器用于局域网客服端的通信,并且通过广域网来使用云存储服务;本地数据存储设备;一个至少在本地存储设备中存储的数据和存储在云存储服务数据的同步云存储服务模型。
由于移动终端的存储资源有限,用户不可能上传大于64M的文件,因此小文件存储才是移动终端的关键,而Hadoop擅长对大文件的存储,存储小文件消耗的资源比大文件多很多。我们都知道任何一个文件目录和Block在HDFS中都会被表示成为一个Object存储在Namenode中,每一个Object占150字节的内存空间,所以如果有一千万个文件那么就要消耗大约3G的内存来保存这些数据,因此数以亿计的文件要存储在HDFS中是不可行的。Grant Mackey[8]提出了一种在HDFS系统下元数据管理的优化方案。
目前解决这一问题主要有两种方法:第一种是文件合并方法;第二种是针对特定的文件使用特定文件合并方法。文件合并方法主要包括Hadoop Archive(HAR,简称Hadoop归档)技术。其核心技术就是运用MapReduce将小文件打包成HAR,从而缓解小文件占用大量内存问题。但是通过这种方法并不能提高文件的读取效率,因此又有了Sequence File(序列文件)技术。Sequence File是Hadoop的一个重要数据文件类型,它为二进制的<key,value>提供一个持久化的数据结构,其中小文件的索引号为key内容为value。
2 系统架构设计
针对目前移动智能终端的不足之处,及解决云端小文件存储问题,本文设计了基于云计算的移动终端网络存储框架(如图1所示),其结构包括四层,如图2所示整个系统由物理层、基础管理层、应用接口层和访问层组成。
1) 物理层,也称基础设施层,是整个系统的最底层,由大量的存储设备及廉价的低端配置的计算机组成。这些设备数量庞大并且可以分布在不同地理位置,通过分布式技术和虚拟化技术将其资源整合,从而为用户提供强大的储数和计算服务。对于系统来说,物理存储位置改变无需逻辑文件名,使文件在服务器之间自由移动而不影响客户端的程序运行。
2) 基础管理层是整个系统的核心部分,通过集群技术,分布式文件系统和网格计算等技术,将物理层不同设备虚拟成不同的资源池,如计算资源池、存储资源池等,实现物理层中多个设备之间的协同工作,从而可以对外提供同一种服务。同时通过监控系统中各个节点的状态,对用户的任务请求进行调度,均衡的将任务分配给系统中的节点,提高系统处理能力,提供更强更好的数据访问性能。还可以根据用户支付费用的多少设置用户的服务等级,等级高的用户可以获得比较高的存储资源。
为了解决小文件存储问题,我们在管理层设计了文件合并功能,将系统的利用率最大化。流程图如,服务器接受到用户传来的文件后,对其文件大小进行判断如果是小文件,则开始文件合并,如果不是则直接存储(如图3所示)。
3) 应用接口层为客户端提供不同的服务的接口,根据不同的接口为客户端提供不同的服务。如通过通信接口连接客户端与服务器,通过任务接口判断客户端需要的是哪种服务。客户端访问云存储的既可以通过传统的HTTP、FTP协议也可以通过SOAP等协议。
4) 访问层为用户提供友好的访问界面,并对用户进行授权验证,通过验证的的客户可以登录访问云存储。
由于本文采用HDFS作为底层文件系统,在HDFS文件系统中客户端和Datanode主动连接Namenode(如图4所示)。Datanode主动向Namenode报告其状态信息,这些信息主要包括磁盘剩余空间、文件同步状况、文件上传下载次数等统计信息。Datanode启动一个单独的线程来完成对一台Namenode的连接和定时报告。值得注意的是一个组包含的Datanode不是通过配置文件设定的,而是通过Namenode获取到的。移动终端登录网络服务器;判断用户名是否存在,若判断结果为是,则移动终端向网络服务器上传文件或下载文件,并判断是否需要进行文件合并;如果判断用户名是否存在的判断结果为否,则开户注册,并为移动终端分配存储空间。
文件上传和下载流程如图5所示。文件上传流程的步骤如下:
1) Client询问Namenode上传到的Datanode;
2) Namenode返回一台可用的Datanode,返回的数据为该Datanode的IP地址和端口;
3) Client直接和该Datanode建立连接,进行文件上传,Datanode返回新生成的文件ID,文件上传结束。
文件下载是文件上传的相反过程。
1) Client询问Namenode可以下载指定文件的Datanode,参数为文件ID(包含组名和文件名);
2) Namenode返回一台可用的Datanode;
3) Client直接和该Datanode建立连接,完成文件下载。
3 系统实现
3.1 服务器端设计
整个系统采用C/S模式进行开发,服务器端是由6台计算机搭建成的Hadoop集群,将中一个性能高的计算机作为Namenode,其余5台作为Datanode。服务器环境由Ubuntu10.04+ Tomcat+JDK+Hadoop+MysqL组成。
服务器运行后监听9000端口,若接受到客户端连接请求时,服务器调用xml解析模块对收到的消息进行解析,解析后的消息包含用户认证信息。服务器对用户认证信息进行判断,如果认证通过,服务器则对该用户开启上传下载服务;如果认证失败则返回客户端认证失败信息。数据上传和下载的关键代码如下:
服务器将接受到的数据进行判断是否属小文件,如果是则进行文件合并操作。
集群内部的通信协议都是构建在TCP/IP协议上,因为TCP提供的是一种可靠的面向连接的服务。Datanode使用DatanodeProtocol与Namenode交互。Hadoop集群中所有的控制消息传输都是基于自身的RPC模块,在设计上,Namenode不会主动发起RPC,而是是响应来自客户端和 Datanode 的RPC请求。当客服端对Datanode上的数据进行读写的时候采用的是one thread per request的模型。
3.2 移动终端设计
在系统客户端设计中,本文以Android智能终端作为客户端开发平台。 我们采用MVC (M即Model是模型层,V即View是视图层,C即Controller是控制层)的设计模式来进行设计。这种设计模式将视图层与逻辑代码以及数据模型层进行分离,实现系统的松散耦合,便于系统的维护和代码的重用。实验效果图如图6所示。
移动终端分为四大模块设计:
1) 通信模块 负责与服务器端建立通信连接,通信协议可以是HTTP协议或SOAP协议。系统客户端通过GPRS无线网络采用TCP协议连接到服务器端。
2)解析模块 用来解析数据流,根据不同的类型封装不同的数据。
3) 数据封装模块 定义了客户端的数据类型和对象并进行封装。
4) 应用模块 即视图界面,是用户访问的直接接触部分,主要功能有登录、注册、上传以及下载等。
4 结 语
未来移动互联网用户将超过桌面用户,存储对象也必然随之发生变化,由现在的企业存储转向个人存储,移动终端的存储将有着广阔的发展前景。本文分析了网络存储现状,针对目前移动终端存在的不足,及云计算在小文件存储方面的不足,提出了基于云存储的移动终端新型存储模型,并予以实现,使用户通过移动终端随时随地访问云存储服务,从而解决了移动终端资源受限的瓶颈。
参考文献
[1]The Digital Universe Decade-Are You Ready?.http://www.emc.com/collateral/demos/microsites/idc-digital-universe/iview.htm.
[2]赵文辉,徐俊,周加林,等.网络存储技术[M].北京:清华大学出版社,2005.
[3]贺玲玲.浅谈基于SAN架构的网络存储系统的设计[J].科技资讯,2006(5):110-111.
[4]张成峰,谢长生,罗益辉,等.网络存储的统一与虚拟化[J].计算机科学,2006,33(6):11-14.
[5]文双全.一种基于云存储的同步网络存储系统的设计与实现[D].山东:山东大学计算机学院,2010.
[6]Hadoop Distributed File System.http://www.hadoop.apache.org/core/docs/current/hdfs_design.html.
[7]国内外云存储技术相关专利介绍.http://www.hyqb.sh.cn/pub-lish/portal0/tab1023/info6126.htm.
存储网络 篇5
关键词 网络存储;附网存储;对象存储;I/O
中图分类号 TP 文献标识码 A 文章编号 1673-9671-(2010)121-0036-01
用户把信息通过网络(LAN、WAN和Internet)存储到连接在网络上的存储设备,或通过网络从连接在网络上的存储设备中获得所需信息的过程,叫做网络存储。用户可以从企业的存储网络中获得企业的产品信息,企业可以借助存储网络进行各种商业活动。
1 网络存储技术的发展
按照存储设备与网络的连接方式,主流的网络信息存储系统有直接存储(DAS)、附网存储(NAS)和存储局域网(SAN)三种形式。传统存储结构多采用DAS,现代网络应用的快速发展对传统存储提出了极大的挑战,促进了以NAS和SAN为代表的网络存储技术的成熟和快速普及。除此之外,还出现了多种新的网络存储技术,如基于IP的SAN、对象存储技术等。
1)直接存储(DAS)。DAS是一种以服务器为中心的存储结构,各种存储设备通过IDE或SCSI等I/O总线与服务器相连。所有的客户端请求与数据传送都通过服务器,由于存储系统附属于服务器,受服务器总线技术限制,DAS的可扩展性较差,并且当客户连接数增多时,服务器将成为整个系统的瓶颈。所以,DAS存储方式难以满足现代社会对网络存储系统大容量、高性能、动态可扩展等方面的要求,解决这一问题的有效方法是将访问模式从以服务器为中心转化为以设备和网络为中心,这导致了网络存储技术(NAS和SAN)的普及与发展。
2)附网存储(NAS)。NAS是一种以设备为中心的存储结构,可以直接连接到网络向用户提供文件级服务,具有简化的实时操作系统,它可以将硬件和软件有机的集成在一起,用以提供文件服务。目前采用的协议是NFS和CIFS,其中NFS应用在Unix环境下,最早由SUN开发,而CIFS应用在NT/Windows环境下,由Microfoft开发。
3)存储局域网(SAN)。SAN是一种以网络为中心的存储结构,按照SNIA定义,SAN是一种利用Fibre Channel等互联协议连接起来的可以在服务器和存储系统之间直接传送数据的存储网络系统。SAN是一种体系结构,它是采用独特的技术(如FC)构建的、与原有LAN网络不同的一个专用的存储网络,存储设备和SAN中的应用服务器之间采用的是block I/O的方式进行数据交换。
4)基于IP的SAN。在实际应用中,基于IP的SAN以其优异的性能成为网络存储领域的研究热点。基于IP的SAN互连技术主要包括:FCIP,iFCP、iSCSI、Infiniband。
FCIP技术原理是将FC帧封装到IP数据包中,再通过IP网络传输到另外一个FC的SAN,目的SAN接收到这个IP包后,将其解包使其恢复成封装之前的FC帧,通过FICP可以方便的实现两个距离较远的SAN在Internet网络上互相通信。
iFCP是将FC协议映射到TCP协议之上,和FCIP不同,FCIP是一种隧道协议,除了将FC帧封装成IP数据包以外,不对FC帧进行任何处理,而iFCP则是一种网关协议,它对FC帧进行协议转换,重新用TCP/IP协议来表达FC帧。它必须对FC帧进行更多的处理,如读取FC帧的头部,理解其地址,并用IP地址方式来表示。
iSCSI技术原理是将SCSI协议映射到TCP/IP数据包,在IP网络上传输,到达目的节点后,再回复成封装前的SCSI命令,从而实现SCSI命令在IP网络上直接、透明传输。
Infiniband是一种可简化和加快服务器之间的连接,以及服务器与其它相关系统(诸如远程存储和网络设备)之间的全新输入/输出(I/O)技术。它的结构设计非常紧密,大大提高了系统的性能、可靠性和有效性,能缓解各硬件设备之间的数据流量拥塞。Infiniband技术目前主要被较大的数据中心采用。
5)对象存储技术。一个存储对象是存储设备上多个字节的逻辑组合,它包括访问数据的属性、属性描述、数据特征和阻止非授权用户访问的安全策略等,对象的大小可以变化,它可以存放整个数据结构,如文件、数据库表、医学图像或多媒体数据等。存储对象具有文件和块二者的优点:像数据块一样在存储设备上被直接访问;通过一个对象接口,能像文件一样,在不同的操作平台上实现数据共享。
2 数据存储应用的最新特点
1)数据成为最宝贵的财富。数据是信息的符号,数据的价值取决于信息的价值,由于越来越多有价值的信息转变为数据,数据的价值也就越来越高,数据丢失对于数据拥有者来讲,损失是无法估量的,甚至是毁灭性的,这要求数据存储系统具有卓越的系统可靠性。
2)数据总量呈爆炸性的增长。人们的信息活动中不断产生数字化信息,各种新型应用也层出不穷,如流式多媒体、数字电视、IDC、电子商务、数据仓库与数据挖掘等,因此造成数据总量呈几何级数增长,因为永远都会有新的数据产生,所以对存储容量的需求是没有止境的。
3)I/O成为新的性能瓶颈。目前,计算机的主要应用模式已经转化成数据的存储与访问,由于受机械部件的限制,磁盘数据访问时间平均每年只能提高7%-10%,数据传输率也只能以每年20%的速度发展,而同时代微处理器和内存系统正以平均每年50%-100%的速度发展,处理机与磁盘之间的性能差距已经越来越明显,数据存储系统已经成为计算机系统新的性能瓶颈,即所谓的I/0瓶颈。
4)全天候服务成大势所趋。在电子商务和大部分网络服务应用中,24小时×7天甚至24小时×365天的全天候服务已是大势所趋,这要求现代数据存储系统具备优异的高可用性。
5)存储管理和维护要求自动化、智能化。以前的存储管理和维护大部分工作由人完成,由于存储系统越来越复杂对管理维护人员的素质要求越来越高,因管理不善造成数据丢失的可能性大大增加,这要求现代存储系统具有易管理性,最后是具有智能的自动管理和维护功能。
6)实现多平台的互操作和数据共享。由于历史原因,存在着多种信息平台,这要求存储系统能够实现多平台的互操作和信息共享,从而具有高度的系统开放性。
3 结语
IT技术的发展经历过三次浪潮。第一次是以处理技术为中心,以处理器的发展为核心动力,产生了计算机工业,促进了计算机的迅速普及和应用;第二次以传输技术为中心,以网络的发展为核心动力,这两次浪潮极大地加速了信息数字化进程,进而引发了IT技术的第三次浪潮——存储技术浪潮,在新的技术浪潮中,数据存储的应用将面临一个全新的发展时期。
参考文献
[1]鲁丰玲,李朝永.浅析网络存储技术[J].计算机与网络.2007,10:221.
网络存储技术分析 篇6
网络存储是适应分布式计算而产生的。在商业高度发达的时代, 商业机构营业范围越来越大, 分支机构越来越多, 业务也越来越分散。在每个分支机构都会有大量的应用进行计算, 计算产生的数据迅速增加, 导致服务器内部存储不足。并且数据保存在不同服务器上形成了信息孤岛。不利于部门之间信息共享, 同时信息基础架构的成本也大大增加。网络存储的出现就解决了这些问题, 服务器计算产生的数据通过存储网络保存在网络存储器里, 不但节约了信息基础架构的成本, 还使数据在不同部门之间得到共享。由于计算机技术不断向更便宜, 更有效的方向发展, 网络技术也对计算机平台的演化产生了相应的影响。随着这两项技术的逐渐成熟, 存储网络也因此而到来。
2、网络存储体系结构基础
2.1 直连式存储 (Direct Attached Storage)
直接附加存储是指存储设备通过SCSI接口直接连接到一台服务器上使用。早期的计算机网络是相对简单的, 所以直连式网络存储获得了较快的发展, 至上世纪80年代末, 计算机逐渐从大集中系统过渡到分布式客户/服务器模型, 计算机的架构更为灵活。DAS购置成本低, 配置简单, 使用过程和使用本机硬盘并无太大差别, 对于服务器的要求仅仅是一个外接的SCSI口, 因此对于小型企业有很吸引力。分布式的计算和存储的增长对存储技术提出了更高的要求。
2.2 网络存储设备 (Network Attached Storage)
网络存储设备简称NAS, 是采用与网络介质直接相连的一种特殊设备, 对计算机数据实现存储的系统。这些特殊设备通常需要分配相应的IP地址, 客户机只需通过起数据网关作用的服务器即可进行相应的存取访问, 在某些特定情况下, 甚至不需任何中间介质的客户机, 客户计算机就可以直接对这些设备进行访问。
NAS一般包括特殊文件服务器与存储器两部分。实践表明, NAS更适合应用于需要通过网络, 把相关数据或文件及时传输至多台客户机的用户。NAS设备在长距离数据传输环境中通常能够更好地发挥作用, 使用应用较为广泛的局域网加工作站的方法, 就能轻松实现客户端计算机共享文件并实现交互操作, 这对于成本的节约具有极大的意义。
NAS设备部署是十分容易的, 可以把NAS主机、客户端机以及其他附属设备较为广泛地分布于整个网络环境之中。由于文件锁定是由NAS设备自身来进行处理的, 所以能够保证更为可靠的文件级数据整合。
NAS应用于Windows NT中的CIFS和UNIX中的NFS系统的文件共享任务时, 基于网络的文件级确保了对提供高级并发访问的保护功能。
2.3 存储网络 (Storage Area Networks)
SAN是指存储设备相互连接且与一台服务器或一个服务器群相连的网络。其中的服务器用作SAN的接入点。在有些配置中, SAN也与网络相连。SAN中将特殊交换机当作连接设备。存储网络是应用或连接在服务器和存储资源, 高性能, 特殊的网络系统。为实现计算机系统的大量原始数据的传输和特殊的优化。
SAN是通过网线连接的磁盘阵列, 其具备高可靠性、高效能性与高容量性等磁盘阵列所应具备的主要特征。SAN使用的典型协议组是SCSI和Fibre Channel (SCSI-FCP) 。
2.4 SAN与NAS的区别与联系
存储区域网络 (SAN) 与网络附加存储 (NAS) 是竞争越来越激烈的常用网络存储技术, SAN和NAS较好地合平相处, 本来是不好相处的, 甚至于可以很要好的相辅相成, 用于不同类型数据的存取胜。NAS有文件操作和管理系统, 而SAN却没有。
SAN主要是高速信息存储, NAS偏重文件共享。NAS更注重于在文件层次上的数据的存储功能。即便不谈SAN与NAS的区别, 两者在当前不断发展的计算机系统中扮演着极其重要的角色, 而且会提供许多未及想到的优点, 但这些优点常常是通过传统的服务器附加存储实现方案是难以证明的。
尽管SAN, NAS之间存在着差别, 但对SAN和NAS进行比较时, 我们发现这两种相互竞争的技术实际上是互补的。SAN是以数据为中心的, 而NAS是以网络为中心的。SAN和NAS是在不同用户需求的驱动下的独立事件。
NAS和SAN在以下方面提供互补: (1) SAN可以扩展为包括IP和其他非存储关联的网络协议。 (2) NAS产品可以放置在特定的SAN网络中, 为文件传输提供优化的性能。
3、智能存储网络
智能存储是由ADIC (美国先进数字信息公司) 率先提出的。要说到什么是智能化存储, 目前真还没有一个准确的定义, 不过大家都似乎认同“对应用系统和用户透明”就是智能化存储的理念[2]。在这种理念指导下, 智能存储系统应具备智能功能, 以解决互操作性、系统扩展、技术升级、设备可靠性、数据安全性等问题, 最大限度地减轻主机处理数据存储的负担。
智能存储表现最突出的是卓越的可用性、高可靠性和管理的智能化。在可用性方面, 智能存储方案可以监控到存储体系中的具体情况, 比如读取数据量、写入数据量等, 在可靠性方面, 数据写入的目的是为了读取, 但磁带介质会随保存时间的日益久远而降低可使用性, 对数据的安全性造成威胁。
4、未来发展的存储网络
未来的网络存储将在以下几个方面得到发展: (1) 基于Infini Band的存储系统。 (2) 采用DAFS技术。 (3) NASD技术。
所有的技术在用户的存储需求下接受挑战。在DAS, S AS (Server Attached Storage) , SAN和NAS之间的区别正在变得模糊。传统的客户端服务器的计算模式将会演化成具有任意连接性的全球存储网络。在那种情况下, 数据的利用率会得到提高。分布式数据也会得到更加优化的存储。
NAS和SAN是目前网络存储的主流技术, 二者在不同的应用领域各有所长, 还出现了二者相互融合的趋势。随着SAN在IP网络中的成功应用, 其低廉的成本, 加上虚拟存储技术的广泛应用, SAN极有可能成为网络存储的主导方向, 而存储虚拟化、数据高可用和容灾支持将会是SAN的关键技术。
参考文献
[1]赵文辉.网络存储技术.北京:清华大学出版社, 2005.
海量网络存储技术研究 篇7
关键词:数据,存储技术,存储系统
0 引言
面对着日益繁忙的网络应用需求和爆炸性增长的数据信息增量, 以服务器为中心采用磁盘阵列技术的存储架构已经受到扩充能力、存储资源共享、响应速度等问题的严重挑战, 在数据增长, 以及数据内容、格式和应用服务多样化的情况下, 不仅涉及设备的扩充、异构系统的兼容、网络传输的速率、系统的全天候响应乃至存储系统的可扩充性与扩充容量对先期投资的保护等问题交织在一起, 其局限性不容忽视, 存储问题已经成为现代网络存储发展的关键问题之一, 数据的存储、使用和保护已经成为影响网络存储正常工作秩序和网络服务乃至生存发展的至关重要的问题。
随着需求的高速增长, 新的数据存储技术应运而生, 目前可供各类网络采用的存储技术包容了单一磁盘存储数据、磁带备份和磁盘阵列存储数据以及日趋成熟的DAS、NAS、SAN等网络存储系统, 为网络海量存储信息存储提供了新的解决方案, 并成为今后网络存储模式的发展方向。
1 网络数据存储技术进展
1.1 数据存储的技术基础———磁盘阵列技术
RAID (Redundant Array of Inexpensive Disks, 廉价磁盘冗余阵列) RAID是由多块磁盘构成的冗余阵列, 它是通过磁盘阵列与数据条块化方法相结合, 以提高数据可用性的一种结构, 根据RAID采用的方法不同, 可以将其分为0-5六个级别, 常用的有0、1、3、5四种。RAID技术是形成DAS、NAS、SAN的共同基础。RAID子系统将用户数据和应用分布在多个硬盘上提供容错, 提高了数据的可用性, 也提高了I/O传输, 多硬盘并行数据存取可提高系统性能, 从而可使多个硬盘同时处理单一传输请求。RAID技术是一种快速、大容量和容错分布合理的磁盘阵列, 优点是适用大数据量的操作, 也适用于各种事务处理, 随着在线的全文数据库日益增多, 单个硬盘已完全不能满足数字化图书馆在线存储容量的需要, 因此RAID技术在图书馆的应用日益广泛。
1.2 网络数据存储的三种技术架构
1.2.1 DAS存储
与内嵌式存储系统不同, 直接存储系统 (Direct Attached Storage, DAS) 采用独立的外接式存储设备并通过标准接口技术与服务器连接。将对存储器件的读写操作从应用服务器中分离出来以及加上高速接口技术从一定程度上提高了总体存取时间。而且存储设备可以和多个服务器连接, 如果其中一个服务器出现故障, 数据仍可通过其他服务器来存取数据。这种连接方式主要应用于单机或两台主机的集群环境中, 主要优点是存储容量扩展的实施简单, 投入成本少、见效快。
DAS适用于以下几种情况: (1) 服务器在地理分布上很分散通过SAN或NAS在它们之间进行互连非常困难时; (2) 存储系统必须被直接连接到应用服务器, 如某些数据库使用的“原始分区”上时; (3) 包括许多数据库应用和应用服务器在内的应用, 它们需要直接连接到存储器上。当服务器在地理上比较分散很难通过远程连接进行互连时, 或传输速率并不很高的网络系统, 直接连接存储是比较好的解决方案, 甚至可能是唯一的解决方案, 但是由于DAS存储没有网络结构, 存在许多缺点:一方面该技术不具备共享性, 每种客户机类型都需要一个服务器, 从而增加了存储管理和维护的难度;另一方面, 当存储容量增加时, 扩容变得十分困难, 而且当服务器发生故障时, 数据也难以获取。因此, 难以满足现今的存储要求。
1.2.2 NAS存储
NAS (Network Attached Storage, NAS) 是一种将分布、独立的数据整合为大型、集中化管理的数据中心, 以便于对不同主机和应用服务器进行访问的技术。NAS被定义为一种特殊的专用数据存储服务器, 包括存储器件 (例如磁盘阵列、CD/DVD驱动器、磁带驱动器或可移动的存储介质) 和内嵌系统软件, 可提供跨平台文件共享功能。NAS通常在一个LAN上占有自己的节点, 无需应用服务器的干预, 允许用户在网络上存取数据, 在这种配置中, NAS集中管理和处理网络上的所有数据, 将负载从应用或企业服务器上卸载下来, 有效降低总拥有成本, 保护用户投资。
NAS采用以太网和SCSI的即插即用存储技术将存储设备通过标准的网络拓扑结构, 连接到一群应用服务器上。存储设备实际上是一个与应用平台无关的服务器或一组专门用于存储的服务器群, 不承担应用服务, 通过网络接口与网络连接, 实现与服务器间共享数据。NAS本身能够支持多种协议 (如NFS、CIFS、FTP、HTTP等) , 能够支持各种操作系统。
NAS由于其较好的可扩展性、可访问性、低价位、安装简单、易于管理等优点, 广泛应用于电子出版、CAD、图像、教育、银行、政府、法律环境等对数据量有较大需求的应用中。多媒体、Internet下载以及在线数据的增长, 特别是那些要求存储器能随着公司文件大小规模而增长的企业、小型公司、大型组织的部门网络, 更需要这样一个简单的可扩展的方案。
1.2.3 SAN存储
存储区域网络 (SAN--Storage Area Network) 是指存储设备相互连接且与一台服务器或一个服务器群相连的网络。其中的服务器用SAN的接入点。SAN是一种特殊的高速网络, 连接网络服务器和诸如大磁盘阵列或备份磁带库的存储设备, SAN置于LAN之下, 而不涉及LAN。利用SAN, 不仅可以提供大容量的存储数据, 而且地域上可以分散, 并缓解了大量数据传输对于局域网的影响。SAN的结构允许任何服务器连接到任何存储阵列, 不管数据置放在哪里, 服务器都可直接存取所需的数据。
SAN的应用主要可以归纳为下面集中应用:构造群集环境, 利用存储局域网可以很方便地通过光纤通道把各种服务器、存储设备连接在一起构成一个具有高性能、较好的数据可用性、可扩展的群集环境。在实际应用中, SAN也存在着一些不足: (1) 设备的互操作性较差。 (2) 构建和维护。 (3) 异构环境下的文件共享方面。 (4) 连接距离限制在10km左右等。
2 新的网络存储技术
2.1 NAS网关技术
NAS网关经由外置的交换设备, 连接到存储阵列上—无论是交换设备还是磁盘阵列, 通常都是采用光纤通道接口—正因为如此, NAS网关可以访问SAN上连接的多个存储阵列中的存储资源。它使得IP连接的客户机可以以文件的方式访问SAN上的块级存储, 并通过标准的文件共享协议 (如NFS和CIFS) 处理来自客户机的请求。当网关收到客户机请求后, 便将该请求转换为向存储阵列发出的块数据请求。存储阵列处理这个请求, 并将处理结果发回给网关。然后网关将这个块信息转换为文件数据, 再将它发给客户机。对于终端用户而言, 整个过程是无缝和透明的。NAS网关技术使得管理人员能够将分散的NAS filers整合在一起, 增强了系统的灵活性与可伸缩性, 为企业升级文件系统、管理后端的存储阵列提供了方便。
2.2 IP-SAN技术
网络存储的发展产生了一种新技术IP-SAN。IP-SAN是以IP为基础的SAN存储方案, 是一种可共同使用SAN与NAS, 并遵循各项标准的纯软件解决方案。IP-SAN可让用户同时使用GigabitEthernet SCSI与Fibre Channel, 建立以IP为基础的网络存储基本架构, 由于IP在局域网和广域网上的应用以及良好的技术支持, 在IP网络中也可实现远距离的块级存储, 以IP协议替代光纤通道协议, IP协议用于网络中实现用户和服务器连接, 随着用于执行IP协议的计算机的速度的提高及G比特的以太网的出现, 基于IP协议的存储网络实现方案成为SAN的更佳选择。IP-SAN不仅成本低, 而且可以解决FC的传播距离有限、互操作性较差等问题。
3 结束语
数据的重要性越来越得到人们的广泛认同。未来网络的核心将是数据, 网络化存储正是数据存储的一个发展方向。当前网络存储技术还在不断的快速发展, SAN和NAS的融合、统一虚拟存储技术是未来发展的两个趋势。
参考文献
[1]付长冬.小型微型计算机系统[J].网络存储体系结构的发展和研究, 2004 (4) :486-487.
[2]刘波.NAS与SAN在数字化图书馆的应用[J].现代图书情报技术, 2004 (.6) .
网络存储技术的探讨 篇8
关键词:网络存储,DAS,NAS,SAN,IP-SAN,虚拟存储
1、引言
随着网络中信息数据量的增加, 服务器对数据存储的需求也随之加大, 网络存储系统已经成为了整个系统的核心。同时随着网络应用对存储系统的要求越来越高, 网络存储系统的性能将直接影响到整个系统的正常运行。因此, 选择合适的网络存储技术对企业或者整个系统而言都起着至关重要的作用。
2、网络存储技术
网络存储技术 (Network Storage Technologies) , 就是以互联网为载体, 实现数据的传输与存储, 数据可以存储在远程的专用设备上, 也可以是通过服务器来进行存储。网络存储技术是基于数据存储的一种通用网络术语。实际上, 我们可以将存储技术分为三个阶段: (1) 总线存储阶段; (2) 存储网络阶段; (3) 虚拟存储阶段。
以网络为中心的存储技术是全新的存储体系结构, 它采用面向网络的存储体系结构, 使数据处理和数据存储分离。网络存储体系结构包括了网络和I/O系统的精华, 将I/O的能力扩展到网络上;特别是灵活的网络寻址能力, 远距离数据传输能力, I/O高效的原性能, 通过网络连接服务器和存储资源, 消除了不同存储设备和服务器之间的连接障碍, 提高了数据的共享性、可用性和可扩展性、管理性。
3、传统的网络存储
传统的网络存储技术主要有三种:DAS (Direct Attached Storage, 直接连接存储) 、NAS (Network Attached Storage, 网络连接存储) 和SAN (Storage Area Network, 存储区域网络) 。这三种存储技术有各自的优缺点, 适用于不同的领域。
3.1 直接连接存储 (DAS)
DAS (Direct Attached Storage, 直接连接存储) 将磁盘阵列、磁带库等数据存储设备通过扩展接口直接连接到服务器或客户端。DAS以服务器为中心, 不带有存储操作系统, 即存储设备是服务器的一部分, I/O请求将直接发送到存储设备。
DAS方式实施比较简单, 成本低, 见效快。但是存储管理工作比较繁琐, 容量不能再分配, 性能、扩充性较差。因此该技术已经不能适应当今的存储要求。
3.2 网络连接存储 (NAS)
NAS (Network Attached Storage, 网络连接存储) 与DAS不同, 它的存储设备不是直接连接到服务器, 而是直接连接到网络, 通过标准的网络拓扑结构连接到服务器。在这种存储方式中, 应用和数据存储在不同的服务器上, 分别为应用服务器和数据服务器。数据服务器拥有自己的操作系统, 可以将接收到的应用服务器的"File I/O"文件存储请求转换为"Block I/O", 发送到内部磁盘。不同的应用服务器可以通过网络接口访问数据服务器, 从而实现了在异构服务器之间的数据共享。
NAS方式具有存储独立、协议独立、易于管理等优势, 但是由于NAS方式是基于网络传输的, 所以存在带宽消耗的限制, 难以满足大容量存储的要求。
3.3 存储区域网络 (SAN)
SAN (Storage Area Network, 存储区域网络) 是通过专用高速网将一个或多个网络存储设备和服务器连接起来的专用存储系统。SAN主要采用数据块的方式进行数据和信息的存储, 传统的SAN方式采用光纤通道技术, 提供给用户高速、高可靠性以及稳定安全的传输。未来信息存储将以SAN为主。
SAN方式可以在存储设备和服务器之间高效地传输海量数据, 减少了用于数据备份和恢复的时间开销以及对局域网网络资源的占用;与服务器之间各自独立, SAN具有良好的扩展性, 可以在不中断与服务器的连接的情况下增加存储而不影响网络性能;通过独立的区域存储, 在集中的存储设备上共享数据, SAN可以对存储设备和数据进行集中的管理和控制, 实现无人值守情况下的远程管理;SAN还可以实现异地存储, 提高系统容灾的能力。但是传统方式价格昂贵, 成本高, 异地扩展比较困难, 所以不容易被中小企业接受。
4、IP-SAN存储技术
IP-SAN是在传统IP以太网基础上架构一个SAN存储网络把服务器与存储设备连接起来的存储技术。IP-SAN其实在传统光纤通道的基础上再进一步, 它把SCSI协议完全封装在IP协议之中, 也就是把传统SAN技术中光纤通道解决的问题通过更为成熟的以太网来实现。
基于以太网的IP-SAN系统可充分利用目前普遍使用的IP网络基础设施, 节约了大量的成本, 加快了实施速度, 极大地提高了存储空间的利用率, 合理地解决了应用网络和存储网络异构的问题。
5、虚拟存储
虚拟存储 (Storage Virtualization) 就是把多个存储介质模块通过一定的手段集中管理起来, 形成统一管理的存储池。虚拟存储的实质是实现资源的共享, 达到充分利用存储容量、集中管理存储、降低存储成本的目的。目前, 虚拟存储技术还处于起步阶段。
6、结束语
网络存储实现了数据存储的共享性、管理性和扩展性。但各种存储技术本身都存在着一些问题:NAS性能低、容量小;SAN费用高、扩展性不佳;IP-SAN取决于以太网的性能等。
因此, 随着网络数据量的增加, 如何融合各种技术的优势, 统一虚拟存储技术, 提高数据的共享性将成为未来网络存储技术要解决的核心问题。
参考文献
[1]鲁丰玲, 李朝永.浅析网络存储技术[J].科技信息, 2009 (26) :221
[2]冯丹.网络存储关键技术的研究及进展[J].移动通信, 2009 (11) :35-39
网络存储技术的应用 篇9
关键词:网络存储,直接连接存储 (DAS) ,网络附加存储 (NAS) ,存储区域网络 (SAN)
0 引言
在传统企业IT系统中, 主机系统既负责数据的计算, 也在通过文件系统、数据库系统等手段对数据进行逻辑和物理层面的管理。然而, 由于历史发展的原因, 主流操作系统 (Windows/Linux/F r e e B S D/S C O U N I X/A I X/Solaris/HP-UX/IRIX等) 多达近10种, 文件系统格式 (FAT/N T F S/E X T 2/E X T 3/J F S/U F S/Vx FS/HFS等) 也同样令人眼花缭乱。各种标准和各种版本拥挤在用户的系统环境中, 使数据被分割成杂乱分散的“数据孤岛” (data island) , 无法在系统间自由流动, 自然也就谈不上设备的充分利用和资源共享。
信息是一个企业可持续发展的核心动力之一, 信息的可靠存储是一个企业得以正常运作和发展壮大的根本所在。随着越来越多的关键信息转化为数字形式并存储在可管理的介质中, 用户对存储和管理信息的能力产生了新的需求。为更有效地使用和管理信息, 用户对信息系统的搭建、数据中心的建设、数据的管理模式、数据的有效使用、信息存储介质的选择以及信息的安全存储等方面, 提出多样化的要求, 以达到数据的最佳利用。
网络存储设备提供网络信息系统的信息存取和共享服务, 其主要特征体现在:超大存储容量、大数据传输率以及高可用性。要实现存储设备的性能特征, 采用RAID作为存储实体是必然选择。传统的网络存储设备都是将RAID硬盘阵列直接连接到网络系统的服务器上, 这种形式的网络存储结构称为 (DA S Di re c t At ta c h e d Storage) , 目前, 按照信息存储系统的构成, SAN (Storage Area Net-w ork) 和NA S (Ne two rk Attached Storage) 是最常见的2种选择。以网络存储中的主流技术——SAN (存储区域网) 为例, 讨论一个SAN存储架构技术范例, 以及如何在存储区域网中部署存储设备, 制定更加合理的数据存储备份机制, 以构造出高可用性的存储区域网络系统。
1 网络存储技术的分类
早期的存储系统是计算机系统的一部分, 大多以存储设备形式出现。计算机系统可以通过总线连接到磁盘, 或者通过输入输出系统和磁盘系统相连, 或者是计算机基本上是以单机方式工作的。随着网络的发展, 数据的存储也逐渐由单机向多机方式和专用机发展, 数据的共享和传递也逐渐从依靠主机系统向依靠网络系统发展。当前, 应用业务系统有向多服务器、多数据源演变的趋向。在大型企业应用和Internet发布系统中, 安装数十台服务器已经很常见。但过于分散的数据资源, 会给访问和管理带来困难。因此, 数据存储新问题备受关注。存储系统大致可以分成3种类型:
(1) 直接依附存储系统 (D i r e c t A t t a c h e d S t o r a g e, DAS) 。直接依附存储系统DAS又称为以服务器为中心的存储体系。其特征为存储设备是通用服务器的一部分, 该服务器同时提供给应用程序的运行, 例如视频流、数据库等服务。数据的输入/输出由服务器负责, 数据访问和操作系统、文件系统和服务程序紧密相关。
(2) 网络依附存储系统 (Netw ork Atta ched-stor age, NAS) 。这种存储方式多采用专用数据服务器。该服务器不再承担应用服务, 称之为瘦服务器 (Thin Server) 。数据服务器通过局域网的接口和应用服务器连接。由于采用局域网上通用数据传输协议, 如NFS, CIFS等, 所以能够在异构的服务器间共享数据, 这一点在Windows和UNIX混合环境下是十分重要的。
(3) 存储区域网络 (Storage Area Network, SAN) 。存储区域网络SAN采用高速数据连接光纤通道 (Fiber Channel, FC) 连接服务器和存储系统。从结构上看, 服务器和数据存储系统相互独立。将设备连接到FC集线器或交换机上, 便于扩展系统规模。FC的传输速率和可靠性极高, 能够满足当前音/视频业务的需求。在SAN中, 所有的存储设备和存储数据均可采用中心化管理, 使得整个存储系统具有可伸缩性。
2 NAS、SAN和DAS的比较
(1) 独立性。存储系统的独立性反映了服务器和存储系统间的依靠程度。独立性越强, 服务器和存储系统之间的相关性就越小。实际上, 独立性强的存储系统可以自成体系, 不必考虑和服务器物理连接的细节。
(2) 带宽和瓶颈。在传统存储系统中, 应用程序必须通过服务器访问存储设备。考虑到所有的访问都必须穿透服务器, 轻易形成瓶颈, 因此要求服务器有很大的吞吐速率。LAN的速率和服务质量 (Qo S) 取决于网络类型。
(3) 共享性。在传统存储服务器体系中, 存储设备并非直接面向网络用户或应用程序, 而是以服务器作为访问的人口。作为存储设备, 无论是硬盘、还是阵列, 都是间接地提供数据共享服务, 真正意义上的物理连接只有服务器的连接。NAS具有数据存储独立性, 可以通过LAN上运行的NFS、CIFS协议实现数据共享。SAN直接支持服务器和存储系统之间的多对多连接, 具有共享特性。
(4) 可扩展性。DAS体系只能通过增加服务器和磁盘存储量来扩展容量, 单一扩展容量几乎不可行;业务增长造成的访问流量增加会使服务器成为瓶颈, 而扩展服务器价格过高且管理难度加大。NAS可以通过扩展I/0节点而增加容量, 其带宽可以通过新增的网络接口而得以提高。SAN具有可扩展性, 可增加存储设备而实现系统扩充。
(5) 可管理性。传统的DAS造成企业中有大量的服务器和存储系统, 其异构型和分布性使管理工作难以展开。NAS、SAN均采用中心化数据管理, 便于控制网络上的每一个存储点。
(6) 存储介质的多样性。虽然DAS可以采用多种存储介质, 但是它和服务器之间紧密的物理连接, 在使用上受到较多限制。基于SAN的存储系统内, 存储设备和文件服务器被有效地分离, 使得整个系统可以采用多种存储介质;并且利用不同存储介质和设备的特征, 通过统一的中心数据管理, 建立多层次的异构存储体系。
3 NAS和SAN的比较
NAS、SAN和DAS相比而言, 无论是从网络传输带宽、数据共享性还是从存储容量的可扩充性、数据的一体化和平安性等各方面来说, 其优越性是不言而喻的。所以, 现在众多的用户在对其存储方案进行选择时, 实际上也就成为对NAS和SAN的选择了。
NAS和SAN有许多共同的特征。它们都提供集中化的数据存储和整合优化, 都能有效地存取文件, 都能在众多的主机间共享并支持多种操作系统, 都能从应用服务器上分离存储。而且, 它们都提供数据的高可用性, 都能通过冗余部件和RAID保证数据的完整性。
NAS和SAN也有着一些不同点。首先, 实施和维护的难易程度不同。上面曾提到, NAS的存储设备和众多访问客户的连接是通过标准的LAN进行的, 也就是说, 直接将NAS存储设备接入LAN中就可以使用了, 管理者所要做的只是来定义网络存取权限或为每个用户定义磁盘限额。而且由于NAS采用了热插拔和即插即用技术, 所以在新设备接人时无需关闭数据服务器或进行重新配置, 新增的存储空间可以立即为众多的应用服务器和客户机所共享。而SAN的存储设备和客户之间的联系是通过专用FC集线器和交换机来进行的, 假如客户端增加, 就要对交换机进行级连, 这就大大增大了安装和设置难度。其次, 二者的设备管理难易程度不同。由于NAS中每一个I/O节点都有自己的存储设备, 而这些设备又没有一个统一的管理的界面, 所以管理人员就必须逐一管理每个NAS设备, 从而使管理成本随网络上的NAS设备的增多而线性增加。而SAN对整个网络中的存储设备的管理, 是采用SAN专用管理软件来进行集中式管理的, 用户可以通过简单的图形界面来管理不同平台和介质上的数据, 也就是说, 在SAN中, 其整个存储网络成为了一个集中化的存储池, 这样, 管理人员管理起来就非常简单了。再者, NAS和SAN是管理对象也不相同。SAN管理的是磁盘空间, 而NAS管理的是文件, 也就是说, SAN是个磁盘工厂, 而NAS只是一个文件服务器。最后, 也是最重要的一点, 那就是二者在性能上有所不同。NAS是基于传统以太网络的存取设备, 虽然减轻了服务器所承担的压力, 但势必严重增加网络的负荷。
4 网络存储系统的特性要求
要达到存储系统独立的数据管理目标, 对存储系统的特性有如下几个方面的要求, 按照重要性排列分别是:
(1) 可靠性。数据集中到存储系统中, 必然对系统设备的可靠性提出更高的要求。同时需要建立数据备份、容灾系统进行配合, 提高数据安全性。
(2) 可扩展性。网络时代业务发展的不确定性和数据的高速膨胀, 对独立于计算系统之外的存储系统, 必然提出高可扩展性的要求。这种扩展性并非是简单的容量扩展, 同时还必须包括数据处理能力、数据交换带宽和数据管理功能的扩展。
(3) 兼容性。虽然存储系统已分离于计算系统之外, 但今天主机系统对数据的使用方式, 仍旧以文件系统、数据库系统为主要手段。存储系统要适应各种主机系统的数据I/O要求, 就必须能够兼容各种操作系统、文件系统、数据库系统等各种传统数据管理手段。
(4) 可管理性。支持各种主流的管理协议和管理架构, 能够与网络、计算机等各种设备统一管理和集中管理, 能够在各种复杂的环境中实现方便统一的设备和数据管理功能。
(5) 性能。能够根据不同应用类型要求, 提供带宽、IOPS (IO Per Second, 每秒IO操作数) 、OPS (Operations Per Second, 每秒并发操作数) 、ORT (Overall Response Time, 总响应时间) 等不同指标侧重点的性能服务。高端系统还应能够对系统性能进行动态的扩展和调整。
(6) 功能。各种数据迁移、数据分发、数据版本管理、数据复制、在线扩容等数据管理功能。
5 存储区域网络设计范例
5.1 存储系统设计原则
为了确保存储的现场采集数据和运营数据万无一失, 设计方案满足以下几个要求:
(1) 采用基于SAN的存储网络, 保证数据高安全性、高可靠性、高可用性等3个基本要求。支持在任何需要的时候增加存储网络中的相关设备 (服务器设备, 存储设备等) 能力, 适应未来的网络结构拓展和容量增加。
(2) 考虑到由于设备、网络结构单点故障给未来系统运行带来的不可预知的影响, 在整体网络设计中硬件设备选型和数据链路设计中全部采用冗余结构:设备选型在关键部件采取冗余结构, 部件可以全部做到在线更换设计;数据通路利用软件功能配合硬件的双链路设计, 有效消除数据通路的故障隐患。
(3) 存储系统管理对每台主机的双链路做出统一管理, 自动侦测每条链路的完好性, 一旦一条数据链路出现故障在没有用户干预的情况下自动切换到健康的数据链路, 保证数据访问的实时性;另外, 还具备数据流量的负载均衡能力, 在每台主机可用的数据链路中根据不同的策略, 如应用程序的优先级别, 每条链路的队列长度等等, 优化数据通路中传输的数据, 从而充分利用双数据链路连接的优势。
5.2 存储系统设计架构
存储系统设计架构如图1所示。
5.3 存储系统架构概述
存储系统采用存储区域网 (SAN) 架构, 其中硬件设备包括高端小型机、高性能PC服务器、企业级SAN交换机、企业级存储阵列、虚拟带库、磁带库、负载均衡交换机。小型机部分通过划分硬件分区, 定制和分配硬件资源来组成数据服务器集群, 并在应用环境中进行有效的负载均衡。多个业务应用系统部署在不同的硬件小型机和PC服务器上, 每个业务均有应用负载均衡配置, 系统访问认证、身份认证服务器通过F5 4层交换机进行负载均衡。高端存储阵列通过快速的、专用的SAN网络交换机连接, 并通过链路冗余提高可靠性, 存储阵列根据不同应用系统数据量的需求进行存储空间划分, 存储阵列硬件配置有主机柜和扩展柜, 存储阵列之间使用LVM Mirror (卷管理器) 的数据镜像方式来实现本地冗余数据备份, 并配置硬件虚拟磁带库来提高数据备份性能, 最终数据可通过磁带库使用磁带备份介质进行异地保存。
6 结语
网络存储空间就要这样玩 篇10
网盘整合
国内网盘整合器
利用网盘,我们可以很方便地和朋友分享优秀资源或备份文件。但每次都要打开浏览器才能将文件传到网盘中,的确有些麻烦,特别拥有多个网盘的用户在管理不同网盘时会更加烦琐,好在笔者在名为AsLocal的第三方应用的帮助下,将网盘接口直接添加至“我的电脑”中,就像管理本地硬盘、U盘文件一样,轻松地通过复制粘贴删除就能直接操作网盘上的文件。
AsLocal唯一功能就是在“我的电脑”中为网盘增加一个“驱动器”,像管理本地文件一样管理网盘内容。AsLocal的体积很小,支持主流的 Windows 7与XP操作系统。它的安装过程很简单,第一次安装的时候由于系统需要,会自动关闭Windows资源管理器,安装完成后就会在“我的电脑”中多出了一个“我的网盘”盘符。双击图标“我的网盘”之后,右击鼠标,在邮件菜单中选择“新建网盘”,就可在众多网盘中找到你所需要的网盘,按照提示输入账户和密码将其添加至管理列表中。当你需要上传与下载文件时,直接选择复制粘贴(Ctrl+C/V)或是通过鼠标拖拽。操作与U盘、本地硬盘、移动硬盘完全一致,比起打开浏览器登录后再上传下载要方便许多。
AsLocal的最新版本以支持百度、盛大、 网易网盘、腾讯中转站、115网盘、Skydrive、华为网盘、金山快盘,新浪微盘等网盘,对于经常使用网盘的朋友来说,将它们集成在“我的电脑”集中管理肯定会方便不少。
国外网盘整合器
习惯使用国内网盘的用户,在通过AsLocal 网盘管理工具能很方便地将网盘整合在一起使用,但这对于喜爱Dropbox、SkyDrive、Google Drive、SugarSync、Box等国外网盘的用户来说,那又该如何统一管理网盘文件呢?名为CarotDAV 网盘客户端就能很好的解决这一问题,它与AsLocal一样,可以将不同的网盘整合在一起,实现了上传/下载/移动/删除/重命名等本地化的操作,而且它还支持 WebDAV、FTP 及 IMAP 等服务器。有了CarotDAV,你不必再为每个网盘都安装专用客户端了,使用起来也更加方便了。(下文以添加Dropbox为例进行讲解)
CarotDAV需要Net Framework 3.5 的支持才能正常使用,其安全性略比AsLocal强上几分 ,oAuth的授权方式登录网盘,这使得CarotDAV并不能获得你的账号密码,从而保证你的账号不被泄露。而且 CarotDAV 也允许你设置软件密码,防止别人使用你电脑时不小心动了你的文件,安全性方面比较让人放心。
运行CarotDAV 后,在主界面中依次点击“File-\New Connection-\Dropbox”,开启Dropbox的Connection Setting(连接设置窗口),我们只需在Setting Name中自定义网盘名称,其他选项保持默认即可,点击“Authorize”按钮开始授权,当系统链接至DropBox官网进行授权时,我们只需要登录Dropbox账号并点击“Allow”,允许CarotDAV连接你的账户。最后回到CarotDAV后,发现AccessToken与Token Secret两项已经自动填写完毕,点击OK即可完成所有的设置。如果想要添加其他网盘,只需重复上述步骤就能完成网盘的授权,此后在“我的电脑”中就能实现对网盘的操作。
特别是习惯使用 Dropbox、SkyDrive、Google Drive、SugarSync、Box 等国外网盘的用户,我们只需安装CarotDAV就能免除其他网盘客户端的安装,并且还能获得比Web版更好的管理方式,它在实用上的确会为你带来很大的方便。
将FPT服务器空间变作网盘
云存储同步网盘的易用性,让网盘的用户更加大众化,但也有不少用户认为网盘在安全性上、网络环境以及免费空间的不足而放弃使用网盘存储。特别是对于拥有FTP/SFTP服务器的用户来说,他们更愿意使用这类私人的存储服务。特别是在FTPBox 的支持下,FTP空间瞬间变成一个可与本地电脑文件夹进行双向同步的私人云存储服务,与网盘使用几乎完全一致,FTP空间有多大,你的存储空间就能用多大,没任何限制。即便在没公网的环境下,你也能通过 FTPBox 来跟局域网中的FTP进行同步。
FTPBox支持 FTP 以及 SFTP 两种协议,利用它可以将本地电脑上的文件夹与FTP上的文件夹进行双向同步,就像操作网盘一样,不过文件数据将会完全掌握在自己的手中。当然,也能将它用作全自动的异地文件备份工具。运行FTPBox后,在主界面中切换至Language,将其设置为简体中文,随后输入FTP账号,选择服务器上的文件夹,最后在设定本地电脑上与其同步的文件夹即可开始同步文件了。当然了,我们也可在账号选项卡中预设多组FTP/SFTP账号,一旦切换FTP账号后,存储空间中的文件就会自动同步。
为了避免无用的文件同步至FTP空间中,我们还可以以按照文件后缀名来剔除不需要同步的文件。在主界面切换至Filters选项卡,在选择性同步窗格中,就可将不需要同步文件夹或是文件类型剔除。如果遇到未知扩展名时,还可以在Ignored选项中增加排除扩展名,让我们在在同步时更加灵活。
由于是双向同步,因此 FTPBox 的功能可以实现很多需求,能应用的场景也很多,譬如自动将笔记本上的照片文件夹同步备份到家里NAS进行备份,也能直接将自己FTP空间当 做网盘来使用,用于工作文档同步等等。加上其免费开源且文件均储存在自己的FTP上,也能消除文件安全上的顾虑。
网盘资源快速获取
网络硬盘的出现给人们带来的巨大的便利,无论是文件资料的分享还是个人存储都十分便利。很多网络分享者把自己搜集的软件、游戏、资料、视频、动漫、电影、音乐、PDF电子书等等都放在网盘上。这些由千千万万网友上传的内容组成了一个非常巨大的资源宝库。为了更方便地利用网盘这个宝库,我们在资源的搜索上就得利用第三方工具。
网盘资源搜索工具的主界面非常简单,只需要在搜索栏中输入关键字,在主界面顶端选择网盘名称,再点击回车按钮,我们就可以在文件列表中获取所有网盘的资源了,点击“打开地址”即可跳转至下载页面进行下载。只不过,此项工具只能实现单个网盘的资源搜索,不能同时搜索多个网盘。
存储网络 篇11
1 概述
1.1 网络存储定义
网络存储是将存储设备 通过网络 拓扑结构 连接到一 起 ,形成群网络存储方式, 提高存储容量, 方便进行数据及资源的应用。在互联网大数据环境下, 网络存储的定义更为广泛,用户可以将各类数据上传在云网络空间, 方便在任何地方进行数据的应用和共享。
1.2 网络存储特点
网络存储的特点主要包括: 虚拟化、大数据、移动化管理。网络存储在互联网云时代具有虚拟化感知能力, 可根据用户需要进行用户端与网络服务器端之间的数据迁移, 实现相同数据在不同用户端共同应用。网络存储将来自不同国家、不同地区、不同客户端的数据进行统一管理, 形成大数据环境下的数据应用, 一方面可以解决客户端软、硬件应用的存储压力, 另一方面方便用户实现资源共享。对于用户在网络存储的资源, 用户可以在不同终端上进行数据的添加、删除和修改, 而无需在同一台终端设备上进行操作, 方便用户进行移动化管理的资源。
2 安全性分析
2.1 网络存储安全问题
网络存储安全问题主要体现在用户与网络存储服务器之间进行数据传输前的安全问题、传输中的安全问题和数据存储后的安全问题。
数据传输前的安全问题是用户将数据传输到网络存储服务器中, 保证用户所传输的数据的合法性、安全性和可靠性。
数据传输中的安全问题是当用户将数据传输到网络存储服务器过程中, 保证用户的数据不被窃取、冒用和破坏。
数据传输后的安全问题时网络存储服务器中存储的数据保证数据的完整性、可用性和可靠性。
2.2 影响网络安全因素
影响网络安全的因素主要包括病毒感染、网络攻击、系统漏洞和人为操作失误。
计算机病毒是计算机网络应用最为常见的安全威胁, 病毒感染的危害性非常大, 其通过伪装、植入、感染等形式侵入计算机网络中, 通过自我复制等方式迅速传播, 破坏计算机软、硬件, 导致计算机系统崩溃, 存储数据丢失。
网络攻击包括来自网络内部和外部两方面的攻击, 内部攻击是在网络存储系统内部非法用户通过冒充伪装侵入网络,窃取存储数据、破坏应用系统等, 外部攻击是不法分子通过对网络存储系统的恶意攻击, 通过系统漏洞入侵网络, 窃取或者破坏存储数据。
系统漏洞是计算机及软件存在设计缺陷, 容易给不法分子利用对网络存储系统进行攻击, 同时系统漏洞也是病毒感染的重灾区, 系统漏洞是存储应用的薄弱环节, 病毒通过漏洞进入系统会在系统中快速传播, 并感染网络中的所有计算机及网络数据包。
人为操作失误是网络存储用户或者管理员因疏忽丢失口令或者非法操作导致密码丢失或者安全机制丧失。
3 基于网络安全的网络存储设计
3.1 网络存储安全性设计目标
网络存储安全性设计的目标是实现计算机网络安全运行,并保证网络服务器数据存储安全, 防止资源被窃取或者破坏。
3.2 总体规划
基于网络安全的网络存储设计要从安全体系结构的构建、层次模型的构建、安全策略实施3个方面进行规划。
安全体系结构的构建: 网络存储安全体系结构如图1所示。
网络安全采用标准技术指标和管理措施保证网络数据的完整性、可靠性和安全性; 系统安全是保证网络存储系统在使用周期内应用系统及程序的安全; 数据安全是保证网络存储服务器中存储的数据完整、可用、可靠; 信息安全是用户与存储服务器之间进行联系时需要对用户的身份进行确认, 保证用户的合法性; 设备安全是网络存储服务器设备保证正常运转, 随时随地可为用户提供上传和下载服务。
层次模型的构建: 基于网络安全的网络存储安全体系层次模型可分为应用层安全模型、网络层安全模型和存储层安全模型。应用层安全模型是用户客户端应用安全, 在用户与存储服务器进行通信时, 需要对双方进行认证和审计, 保证通信内容安全; 网络层安全模型保证用户使用的服务为授权服务, 保证用户的隐私权, 防止数据被窃取和冒用; 存储层保证用户存储的数据只有通过用户授权后才能够应用, 当然用户也可以将资源分享到公共平台免费为所有网络中的用户使用, 但是要确保用户分享的资源的安全性。
安全策略实施: 网络存储安全策略从管理和技术两个方面进行实施。管理方面主要是对网络存储设备、 数据传输 、数据存储等进行统一的组织和管理, 建立严格的管理制度和监管制度, 保证系统的安全性; 从技术方面进行实施主要是利用技术手段对网络、存储服务器、访问控制和信息共享权限进行控制, 通过建立防火墙、认证机构等保证网络存储服务器的安全应用。
3.3 设计方案
网络存储过程中受到各个方面因素的影响, 安全问题很多,同时保护措施和技术手段也很多。通常保护网络存储数据安全主要采取的方式有防火墙保护、入侵检测系统、安全评估、 病毒防范、身份认证及数据加密等。在基于网络安全的网络存储安全方面主要通过数据备份、分区管理、 身份鉴别、防火墙、入侵检测、安全管理等进行设计, 建立全面的安全保护方案。
数据备份方案设计: 网络存储将每一个存储装置作为一个存储区域, 存储区域之间相互独立, 同时有可以相互进行数据交换。对于数据的备份可采用热备份策略, 该备份测落可不经过网络、服务器总线进行备份, 由此保证网络与服务器可正常运行。数据备份方案如图2所示。
用户端通过互联网上传到服务器的数据存储在存储网中,存储网中由多个存储设备可对存储设备上的数据进 行备份。备份流程是服务器通过备份软件发出拷贝命令, 接收到命令后, 对存储磁盘中的数据进行读取, 并将指定数据块写到新的备份磁盘上。
分区管理方案设计: 将众多客户端上传的数据存放在统一的服务器上进行存储和管理增加了服务器的负荷和管理难度, 因此, 分区管理可以解决服务器运行缓慢、数据 冗余、丢失等问题。分区可分为软分区和硬分区两种, 软分区是将交换机将全局名称放在一个分区中, 可通过多个端口 接入 ,在架构上是基于相同节点的全局名称, 在同一分区中的用户可实现资源的共享, 但是此方式难以避免黑客伪装获取全局名称的危险。硬分区是对交换机进行硬分区, 根据访问阵列端、逻辑单元号区分名称, 这样对于单一发起端建立的分区只能够有一个主机吗, 多少存储阵列端口加入这个分区可由主机管理, 目标端的安全由发起端进行管理。
身份鉴别方案设计: 用户身份认证时在注册信息录入数据库的基础上对用户登录网络存储服务器进行验证。当用户登录系统时, 系统认证服务器对用户提交的信息进行 判断 ,并下传给用户一个随机验证口令, 在用户端产生相应验证码,用户输入正确验证码登录系统。随机验证功能可杜绝不法分子暴力破解批量注册登录系统。
防火墙方案设计: 基于网络安全的网络存储防火墙设计采用两层防火墙结构, 两层防火墙结构可以有效阻止黑客攻击, 增加黑客入侵系统的难度。防火墙分布如图3所示。
用户通过互联网访问存储服务器, 首先通过一道防火墙进行用户认证, 再通过第二道防火墙进行上传或下载资源安全性认证, 如果认证成功则通过交换机访问存储网。
入侵检测方案设计: 入侵检测通过对数据库中的数据进行采集和分析, 主要根据网络流程和数据的安全等级进行监控, 入侵检测系统是由探测器和控制台组成, 探测器对网络中的原始数据包进行分析, 与数据库中的危险信息进行比对,判断数据包的安全性; 控制台对所有分布在网络中的探测器进行汇总管理, 当探测器发现可疑信息或者是网络攻击, 控制台会自动报警, 并记录攻击事件, 实时阻断网络连接保护服务器数据安全。
安全管理方案设计: 安全管理方案是根据网络安全和数据安全管理方式和方法制定管理制度和行为规范。第一, 确定存储数据的安全等级, 根据数据安全等级进行分级 管理 ;第二, 对网络服务器机房实行准入管理, 非负责人员禁止出入机房; 第三, 制定完善的系统维护制度, 定期对系统进行检测, 并提交详细的维护报告; 第四, 制定应急方案, 如遇到紧急情况可采用相应应急方案, 将损失降低到最少。
4 结语
对基于网 络安全的 网络存储 进行研究 , 分析了网 络存储中遇到的安全问题和影响网络存储安全的因素, 介绍了结合现行网络安全技术提供可行的解决方案, 在网络存储应用中, 实现数据存储的安全性、完整性和可用性。
摘要:随着云计算、大数据的兴起,网络存储由原来的Email服务向着更加多元化的方向发展,Web服务、网络游戏、在线视频、数字图书馆等多方面、多领域都与网络存储密不可分。网络存储应用中,网络安全对于网络存储非常关键,对基于网络安全的网络存储进行研究,分析了目前网络存储过程中遇到的安全问题和影响因素,提出了网络存储安全性设计目标,并做出安全存储设计。