巧用分布式集群 搭建渲染云存储平台
2019-02-26 来源:多智时代
所谓“渲染”就是对前期电脑中建立的动漫模型进行着色和转换,从而体现出色彩、质感以及光线明暗变化等视觉效果,使其动漫形象更为生动。渲染过程中前端会有数百台甚至上千台工作站读取存储系统中的渲染数据,并且这些工作站的操作系统平台各不相同,因此搭建一个异构访问的共享存储系统是必然的选择,否则将会使数据迁移、复制的工作量大大提高,严重制约渲染的生产效率。
渲染集群的并发访问对存储系统的性能提出了较高的要求,后端的存储系统必须能为前端工作站提供稳定的IO带宽和快速的数据交付能力;传统存储由于控制器的限制会产生性能的瓶颈,制约了渲染的速度。
随着图片、视音频清晰程度的提升以及数据大爆炸时代带来的海量素材的急速增长,动漫渲染对于存储的扩展性提出了更加苛刻的需求。传统扩展需要停机、规划、再部署等扩展复杂并且时间较长。与此同时,管理难度会随着节点的增加而不断增长,尤其在维护SAN共享时更为明显。
动漫渲染的素材库和渲染后的成品是非常宝贵的,任何损坏或者丢失都会对企业造成巨大损失,因此要求存储系统具备高可用性,并且发生故障时能够快速恢复;传统存储采用RAID的方式,同时损坏两块硬盘会导致数据的丢失。并且在硬盘更换数据重建时,存储系统读写性能会急剧衰减,可能导致前端渲染集群几乎停滞。
中博自主研发的分布式集群存储系统,是一款针对海量数据存储应用而设计的大规模通用集群存储系统,采用通用硬件设备作为基本的构建单元。可以将一个渲染素材切分为数个切片对象,并将这些切片对象分布到多个存储设备上,从而达到均衡访问压力,提前端渲染集群的读写速度。
高性能,高吞吐量,大幅缩短渲染周期
由于动画影像制作涉及到大量的色彩、色质、形态的处理,这就需要多CPU、多核以多线程和进程的方式工作,才能满足三维影像渲染的需要。中博集群存储支持在线并行模式,让所有IO节点同时工作来提供性能,突破高并发访问带来的带宽和服务器性能瓶颈,可提供超过100GB的I/O带宽。当某一节点出现故障时,不会影响其它IO节点工作,并实现故障的自动切换。
高扩展性,高效支持渲染业务动态扩展
中博集群存储采用Scale-out扩展方式,性能和容量随存储节点的增加而线性增长,打破传统SAN架构的扩展限制,很好的满足渲染业务增长对存储空间和带宽的更高需求,单一的全局命名空间下,容量可无缝扩展到PB级。同时,所有扩容操作均可以在线进行,无须中断应用的正常执行,避免数据迁移和应用中断的问题。
高可用性和高可靠性,核心数据不丢失
中博集群存储系统各个组成模块均采用集群的冗余机制和高效、准确的失效检测算法保证整个系统的高可用性。系统任一节点故障在被自动侦测到后,能够智能的进行自我修复,并且不影响前端应用。
中博科创采用分布式存储系统的多级副本技术,副本数量自定义,在数据安全性能上,比传统RAID做到更高级别的容错机制。即使面临50%的节点宕机或硬盘损坏,系统依然正常运行。且重建速度是传统RAID恢复速度的几十倍,保证了保证系统全年7*24小时无间断运行,关键数据不丢失。
管理维护更方便,支持异构系统,降低管理难度
中博集群存储系统,提供目前绝大多数传统存储接口和协议,如POSIX、CIFS、NFS、FTP、iSCSI、FC,支持市面主流系统平台对文件的读取调用,有效支持渲染过程中前端工作站的各类操作系统平台,降低管理维护难度和部署成本。
中博集群存储对外提供单一命名空间,节点数的增长不会带来管理难度的增加。管理界面层次清晰、操作简便,提供完善的系统报告,能够对性能、空间和运行状态实时监控。
在不久的将来,云计算一定会彻底走入我们的生活,有兴趣入行未来前沿产业的朋友,可以收藏云计算,及时获取人工智能、大数据、云计算和物联网的前沿资讯和基础知识,让我们一起携手,引领人工智能的未来!
版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点!
本站所提供的图片等素材,版权归原作者所有,如需使用,请与原作者联系。