鼎甲 InfoStor-TL 分布式磁帶存儲技術白皮書
發(fā)布人:Marketing 發(fā)布日期:2021-10-19 10:46:21 點擊數(shù):9108
2021.02?第2.1版
冷數(shù)據(jù)的存儲從來沒有如現(xiàn)在一般迫切,其增長勢頭,價值體現(xiàn),來源都與以往不同,磁帶做為冷數(shù)據(jù)存儲介質(zhì),在現(xiàn)今IT環(huán)境中角色越發(fā)關鍵,把這個變化比做鳳凰涅磐也毫不夸大其辭。
此白皮書基于這一背景,磁帶在現(xiàn)有技術條件下,承載這些新的業(yè)務需求的磁帶布署方式也一樣發(fā)生了變化,企業(yè)對于彈性、簡化以及成本的考量,促使磁帶技術以一種輕量級的方式提供服務,分布式磁帶庫的應用變得更為廣泛。
分布式磁帶庫,以模塊的方式,能夠像搭積木的方式在機房中靈活部署,按照需求擴展,安裝和運維幾乎不需原廠干預,采用LTFS開放軟件,使磁帶庫輕松融入客戶整體架構(gòu),另外,最重要的是各項成本和支出表現(xiàn)優(yōu)異,這使其成為企業(yè)的最佳選擇。
本白皮書同時對鼎甲INFOSTOR-TL產(chǎn)品做了基礎性的介紹,為用戶提供參考,以方便用戶作出最佳決定。
1.?分布式磁帶存儲技術
眾所周知,磁帶技術幾乎伴隨著信息技術而生,曾經(jīng)作為主存儲使用,有著光輝的歷史,但與硬盤的技術及市場的競爭中逐漸勢弱,不斷邊緣化,似有被磁盤技術完全替代的趨勢。然而,隨著移動技術,大數(shù)據(jù)及云計算的興旺發(fā)展,信息技術革命真正進入數(shù)據(jù)主導時代。
數(shù)據(jù)改變一切,當然也改變了數(shù)據(jù)存儲的方式,縱覽全球的大型的云數(shù)據(jù)中心,包括Microsoft, Google, AWS, Facebook, 磁帶技術已經(jīng)被大規(guī)模應用于冷數(shù)據(jù)存儲,成為歸檔及備份類應用當仁不讓的第一選擇。
磁帶技術浴火重生,鳳凰涅槃,其背后的驅(qū)動力仍在于數(shù)據(jù),在于數(shù)據(jù)的價值,以及這些價值呈現(xiàn)方式,還包括數(shù)據(jù)的獲取成本,使用時機,難以衡量的生命周期,最關鍵的還是數(shù)據(jù)規(guī)模。與其他存儲介質(zhì)相比,磁帶存儲技術完美契合了這些新的需求,這表現(xiàn)在:
- 從成本上,不論是購買成本(CAPEX, 資本性支出),還是運維成本(OPEX,管理性支出),相比于閃存和硬盤(包括SMR類高密度近線硬盤),磁帶的成本優(yōu)勢巨大,這種數(shù)倍甚至十數(shù)倍的TCO(總擁有成本)優(yōu)勢反饋到超大規(guī)模的數(shù)據(jù)量(通常數(shù)百PB甚至數(shù)個EB)層面,這就為企業(yè)節(jié)省了千萬甚至數(shù)億人民幣級別的成本支出,這種節(jié)省,對改善企業(yè)基本面,增強企業(yè)顯示競爭力,具有無可抵御的吸引力。
- 從技術上,磁帶技術潛力巨大,磁錄密度幾乎線性增長,這與磁盤后繼乏力形成鮮明對比,根據(jù)現(xiàn)有的路線圖,磁帶介質(zhì)容量幾乎每3年增長50%甚至100%,實驗室環(huán)境中單柄磁帶已經(jīng)做到了528TB,這確是磁盤甚至閃存難以企及的技術底蘊,更是光盤存儲望塵莫及的。除去密度之外,磁帶與生俱來的空隙(Air Gap)技術為網(wǎng)絡及數(shù)據(jù)安全提供最后的保障。
- 從產(chǎn)品生命周期及可靠性來講,磁帶技術(包括磁帶庫,磁帶機和磁帶)可謂超長待機,磁帶的可靠性相較硬盤技術高3個數(shù)量級,這使磁帶機和磁帶庫的生命周期包括售后在內(nèi)往往超過20年,而在數(shù)據(jù)中心中的30年前的磁帶比比皆是。
- 從企業(yè)社會責任來講,磁帶技術因其離線特性,天然對環(huán)境較為友好,電力消耗相對于閃存和硬盤來講幾乎忽略不計,這不僅節(jié)省運維成本,同時切實踐行了企業(yè)的社會責任承諾。除了電力消耗,磁帶對環(huán)境的友好性還表現(xiàn)在對數(shù)據(jù)中心的環(huán)境要求上,對機架,空氣質(zhì)量,溫濕度等等相比于其他存儲介質(zhì)均較為寬松。
1.2?LTO磁帶技術及路線圖
LTO 技術聯(lián)盟 (LTO Consortium)提供開放磁帶技術發(fā)展路線,包括LTO Ultrium磁帶技術以及LTFS (Linear Tape File System)磁帶開源文件系統(tǒng),聯(lián)盟廠商采用統(tǒng)一的技術路線,提供標準化,統(tǒng)一開放的產(chǎn)品,使磁帶技術能得以簡單有效的方式提供給客戶。
LTO Ultrium的技術路線如圖1所示,2020年4季度末,LTO9產(chǎn)品已發(fā)布,并計劃于2021年第一季度向市場推出相應的產(chǎn)品。按照LTO聯(lián)盟的技術路線圖,今后的磁帶密度皆比上一代提升一倍。
圖1:LTO Ultrium磁帶技術路線圖
附表1則為目前及未來市場中的LTO磁帶技術的數(shù)據(jù)表:
LTO 6 | LTO 7 | LTO 8 | M8 | LTO 9 | LTO 10 | LTO 11 | LTO 12 | |
發(fā)布時間 | 2012/12 | 2015/12 | 2017/12 | 2020/09 | 2023*** | 2026*** | 2029*** | |
磁帶裸容量 (TB) | 2.5 | 6 | 12 | 9 | 18 | 36 | 72 | 144 |
磁帶壓縮容量 (TB)* | 6.25 | 15 | 30 | 22.5 | 45 | 90 | 180 | 360 |
磁帶長度(m) | 846 | 960 | 960 | 960 | 1035 | / | / | / |
磁帶材料 | MP或BaFe | BaFe | BaFe | BaFe | / | / | / | / |
磁帶內(nèi)存 (KiB) | 16 | 16 | 16 | 16 | / | / | / | / |
磁帶機未壓縮最大讀寫速度(MB/s) | 160 | 300 | 360 | 300 | 400 | 1100** | / | / |
磁帶機壓縮后最大讀寫速度(MB/s) | 400 | 750 | 900 | 750 | 1000 | 2750** | / | / |
全磁帶寫入時間(按未壓縮速度hh:mm) | 04:20 | 05:33 | 09:16 | 08:20 | 12:30 | 12:07** | / | / |
WORM | 可以 | 可以 | 可以 | 不可以 | 可以 | / | / | / |
加密 | 可以 | 可以 | 可以 | 可以 | 可以 | / | / | / |
注: * 磁帶按2.5:1壓縮; **為技術計劃;***為預計時間; “/”表示尚無可披露數(shù)據(jù) |
1.3?冷數(shù)據(jù)存儲技術方向以及對磁帶庫的要求
根據(jù)IDC的預測,企業(yè)數(shù)據(jù)產(chǎn)生的年度復合增長率水平為40%-50%,每2-3年數(shù)據(jù)增長一倍,這也意味著全球范圍內(nèi),數(shù)據(jù)在2025年之前將達到甚至超過200ZB,其中產(chǎn)生于中國的數(shù)據(jù)將占據(jù)1/4。在這些數(shù)據(jù)中,溫冷數(shù)據(jù)占據(jù)總量的90%, 按照IDC的定義,超過30天的純冷數(shù)據(jù)則占總量的60%以上,這就是說,即便在中國,屆時每年會有將近30ZB的冷數(shù)據(jù)需要存儲。
與數(shù)據(jù)爆發(fā)式容量增長的同時,冷數(shù)據(jù)的價值體現(xiàn)也在發(fā)生改變,或者說,數(shù)據(jù)的價值呈現(xiàn)變得多元化,既存在數(shù)據(jù)價值相對較高的數(shù)據(jù)庫,ERP類的數(shù)據(jù),這類數(shù)據(jù)增長相對平緩;也存在大量AI科學訓練,媒體及醫(yī)學影像數(shù)據(jù)這類相對價值稀薄的數(shù)據(jù);還包括為滿足政策法規(guī)要求所必須存儲的價值幾乎為零的數(shù)據(jù),可以說數(shù)據(jù)的價值是與其復原或恢復的概率直接相關。
大幅降低冷數(shù)據(jù)單位存儲成本,這個要求變得愈發(fā)迫切,在存儲介質(zhì)一端,閃存通過技術的更新(如3D NAND)大幅增加容量以降低成本,而希捷大規(guī)模HAMR (Heat Assited magnetic Recording),西數(shù)借助MAMR (Microwave Assisted Magnetic Recards)技術期望提升硬盤容量,但值得指出的是磁記錄面密度的提升,磁帶的可提升空間相較于磁盤具有巨大優(yōu)勢,2020年底,F(xiàn)ujifilm聯(lián)合IBM發(fā)布基于鍶鐵氧體(SrFe)技術的磁帶技術,單柄磁帶容量達到580TB,而磁記錄面密度也僅僅約為12TB硬盤密度的1/3。從技術角度而言,磁帶是唯一能解決這一要求的唯一選擇,包括DNA存儲,5D晶體技術,磁阻式隨機訪問存儲器(MRAM)都無法勝任。
包括Google、微軟、AWS一批云計算廠商大規(guī)模部署磁帶庫,云應用也改變了磁帶庫的傳統(tǒng)應用方式,最明顯的莫過于采用對象接口(S3)方式,在這方面有開源項目可供利用,如OpenStack Swift,名為SwiftHLM的組件可插入OpenStack Swift堆棧以便在系統(tǒng)中添加磁帶作為二級或三級存儲使用,當然有更多的商業(yè)對象存儲軟件可供選擇,比如Xtreme Store以及PoINT歸檔網(wǎng)關等等。
冷數(shù)據(jù)應用還體現(xiàn)在量子計算領域,現(xiàn)有的非對稱加密算法ECC,RSA以及AES-128/256都將變得不安全,新的量子安全加密(QSC)機制已經(jīng)提上日程,技術上,加密的數(shù)據(jù)無法壓縮(compresion)或除重(dedup),這對磁帶機的性能也提出了要求。另外,在超大規(guī)模歸檔存儲中,糾刪碼(EC)的使用會大幅降低數(shù)據(jù)存儲的安全成本,使用糾刪碼的環(huán)境下,作為可移動存儲,磁帶與硬盤及SSD有著很大不同,實踐中需要利用獨特方法例如小文件的聚合及片段讀取以提升整體性能。
云,AI以及邊緣計算的另一個技術趨向在于磁帶庫部署方式的改變,多點部署,業(yè)務可彈性,簡化運維已成為互聯(lián)網(wǎng)及云計算廠商的三大基礎要求,基于這些要求,分布式磁帶庫成為更切實的選擇。
1.4?集中式及分布式磁帶存儲技術選擇
從產(chǎn)品形態(tài)上,集中式磁帶存儲技術最重要的技術特性表現(xiàn)在可橫向擴展上,例如IBM TS4500,昆騰Scalar i6000等產(chǎn)品,集中式磁帶存儲技術更多的應用在一兩個數(shù)據(jù)中心中,單個磁帶庫可擴充至一萬甚至數(shù)萬個磁帶槽位,同時賦予大量I/O槽位以便磁帶離庫操作,軟件上配置齊全,如磁帶虛擬化,多路徑以滿足傳統(tǒng)的,大規(guī)模備份和歸檔需要。配置強大是集中式磁帶技術的優(yōu)勢,但這種形態(tài)的磁帶庫劣勢同樣明顯,首先,其安裝相當復雜,很多情景下需要機房改造,全程需要原廠介入,其次,運維難度較高,有較高的學習成本,故障后只能依靠原廠資源,再有,部署無法靈活,遷移成本代價高昂,如果涉及到數(shù)據(jù)的大規(guī)模遠程復制難度幾乎無法想象,最后,集中式存儲的硬件價格,軟件許可,售后維保成本都比較昂貴。
如上文所述,分布式磁帶存儲技術是類似于云歸檔存儲部署的最佳選擇,集中式磁帶技術的劣勢在新的技術環(huán)境中則成為優(yōu)勢,分布式磁帶技術從機械構(gòu)件上相對簡單,通常單機架部署,可充分利用現(xiàn)有機架空間,容量可通過3U或6U模塊擴充;安裝及維護簡單,部件可熱插拔或僅需要較短的停機窗口更換并重新啟用,這些過程基本上可不需要原廠參與,在數(shù)據(jù)需要大規(guī)模遷移的情況下,甚至可以直接以物理遷移的方式,將一個數(shù)據(jù)中心的磁帶庫運送并掛載到新的數(shù)據(jù)中心使用,數(shù)據(jù)使用完畢后,再拆卸運送回原處或其他數(shù)據(jù)中心使用,這會極大降低網(wǎng)絡開銷并切實提升業(yè)務效率。
在實際部署中,分布式磁帶存儲技術可以圖2所示類似以細胞(Cell)形式無限擴展,每個細胞都由一組磁帶庫模塊構(gòu)成,單個細胞內(nèi)獨立擁有一個緩存及數(shù)據(jù)庫節(jié)點(服務器),也可多個細胞共享一個節(jié)點(服務器),節(jié)點提供的功能包括元數(shù)據(jù)(metadata)管理,HTTP接口服務, 或作為備份服務器,另外最重要的的是作為讀寫緩存(cache),作為應用和帶庫之間的臨時性存儲池。
圖2:分布式磁帶存儲細胞化部署
在細胞化結(jié)構(gòu)中,節(jié)點之間通過以太網(wǎng)連接,節(jié)點和磁帶庫之間囿于現(xiàn)有技術可以FC或SAS方式直連,也可通過FC SAN交換機集中式管理,在一些商業(yè)軟件中,節(jié)點和磁帶機之間構(gòu)筑分區(qū),這種分區(qū)可以專有也可以動態(tài)方式存在,每個分區(qū)所管理的磁帶(catridge)則固定不變。節(jié)點之間可互為冗余,當某個節(jié)點發(fā)生故障時,其他節(jié)點可接管故障節(jié)點所管理的分區(qū)。如圖3所示:
圖3:PAG的動態(tài)分區(qū)架構(gòu) (使用交換機及3/4 EC部署)
2.?鼎甲infostor-TL分布式磁帶存儲產(chǎn)品
2.1 INFOSTOR-TL磁帶庫總體情況
INFOSTOR-TL磁帶庫大致可分為兩類,一類為中小客戶備份所需的入門級自動加載器及磁帶庫, 均為機架安裝,包括1U和2U兩種形態(tài);另一類則為模塊化分布式磁帶庫,每個模塊以3U或6U形式體現(xiàn),可擴展至1個標準機架。
表2:為入門級自動加載器及磁帶庫技術參數(shù)匯總?cè)缦拢?/p>
1U磁帶自動加載器 | 2U磁帶庫 | |
型號 | FlexStor 1U | FlexStor 2U |
安裝方式及機架高度 | 機架, 1U | 機架, 2U |
磁帶機數(shù)量 | 1個半高 | 1個全高或2個半高 |
磁帶機接口 | SAS, iSCSI, FC | SAS, iSCSI, FC |
可支持的磁帶機 | LTO6, 7, 8, 9* | LTO6, 7, 8, 9* |
磁帶總槽位數(shù) | 8 | 24 |
I/O槽位數(shù) | 1 | 1 |
機器人MCBF | 50萬次 | 50萬次 |
電源數(shù)量 | 1 | 1 |
電源功率 | 80W | 160W |
噪音輻射 | ≤ 5.8dB | ≤ 5.8dB |
溫度 | 10°C – 35°C | 10°C – 35°C |
相對濕度 | 20% -80% | 20% – 80% |
尺寸 | 447.5x740x43.8mm | 447.5x740x87.6mm |
重量 | 10Kg (不含磁帶) | 12Kg (不含磁帶) |
*表示計劃; |
2.2?INFOSTOR-TL分布式磁帶庫
INFOSTOR-TL分布式磁帶庫技術參數(shù)可匯總?cè)缦拢?/p>
- (1)3U/42U塊化磁帶庫
3U模塊 | 42U磁帶庫 | |
型號 | Multistor 3U | / |
安裝方式及機架高度 | 機架, 3U | 機架, 42U, 1個基本模塊, 13個擴展模塊 |
磁帶機數(shù)量 | 3個半高或1個全高或1個全高+1個半高 | 14個全高或42個半高或14個全高+14個半高 |
磁帶機接口 | SAS, FC | |
可支持的磁帶機 | LTO6, 7, 8, 9* | |
磁帶總槽位數(shù) | 80 | 560 |
I/O槽位數(shù) | 5 | 最大70個 |
帶倉數(shù)量 | 2 | 28 |
操作前面板 | 3.5”顯示器; 配置, 管理, 狀態(tài)及診斷菜單 | |
遠程管理接口 | 通過標準以太網(wǎng)連接(10/100/1000 Mbit), 基于Web管理 | |
安全 | SSL/TLS 1.2, 用戶管理/LDAP集成 | |
網(wǎng)絡協(xié)議 | IPv4/IPv6 | |
錯誤及告警(alert)管理 | SNMP Trap告警, 錯誤及警報郵件告警系統(tǒng) | |
分區(qū) | 20 | |
機器人MCBF | 100萬次 | |
電源數(shù)量 | 2 | 最大28個 |
單個電源最大功率 | 300W | |
噪音輻射 | ≤ 5.8dB | |
海拔 | 5000m | |
溫度 | 10°C – 35°C | 10°C – 35°C |
相對濕度 | 20% -80% | 20% – 80% |
單模塊尺寸 | 475x892x134mm | 475x892x134mm |
重量 | 20Kg (不含磁帶) | 280Kg (不含磁帶) |
*表示計劃; |
- (2)6U/42U塊化磁帶庫
6U模塊 | 42U磁帶庫 | |
型號 | Multistak 6U | / |
安裝方式及機架高度 | 機架, 6U | 機架, 42U, 1個基本模塊, 6個擴展模塊 |
磁帶機數(shù)量 | 6個半高或3個全高 | 21個全高或42個半高 |
磁帶機接口 | SAS, FC | |
可支持的磁帶機 | LTO6, 7, 8, 9* | |
磁帶總槽位數(shù) | 80 | 560 |
I/O槽位數(shù) | 5 | 最大70個 |
帶倉數(shù)量 | 2 | 14 |
操作前面板 | 5.7”觸碰顯示器; 配置, 管理, 狀態(tài)及診斷菜單 | |
遠程管理接口 | 通過標準以太網(wǎng)連接(10/100/1000 Mbit), 基于Web管理 | |
安全 | SSL/TLS 1.2, 用戶管理/LDAP集成 | |
網(wǎng)絡協(xié)議 | IPv4/IPv6 | |
錯誤及告警(alert)管理 | SNMP Trap告警, 錯誤及警報郵件告警系統(tǒng) | |
分區(qū) | 20 | |
機器人MCBF | 200萬次 | |
電源數(shù)量 | 2 | 最大14個 |
單個電源最大功率 | 300W | |
噪音輻射 | ≤ 5.8dB | ≤ 5.8dB |
海拔 | 5000m | |
溫度 | 10°C – 35°C | 10°C – 35°C |
相對濕度 | 20% -80% | 20% – 80% |
單模塊尺寸 | 475x892x268mm | |
重量 | 44Kg (不含磁帶) | 308Kg (不含磁帶) |
*表示計劃; |
- (3)適配的LTO驅(qū)動器
LTO驅(qū)動器 | 接口及高度 |
LTO 6 | LTO 6 HH FC 單口半高
LTO 6 HH FC 雙口半高 LTO 6 HH SAS 雙口半高 |
LTO 7 | LTO 7 HH FC 單口半高
LTO 7 HH FC 雙口半高 LTO 7 HH SAS 雙口半高 |
LTO 8 | LTO 8 HH FC 單口半高
LTO 8 HH FC 雙口半高 LTO 8 FH FC 雙口半高 LTO 8 HH SAS 雙口全高 |
- (4)支持的SAS及FC接口速度
接口 | LTO磁帶機 | 端口速率 |
SAS | LTO 6/7/8/9 | 1.5 Gbps, 3 Gbps, 6 Gbps |
FC | LTO 6/7/8/9 | 2 Gbps, 4 Gbps, 8 Gbps |
- (5)Ultrium LTO 讀寫兼容性表
LTO 5磁帶機 | LTO 6磁帶機 | LTO 7磁帶機 | LTO 8磁帶機 | |
LTO 5磁帶(未加密) | 讀/寫 | 讀/寫 | 只讀 | |
LTO 5磁帶(加密) | 讀/寫(使用密鑰) | 讀/寫(使用密鑰) | 只讀(使用密鑰) | |
LTO 6磁帶(未加密) | 讀/寫 | 讀/寫 | ||
LTO 6磁帶(加密) | 讀/寫(使用密鑰) | 讀/寫(使用密鑰) | ||
LTO 7磁帶(未加密) | 讀/寫 | 讀/寫 | ||
LTO 7磁帶(加密) | 讀/寫(使用密鑰) | 讀/寫(使用密鑰) | ||
LTO 8磁帶(未加密) | 讀/寫 | |||
LTO 8磁帶(加密) | 讀/寫(使用密鑰) |