雲原生需要什麼樣的存儲 QingStor這麼說

(原標題:雲原生需要什麼樣的存儲 QingStor這麼說)

青雲Qingcloud  作爲國內頗有技術範兒的雲廠商,擁有專業分佈式存儲QingStor和容器平臺KubeSphere 。在2020中國數據與存儲峰會現場上,QingStor研發負責人王煜回顧了支撐雲原生架構的存儲所需要的諸多技術方案,也提出了對於雲原生存儲的三點看法,分享了已經落地的雲原生分佈式存儲案例

雲原生帶來的存儲挑戰

在許多人看來,雲原生能改變企業內部開發運維的流程,甚至能改變了一些團隊的組織方式,雲原生有望讓IT進入一個理想化狀態,所謂IT理想化狀態是指,開發團隊只需關注業務邏輯本身,減少對於運維相關工作的關注,提高開發效率,提高業務創新效率。

雲計算的發展正是在一步一步的接近這一理想狀態,IaaS虛擬化提升了運維效率,PaaS讓開發人員不需要關注太多基礎架構層面的內容。而現在,關於應用開發、架構管理、運維的種種問題寄希望於雲原生架構,有賴於容器平臺來解決。

2020年,K8s已經成爲容器編排領域的標準,隨着企業期望將更多關鍵性的應用遷移到K8s平臺上,K8s上有越來越多的有狀態應用,如何部署有狀態應用成爲K8s的焦點。

有狀態應用的部署涉及兩方面問題:首先是服務間的拓撲依賴關係問題,K8s通過推出有狀態類型的API對象來解決這個問題。其次,企業數據落地存儲的問題,遺憾的是,K8s平臺不包含存儲的服務,一些替代性方案或是可靠性欠佳或是無法支持持久化存儲。

雲原生架構下的存儲進化

爲了提供能支撐雲原生架構的存儲,業內出現了多種方案,比如, K8s發展出了新的PVC和PV機制,讓開發人員僅要關注PVC,運維人員負責創建PV的人,把開發和運維解耦。

最近,在容器存儲領域出現了一個叫CAS的理念,它是一種指導如何實現好的存儲產品的理念,具體包含三點:

第一點,存儲組件本身是否可以進行容器化部署,並利用K8s本身的特性來運維管理存儲集羣

第二點,能否夠給K8s內部的不同容器提供不同的卷配置的能力,例如QoS、ACL、塊大小、副本數量等。

第三點,架構上能否解耦。

目前,市場上已經有了遵循CAS理念的開源存儲產品了,但QingStor研發部測試中發現了一些問題,比如有的方案從架構層面上來看,這些存儲產品並不是一個典型的分佈式存儲架構,不具備分佈式存儲的特性,性能很難滿足核心應用場景的需求。

QingStor對於雲原生存儲的思考

QingStor也正在思考如何設計產品,雲原生架構到底需要什麼樣的存儲,如何實現一款好用的雲原生架構下的存儲呢?王煜總結了四點:

第一點,要使用聲明式來描述存儲資源需求,這是K8s也提倡的操作。

第二點,存儲的卷是否可以在時間大量的創建和銷燬,這是全新的挑戰。由於容器數量比虛擬化平臺的虛擬機數量大得多,短時間內快速的啓動大量的容器對於存儲的壓力很大。

第三點,是否能夠進行容器粒度的卷管理。

第四點,存儲的組件要能容器化部署,從而實現自動化運維。

雲計算對分佈式存儲本身提出的要求,在雲原生的場景下會更加凸顯,比如,數據跟隨的能力,數據保護機制、彈性擴容的能力,以及海量並行下的性能問題,這都是雲原生架構下對分佈式存儲能力提出的挑戰。

王煜表示,企業在選擇雲原生存儲架構時候應該注意以下三點:

第一點,要用分佈式存儲。幾乎所有的專業存儲廠商都可以提供對接容器平臺的能力,但是隻有分佈式存儲才能非常完美匹配雲原生應用場景。

第二點,雲原生存儲應該具備足夠的穩定性以及擴展能力。

第三點,存儲組件要能容器化部署,要能利用容器平臺本身的集成管理和調度能力。

QingStor的雲原生存儲實踐

作爲可以在企業私有云環境下進行獨立交付的分佈式存儲產品線,QingStor 旗下有四款產品,分別是爲極致性能而設計的NeonSAN,爲海量非結構化數據而設計的對象存儲,爲通用場景而設計的文件存儲,以及一個提供多種接口的融合存儲。

QingStor NeonSAN是一款爲核心業務設計的分佈式存儲,採用了比較多新的技術,比如在軟件架構層面針對SSD和NVMe進行設計,通過RDMA網絡進行數據副本間的複製,並且支持NVMe-oF的存儲訪問協議。同時,QingStor NeonSAN虛擬卷和物理硬盤採用了直接映射的架構, IO路徑棧極短,充分釋放了底層物理硬盤的性能。

在性能測試中,QingStor NeonSAN的IOPS大幅領先 OpenEBS, Longhorn,Ceph-rook。在方案成熟度上,QingStor NeonSAN目前已有大量生產落地的案例。

QingStor NeonSAN目前已經在企業客戶中有大規模生產環境的部署,最典型的使用場景就是公有云平臺上的雲硬盤。私有云也有很多落地案例,覆蓋了包括金融、製造、能源、醫療、政府等行業。

QingStor NeonSAN在雲原生架構體系下做了很多針對性優化

首先,QingStor NeonSAN可以完整支持 Kubernetes CSI存儲插件,平臺可以針對存儲做許多操作,比如創建、銷燬、克隆備份卷等,不需要運維人員提前創建容器所需的存儲,開發人員通過聲明式描述存儲需求即可,存儲空間的創建和綁定過程是和應用的創建過程同步完成的。

其次,QingStor NeonSAN實現了存儲組件自身的容器化部署,充分的利用K8s本身能力,比如,當K8s 監測到集羣狀態發生變化時,會觸發 Operator來自動化完成運維管理的操作。把存儲運維的操作變成了代碼並集成到了K8s平臺上。

這一能力使得存儲擴容時間大大縮短,過去需要運維人員手動參與擴容,過程通常是以小時計,但是通過採用雲原生架構的方式進行自動化運維後,整個擴容時間降低到了分鐘級。

今年9月份,青雲QingCloud 發佈了容器存儲一體機,軟件架構是QingStor NeonSAN 與KubeSphere 容器平臺共同組成的,KubeSphere是青雲QingCloud基於K8s 開發的開源容器平臺,目前在雲原生社區收穫了廣泛的關注和好評。

QingStor希望通過一體機的方式,幫助企業快速擁抱雲原生架構,落地雲原生應用。

容器一體機極易上手,能做到開箱即用,性能優異,而且能穩定運行,容器一體機在雲原生場景中進行了測試。

第一個測試是批量創建100個pod和 pv卷,總耗時是70秒,耗時遠低於同類的容器存儲解決方案。第二個測試是使用FIO對單個pod進行壓力測試,結果顯示可以達到10萬以上IOPS,以及亞毫秒的訪問時延

QingStor NeonSAN基於第二代英特爾至強可擴展平臺打造的,可確保在計算、存儲、網絡、軟件等多層面爲企業客戶帶來性能強勁、安全可靠、簡單易用的軟件定義存儲解決方案,顯著降低系統部署的複雜度和TCO,與企業現有重要業務快速無縫銜接。

除此之外, QingStor NeonSAN適配英特爾® 傲騰(Optane™) 固態盤和英特爾®高速緩存加速軟件(Intel Cache Acceleration Sotware)等多項新技術,實現超高吞吐與極低延時,並且和英特爾共同對整體方案進行了性能優化,能夠充分應對企業應用的嚴苛挑戰。