YNAO OpenIR  > 其他
Alternative TitleNGAS-Based Multi-site Observation Data Storage and Synchronization Method
石聪明1,3; 邓辉2,3; 戴伟3,4; 卫守林3; 王锋1,2,3,4
Source Publication天文研究与技术(Astronomical Research & Technology)
ClassificationP161 ; Tp311.1
Contribution Rank第4完成单位
Indexed ByCSCD
Keyword下一代归档存储系统 平方千米阵列 存储与同步 海量数据 ZeroMQ

平方千米阵列(Square Kilometre Array, SKA)望远镜建成后将具有超高的灵敏度、超快的巡天速度以及宽视场,进而产生超海量的观测数据。SKA天文台与各国区域数据中心间的海量数据同步传输是当前SKA建设中的一个难点。SKA先导项目使用的下一代归档存储系统(Next Generation Archive System, NGAS)在应用测试中存在效率低下,性能不足等问题。提出了一种基于ZeroMQ的数据存储与同步方法,通过采用更加高效的异步消息机制实现同步传输数据,回避了NGAS原有的采用HTTP协议的局限。实验结果表明,新方法在平均数据归档存储效率方面比原有方法快了近40倍,能够基本满足10 GB带宽的全速传输需要,取得了较好的使用效果。 

Other Abstract

The Square Kilometre Array (SKA) will have ultra-high sensitivity, ultra-fast survey speed and wide field of view, resulting in super-massive raw observation data. Massive data synchronization/delivery between the SKA observatories and regional data centers in various countries is a difficult problem in the current SKA construction. The Next Generation Archive System (NGAS) used by SKA precursor is inefficient and has insufficient performance in the application measurement. In this paper, we proposed a ZeroMQ-based data storage and synchronization method. By adopting more efficient asynchronous messaging mechanism to realize synchronous data delivery, it can avoid the limitations of the HTTP protocol adopted by the NGAS.Experimental results show that the new method is nearly 40 times faster than the original method used by NGAS in terms of average data archival/storage efficiency, which can basically meet the requirements of the full-speed transmission of 10GB bandwidth and has achieved a better use effect.

Funding Project国家重点研发项目[2018YFA0404603] ; 国家重点研发项目[2016YFE0100300] ; 国家自然科学基金[11403009] ; 国家自然科学基金[11463003] ; 国家自然科学基金[11773012] ; 国家自然科学天文联合基金[U1531132] ; 国家自然科学天文联合基金[U1631129] ; 国家自然科学天文联合基金[U1831204] ; 塞尔网络下一代互联网技术创新项目[NGII20170204]
Funding Organization国家重点研发项目[2018YFA0404603, 2016YFE0100300] ; 国家自然科学基金[11403009, 11463003, 11773012] ; 国家自然科学天文联合基金[U1531132, U1631129, U1831204] ; 塞尔网络下一代互联网技术创新项目[NGII20170204]
Subject Area天文学 ; 天文学其他学科 ; 电子、通信与自动控制技术 ; 计算机科学技术
MOST Discipline Catalogue理学 ; 理学::天文学 ; 工学 ; 工学::信息与通信工程 ; 工学::计算机科学与技术(可授工学、理学学位)
Citation statistics
Document Type期刊论文
Corresponding Author王锋
Affiliation1.昆明理工大学管理与经济学院, 云南, 昆明, 650093
2.广州大学天体物理中心/物理与电子工程学院, 广东, 广州, 510006
3.昆明理工大学云南省计算机技术应用重点实验室, 云南, 昆明, 650500
4.中国科学院云南天文台, 云南, 昆明, 650011
Corresponding Author AffilicationYunnan Observatories, Chinese Academy of Sciences
Recommended Citation
GB/T 7714
石聪明,邓辉,戴伟,等. 基于NGAS的多点观测数据存储与同步方法[J]. 天文研究与技术(Astronomical Research & Technology),2019,16(2):204-210.
APA 石聪明,邓辉,戴伟,卫守林,&王锋.(2019).基于NGAS的多点观测数据存储与同步方法.天文研究与技术(Astronomical Research & Technology),16(2),204-210.
MLA 石聪明,et al."基于NGAS的多点观测数据存储与同步方法".天文研究与技术(Astronomical Research & Technology) 16.2(2019):204-210.
Files in This Item:
File Name/Size DocType Version Access License
基于NGAS的多点观测数据存储与同步方法(353KB)期刊论文出版稿开放获取CC BY-NC-SAView Application Full Text
Related Services
Recommend this item
Usage statistics
Export to Endnote
Google Scholar
Similar articles in Google Scholar
[石聪明]'s Articles
[邓辉]'s Articles
[戴伟]'s Articles
Baidu academic
Similar articles in Baidu academic
[石聪明]'s Articles
[邓辉]'s Articles
[戴伟]'s Articles
Bing Scholar
Similar articles in Bing Scholar
[石聪明]'s Articles
[邓辉]'s Articles
[戴伟]'s Articles
Terms of Use
No data!
Social Bookmark/Share
File name: 基于NGAS的多点观测数据存储与同步方法_石聪明.pdf
Format: Adobe PDF
All comments (0)
No comment.

Items in the repository are protected by copyright, with all rights reserved, unless otherwise indicated.