最新情報技術を活用した超大規模 天文データ解析機構の研究開発

Slides:



Advertisements
Similar presentations
JVO の研究開発(コスミックストリング探査への応 用) V04b 白崎裕治 1,8 、田中昌宏 1 、本田敏志 1 、大石雅寿 1 、水本好彦 1 、矢作日出樹 1 、小杉城治 1 、柏川伸成 1 、松崎英一 2 、安田直樹 3 、長 島雅裕 4 、増永良文 5 、石原康秀 6 、阿部勝巳 6 、堤純平.
Advertisements

 世界中の天文データサービスへの一つの窓口 − どういったデータがあるのか探す − データを検索し取得する。 − 取得したデータをクイックルックする  天文関連ツールのオンラインサービス(開発中) − 天体検出、Photo-Z、… − 各種単位変換(距離、明るさ…) 等  すばる望遠鏡のデータリダクション.
VO2014 ( 睦月 ) 講習会 AGN と銀河のクラスタリング 解析 国立天文台 天文データセンター 白崎裕治.
「図書管理」のための Webアプリケーション開発 -Apache/Tomcat/MySQL/Java on Windows XP-
JVO Portal の使い方 国立天文台 天文データセンター 白崎裕治.
Curlの特徴.
IIS 4.0で開発をするコツ Webアプリケーション構築.
ZKプラグインで、Grailsの Viewをリッチに楽しく
バーチャル天文台標準規約の紹介と運用への取り組み、そしてサイエンスの実践
クラスタの構成技術と クラスタによる並列処理
S. Tsuboi(1), H. Mizutani(1), N. Takeuchi(2) T. Arai (3), Y. Yanaka(3)
アドホックCUG I-3. ユビキタスネットワーク制御・管理技術 (Ubilaプロジェクト) ウ.ネットワークサービス制御技術
Webサービスに関する基本用語 Masatoshi Ohishi / NAOJ & Sokendai
Windows Azure 仮想マシン 入門.
数値モデルの出力データをどのように取り扱っているか?
VO講習会2013春 VOツール使用法(1) TOPCAT 国立天文台 天文データセンター 小宮 悠.
不特定多数の発信者を考慮した ストリーミングシステムの実現
IDLTM/IONTMを使用した UDON (Universe via Darts ON-line) プロトタイプの作成
分散コンピューティング環境上の Webリンク収集システムの実装
電子社会設計論 第11回 Electronic social design theory
早稲田大学大学院理工学研究科 情報科学専攻修士2年 後藤滋樹研究室 坂本義裕
WSDL と JAX-RPC 年10月13日 Webサービス II (第3回) WSDL と JAX-RPC 年10月13日.
報告 (2006/9/6) 高橋 慧.
VO ツール利用法 Specview 国立天文台 天文データセンター 白崎 裕治.
ネットワーク構成法 スケール 第6回 11月19日.
表紙.
VO講習会 2015如月 (2015年2月26-27日、国立天文台三鷹)
VO 概論 国立天文台 天文データセンター 白崎 裕治.
NIIメタデータデータベースの構想 国立情報学研究所 開発・事業部 コンテンツ課 米 澤 誠
資料4-3 平成26年度第3回 技術委員会 外部仕様書・ツール群の状況報告
Piggy Bank: Experience the Semantic Web Inside Your Web Browser
LIVE! ECLIPSE 2001 の概要 ライブ!エクリプス実行委員会.
モバイルエージェントの応用 概要 モーバイルエージェントの応用分野 AgentSpaceシステム エージェント移動 応用:ソフトウェアの配信
Curlの仕組み.
都市情報学専攻 情報基盤研究分野  M04UC513  藤田昭人
WSDL と JAX-RPC 年10月20日 Webサービス II (第4回) WSDL と JAX-RPC 年10月20日.
2018/9/21 JVOの研究開発 国際連携と全体進捗 国立天文台 & 総合研究大学院大学     大石雅寿 2004/03/23
JVO (Japanese Virtual Observatory) の研究開発 V03c
GRID技術を活用した 電網天文台の構築(Virtual Observatory)
Data Grid Mini WorkShop
ワークフローシステムの開発 ワークフロー言語の必要性 XMLワークフロー言語の仕様 ワークフロー言語により、処理手順を記述し、
アトラス実験における データ解析用グリッド環境の構築
e-サイエンス推進のための 広域分散ファイルシステムの 適用と評価
DataGrid ミニワークショップ@天文台 12/12
Japanese Virtual Observatory
SOAP/UDDI/WSDLによるB2Bシステム構築の一事例
グリッド M1 kawai.
VO ツール利用法 TOPCAT 国立天文台 天文データセンター 白崎 裕治.
表紙.
.NET Framework 3.0 概要 (旧称 : WinFX)
サイエンス・テクノロジー・システムズ株式会社 癸生川絵里
Present Status of Metbroker
事務所における情報化の問題点 データが所内で共有されていない、各課ごとに個別に利用されている
JVOの研究開発 (メタデータ交換の国際対応)
JVO の研究開発 -- バーチャル天文台に対応した データサービスの実装 --
JVO (Japanese Virtual Observatory) の研究開発
Internet広域分散協調サーチロボット の研究開発
VO2015 (如月) 講習会 AGNと銀河のクラスタリング解析
JVOの研究開発:全体進捗 データベース国際連携の成功
端末およびサービス透過的な 情報共有支援システムの構築
端末およびサービス透過的な 情報閲覧支援システムの構築
宇宙科学統合解析環境の構築とAstro-E2解析支援
ネットワークをシンプルにする エンタープライズ NFV
Java における 先進的リフレクション技術
情報共有による Z39.50データベース選択支援環境
JVOの研究開発 (プロトタイプ2の実装) 田中昌宏、白崎裕治、本田敏志、 大石雅寿、水本好彦(国立天文台)、
Z39.50プロトコルによる日本語書誌データ情報検索システム
白崎裕治, 田中昌宏, 本田敏志, 大石雅寿, 水本好彦 (国立天文台), 安田直樹 (東大宇宙線研), 増永良文 (お茶の水大)
KEK素核研 エレクトロニクスシステムGr. 仲吉一男
JVOプロトタイプ システムの開発 DEWS2004 2004年 3月 5日 田中 昌宏、白崎 裕治、 本田 敏志、
Presentation transcript:

最新情報技術を活用した超大規模 天文データ解析機構の研究開発 A01-23 http://jvo.nao.ac.jp/ 大石雅寿,水本好彦,白崎裕治,大江将史,高田唯史(国立天文台),安田直樹(東京大学宇宙線研究所)  現代天文学では,ペタバイトクラスの規模であらゆる波長の観測データがデータベースとして格納されて研究に活用されている。しかしこれらのデータベースは,波長や天文台ごとに独立している。宇宙の諸現象を理解するためには,多波長のデータを有機的に連携することが重要である。高速ネットワークを介した天文データグリッドを構築することで,世界各地の天文データベースやデータ解析サーバ等を相互利用し,これまでは困難であった大規模データを用いた天文学研究が可能になる。  過去の研究開発によりデータ交換は可能になっているため,本研究では遠隔地の分散天文データベースに対する検索や解析サーバの利用を容易にする機構としてワークフローシステムを構築した。また,天文学研究の次元を高めるスペクトルデータの利用が可能となり,さらにグリッドを基盤とする大量データの処理用プラットフォームも構築してJVOからの利用を可能とした。 Integration of Distributed Astronomical Data 超大量データを集めて解析するのは困難 情報技術によりデータ収集などを容易にし,天文学研究を加速する いつでもどこからでも研究可能 現代天文学では日々データ 爆発がおきている 将来は,教育利用も目指す Nobeyama ~ 1TB/year Subaru ~ 20TB/year ALMA ~ 1PB/year VOはデータベース技術を活用してネットワーク上でディジタル化された宇宙を観測する抽象化され た望遠鏡 天文データは世界中に分散して存在する Virtual Observatory Architecture of JVO portal server Registry (XMLDB) Web Service Catalog DB Meta Controller Parser Scheduler Executer User Interface JVOQL Editor VOTable Viewer DB Search Plotter Workflow etc User DB Input Queries and Analysis Parameters XPath XML JVOQL (VOTable) VOTable FITS XML etc. FITS Resource Metadata JVO Server Server 1 Server 2 Server 3 JVO Portal Server SIAP/SSAP/SkyNode JVOプロトタイプは2004年12月以来,世界中の同様のシステムと相互接続されており,現在では200以上の天文データ資源が利用可能となっている。 US/Can Europe JVOシステムの概略図 Analysis Services HyperZ SExtractor Data Search Services Implementation of Workflow 超大規模データを利用して新しい天文学的知見を引き出す  Workflowの開発 検索結果 研究例:クェーサー周囲環境の研究 研究者は研究のアイデアをワークフローとして記述する アクセス可能な世界の天文データ スペクトル 画像 Workflow editor Grid-based Analysis Platform XML Schema diagram of JVO Workflow Language WFDLでできること : 変数定義 制御 (繰り返し, 条件分岐) For, IF - THEN, 並列実行 外部サービスの呼び出し 内部Java Classesの呼び出し WF開発での考慮ポイント WFはXMLで記述 利用者が容易にWFを記述できるよう,雛形提供。エディターでゼロから作成することももちろん可能。 利用可能なサービスや各サービスの利用法はVOResourceから探せる サービス提供者は容易にサービスをVOに登録できる Client MDS Server JVO Portal Service Request Available Server Info Confirm Job Completion Job Completion Info Analysis Servers # of Jobs CPU load Job status Analysis Server Management Data Job submission Results Parallel Executions on Multiple Servers are available Execute WFDLはBPEL4WSをベースとして定義 WorkflowエンジンがXMLのWFDLをgroovyスクリプトに変換 ポータルがgroovyスクリプトに基づいてWFの各ステップを実行 グリッド基盤を利用した解析プラットフォームはJVOから呼び出し可能で,テラバイトスケールのデータを 解析できるエンジンとして用いられる。