JVOの研究開発 (プロトタイプ2の実装) 田中昌宏、白崎裕治、本田敏志、 大石雅寿、水本好彦(国立天文台)、

Slides:



Advertisements
Similar presentations
JVO の研究開発(コスミックストリング探査への応 用) V04b 白崎裕治 1,8 、田中昌宏 1 、本田敏志 1 、大石雅寿 1 、水本好彦 1 、矢作日出樹 1 、小杉城治 1 、柏川伸成 1 、松崎英一 2 、安田直樹 3 、長 島雅裕 4 、増永良文 5 、石原康秀 6 、阿部勝巳 6 、堤純平.
Advertisements

1 WSIF における Web サービス・メソッドの自動設 定 2004 年 3 月 23 日 越田高志 松江工業高等専門学校 情報工学科 電子情報通信学会 2004年総合 大会.
1 実技演習1 2008/01/28,29 JaLTER Morpho 講習会. 2 起動・接続 各自、コンピュータを起動してネットワーク に接続してください。 各自、コンピュータを起動してネットワーク に接続してください。 IP アドレス自動取得 IP アドレス自動取得 無線 LAN 使用可 無線.
Word で XML マニュアルを編集 し、 XML を自動組版する 1. XML の自動組版概要 2. Word での原稿入力 アンテナハウス株式会社 2004/09/03.
Web アプリケーション開発 ~図書館管理システム~ 北海道情報大学 情報メディア学 部 情報メディア学科 新井山ゼミ 高橋 隼.
OWL-Sを用いたWebアプリケーションの検査と生成
2006年9月27日 植田龍男 Webサービス II (第1回) 年9月27日 植田龍男.
バーチャル天文台標準規約の紹介と運用への取り組み、そしてサイエンスの実践
Webサービスに関する基本用語 Masatoshi Ohishi / NAOJ & Sokendai
ハルビン絵葉書コレクションシステムの再構築と機能追加 -サーバ側:PHPとMySQLを用いて
JPAを利用した RESTful Webサービスの開発
2006年11月22日 植田龍男 Webサービス II (第9回) 年11月22日 植田龍男.
WEBから確認できる 駐車場管理システムについて
VO講習会2013春 VOツール使用法(1) TOPCAT 国立天文台 天文データセンター 小宮 悠.
JavaによるCAI学習ソフトウェアの開発
VO ツール利用法 Specview 国立天文台 天文データセンター 白崎 裕治.
VO講習会 2015如月 (2015年2月26-27日、国立天文台三鷹)
すばる秋の学校2007 公開アーカイブ活用 (プロポーザル準備のために)
VO 概論 国立天文台 天文データセンター 白崎 裕治.
稚内北星学園大学 情報メディア学部 助教授 安藤 友晴
「まめだくん Ver.1.0」 特徴と利用方法.
FPGAを用いたMG3用 インターフェース回路の解説
Z39.50プロトコルを用いた 検索クライアントの開発
最新情報技術を活用した超大規模 天文データ解析機構の研究開発
IPS:インクリメンタル画像検索システム
セマンティクスを利用した 図書検索システム
Web上で管理・利用できる 面接予約データベースシステムの構築
2018/9/21 JVOの研究開発 国際連携と全体進捗 国立天文台 & 総合研究大学院大学     大石雅寿 2004/03/23
JVO (Japanese Virtual Observatory) の研究開発 V03c
GRID技術を活用した 電網天文台の構築(Virtual Observatory)
Data Grid Mini WorkShop
入出力データ型に透過な Webサービス動的実行システム 松江工業高等専門学校 情報工学科 越田高志 情報処理学会第68回全国大会
第8章 Web技術とセキュリティ   岡本 好未.
ワークフローシステムの開発 ワークフロー言語の必要性 XMLワークフロー言語の仕様 ワークフロー言語により、処理手順を記述し、
ホスティングサーバの作成と、 ラズベリーパイの利用
e-サイエンス推進のための 広域分散ファイルシステムの 適用と評価
DBMSから見た Data Grid 小島 功 (産総研グリッド研究センター).
VO ツール利用法 TOPCAT 国立天文台 天文データセンター 白崎 裕治.
理学部 情報科学科 指導教官 千葉 滋 助教授 学籍番号 03_03686 内河 綾
オブジェクト指向プログラムにおける エイリアス解析手法の提案と実現
実行時情報に基づく OSカーネルのコンフィグ最小化
FUJITSU Security Solution SYNCDOT MailSuite
複数ホストに分割されたメモリを用いる仮想マシンの監視機構
JVOの研究開発 (メタデータ交換の国際対応)
JVO の研究開発 -- バーチャル天文台に対応した データサービスの実装 --
3.JAIRO Cloudシステム概要 Version 1.0
JVO (Japanese Virtual Observatory) の研究開発
Internet広域分散協調サーチロボット の研究開発
通信機構合わせた最適化をおこなう並列化ンパイラ
ミドルウェア”TSUNAGI”を 用いたWEBアプリケーションの構築
JVOの研究開発:全体進捗 データベース国際連携の成功
情報システムゼミA  結果報告 社会情報システム学講座 高橋 拓志 2006/7/29(土)
オープンソース開発支援のための ソースコード及びメールの履歴対応表示システム
東京工業大学 情報理工学研究科 数理・計算科学専攻 千葉研究室 栗田 亮
端末およびサービス透過的な 情報閲覧支援システムの構築
小型JASMINE計画の状況       矢野太平(国立天文台)       丹羽佳人(京大).
データベース設計 第4回 DBMSの機能と操作方法(1) Access入門
ウェブアプリケーションサーバの Degradation Schemeの 制御に向けて
コーディングパターンの あいまい検索の提案と実装
複数のリポジトリを統合できる バージョン管理システムの提案と試作
ISO23950による分散検索の課題と その解決案に関する検討
地域生活支援システムの開発 越田研究室 j0431 野津洋二.
白崎裕治, 田中昌宏, 本田敏志, 大石雅寿, 水本好彦 (国立天文台), 安田直樹 (東大宇宙線研), 増永良文 (お茶の水大)
稚内北星学園大学 情報メディア学部 専任講師 安藤 友晴
Googleマップを活用した 生物調査データベースの構築
オントロジーを利用した Webサービスの実行支援に関する研究
Webページタイプによるクラスタ リングを用いた検索支援システム
異種セグメント端末による 分散型仮想LAN構築機構の設計と実装
JVOプロトタイプ システムの開発 DEWS2004 2004年 3月 5日 田中 昌宏、白崎 裕治、 本田 敏志、
知識ベースの試作計画 ●●●研究所 ●●●技術部 稲本□□ 1997年1月.
Presentation transcript:

JVOの研究開発 (プロトタイプ2の実装) 田中昌宏、白崎裕治、本田敏志、 大石雅寿、水本好彦(国立天文台)、 安田直樹(東大宇宙線研)、増永良文(お茶の水女子大)、 石原康秀、阿部勝巳、堤純平(富士通)、 中本啓之、森田康裕(セック) 日本天文学会春季年会V02a 2004年 3月 23日 国立天文台の田中です 前の講演で概要をのべたJVOで 開発しているプロトタイプ2について講演いたします

JVOプロトタイプの開発 JVOの目的 プロトタイプ開発の目的 2002年度(昨年度) プロトタイプ1の開発 地理的に分散したデータアーカイブ間の連携を実現 多波長天文データアーカイブを連携した解析を容易にする プロトタイプ開発の目的 我々が定義した検索言語の機能を確認 本運用システムに向けて、採用した技術の有効性を確認 2002年度(昨年度) プロトタイプ1の開発 2003年度(本年度) プロトタイプ2の開発 JVOの目的は、 地理的に分散したデータアーカイブ間の連携 を実現し、 多波長天文データアーカイブを連携した解析を容易にする ことです。 JVOでは本システム構築の前段階として、プロトタイプの開発をおこなっています。 プロトタイプ開発の目的 我々が定義した検索言語の機能を確認 本運用システムに向けて、採用した技術の有効性を確認 2002年度(昨年度) プロトタイプ1の開発 2003年度(本年度) プロトタイプ2の開発

JVOプロトタイプ構成 Gridによる 分散計算機の連携 利用者 ポータルサーバ ユーザ インタ フェース 検索言語 パーサ 実行制御 Linux ポータルサーバ ユーザ インタ フェース 検索言語 パーサ 実行制御 Linux データベースサーバ RDB Subaru 検索 XMatch サービス 利用者 Gridによる 分散計算機の連携 Solaris レジストリサーバ UDDI (プロト1) XMLDB (プロト2) メタデータ Linux データベースサーバ RDB XMM 検索 XMatch サービス これはJVOシステム構成の概念図です。 プロトタイプは 複数のデータベースサーバ、 ユーザがアクセスするポータルサーバ、 レジストリサーバ からなります。 天文データは、複数のデータベースサーバに保管されています。 一方、利用者はポータルサーバにアクセスすることによって、 複数のサーバということを意識せずにほしいデータを取得できます。 ほしいデータがどのサーバにあるかということは、このレジストリサーバが保持し、 ここに検索をかけることによって解決します。 これらの分散計算機を連携するため、グリッドもちいました。

プロトタイプ1の概要 天文用検索言語JVOQLを定義 複数のデータサーバ間で連携した検索を実現 JVOQLパーサ 各データサーバへの検索に分解 グリッドによる遠隔実行制御システム グリッドのミドルウェアとしてGlobus Toolkit (ver.2) を利用 検索・クロスマッチサービス 転送データ形式: 国際VOの標準として提案されている VOTable (XML形式) と FITS 検索実行、結果表示などのユーザインタフェース プロトタイプ1については、昨年の春の学会で報告しました。 その概要を述べますと、まず第1に、天文用検索言語JVOQLを定義したこと。 第2に、複数のデータサーバ間で連携した検索を実現しました。 これは次のような要素から成ります。 1つは、JVOQLをパースして各サーバへの問い合わせへの分解するパーサ それからパース結果をもとに実際に分散サーバへの検索を実行する 遠隔実行制御するシステムの実装 これはGlobus Toolkit (ver.2) を利用することで実現しました。 そして、検索・クロスマッチサービスを実装 ここに外国のVOとの連携を視野に入れて、 転送データ形式として 国際VOの標準として提案されている VOTable (XML形式) と FITSを採用しました。 検索実行、結果表示などのユーザインタフェースの実装しました。

プロトタイプ2での改良・拡張 Globus toolkit ver.3 (グリッドサービス)を利用した システムの再設計 メタデータ検索の導入 (XMLDB) アーカイブデータの追加 スペクトルデータ検索の導入 解析機能の追加 ・・・ 次の講演白崎他(V04b) ユーザインタフェースの改良 (Struts) パーサ・スケジューラの改良 (JavaCC) プロトタイプ1はいろいろな問題が出まして、また機能が不足していますので、 プロトタイプ2では次のような点について改良・拡張をおこなっています。 Globus toolkit ver.3 (グリッドサービス)を利用したシステムの再設計 メタデータ検索の導入 (XMLDB) アーカイブデータの追加 スペクトルデータ検索の導入 この講演では述べませんが、  解析機能の追加 ・・・ 次の講演白崎他(V04b)  ユーザインタフェースの改良 (Struts)  パーサ・スケジューラの改良 (JavaCC) などもおこなっています

グリッドサービスへの移行 分散サーバ連携: グリッドのミドルウェアである Globus Toolkit を利用 実装方法の改良 分散サーバ連携:  グリッドのミドルウェアである Globus Toolkit を利用 実装方法の改良 プロトタイプ1:  Globus Toolkit ver. 2 (GRAM) 実行時間: 1 Step 20数秒 大部分は実処理以外の待ち時間 プロトタイプ2:  Globus Toolkit ver. 3 (Grid Service) 実行時間: 1 Step 2-3秒 オーバヘッドは平均30ms まず遠隔実行制御について。 JVOシステムは検索言語JVOQLをパースして、 遠隔実行のスケジュールを作成します このときレジストリからデータサーバを引き当てます。 遠隔実行のミドルウェアにはGlobusToolkitを採用しました。 プロトタイプ1ではGlobusToolkit バージョン2、 プロトタイプ2ではバージョン3のグリッドサービスを利用しました。

メタデータ 2種類のメタデータ どのサーバに天文データがあるか? どのような内容の天文データか? 実装方法の改良 プロトタイプ1: UDDI 分散アーカイブ連携検索のためにシステムが必要な情報 どのような内容の天文データか? FITSヘッダに書かれるような情報 観測装置、波長帯、観測日時、天域、… 実装方法の改良 プロトタイプ1: UDDI サーバ 情報のみ検索。データ内容の検索は不可 プロトタイプ2: XMLDB IVOAで検討されたメタデータ仕様 (XML形式で定義) に準拠 XMLDB(カレアレア)を用いて検索 メタデータについては、2種類あります。 データや解析サービスがどのサーバにあるかという情報 天文データについてのメタデータ、たとえば 観測装置、波長、時刻、天域、といった情報があります。 どうやって検索するか方法 プロトタイプ1: 、 プロトタイプ2: それを見直してXMLDBを採用しました 2種類のメタデータ 1つは、どのサーバに天文データがあるか? という  分散アーカイブ連携検索のためにシステムが必要な情報、 どのデータがどのサーバで提供しているか もう1つは、どのような内容の天文データか? という FITSヘッダに書かれるような情報 例えば 観測装置、波長帯、観測日時、天域、… といた内容です 実装方法は、 プロトタイプ1では UDDI  これはWebサービスを検索するためのものなので、 サーバの情報のみ検索することはできて、データ内容の検索は不可でした そこで、プロトタイプ2では、 メタデータをIVOAで検討されたメタデータ仕様 (XML形式で定義) に準拠し、 XMLDB(カレアレア)に入れて検索するという方法にしました。

利用できるアーカイブの検索 検索画面 検索結果 これによって、利用できるアーカイブの検索をおこなうことができるようになりました。 左の画面はその検索画面で、 X線とかopticalとか観測装置などを指定すると、 右の画面のように条件に当てはまるアーカイブデータの一覧を得ることができるようになりました。

プロトタイプ2で利用できるアーカイブ すばる XMM (SXDS field) SDSS QSO スペクトル 2MASS (準備中) SDF プロトタイプ2で利用できるアーカイブは以下のようなデータです。 すばるで撮られた SDF それから昨日の講演にありましたSubaru-XMM Deep Survey の field XMM (SXDS field) SDSS QSO スペクトル 2MASS (準備中)

スペクトルデータ検索機能 SDSS QSOカタログとスペクトル検索機能を追加 JVOのデモ ポスターセッション本田他(V03c)にて実施

まとめ 我々が定義した検索言語による分散データアーカイブ連携を、グリッドを利用したJVOプロトタイプにより実現した。 プロトタイプ1での問題点を、プロトタイプ2で改良 グリッドサービスを用いることにより、遠隔実行のオーバーヘッドを解消した XMLDBにより、テーブル検索を可能にした プロトタイプ2の実装により、実用的に動作するシステムが実現できた。

The End

検索文の自動生成

JVOプロトタイプ動作 ヒット数が少ない方の データベースサーバ から検索実行 検索結果 VOTable ポータルサーバに ログイン 利用者 Linux ポータルサーバ ユーザ インタ フェース 検索言語 パーサ 実行制御 Linux データベースサーバ RDB XMM 検索 XMatch サービス 利用者 JVOQLを送信 実行開始 利用者に表示 クロスマッチ 結果 VOTable 2つの データベースサーバに 個数検索実行命令 JVOQLをパースして、 データがどのサーバにあるか レジストリに問い合わせ VOTtableと データベースで クロスマッチ検索 Solaris レジストリサーバ UDDI (プロト1) XMLDB (プロト2) メタデータ Linux データベースサーバ RDB Subaru 検索 XMatch サービス プロトタイプの構成を図示したものです。 プロトタイプはポータルサーバ、 レジストリサーバ、 データおよびサービスサーバからなります。 黄色で示したところが利用技術 ピンクで示したところが開発した部分です。 この図はまた後で説明します。 クロスマッチ 結果 VOTable