宇宙科学統合解析環境の構築とAstro-E2解析支援

Slides:



Advertisements
Similar presentations
WINDOWS AZURE上での ACTIVE DIRECTORY構築入門 Windows Azure ハンズオン トレーニング.
Advertisements

NetAgent P2P検知技術 NetAgent.
Ddによる複製 2004/05/24 伊原 秀明(Port139).
Curlの特徴.
安全なログオン手順 2004/08/26 Port139 伊原 秀明.
ファイルキャッシュを考慮したディスク監視のオフロード
最新ファイルの提供を保証する代理FTPサーバの開発
NORWAY ENGLAND AMERICA FRANCE
榮樂 英樹 LilyVM と仮想化技術 榮樂 英樹
北大における Super-SINET 接続と利用: 2004 年度報告
物理実験 I 情報実験第9回 2004/12/10 小西 丈予 2003/12/12 中神 雄一
オペレーティングシステムⅡ 第11回 講師 松本 章代 VirtuaWin・・・仮想デスクトップソフト.
全日本ST計画での計測データ処理・遠隔実験環境
Virtual Editionのご紹介 (株)ネットジャパン 法人営業部 2012年7月18日 1.
新人研修第1回 Introduction suzuk.
仮想化システムを用いて 複数のOSを動かす
マルチプラットフォーム対応 P2Pファイル共有ソフトの開発
安全・安心なネット生活を送るためのネットワークセキュリティ
インターネット技術の基礎と遠隔コミュニケーション
マルチプラットフォーム対応 P2Pファイル共有ソフトの開発
『どこでも運用システム』の開発状況 (第二報) iPad版衛星状態監視システム (プロトタイプ) どこでも運用システムと他システムとの接続
解析サーバの現状と未来 2006/07/18 衛星データ処理勉強会 村上 弘志 現状のシステム構成など 統合解析環境としての整備
VO講習会 2015如月 (2015年2月26-27日、国立天文台三鷹)
キャンパスクラウドによる 実験環境の構築 情報ネットワーク特論 講義資料.
ネットワークの基礎技術.
ITPASSセミナー ~Zindaiji~
福盛 秀雄, 浜中 征志郎, 菅原 健一, 吉川 潤, 中山 周平 早稲田大学 村岡研究室
最新情報技術を活用した超大規模 天文データ解析機構の研究開発
Solar-B データベース およびデータ解析環境
WindowsNTによるLAN構築 ポリテクセンター秋田 情報・通信系.
ファイルシステムキャッシュを 考慮したIDSオフロード
Telnet, rlogin などの仮想端末 ftp などのファイル転送 rpc, nfs
ネストした仮想化を用いた VMの安全な帯域外リモート管理
UNIXについて 松野秀平.
サスペンドした仮想マシンの オフラインアップデート
プロユースな先進スペックを、だれでも手軽に。
MPIによる行列積計算 情報論理工学研究室 渡邉伊織 情報論理工学研究室 渡邉伊織です。
FreeBSDインストール 2002年4月10日.
中堅・中小企業様、部門・ワークグループに最適なNAS
MPIによるwavからmp3圧縮の検証 情報論理工学研究室 04‐1‐47‐200 木村 惇一.
共生第二 解析&ファイルサーバー taro , pochi , hanako ,tama のご紹介
分散IDSの実行環境の分離 による安全性の向上
「計算科学による素粒子・原子核・宇宙の融合」
2009年度卒業論文発表 CDNコンテンツサーバの動的負荷分散
3年保証 WD RED 搭載 〆切迫る!! 10月末出荷分まで 特別キャンペーン! NAS用HDD 2TB モデル 4TB モデル
VMのメモリ暗号化による クラウド管理者への情報漏洩の防止
VM専用仮想メモリとの連携による VMマイグレーションの高速化
仮想メモリを用いた VMマイグレーションの高速化
オペレーティングシステム イントロダクション
複数ホストに分割されたメモリを用いる仮想マシンの監視機構
TCP/IP入門          櫻井美帆          蟻川朋未          服部力三.
学内環境におけるP2Pアプリケーションの構築
J-PARC E16実験におけるDAQ-Middleware を用いたDAQソフトウェアの開発
スーパーコンピュータ講習会 全体構成 ファイアーウオール経由での使用方法 ディスクの構成 バッチキュー 運用、その他.
インターネット             サーバーの種類 チーム 俺 春.
小型JASMINE計画の状況       矢野太平(国立天文台)       丹羽佳人(京大).
サーバ・クライアントシステム ( X Window System) 2006/01/20 伊藤 和也 original: 前坂たけし
Intel SGXを用いた仮想マシンの 安全な監視機構
X線天文衛星「すざく」 X線天文学に関する話題など
スーパーコンピュータ講習会 全体構成 ファイアーウオール経由での使用方法 ディスクの構成 バッチキュー 運用、その他.
Peer-to-Peerシステムにおける動的な木構造の生成による検索の高速化
Cell/B.E.のSPE Isolationモードを用いた監視システム
講義ガイダンス 「宇宙の物質循環を理解するために使われる物理・化学・数学」
ISO23950による分散検索の課題と その解決案に関する検討
異種セグメント端末による 分散型仮想LAN構築機構の設計と実装
IPmigrate:複数ホストに分割されたVMの マイグレーション手法
複数ホストにまたがるVMの 高速かつ柔軟な 部分マイグレーション
MPIを用いた 並列処理 情報論理工学研究室 06‐1‐037‐0246 杉所 拓也.
ベイジアンネットワークと クラスタリング手法を用いたWeb障害検知システムの開発
ネットワークを介した 計測制御システムの開発
Presentation transcript:

宇宙科学統合解析環境の構築とAstro-E2解析支援 W38b 宇宙科学統合解析環境の構築とAstro-E2解析支援 三浦昭、村上弘志、田村隆幸、篠原育、松崎恵一 (宇宙研)、馬場肇 (茨城大) PLAINセンター – 宇宙研の各衛星・探査機のデータを公開し、解析手段を提供する役割を担う 概要 PLAINセンターでは図1のように取得データの蓄積から処理・公開まで 統合したシステム(DANS)を構築している。各計算機・ディスクアレイは Fiber Channelによって接続され、データの共有・高速転送が可能である。 しかし、データを貯めて公開するだけでは活用するには不充分であり、 解析手段の提供が必須である。 現在の問題点として  解析環境の分散による各研究者の負担増  解析環境の欠如による過去の衛星のデータの死蔵 が挙げられる。これらを防ぐ目的で、DANSの一部として解析サーバも 用意し、手軽な解析手段を提供している。これをさらに発展させるため、 データ・アプリケーション・計算機資源(CPUパワーなど)の共有を進める ことが重要である。その現状と今後の取り組みを報告する。 図1: PLAINセンターのData Analysis Network System (DANS)  データ共有 – 高速データ転送   アプリケーションの共有 – 解析統合環境  データ量の増大  高速データ転送が必須             安全なデータ転送 目標: 異なったOS間で同じ環境での解析を可能にする  ⇒ 共有可能・不可能部分をどう整合をとるか? OSごとにmount元を分けることでdirectory構造の同一化 第一段階として スーパーSINET 専用線で接続された地点間で試験 同OS間では特定の領域をmountするだけで   一つの環境を共有可 異なるOS間でもuserから見ると同じ環境 メンテナンスも一箇所ですむ (宇宙研 ⇔ 国立天文台) 解析環境 新規client mount OS1 OS3 OS2 1. Fiber Channelで接続されたSAN (Storage Area Network) における高速データ共有方式 – SNFS (StorNext File System) 2. スーパーコンピュータ用に開発された高速データ共有方式 – SRFS (Shared Rapid File System) これら二つを組み合わせ、従来の方法と比較 他大学でも標準client機をつなぐだけで解析環境を共有することを目指す SRFS vs. NFS データの同一性保証 ⇒ SRFSが優れる 読み込みのみ ⇒ NFSでも良い 現在linuxで試験中 mount するだけで解析環境完成 管理労力低減 過去の衛星のデータ解析なども手軽に SRFS+ SNFS 同一directory構造 userはOSを意識する必要がない scriptの共有などが簡単に SRFS + SNFSによるデータ共有成功 Astro-E2 (すざく) 解析環境 OS: scientific linux 4.1 (Solaris, Macも構築中) Tool: heasoft, ciao, sas などX線天文衛星の解析環境を揃えた    IDLなど商用ソフトも利用可 すざく公開データもマウント予定 図2: 宇宙研-天文台間のデータ転送速度の測定結果  計算機資源の共有  限られた計算機資源をできるだけ有効に、 また各ユーザーに平等に配分する 1. DNSでの振り分け 利点: 最新の環境にupdateする手間がいらない 公開データに直接アクセスできるため大量解析でも転送の手間が 省けディスク容量もいらない 安全・高速・便利に利用 他機関の研究者同士で解析結果の交換が容易     user すでに試用開始 – 利用者募集中! DNSサーバ login時に振り分けるのみ よりインテリジェント 2. CPU負荷により振り分け スパコンなどバッチ処理のものと同様に計算機のCPU使用率等での振り分けを検討中 図3: すざくの銀河中心付近のイメージ・スペクトル      (すざくチーム)