MLF計算環境の概要 大友季哉.

Slides:



Advertisements
Similar presentations
情報の交換・共有・蓄積を目的とした GIS リモートコミュニケーションシステム の実装 Sho Otake Graduate Department of Computer and Information Systems The University of Aizu 1 Hirohide Demura,
Advertisements

DAQ-Middleware の現状報告 千代浩司 A,F 、仲吉一男 A,F 、安芳次 A,F 、 井上栄二 A,F 、長坂康史 B,F 、味村周平 C,F 、神徳徹雄 D,F 、安藤慶昭 D,F 、和田 正樹 E 高エネルギー加速器研究機構素粒子原子核研究所 A 広島工業大学 B 大坂大学 C 産業技術総合研究所.
Introduction to New Media Development Association June 2001 このプレゼンテーションでは、出 席者間で討論をし、アクション アイテムを作成する場合があり ます。 PowerPoint を使ってプ レゼンテーションの実行中にア クション アイテムを作成する.
イーサネットと ATM Ethernet and ATM Which is better, Shared Media or Point to Point? 岡村耕二.
この部分こそが必 要とされている ! Runtime 自身と Expression が カバーする!
BCD : Physics Options  e , e - e -, GigaZ, fixed target T. Omori 2005 年 12 月 20 日 BCD
高エネルギー加速器研究機構 素粒子原子核研究所 濱田 英太郎
CCP Express 3.1 リカバリ&初期化ガイド
小水力班/ Small Hydro Generation Group 研究背景 / Research background
Report of working at CERN PHOS readout test bench
GDC 2009 出張報告 RDD 川瀬 正樹.
Computer Replacement at Subaru Telescope ~ How it will affect you ~
片岡広太郎 Modem Watch Dog 片岡広太郎
HLab meeting 7/24/07 K. Shirotori.
COPPER/FINESSE System構築
データベース工学 データベースとは データモデル 関係データベースとSQL 物理データベース編成とインデクス
Android Development 白熱道場
J-PARC/MLFの実験データ収集システム
熱中性子ラジオグラフィ用-新規LiFシンチレータ、
ネットワーク構成法 スケール 第6回 11月19日.
HP ProLiant DL980 G7 SQL Server 2008 R2 NUMA 環境 ベンチマークテスト結果報告書
DAQ M/Wに関わる 共同研究や業務について
Discussion on Detectors
都市情報学専攻 情報基盤研究分野  M04UC513  藤田昭人
Telnet, rlogin などの仮想端末 ftp などのファイル転送 rpc, nfs
Tohoku University Kyo Tsukada
Power Electronics center
Estimating Position Information by Detecting Network-Connection
Status and Plans for the Tier 1 Tokyo (Japan)
Licensing information
SAP & SQL Server テクニカルアーキテクチャ概要 マイクロソフト株式会社 SAP/Microsoft コンピテンスセンター
Second RF-Gun beamline
with Computational Scientists
ストップウォッチの カード ストップウォッチの カード
New accessory hardware Global Platform Division
情報の科学的 な理解(2) 情報科教育法 8回目 2005/6/4 太田 剛.
On the Move参加報告.
The Low Number of Japanese Women in Japan Caused by Lack of Support or Something else? B16520 Hasumi Arai.
計算機更新の報告 能丸淳一 ハワイ観測所 内容 計算機更新の経緯 新システムの概要と運用状況 今後の予定.
Jh ISJ 渡場 康弘 (大阪大学) Software-Defined IT インフラストラクチャにおける オーケストレーションに向けた資源管理システム 背景 Information-as-a-Service (InfaaS): 災害管理(Disaster Management)を支援するアプリケーション基盤を実現する上で重要なコンセプト.
WLTC Mode Construction
CAMERA LINK Camera-to-Frame Grabber cable specification.
データベース工学 生研 戦略情報融合研究センタ 喜連川 優.
Present Status of Metbroker
超高速基幹LANにおける 情報リテラシー教育支援システム
豊田正史(Masashi Toyoda) 福地健太郎(Kentarou Fukuchi)
運動機能回復型ロボット審査WG 規格動向調査進捗状況
DS4000 EXP700 ESM ファームウエア更新手順 (ファームウエアレベル 9326)
3次元位置感応型ガンマ線検出器と それに必要なデバイス
<前提条件> iSeriesSite ワークフロー 実行環境 構成イメージ
スーパーコンピュータ「京」 理化学研究所 計算科学研究センター
RIKEN VTX software meeting
COBOLプログラムの概観 プログラミング資料.
22 物理パラメータに陽に依存する補償器を用いた低剛性二慣性系の速度制御実験 高山誠 指導教員 小林泰秀
ALICE work at CERN Kenta Mizoguchi, Hisayuki Torii, Yusuke Okada
広島大学におけるHEPnet-J 利用状況
iSeries Site 人事・給与C/S版のハードウェア・ソフトウェア要件
大強度ビームにふさわしい実験装置をつくろう Kenichi Imai (JAEA)
For Master’s Students 修士学生
Db2 Warehouse on Cloud Db2 on Cloud フルマネージドサービス提案時の注意点
九州大学のキャンパスネットワークを事例にL1~L3を学ぶ Study on L1,L2 and L3 with case of Campus Network of Kyushu Univ. 岡村耕二 Koji OKAMURA.
Cluster EG Face To Face meeting
R & D の戦略 ー 状況認識の共有を目指して ー ・この1年間のR&D 項目の洗い出し
Measurements of J/ψ with PHENIX Muon Arms in 2003 p+p Collisions
KEK素核研 エレクトロニクスシステムGr. 仲吉一男
Deep learning practical experiment for recognition
Cluster EG Face To Face meeting 3rd
Report of working at CERN PHOS readout test bench
Improving Strategic Play in Shogi by Using Move Sequence Trees
Topic No. 0 Introduction Tropical Cyclone Ensemble Forecast
Presentation transcript:

MLF計算環境の概要 大友季哉

Basic computing requirements at MLF High throughput of large data analysis On-line analysis of GB order data during an experiment Interpretation software (simulation) will be used on an experiment Data analysis affect on effective flux of neutron (muon) Fast and reliable data analysis and experiment systems are required Variety of experimental approaches Extreme experiments will become conventional Flexible instrument control Naïve experimental conditions Automatic and manual logging of experiment and analysis Large number of user Several ten thousands of cumulative users / year Database for user program should be implemented Computing environment should be user-friendly Security User identification and authorization are essential to enable flexible access to MLF/J-PARC Collaboratory system will open new style of experiment Computing environment is one of essential infrastructures of MLF

MLF計算環境グループの目的 ユーザーが実験に集中でき、新しい実験・解析アイディアを反映しやすい計算環境を構築する。

Component structure (old) “Working Desktop” component will control other components Users want to handle experiment component, analysis component, database and graphic engine simultaneously.

Working desktop (Python) Components 全てのユーザーのアクセスremote access”と見なすこともできる(?)なら、わざわざコンポとする必要はないかも Remote access 白抜きのコンポは未実装であることを示す。 Security Collaboratory Network “Network”はVLAN切替等のソフトのこと Working desktop (Python) Experiment Analysis Visualization Simulation DAQ Devices Logging Analysis Ab Initio Monte-Carlo etc GnuPlot IRIS exp, Matlab, etc Reduction Data fileへのアクセスとsecurityの関連は?? Data File Admin DB Experiment DB SAN / Grid Storage Data Fileは、NeXus準拠にする可能性あり

負荷分散のためのServer-client system(プロトタイプ稼働中) Data acquisition Detector driver client (LabVIEW etc) Client terminal (Python) Socket server (LabVIEW/Python) socket socket CPU CPU Data analysis Daemon (C++) Client terminal (Python) Python client (Manyo-lib) socket exec or Command Server (Python) CPU CPU Both acquisition and analysis component uses server-client model Both component will be work collectively

ハードウエア構成例(高速処理型) detectors detectors devices DAQ electronics 複数台 Serial cable Serial cable DAQ electronics DAQ electronics Serial cable Optical fiber Optical fiber CPU DAQ CPU DAQ CPU DAQ Optical fiber /GbE Optical fiber /GbE Main Storage Storage (SAN) Max 400Mbps Optical fiber /GbE Optical fiber /GbE Ethernet CPU D-Red CPU D-Red CPU DB Authentication Server CPU D-Ana + UI Router CPUs D-Ana DAQ: data acquisition, D-Red: data reduction, D-Ana: data analysis, DB: data-base, SAN: Storage Area Network

ハードウエア構成例(一般型) detectors detectors devices DAQ electronics 複数台 Serial cable Serial cable DAQ electronics DAQ electronics Serial cable Optical fiber Optical fiber CPU DAQ + D-Red CPU DAQ + D-Red CPU DAQ Main Storage Storage (RAID) Ethernet CPU DB Authentication Server CPU D-Ana + UI Router CPUs D-Ana DAQ: data acquisition, D-Red: data reduction, D-Ana: data analysis, DB: data-base, SAN: Storage Area Network, UI: user interface (working desktop) PC farm Supercomputer

Component usage Character base command establishment GUI design Python commands example >>> set_exp(dt_t=0.002, delay=500, samp_temp=20) >>> begin >>> save >>> get_spec ( qmax=5, qreso=0.5) >>> end Experiment Exp. DB Experiment Exp. DB Experiment Data file Analysis Visualization Experiment Data file / DB Character base command establishment      GUI design

Analysis software architecture (draft) Inst. (Science) dependent Simulation component DB Vis. Simulation & Advanced Analysis Ab initio calculation, MD, modeling, neutron scattering simulation etc Virtual Reality? Imaging Tools & Num. Lib Resolution deconvolution, peak separation, peak fitting, smoothing, MEM, wavelet, ….. Basic Analysis TOF to intensity profile (Manyo-lib) Essential conventional Analysis component

Development scheme of components Experiment component Analysis component Simulation component MLF infrastructure Developed by MLF Exp. Database Admin. Database J-PARC Information System J-PARC infrastructure Security component Network

MLF computing environment design Minimum implementation will be finished until 2007 Dec. components Current status 2005~ Analysis: Data reduction (Manyo-lib) MLF Prototyping for “Day-1” instruments Continue Experiment: Data acquisition Prototype development of client-server system by upgrading “KENS control” Make a test installation at KENS combine with analysis component Event mode develop-ments Network /J-PARC Ready for construction Storage R&D for mass-storage system (Storage Area Network system) Make a test installation Database Conceptual design R&D Simulation (interpretation) Started to communicate with computer scientists in Japan Authentication Collaboratory Conceptual design / R&D

Schedule 2005 2006 2007 2008 2009 Manyo-lib Public release (?) Documentation Connection to Graphic engine (IRIS explore) DANCE Public release (?) Operation Development for each instrument Prototyping Started: Powder, Total, SANS, Chopper, Single x-tal To Be Started: Reflectometer, Inverted Spec, Spin Echo Analysis component Documentation (Guideline) Link to DB, authentication, Adv. Ana Numerical lib Link to Advanced visualization

計算環境グループの所掌範囲(ソフトウエア) 基盤部分については、計算環境グループが開発し、ガイドラインを提供する。 基盤部分に含まれないソフトウエアについては、各分光器グループがガイドラインに沿って開発する。ガイドラインが対応できない場合には、計算環境グループと議論する。 シミュレーションソフトウエア、可視化ソフトウエア、データベース等、共通で使用する市販ソフトウエアは計算環境グループから予算計上する。

計算環境グループの所掌範囲(ハードウエア) 計算環境グループで検討するハードウエア メインデータストレージ:分光器共通のストレージ 各分光器用情報コンセントまでのネットワーク PCファーム Web、Mail等のユーティリティーサーバー(J-PARC情報システム) その他のハードウエアの購入は、各分光器グループ所掌 具体的には要検討だが、計算環境グループが全て用意する訳ではない。

懸案事項 継続的な開発体制(人、予算)確保 ソフトウエア開発 ハードウエア 優先順位を決めて開発していく 維持体制に見合った開発をする セキュリティの考え方 どのようなアクセスが必要か? どのように守りたいか? 実験・解析ログデータベース開発 ハードウエア ストレージの大きさ どのくらいの期間をオンラインでアクセス可能にするか? データをパブリックにする場合、どのようにするか

MLF計算環境グループは、基盤的計算環境構築を第1目的とする。 基本的フレームワーク設計/開発 各装置グループの協力が不可欠 今年度中に計算環境ガイドラインを作成予定